من محترف إلى سكرتير ، انظر إلى تحدي الثقة لوكلاء الذكاء الاصطناعي: هل يمكننا الوثوق في اتخاذ القرارات المستقلة للذكاء الاصطناعي؟ | سلسلة أخبار Abmedia
مع التوسع السريع لتكنولوجيا وكيل الذكاء الاصطناعى في وادي السيليكون ، مع استثمار ما يصل إلى 8.2 مليار دولار في عام 2024 ، تخترق هذه الأنظمة المستقلة تدريجياً مستويات البنية المالية والبنية التحتية وصنع القرار. ومع ذلك ، وراء هذه الثورة التكنولوجية ، ظهرت قضية رئيسية ولكن غالبًا ما يتم تجاهلها في المقدمة:كيف نتحقق من أن سلوك وكلاء الذكاء الاصطناعي جدير بالثقة؟」
سكب وادي السيليكون 8.2 مليار دولار في وكلاء الذكاء الاصطناعي العام الماضي.
قريباً ، سوف يسيطرون على أموالنا والبنية التحتية وصنع القرار.
لكن هناك مشكلة واحدة لا يتحدث عنها أحد:
كيف يمكننا التحقق مما إذا كان وكلاء الذكاء الاصطناعي يقولون الحقيقة؟ pic.twitter.com/zej7z5mgyx
– سيرجي غوربونوف (sergey_nog) 22 أبريل 2025
Silicon Valley Hot Investment Ai Agent ، لكن أساس الثقة لا يزال “الصندوق الأسود”؟
المؤسس المشارك لشركة ChainLink سيرجي غوربونوف الليلة الماضيةبريديشار إلى أنه على الرغم من أن وكلاء الذكاء الاصطناعى يتم تعبئتهم حاليًا كنظم مستقلة يمكنها إكمال المهام المعقدة بشكل مستقل ، إلا أن معظمهم لا يزالون “مربعين أسود” – أي أن المستخدمين لا يمكنهم معرفة عملية صنع القرار الداخلية الخاصة بهم ويمكنهم اختيار الثقة بشكل أعمى فقط:
يجب أن يكون لدى عميل الذكاء الاصطناعى ذاتيًا حقًا “لا يمكن التوقف“و”تم التحقق منهاومع ذلك ، غالبًا ما لا تفي أنظمة اليوم بهذا المعيار.
(واجهة USB-C لعالم الذكاء الاصطناعي: ما هو بروتوكول سياق النموذج (MCP)؟ تفسير اتفاقية السياق العام لمساعد الذكاء الاصطناعي)
لماذا “التحقق” ضمان الأمن الحقيقي؟
أكد غوربونوف أن التحقق يعني أن وكلاء الذكاء الاصطناعى يحتاجون إلى أن يكونوا قادرين على الإشارة بوضوح “ماذا تفعل؟ كيف تفعل ذلك؟ هل تتبع القواعد المحددة مسبقًا؟： ：
بدون هذه الآليات ، يمكن أن يؤدي عوامل الذكاء الاصطناعي إلى السيطرة على البنية التحتية الحرجة إلى مخاطر كبيرة. بمجرد عدم معالجة “فجوة التحقق” هذه بشكل صحيح ، قد يصبح خطرًا خفيًا في تطوير العلوم والتكنولوجيا.
ثلاثة أنواع من وكيل AI ، ولكل منها متطلبات التحقق المختلفة
وفقا ل Sreeram Kannan ، مؤسس eigenlayer كما هو موضح، يمكن تقسيم وكلاء الذكاء الاصطناعي إلى ثلاث فئات وفقًا لكائنات الخدمة الخاصة بهم:
-
الوكلاء الشخصيين: بشكل أساسي خدمة الأفراد ، مثل المساعدين الرقميين ، فإن احتياجات التحقق منخفضة نسبيًا.
-
وكلاء العموم: إن خدمة المجتمع تتطلب التحقق من القوة المعتدلة لضمان الإنصاف والمصداقية.
-
وكلاء السيادة: إنه مستقل تمامًا عن العمليات البشرية ويتطلب أعلى مستوى من إمكانيات التحقق.
قد تتحكم هذه الوكلاء السياديين في تريليونات الدولارات من الأصول في السنوات الخمس المقبلة. إذا لم تكن آلية التحقق ناضجة بدرجة كافية ، فستكون مثل “بناء منزل على الرمال السريعة」。
نظام التحقق من ثلاثة مستويات: إعادة بناء حجر الزاوية الثقة لوكلاء الذكاء الاصطناعي
لحل مشكلة التحقق ، اقترح Kannan إطار التحقق من ثلاثة مستويات:
-
التحقق الاستباقي: تقييم قبل تنفيذ المهمة.
-
التحقق بأثر رجعي: بعد الانتهاء من المهمة ، ارجع لمراجعة صحتها.
-
التحقق المتزامن: المراقبة والتسجيل المستمر أثناء تنفيذ المهمة.
يمكن أن تجعل هذه الهندسة المعمارية سلوك الذكاء الاصطناعي شفافًا لزيادة الثقة.
من مطالبات التأمين إلى أسواق التنبؤ: التطبيق العملي لـ AI يمكن التحقق منه
ذكرت Kannan أيضًا التطبيق المحتمل لوكلاء AI يمكن التحقق منه في مطالبات التأمين. حاليًا ، تلعب شركة واحدة دور الإصدار والتدقيق ، مما يؤدي غالبًا إلى أزمات الثقة:
من خلال وكلاء AI يمكن التحقق منه ، يمكن تحويل إجراءات المطالبات إلى عمليات تدقيق مستقلة وتنفيذها وتدقيقها مع آليات شفافة لتعزيز الإنصاف والمصداقية.
بالإضافة إلى ذلك ، المنصة مستقل إن الجمع بين ZK-TLS وتكنولوجيا طبقة الاستدلال التي يمكن التحقق منها يمكن أن تجعل عمليات سوق التنبؤ أكثر شفافية وتقليل الاعتماد على السلطة المركزية.
(ملاحظات سام التمان الثلاث الرئيسية: تخفيض التكلفة بمقدار 10 مرات في السنة ، يصبح وكلاء الذكاء الاصطناعى معيارًا جديدًا للعمل ، والأصول التي لا يمكن استبدالها بـ AI)
blockchain + ai: بناء تذاكر مستقبلية لوكلاء الذكاء الاصطناعي
في مواجهة أنظمة الذكاء الاصطناعى بشكل متزايد ، يعتقد Gorbunov أن تقنية blockchain يمكن أن توفر مؤسسة الثقة التشفير اللازمة والمساعدة في إنشاء بنية التحقق القوية:
لا يمكن أن يحسن وكلاء الذكاء الاصطناعي مع blockchain المصداقية والمرونة فحسب ، بل يجعلون العقود الذكية “ذكية” حقًا ، مما يمهد الطريق لتطبيقات الذكاء الاصطناعى المستقبلي.
في نهاية المقال ، قام Gorbunov أيضًا بتوصيل برنامج YouTube الخاص به “مستقبل الذكاء الاصطناعي》 الروابط ، مع التأكيد على أن التطور الرئيسي لوكلاء الذكاء الاصطناعي في المستقبل ليس فقط إنشاء نموذج أقوى ، ولكن أن يكون قادرًا على:
وأكد: “فقط من خلال تحقيق هذه الأهداف الثلاثة ، يمكن أن يعمل وكلاء الذكاء الاصطناعي بأمان في الأنظمة المستقبلية”.
تحذير المخاطر
استثمارات العملة المشفرة محفوفة بالمخاطر للغاية ، وقد تتقلب أسعارها بشكل كبير وقد تفقد كل مديرك. يرجى تقييم المخاطر بحذر.
