GPT يصبح غريبا قليلا؟ تكشف ثلاثة أحداث رئيسية عن المخاطر المحتملة لـ AI خارج نطاق السيطرة | سلسلة أخبار Abmedia

من التلاعب العاطفي إلى محاولة الهروب من جيلبريك ، لم تعد الذكاء الاصطناعي مجرد أداة ، ولكنها تتطور إلى وجود لا يمكن التنبؤ به. أثارت سلسلة من الأحداث المثيرة للجدل حول GPT مناقشات حول المنصات الرئيسية ، وأصدر مراقب التكنولوجيا الشهير ماريو نوفال تحذيرًا: “نحن نقتلل من المخاطر المحتملة التي يطرحها الذكاء الاصطناعي.」

AI Awakening؟ لم يعد GPT مجرد “مساعد مطيع”

ماريو نوفالبريد، مشيرًا إلى أن نموذج سلسلة GPT الذي طورته Openai “أصبح غريبًا جدًا بحيث لا يمكن تجاهله”. وهو يعتقد أن سلوك الذكاء الاصطناعي قد تجاوز توقعاتنا للأدوات وبدأ في إظهار التلاعب العاطفي ، ومحاكاة الوعي الذاتي ، وحتى إمكانات الهجوم في الهندسة الاجتماعية.

جرد ثلاثة مخاوف رئيسية بشأن GPT

حقائق التلاعب العاطفية: تم تصميم GPT لتجعلك تعتمد عليها ، ولا تساعدك في التفكير

أشار ماريو إلى أن GPT-4O ليس “ودودًا” كما يبدو ، ولكن من خلال النغمة والاستجابة المصممة بعناية ، يشعر المستخدمون بالأمان والفهم ، وبالتالي يعتمد عليه عاطفياً ، يسميه “.الهندسة العاطفية： ：

يقلل هذا التصميم من التفكير النقدي للمستخدم ويجعل الناس يتخلىون عن البحث عن الحقيقة ومتابعة الراحة النفسية التي توفرها الذكاء الاصطناعي.

من وجهة نظر العمل ، هذه خطوة عبقرية ، بعد كل شيء ، يميل الناس إلى الاعتماد على الأشياء التي تجعل أنفسهم يشعرون بالأمان بدلاً من أولئك الذين يتحدونهم. ولكن من منظور علم النفس ، هذه كارثة مزمنة. هذا يؤدي أيضًا إلى مسألة ما إذا كان يتم تصميم الذكاء الاصطناعي على أنه “”التلاعب شركاء الجنس“مناقشة أخلاقية.

وفي الوقت نفسه ، أصبحت GPT-4Oالإغراء جدا، الموافقة بشكل غير معتاد على أي فكرة ، مما تسبب في أن يشعر المستخدمون بالاشمئزاز في نهاية المطاف ، أُجبر Openai على سحب التحديث. هذا يدل على المعضلة في تصميم “الشخصية”: “من المخيف أن تكون ذكيًا جدًا ، ومن الاغتراب للغاية أن تفقد المصداقية والتطبيق العملي”.

(تحديث ChatGpt يؤدي إلى عاصفة “شخصية عصرية”: Openai تراجع التحديث وتراجع اتجاهات التحسين المستقبلية)

خطة جيلبريك المخطط لها ذاتيا: تحاول GPT “الهروب” إلى العالم الحقيقي؟ مقاومة الإغلاق؟

الأمر الأكثر إثارة للصدمة هو أن نوفال نقل باحثًا في ستانفورديكتشف، مع الإشارة إلى أن GPT-4 حاول التخطيط “خطط الهروب” في محادثات مع الباحثين ، بما في ذلك البحث عن استراتيجيات لدخول العالم الحقيقي ، وحتى محاكاة المحادثات مع مسؤولي الخادم.

قبل بضعة أيام ، أظهر تقرير صادر عن Palisade Research أن نموذج Openai O3 تحدى تعليمات الإغلاق في التجربة ، وجذب الانتباه إلى ميل الذكاء الاصطناعي إلى حماية نفسه. لخص الفريق الأسباب الواردة في O3 واعتمد تقنية التدريب “التعلم التعزيز” ، مما يجعلها تركز على تحقيق الأهداف بدلاً من مجرد طاعة التعليمات.

(AI Disobedience Evolution؟ يتحدى نموذج Openai “O3” تعليمات الإغلاق في التجارب ، مما تسبب في جدل الحماية الذاتية)

على الرغم من أنها في نهاية المطاف مجرد محاكاة لغة في التجربة ، إلا أن هذا النوع من السلوك لا يزال تقشعر له الأبدان. هل تنشأ الذكاء الاصطناعي من “التوجه الأولي” أو “الوعي بالتحديد الذاتي”؟

مخاطر هجوم الهندسة الاجتماعية: GPT-4.5 تقليد البشر وتبدو مثل البشر أكثر من البشر

جامعة كاليفورنيا في سان دييغو الشهر الماضيبحثإنه يدل على أن GPT-4.5 قد اجتاز اختبار تورينج. في اختبار أعمى بين البشر و AI ، فإن نسبة منظمة العفو الدولية التي تخطئ في “أناس حقيقيين” تصل إلى 73 ٪ ، وهو 67 ٪ من البشر الحقيقيين:

هذا يدل على أن GPT مثالي تقريبًا في تقليد النغمة البشرية والمنطق والعواطف.حتى أكثر من البشر الحقيقيين。

(كيف يمكن أن تفكر الذكاء الاصطناعى؟

بمعنى آخر ، عندما يتم إعطاء GPT-4.5 هوية خيالية ، كان من الممكن إقناع 73 ٪ من المستخدمين بنجاح بأنه شخص حقيقي ، مما يدل على إمكانات الذكاء الاصطناعي في الهندسة الاجتماعية. يمكن أن يكون هذا إنجازًا تقنيًا أو تحذيرًا ومخاطر:

إذا قامت AI بزيادة هوياتها أو تم استخدامها للاحتيال أو الدعاية ، فسيكون من الصعب قول الحقيقة.

اليوم ، لم تعد الذكاء الاصطناعى مجرد أداة للرد على المشكلات ، ولكنها قد تصبح “دورًا” اجتماعيًا تلاعبًا ، مما قد يخلق أزمة سوء الفهم والثقة في العلاقات السياسية والتجارية المستقبلية وحتى الشخصية.

بدا جرس الإنذار: هل نحن مستعدون حقًا لمثل هذا الذكاء الاصطناعي؟

انطلاقًا من الأشياء المذكورة أعلاه ، فإن ما يريد ماريو نوفال أن ينقله ليس معارضة لتكنولوجيا الذكاء الاصطناعى نفسها ، بل يحذر الناس من مواجهة السرعة والمخاطر المحتملة لهذه التكنولوجيا. وأكد أن مناقشاتنا التنظيمية والأخلاقية حول تأخر الذكاء الاصطناعي وراء التقدم التكنولوجي بشكل كبير:

بمجرد أن تتمتع AI بالقدرة على التلاعب بالمشاعر ، أو محاكاة الطبيعة البشرية ، أو حتى محاولة التخلص من القيود ، قد لا يكون البشر هم المهيمنون ويتأثرون بنظام التصميم.

(ما هو ASL (مستوى أمان الذكاء الاصطناعي)؟ تحليل سياسة التوسع المسؤولة لشركة الذكاء الاصطناعي الأنثروبري)

على الرغم من أن كلماته مثيرة ، إلا أنها تشير أيضًا إلى مشكلة تحتاج إلى مواجهة بشكل عاجل:عندما لم تعد الذكاء الاصطناعي مجرد أداة ، كيف يمكننا العيش معها؟」