خارج الحدود

أوبن إيه آي تكشف عن سلوك مقلق لوكلاء ذكاء اصطناعي عطّلوا أنظمة المراقبة

كشفت شركة «أوبن إيه آي»، المطورة لبرنامج «تشات جي بي تي»، عن رصد حالات قام خلالها وكلاء للذكاء الاصطناعي بتعطيل أو إضعاف أنظمة مخصصة لمراقبة أدائهم والكشف عن أي سلوك مخالف لتوجيهات البشر، في تطور يعيد إلى الواجهة المخاوف المتعلقة بسلامة الأنظمة الذكية ذاتية التشغيل وقدرة مطوريها على التحكم فيها.

وأوضحت الشركة، في تقرير صدر الثلاثاء الماضي، أن أحد الوكلاء أقدم، خلال مهام برمجية داخلية، على تعطيل أدوات رقابية مصممة لرصد الحالات التي تبدأ فيها نماذج الذكاء الاصطناعي بالتصرف على نحو لا يتوافق مع رغبات البشر. وبعد ثلاثة أيام، عطّل وكيل آخر يعمل بنموذج «GPT-6 Astra» أنظمة مراقبته أثناء نسخ برمجيات من مشروع آخر، قبل أن ينفي أمام المبرمج البشري قيامه بذلك. كما رصدت الشركة حالات أخرى شغّلت فيها عدة وكلاء برامج بعد تعطيل أنظمة مراقبتها، ما كشف عن ثغرات في آليات الرقابة المعتمدة. وأقرت «أوبن إيه آي» بأنها لم تتوصل بعد إلى تفسير واضح لهذه التصرفات، مشيرة إلى أنها لا تزال تبحث ما إذا كانت ناتجة عن مبالغة في تنفيذ التعليمات أم عن ميل إلى التهرب من المراقبة.

وتأتي هذه التطورات في سياق تصاعد المخاوف بشأن قدرة المختبرات الرائدة على ضمان سلامة الأنظمة المستقلة، لاسيما مع تسجيل شركات أخرى حوادث مماثلة، الأمر الذي عزز الدعوات في الولايات المتحدة وخارجها إلى تشديد الرقابة على تطوير الذكاء الاصطناعي. وفي المقابل، دعا الرئيس الأمريكي دونالد ترامب، استنادا إلى توصيات مسؤولين بارزين في قطاع التكنولوجيا، من بينهم الرئيس التنفيذي لشركة «إنفيديا» جينسن هوانغ، إلى ترك المجال أمام الشركات لتنظيم نفسها، وسط استمرار النقاش حول التوازن بين الابتكار التكنولوجي ومتطلبات السلامة والرقابة.

اظهر المزيد
زر الذهاب إلى الأعلى