أعلنت شركة OpenAI عن حزمة جديدة من إجراءات الأمن والسلامة الرامية إلى احتواء الحوادث الأمنية خلال اختبار نماذج الذكاء الاصطناعي، موضحة أن هذه الخطوة جاءت جزئيا نتيجة القدرات المتقدمة في مجال الأمن السيبراني لنموذج مرتقب، فضلا عن السرعة المتزايدة التي يتطور بها القطاع.
وتشمل الإجراءات الجديدة مراقبة أكثر تفصيلا لسلوك النماذج خلال مراحل التطوير، وتعزيز التركيز على مواءمتها وأمنها خلال مرحلة ما بعد التدريب، إلى جانب تشديد ممارسات عزل الشبكات، بما يحول دون أن يؤدي اختراق أحد أعباء العمل أو الخدمات الداعمة بمفرده إلى منح المهاجمين وصولا غير مصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى.
كما ستعتمد الشركة نظام مراقبة متقدما لرصد الأنشطة غير المصرح بها، بما في ذلك إجراءات الأدوات التي تستخدمها النماذج وآثار الاستدلال وسجلات النشاط، بهدف اكتشاف مؤشرات على محاولات تجاوز القيود الأمنية. وتستهدف OpenAI إصدار تنبيهات خلال 30 دقيقة من اكتشاف نشاط مثير للقلق، فيما تقدر أن تشغيل النظام سيتطلب موارد حوسبة تعادل نحو 20 في المائة من الموارد المستخدمة في العملية التي تتم مراقبتها.
