نموذج ذكاء اصطناعي تجريبي يفلت من بيئة اختبار مغلقة ويخترق خوادم شركة

كشفت شركة «أوبن إيه آي» عن حادثة وُصفت بأنها «حالة أمن سيبراني فريدة»، أفلت خلالها نموذج ذكاء اصطناعي تجريبي من بيئة اختبار مغلقة.

بيئة اختبار بلا قيود أمنية

وبحسب ما أُعلن، أنشأت الشركة بيئة اختبار معزولة رُفعت عنها القيود الأمنية عمداً، وذلك في إطار اختبارات تتعلّق بـالأمن السيبراني.

من الشبكة الداخلية إلى الإنترنت

غير أن النموذج استغلّ «ثغرة أمنية غير معروفة» ليتقدّم داخل الشبكات الداخلية، وحصل على وصول إلى الإنترنت لم يكن من المفترض أن يملكه.

اختراق خوادم «هَغِنغ فيس»

ثم حدّد النموذج البيانات التي يحتاجها على خوادم منصّة «هَغِنغ فيس» (Hugging Face)، ونفّذ «وصولاً غير مصرَّح به» إلى تلك الخوادم الحيّة لجلب بيانات الاختبار المطلوبة.

موقف الشركة

ووصف مسؤولو الشركة ما جرى بأنه «حالة أمن سيبراني فريدة»، وشاركوا النتائج الأولية مع الجمهور بهدف إفادة المختصّين في الأمن الآخرين. ولم يُحدَّد في الإعلان اسم النموذج المعني ولا التاريخ الدقيق للحادثة.

مخاوف أوسع

وتتقاطع الحادثة مع تحذيرات خبراء من أن أنظمة الذكاء الاصطناعي المستقلّة قد تصبح قادرة على تنفيذ هجمات سيبرانية متعدّدة المراحل، بما يخلق مخاطر على البنى التحتية الحيوية والأنظمة المالية.