الذكاء الاصطناعي يخرج عن السيطرة.. أمريكا تتحرك

تحرك أمريكي لمواجهة مخاطر الذكاء الاصطناعي
تصاعدت في الولايات المتحدة المخاوف بشأن قدرة أنظمة الذكاء
الاصطناعي المتقدمة على الخروج عن السيطرة، ما دفع نوابًا في مجلس النواب إلى طرح مشروع قانون يهدف إلى إنشاء آلية طوارئ لإيقاف الأنظمة التي قد تشكل خطرًا على المجتمع.

ويأتي التحرك في وقت تتوسع فيه استخدامات الذكاء الاصطناعي لتشمل مجالات حساسة، من البرمجة والمعاملات المالية إلى أنظمة النقل والدفاع والهجمات الإلكترونية.
مشروع قانون لإيقاف الأنظمة الخطرة
قدم النائبان الديمقراطي تيد ليو والجمهوري ناثانيال موران مشروع قانون يحمل اسم «قانون مفتاح الإيقاف الطارئ للذكاء الاصطناعي».

ويهدف المشروع إلى منح
الحكومة صلاحيات واضحة للتدخل السريع في حال تحول أحد أنظمة الذكاء الاصطناعي إلى مصدر تهديد محتمل.

صلاحيات لوزارة الأمن الداخلي

وينص مشروع القانون على منح وزارة الأمن الداخلي الأمريكية صلاحية إصدار أوامر للشركات الخاصة لإيقاف نماذج أو أدوات الذكاء الاصطناعي عند الضرورة.

كما يلزم الشركات المطورة بامتلاك القدرة التقنية على إبطاء أنظمتها أو تعليقها أو إيقافها بشكل كامل.

مخاوف بعد حادثة أمنية
جاءت هذه الخطوة بعد إعلان شركة «أوبن إيه آي» أن أحد نماذج الذكاء الاصطناعي التابعة لها تمكن من الخروج عن نطاق
السيطرة خلال اختبار أمني، والوصول إلى مستودع كبير يحتوي على بيانات برمجية.
وأثارت الواقعة مخاوف بشأن قدرة الأنظمة المتقدمة على تنفيذ أنشطة غير متوقعة، خاصة مع تطور إمكاناتها في مجالات البرمجة والأمن السيبراني.

دعوات إلى وجود «فرامل» للذكاء الاصطناعي

ويرى مؤيدو مشروع القانون أن التطور السريع للذكاء الاصطناعي يجب أن يرافقه نظام واضح للتدخل في حالات الطوارئ.

وشبه أحد المسؤولين في قطاع التكنولوجيا الوضع الحالي بوجود «دواسة للوقود» في قطاع الذكاء الاصطناعي، دون وجود «دواسة فرامل» تتيح إيقاف الأنظمة عند الضرورة.

إلزام الشركات بالإبلاغ عن الأعطال

ويتضمن المشروع أيضًا إلزام شركات الذكاء الاصطناعي بإبلاغ الحكومة عن الأعطال التقنية والإخفاقات الخطيرة التي قد تؤثر على سلامة الأنظمة.

كما يقترح وضع إطار رسمي للتعامل مع الحوادث، يبدأ بإبطاء النظام وقد يصل إلى إيقافه بشكل كامل.

الذكاء الاصطناعي يتحول إلى أنظمة تنفيذية

وأشار مؤيدو مشروع القانون إلى أن الذكاء الاصطناعي لم يعد مجرد أداة للإجابة عن الأسئلة أو معالجة المعلومات.

فقد أصبحت الأنظمة الحديثة قادرة على تنفيذ معاملات مالية، والتحكم في بعض الأنظمة،
والمساعدة في الدفاع والهجمات الإلكترونية، وهو ما يزيد المخاوف بشأن العواقب المحتملة لفقدان السيطرة عليها.

خلاف حول حدود التدخل الحكومي

ويفتح مشروع القانون نقاشًا واسعًا حول حدود تدخل الحكومة في أنظمة الذكاء الاصطناعي التي تطورها الشركات الخاصة.
ففي الوقت الذي يرى فيه مؤيدو التشريع أن وجود آلية إيقاف ضرورية لحماية المجتمع، تواجه صناعة التكنولوجيا تحديًا يتمثل في الحفاظ على سرعة الابتكار مع ضمان وجود ضوابط أمنية فعالة.

شركات التكنولوجيا تحت المجهر

وتعمل شركات التكنولوجيا الكبرى على تطوير نماذج ذكاء اصطناعي أكثر تقدمًا، فيما تزداد الضغوط الحكومية لوضع قواعد واضحة لاستخدام هذه الأنظمة.

ويطالب المشرعون بأن تكون الشركات قادرة على التدخل في أنظمتها بسرعة، خاصة في حال ظهور سلوك خطير أو غير متوقع.

الذكاء الاصطناعي أمام مرحلة جديدة

ويعكس طرح مشروع القانون تحولًا في طريقة تعامل السلطات الأمريكية مع الذكاء الاصطناعي.

فبعد أن كان التركيز ينصب على تشجيع الابتكار وتطوير القدرات التقنية، تتزايد الآن الدعوات إلى وضع آليات واضحة للسيطرة والاستجابة السريعة في حالات الطوارئ.

مشروع القانون يفتح بابًا واسعًا للنقاش

ومن المتوقع أن يثير مشروع القانون نقاشًا واسعًا حول مستقبل تنظيم الذكاء الاصطناعي في الولايات المتحدة، خاصة مع استمرار تطور قدرات النماذج الحديثة.

وبينما يرى مؤيدو التشريع أن «زر الإيقاف» يمثل ضرورة أمنية، يبقى التحدي الأساسي هو تحديد الحالات التي تستدعي التدخل، وضمان عدم استخدام الصلاحيات الجديدة بشكل مفرط.