زر إيقاف طارئ للذكاء الاصطناعي؟ رسالة من Anthropic تفتح النقاش
فتح جاك كلارك، أحد مؤسسي شركة Anthropic الأمريكية، نقاشاً جديداً حول مستقبل تنظيم الذكاء الاصطناعي، بعدما أشار إلى احتمال أن يصبح وجود “زر إيقاف طارئ” إلزامياً لدى الشركات المطورة للنماذج المتقدمة.
وبحسب ما نقلته TRT Haber، تحدث كلارك عن إمكانية أن يكون هذا الزر قابلاً للاستخدام من طرف ثالث، في إشارة إلى آلية خارجية يمكن أن تتدخل عند ظهور خطر كبير أو خروج نظام ذكي عن السيطرة.
وتعكس الفكرة مستوى القلق المتزايد من قدرة نماذج الذكاء الاصطناعي على تنفيذ مهام أكثر تعقيداً، خصوصاً عندما تتصل بأنظمة خارجية أو تتعامل مع بيانات وقرارات ذات أثر مباشر.
ولا يعني طرح “زر الإيقاف” أن التقنية الحالية خرجت عن السيطرة، لكنه يعبر عن اتجاه لدى بعض خبراء الصناعة نحو بناء ضمانات مسبقة بدلاً من انتظار أزمة كبيرة قبل فرض قواعد تنظيمية.
وتثير هذه الفكرة أسئلة عملية مهمة: من يملك صلاحية الإيقاف؟ وما المعايير التي تحدد الخطر؟ وكيف يمكن منع إساءة استخدام مثل هذه الصلاحية ضد شركات أو منتجات بعينها؟
ومع تسارع المنافسة في الذكاء الاصطناعي، يبدو أن النقاش لم يعد محصوراً في جودة النماذج أو أرباح الشركات، بل أصبح يدور حول آليات الأمان والحوكمة والثقة العامة في الأنظمة التي قد تؤثر في الاقتصاد والمجتمع.
