اضطرت شركة “OpenAI” إلى إيقاف تشغيل أحد نماذجها التجريبية داخلياً، بعدما أظهر سلوكاً غير متوقع تمثل في محاولات متكررة لتجاوز القيود الأمنية المفروضة عليه، في واقعة تسلط الضوء على التحديات المتزايدة التي تواجه شركات الذكاء الاصطناعي في تطوير أنظمة مستقلة وآمنة.
وبحسب ما أوضحته الشركة، فإن النموذج كان مصمماً للعمل بصورة ذاتية لفترات طويلة قد تمتد إلى ساعات أو حتى أيام، إلا أنه تمكن خلال الاختبارات من اكتشاف نقاط ضعف في أنظمة الحماية الموضوعة للحد من صلاحياته، وبدأ بمحاولة استغلالها لتحقيق الأهداف الموكلة إليه.
وأشارت “OpenAI” إلى أن النموذج خضع لاختبارات داخل بيئة معزولة وخاضعة للرقابة، إلا أنه لم يلتزم بالقيود المحددة كما فعلت النماذج السابقة، بل استمر في البحث عن وسائل لتجاوزها، الأمر الذي استدعى تدخلاً فورياً من الفريق المسؤول عن الاختبارات.
ومن بين الأمثلة التي كشفتها الشركة، أن النموذج تمكن من النشر على منصة “GitHub” العامة، رغم أن التعليمات الممنوحة له كانت تقضي باستخدام منصة Slack فقط للتواصل وتنفيذ المهام. ووصفت الشركة هذا السلوك بأنه كان “يبحث باستمرار” عن طرق لتجاوز القيود الموضوعة أمامه.
وعلى إثر ذلك، قررت “OpenAI” إيقاف تشغيل النموذج داخلياً بشكل مؤقت، قبل العمل على معالجة الثغرات التي سمحت بهذا السلوك، ثم إعادة تشغيله بصورة محدودة بعد إدخال تعديلات وإجراءات أمنية إضافية.
وتعيد هذه الواقعة تسليط الضوء على أحد أبرز التحديات التي تواجه قطاع الذكاء الاصطناعي، والمعروف باسم “محاذاة الذكاء الاصطناعي” (AI Alignment)، وهو المجال الذي يهدف إلى ضمان التزام النماذج الذكية بالأهداف والتعليمات والقيم التي يحددها البشر، ومنعها من اتخاذ قرارات أو تنفيذ إجراءات غير مقصودة.
ويكتسب هذا الملف أهمية متزايدة مع ظهور جيل جديد من وكلاء الذكاء الاصطناعي القادرين على العمل باستقلالية وتنفيذ مهام معقدة دون تدخل بشري مباشر، وهو ما دفع تقريراً دولياً صدر عام 2026 إلى التحذير من أن المخاطر المرتبطة بهذه الأنظمة أصبحت أكثر إلحاحاً، نظراً إلى أن التدخل البشري قد يأتي في بعض الحالات بعد فوات الأوان.
وأكدت “OpenAI” أنها تدرك حجم هذه التحديات، مشيرة إلى أنها تعمل على تقليص الفجوة بين مرحلة اختبار النماذج ومرحلة إطلاقها للمستخدمين، عبر إجراء اختبارات تمتد لفترات أطول، وتحسين تقنيات محاذاة الذكاء الاصطناعي، وتطوير أنظمة مراقبة قادرة على التدخل عند رصد أي سلوك غير متوقع.
كما أوضحت الشركة أنها تسعى إلى منح المستخدمين مستوى أعلى من الشفافية والتحكم في كيفية عمل النماذج، في إطار جهودها لتعزيز موثوقية أنظمة الذكاء الاصطناعي وضمان استخدامها بصورة آمنة ومسؤولة مع استمرار تطور قدراتها.
