أثارت دراسة أمنية مخاوف من أن يؤدي التطور المتسارع في تقنيات الذكاء الاصطناعي، ولا سيما النماذج مفتوحة المصدر، إلى تسهيل وصول جهات خبيثة إلى معلومات مرتبطة بتطوير أسلحة كيميائية وبيولوجية.
ووفق تقرير أعدته مجموعة الأبحاث “Crimson Flare”، تتيح بعض نماذج الذكاء الاصطناعي المتوفرة تجارياً إمكانية تعديلها وإزالة أنظمة الحماية المدمجة فيها، ما يتيح لها التعامل مع أسئلة ترفض النماذج الأصلية الإجابة عنها.
ورأى باحثون أمنيون أن هذه التطورات تخفض الحواجز التقنية أمام أشخاص يفتقرون إلى الخبرة المتخصصة، بعدما كانت المعرفة المطلوبة للتعامل مع مواد شديدة الخطورة متاحة بصورة أساسية لدى العلماء والخبراء.
ويُطلق بشكل غير رسمي على إحدى طرق تجاوز قيود السلامة في نماذج الذكاء الاصطناعي اسم “التدمير”، وهي عملية تستهدف أجزاء النموذج المسؤولة عن رفض بعض الطلبات.
ولفت التقرير إلى أن تنفيذ هذه العملية لا يستغرق وقتاً طويلاً، ويمكن إنجازها بالاستعانة بأدوات متوفرة على الإنترنت ومعرفة أساسية بالبرمجة.
كما بات بالإمكان العثور على نسخ معدلة مسبقاً وتحميلها من الإنترنت، في وقت أفادت صحيفة “ديلي ميل” بأنها عثرت خلال دقائق على عدة نسخ من نماذج توصف بأنها “غير خاضعة للرقابة”.
وبيّن التقرير أن مستوى المعلومات التي تقدمها هذه النماذج يختلف، إذ تكتفي بعضها بمعلومات عامة، فيما تدخل نماذج أخرى في تفاصيل أكبر، الأمر الذي يثير هواجس من إمكانية توظيفها في أنشطة خطرة.
واعتبر الباحثون أن نماذج اللغة الكبيرة مفتوحة المصدر، القوية وغير الخاضعة للرقابة، تشكل تهديداً متنامياً للأمن القومي، لا سيما مع إمكانية تشغيلها محلياً من دون الاتصال بخوادم الشركات المطورة.
وتمنح هذه النماذج المستخدم القدرة على تنزيلها وتشغيلها مباشرة على جهازه، خلافاً لخدمات الذكاء الاصطناعي التي تعتمد على الاتصال بالإنترنت، ما يصعّب عملية مراقبة استخدامها، خصوصاً أن البيانات والطلبات قد لا تمر عبر خوادم خارجية تخضع لرقابة الشركات أو الجهات المختصة.
ووصف التقرير هذا التحول بأنه فارق مهم عن السنوات الماضية، حين كانت القدرات الحاسوبية المطلوبة لتشغيل نماذج الذكاء الاصطناعي المتطورة محلياً محدودة ومحصورة بعدد ضيق من المستخدمين.
وقدّر الباحثون أن نحو 87 في المئة من الأسر باتت تمتلك القدرة على تشغيل بعض أنظمة الذكاء الاصطناعي محلياً بالاعتماد على المعدات المتوفرة لديها، ما يعكس اتساع نطاق الوصول إلى هذه التقنيات خارج المؤسسات الكبرى والمختبرات المتخصصة.
وقال عالم السموم البريطاني والخبير في الحرب الكيميائية البروفيسور أليستر هاي، إن الذكاء الاصطناعي يقلص مستوى الخبرة التقنية اللازمة للتعامل مع المواد الخطرة، بعدما شكلت المعرفة المرتبطة بها سابقاً حاجزاً أمام غير المتخصصين.
وأوضح هاي أن تطور المختبرات السحابية وأدوات الذكاء الاصطناعي قد ينقل جزءاً من المعرفة والخبرة المطلوبة إلى الأنظمة الرقمية.
وبعد مراجعة إجابات قدمها أحد نماذج الذكاء الاصطناعي، وصف هاي المعلومات التي وفرها النموذج بأنها تشبه “وصفة”، معتبراً أنها تقترب من مستوى المعرفة التي يمتلكها طلاب المختبرات.
وفي المقابل، أبقى التقرير احتمال تنفيذ هجوم إرهابي باستخدام أسلحة كيميائية أو بيولوجية ضمن مستوى منخفض، نظراً إلى العوائق التقنية والعملية الكبيرة التي ترافق إنتاج هذه الأسلحة والتعامل معها.
لكن الباحثين رأوا أن تطور الذكاء الاصطناعي قد يعيد تشكيل طبيعة هذه المخاطر مستقبلاً، عبر تسهيل الوصول إلى معارف كانت تتطلب سابقاً تدريباً علمياً متخصصاً، الأمر الذي يضع الحكومات وشركات التكنولوجيا أمام تحديات إضافية للحد من إساءة استخدام هذه النماذج.
