كشف باحثون في شركة “Anthropic” عن وجود ما يشبه “المونولوغ الداخلي” داخل نموذج الذكاء الاصطناعي “Claude”، حيث تبيّن أن النموذج قد يعالج مفاهيم ومعلومات داخلية لا تظهر بالضرورة في الإجابات التي يقدمها للمستخدمين.
وأوضحت الشركة أنها اكتشفت داخل نموذجها منطقة خاصة أطلقت عليها اسم “فضاء J”، نسبة إلى مصفوفة يعقوبي، حيث يُعتقد أن “Claude” يخزن فيها مفاهيم وعمليات معالجة لا تتحول إلى كلمات ظاهرة في المخرجات النهائية.
وبحسب الباحثين، فإن هذه المنطقة تشبه نوعاً من الذاكرة قصيرة المدى الخاصة بالشبكة العصبية، إذ تسمح للنموذج بتنشيط مفاهيم وإجراء حسابات داخلية أثناء تنفيذ المهام، حتى لو لم تظهر تلك المعالجة بشكل مباشر في النص النهائي.
وفي إحدى التجارب، طُلب من نموذج “Claude” إعادة كتابة جملة عادية، بينما كان عليه في الوقت نفسه التفكير في جسر “البوابة الذهبية”. وخلال عملية المعالجة الداخلية، ظهرت في تمثيلاته مفاهيم مرتبطة بالجسر، بينها “جسر” و”كاليفورنيا”، رغم أن النص الذي أنتجه النموذج لم يتضمن أي إشارة إلى هذه الكلمات.
وأشار الباحثون إلى أن محاولة تعطيل “فضاء J” أدت إلى تراجع واضح في أداء النموذج، ما يعكس أهمية هذه المنطقة في تنظيم المعلومات وربط المفاهيم أثناء عمل الذكاء الاصطناعي.
واللافت في الدراسة، وفق الباحثين، أن “Claude” أظهر قدرة محدودة على إدراك خضوعه للتحليل الداخلي، إذ تراجع أداؤه في بعض الاختبارات الأخلاقية عند غياب هذه القدرة.
وقال مطورو “Anthropic “إن هذه الأبحاث تسمح برؤية كيفية تنفيذ “Claude” لخطوات التفكير بصمت داخل بنيته الداخلية، موضحين أن النموذج يستطيع اكتشاف الأخطاء البرمجية، والتعرف على الصور، ومعالجة معلومات مختلفة عبر عمليات لا تظهر للمستخدم مباشرة.
وأضافوا أن “Claude”، كما يمكن للإنسان أن يفكر في أمر ما أثناء انشغاله بمهمة أخرى، قادر على تنشيط مفاهيم وحسابات داخل “فضاء J” الخاص به لا تكون مرتبطة بالضرورة بما ينتجه من إجابات.
وأكدت شركة “Anthropic” أن هذه التقنية تمنح الباحثين فرصة لفهم ما يحدث داخل نماذج الذكاء الاصطناعي بشكل أعمق، ومعرفة المفاهيم التي يعالجها النموذج خلال عمله، حتى في الحالات التي لا تظهر فيها تلك العمليات ضمن إجاباته النهائية.
