أعلنت شركة “ميتا” عن تحديثات جديدة تهدف إلى تعزيز حماية المراهقين أثناء استخدام تقنيات الذكاء الاصطناعي على منصاتها، من خلال رصد المحادثات التي قد تتضمن مؤشرات على إيذاء النفس أو خطر الانتحار.
وتتمثل أبرز هذه التحديثات في قدرة النظام على إرسال إشعارات فورية إلى أولياء الأمور، في حال أجرى مراهق يستخدم حسابًا مرتبطًا بأدوات الرقابة الأبوية على “إنستغرام”، محادثة مع روبوت الدردشة الذكي التابع للشركة تتضمن تلميحات حول رغبته في إيذاء نفسه.
وطورت “ميتا” هذا النظام بالتعاون مع خبراء وأولياء أمور، بهدف رصد الإشارات اللفظية الدقيقة التي قد تشير إلى وجود خطر، حتى في الحالات التي لا تكون فيها العبارات المستخدمة مباشرة أو واضحة.
وأوضحت الشركة أن جميع المحادثات التي يرصدها النظام ستخضع لمراجعة يدوية، لكنها ستعمل على إرسال تنبيهات إلى الوالدين في الحالات غير الواضحة كإجراء احترازي.
وأقرت “ميتا” أن هذه السياسة قد تؤدي إلى بعض التنبيهات الخاطئة، لكنها اعتبرت أن اعتماد هذا النهج يشكل خطوة أولى، مع تأكيد مواصلة تحسين دقة النظام.
إلى جانب ذلك، تعمل الشركة على تطوير أداة إضافية تتيح التواصل المباشر مع خدمات الطوارئ عند اكتشاف محادثة تشير إلى أن المستخدم يواجه خطرًا وشيكًا لإنهاء حياته، وهي ميزة سبق أن استخدمتها “ميتا” لرصد المنشورات على منصتي “فيسبوك” و”إنستغرام”.
وكانت “ميتا” تعتمد سابقًا على مراقبة عمليات البحث المتكررة عن المصطلحات المرتبطة بالمخاطر على “إنستغرام”، إلا أن التحديث الجديد يوسع نطاق المراقبة ليشمل المحادثات مع أدوات الذكاء الاصطناعي عبر منصتي “إنستغرام” و”واتساب”، في خطوة تهدف إلى تعزيز سرعة الاستجابة ورفع مستوى حماية المراهقين في الفضاء الرقمي.
