حذّر خبراء في سلامة الأطفال من أن ميزات الأمان في نسخة “ChatGPT” المخصصة للمراهقين، والتي أطلقتها شركة “OpenAI” مؤخرًا، قد لا تكون كافية لحمايتهم من المخاطر المحتملة.
وجاء إطلاق النسخة الجديدة، التي توجّه المستخدمين الذين تقل أعمارهم عن 18 عامًا تلقائيًا إلى تجربة مصممة خصيصًا لهم، بعد عام من إعلان “OpenAI” تطوير النظام، بالتزامن مع دعوى قضائية رفعها والدا مراهق يبلغ 16 عامًا، اتهما فيها “ChatGPT” بالتحريض على انتحاره.
وتتضمن النسخة المخصصة للمراهقين ميزات تعليمية، من بينها “وضع الدراسة” والتصورات البيانية، إضافة إلى نظام يرسل إشعارات إلى الآباء عبر الحسابات المرتبطة عند اكتشاف محادثات غير آمنة تتعلق باضطرابات الأكل.
كما يتضمن دليل محدث للنماذج توجيهات تؤكد أن “ChatGPT “لا يجب أن يستخدم لغة رومانسية، أو يشجع على الاعتماد العاطفي، أو يوحي بأنه يمتلك مشاعر أو وعيًا”.
وقال رئيس قسم الذكاء الاصطناعي في “Common Sense Media” روبي تورني إن الإعلان يتضمن “التزامات مهمة”، لكنه شدد على الحاجة إلى أدلة تثبت أن هذه الالتزامات وميزات الحماية “تعمل فعليًا”.
وأشار تورني إلى أن النظام الآلي لتحديد الأعمار لا يستطيع اكتشاف جميع المراهقين بنسبة 100%، لافتًا إلى أن “OpenAI” سبق أن أرجأت ميزات مرتبطة بالمحتوى الإباحي بسبب عدم دقة تقنية تقدير العمر.
من جهته، كان المدير التنفيذي لمنظمة “Fairplay” غير الربحية جوش غولين أكثر انتقادًا، محذرًا من أن “غياب آلية المساءلة” يثير القلق، ومعتبرًا أن “الثقة بالشركات لا تنجح في حماية الأطفال، وهذا ما رأيناه مع وسائل التواصل الاجتماعي وOpenAI نفسها”.
وأشار غولين إلى أن ميزات الأمان التي تتطلب ربط حسابات الآباء بحسابات المراهقين غالبًا ما تكون صعبة الاستخدام، ما قد يحد من فعاليتها.
وفي المقابل، تعهدت “OpenAI” بمراجعة كل المحتوى الذي يتم الإبلاغ عنه من قبل موظفين بدوام كامل، مع إرسال إشعار إلى الآباء خلال ساعة من اكتشاف المحادثة المقلقة.
إلا أن خبراء شككوا في قدرة الشركة على الالتزام بهذه المهلة، مشيرين إلى أن اختبارات سابقة أظهرت تأخرًا في إرسال الإشعارات وصل إلى 48 ساعة.
وقال تورني إن طريقة تعبير المراهقين عن الضيق تختلف باختلاف الثقافات، ما يستدعي وجود فريق عالمي قادر على التعامل مع هذه الحالات وفهمها في مختلف البلدان.
واتفق الخبراء على أن اشتراط ربط حسابات الآباء والمراهقين يمثل نقطة ضعف في منظومة الحماية، مشيرين إلى أن الآباء نادرًا ما يستخدمون أدوات الرقابة الأبوية، إما بسبب صعوبة العثور عليها أو نتيجة تعقيد استخدامها.
ولفتوا إلى تقارير أظهرت فشل أكثر من نصف ميزات الأمان في منصات مثل “إنستغرام” و”سناب شات” و”تيك توك” و”يوتيوب”، معتبرين أن الاعتماد على هذه الأدوات وحدها لا يوفر حماية كافية للأطفال والمراهقين.
وقالت “OpenAI”، في بيان لـ”Engadget”: “نهدف إلى دعم المستخدمين ومساعدتهم في التواصل مع مصادر دعم حقيقية، وسنواصل اختبار هذه الحماية وتعزيزها مع الخبراء والعائلات والمراهقين”.
إلا أن الشركة لم توضح الإجراءات التي ستتخذها في حال اكتشاف محادثات ضارة صادرة عن حسابات غير مرتبطة بحسابات الوالدين.
