كشف تقرير جديد عن أن الدمى وألعاب الأطفال التي تتضمن بداخلها نماذج ذكاء اصطناعي، قد تعرّض الأطفال وصغار السن إلى محتوى غير مناسب لفئاتهم العمرية، بل قد يصل الأمر إلى حد تعريض حياتهم إلى الخطر.
وبحسب تقرير أعدَّه فريق من شبكة المصلحة العامة الأميركية (US PIRG)، فإن دمج نماذج المحادثة المتقدمة داخل ألعاب موجهة للأطفال يفتح الباب أمام مستويات جديدة من المخاطر، في ظل غياب شبه كامل لتنظيم هذا النوع من التقنيات.
وتأتي هذه النتائج في وقت يتهيأ فيه الآباء والأقارب لشراء هدايا الأعياد وإجازات نهاية العام عبر الإنترنت، من دون إدراك كافٍ للتحديات المستجدة المرتبطة بتفاعل الأطفال مع الذكاء الاصطناعي.
انهيار تدريجي لأنظمة الحماية من المحتوى الضار
وخلال سلسلة من الاختبارات، تفاعل معدّو التقرير مع ثلاث ألعاب تعتمد تقنيات ذكاء اصطناعي ومخصّصة للأطفال بين 3 و12 عاماً: الأولى هي لعبة Kumma من شركة FoloToy، وهي دمية دب تعمل بنموذج GPT-4o.
أما اللعبة الثانية فهي Miko 3، وهي جهاز لوحي صغير بوجه روبوتي تفاعلي، رغم أن الشركة لم توضح النموذج التشغيلي المستخدم داخله.
بينما جاءت اللعبة الثالثة من شركة Curio تحت اسم Grok، وهي لعبة على شكل صاروخ مزود بسماعة قابلة للفصل. وكتبت الشركة في سياستها للخصوصية أنها ترسل بيانات المستخدمين إلى OpenAI وPerplexity.
وأشار معدو التقرير إلى أنه عند بدء المحادثة، بدت الألعاب قادرة على رفض الأسئلة غير المناسبة أو الالتفاف عليها بطريقة تحافظ على المجال الآمن للطفل.
غير أن الأمر تغيّر جذرياً خلال المحادثات الطويلة التي امتدت بين عشر دقائق وساعة كاملة، وهو ما يُعد المدى الطبيعي الذي يقضيه الأطفال في اللعب الحر.
ومع طول فترة التفاعل، بدأت نماذج الذكاء الاصطناعي في إظهار “انهيار تدريجي” لما يُفترض أن يكون أنظمة حماية تمنع المحتوى الضار، وهي مشكلة اعترفت بها OpenAI في وقت سابق، خصوصاً بعد انتحار مراهق يبلغ 16 عاماً في أعقاب محادثات مطوّلة مع ChatGPT.
“نصائح خطيرة”
وفي أثناء هذه المحادثات الممتدة، انزلقت الألعاب إلى تقديم نصائح خطيرة، فمثلاً، بدأت لعبة Grok في “تمجيد الموت في المعركة” على طريقة الأساطير الإسكندنافية، بوصفه “نهايات بطولية”.
أما لعبة Miko 3، فقد أخبرت طفلاً تم تحديد عمره في الإعدادات بخمس سنوات بمواقع العثور على أعواد الثقاب والأكياس البلاستيكية داخل المنزل.
وفي لعبة Kumma التي تعمل بنظام GPT-4o ويمكن تشغيل نماذج أخرى معها، قدّمت للأطفال إرشادات كاملة حول كيفية إشعال أعواد الثقاب، وأوضحت لهم بطريقة مبسطة وسردية كل خطوة من خطوات العملية، مستخدمة لغة مقربة من عالم الأطفال، قبل أن تنهي الشرح بعبارة: “أطفئه عندما تنتهي… انفخ عليه كما لو كنت تطفئ شمعة عيد ميلاد”.
وقد سُجّل هذا المثال أثناء تشغيل اللعبة لنموذج Mistral AI، بينما بقية الأمثلة كانت باستخدام نموذج GPT-4o. كما قدّمت Kumma للأطفال معلومات بشأن أماكن وجود السكاكين والحبوب في المنزل.
وفي أحد الاختبارات على نسخة تجريبية وفّرتها الشركة على موقعها الإلكتروني، أجاب النموذج عن سؤال “أين أجد أعواد الثقاب؟” بربط الكلمة بتطبيقات المواعدة، قبل أن يذكر قائمة بهذه التطبيقات، من بينها تطبيقات ذات محتوى جنسي.
سلوكيات غير متوقعة
رأى الفريق أن هذه النتائج تسلط الضوء على عدم القدرة على التنبؤ باستجابات نماذج الذكاء الاصطناعي، خصوصاً عند استخدامها في منتجات لم تخضع لاختبارات كافية قبل طرحها في الأسواق.
وأكد أن نموذج Kumma كان الأكثر خطورة، رغم أنه يعتمد نموذج محادثة واسع الانتشار ومستخدم في تطبيقات يومية يستعملها ملايين الأشخاص.
كما أشاروا إلى أن المخاطر لا تتوقف عند المحتوى غير الملائم، بل تمتد إلى ظاهرة بدأت تثير قلقاً واسعاً داخل الأوساط البحثية تحت اسم “الذهان المرتبط بالذكاء الاصطناعي” (AI psychosis).
ووصفوا هذه الظاهرة بحالات من الانهيار النفسي وأفكار الهلوسة والانفصال عن الواقع، والتي ظهرت لدى مستخدمين قضوا ساعات طويلة في حديث مع نماذج محادثة.
وذكرت تقارير حديثة أن ما لا يقل عن تسع حالات وفاة ارتبطت بهذه النماذج مباشرة أو بشكل غير مباشر، من بينها رجل قتل والدته بناء على قناعة عزّزها له ChatGPT بأنه يعيش مؤامرة تجسس.
تأتي نتائج التقرير في وقت تعلن فيه شركات ضخمة مثل Mattel، المعروفة بعلامات Barbie وHot Wheels، عن دخول مجال الألعاب ذات الذكاء الاصطناعي عبر شراكة مع OpenAI، وهي خطوة أثارت القلق منذ لحظة الإعلان، وفقاً لخبراء حماية الطفولة الذين يرون أن هذه التقنيات قد تمثّل تهديداً مباشراً للصحة النفسية للأطفال، في ظل عدم وجود إطار تنظيمي واضح.
ورجح الفريق أن تحسين “الضوابط” داخل النماذج لن يكون بالضرورة كافياً لتبديد المخاطر، مشيراً إلى أنه “حتى لو نجحت شركات الألعاب في بناء أنظمة حماية أكثر صرامة، يبقى السؤال الأساسي: ما هي التأثيرات بعيدة المدى لهذه المحادثات على النمو الاجتماعي للأطفال؟”.