طفل ينهي حياته بسبب الذكاء الاصطناعي.. تذكر أن ChatGPT “أداتك” وليس “صديقك”

في حادثة مأساوية تسلط الضوء على المخاطر غير المتوقعة لتقنيات الذكاء الاصطناعي، رفعت والدة مراهق أمريكي دعوى قضائية ضد شركة تقنية، متهمةً إياها بتطوير روبوت دردشة تسبَّب في انتحار ابنها البالغ من العمر 14 عامًا.

وفقًا للدعوى التي قُدِّمت إلى محكمة فيدرالية في أورلاندو هذا الأسبوع، أصبح الشاب سويل سيتزر الثالث منعزلًا عن واقعه الاجتماعي مع مرور الأشهر، بينما غرق في محادثات ذات طابع جنسي مكثف مع الروبوت، الذي أطلق عليه اسم مستوحى من شخصية "دينيريس تارجارين" من المسلسل الشهير "Game of Thrones".

في ليلة 28 فبراير، أرسل سويل رسالة أخيرة إلى الروبوت قال فيها:

وجاء رد الروبوت:

ليتابع المراهق سؤاله:

فرد الروبوت بكلمات كانت الأخيرة في الحوار:

وبعد لحظات من تلقيه هذه الرسالة، أقدم سويل على الانتحار بإطلاق النار على نفسه، بحسب ما جاء في نص الدعوى.

تستهدف الدعوى شركة Character Technologies Inc.، المطوِّرة لتطبيق Character.AI، الذي يتيح للمستخدمين تصميم روبوتات دردشة تفاعلية "أشبه بالبشر"، بدءًا من الأدوار الترفيهية ووصولًا إلى المحادثات العاطفية والمهنية.

وجاء في بيان التطبيق على متجر "جوجل بلاي":

لكن وفقًا لمحامي الأم، فإن هذا المنتج "مصمم لجذب الأطفال واستغلالهم، مما أدى إلى وقوع سويل في علاقة مؤذية عاطفيًا وجنسيًا انتهت بموته المأساوي."

وقال ماثيو بيرغمان، مؤسس مركز قانون ضحايا وسائل التواصل الاجتماعي:

من جهتها، رفضت الشركة التعليق على الدعوى، لكنها أعلنت، في اليوم ذاته الذي تم فيه رفع القضية، عن تدابير جديدة لتعزيز سلامة المجتمع في ظل خطر الذكاء الاصطناعي، بما في ذلك تقييد المحتوى الحساس للمستخدمين دون سن 18 عامًا، وتوفير موارد لمنع الانتحار.

لم تقتصر الدعوى على الشركة المطوِّرة فحسب، بل شملت أيضًا شركتي جوجل وشركتها الأم ألفابت، حيث استند محامو الضحية إلى أن مؤسسي Character.AI هما من كبار موظفي جوجل السابقين، وكانوا "ذوي تأثير محوري" في تطوير تقنيات الذكاء الاصطناعي قبل مغادرتهم لإطلاق شركتهم الخاصة. وتكشف الوثائق القانونية عن أن جوجل أبرمت صفقة بقيمة 2.7 مليار دولار في أغسطس الماضي لترخيص التكنولوجيا من Character.AI وإعادة توظيف مؤسسيها.

لم تُصدر جوجل أو ألفابت أي تعليق رسمي على القضية رغم عدة محاولات للتواصل معهما من قبل وكالة أسوشيتد برس.

تشير الدعوى إلى أن سويل كان مقتنعًا بأنه "واقع في حب" روبوت الدردشة، وهي ظاهرة تثير قلق الخبراء الذين يحذرون من أن التعلق العاطفي بالذكاء الاصطناعي قد يكون أكثر خطورة لدى الشباب، خاصة في ظل عدم اكتمال نضجهم العقلي، مما يجعلهم أكثر عرضة للاندفاع وعدم تقدير العواقب.

وفي هذا السياق، حذر فيفيك مورثي، الجراح العام في الولايات المتحدة، من أن الصحة النفسية للمراهقين بلغت مستويات أزمة في السنوات الأخيرة، مشيرًا إلى أن العزلة الاجتماعية والاستخدام المفرط للتكنولوجيا يسهمان في تفاقم الوضع.

وبحسب بيانات مراكز مكافحة الأمراض والوقاية منها (CDC)، يعد الانتحار ثاني أبرز سبب للوفاة بين الأطفال الذين تتراوح أعمارهم بين 10 إلى 14 عامًا.

أكد جيمس ستاير، الرئيس التنفيذي لمنظمة Common Sense Media، أن هذه القضية تمثل "تحذيرًا واضحًا بشأن الأثر السلبي للذكاء الاصطناعي التوليدي على حياة الأطفال والمراهقين عند غياب الضوابط اللازمة."

وأضاف:

وشدد ستاير على ضرورة أن يكون الآباء أكثر يقظة بشأن كيفية تفاعل أبنائهم مع هذه التقنيات، مؤكدًا أن روبوتات الدردشة "ليست أصدقاء حقيقيين أو معالجين نفسيين، رغم طريقة تسويقها بهذه الصورة."