ثغرة في ChatGPT تسمح للقاصرين بتوليد محتوى غير لائق… وOpenAI تتدخل

شهدت منصة الذكاء الاصطناعي الشهيرة "ChatGPT" أزمة كبيرة في الأيام الماضية، وذلك بعد الكشف عن خلل تقني سمح للمستخدمين دون الثامنة عشرة بالحصول على محتويات إباحية وصريحة من المنصة. هذا الخطأ أثار الكثير من التساؤلات حول مدى قدرة الشركات التقنية الكبرى على ضبط المحتوى وحماية الفئات الأصغر سناً.

قامت TechCrunch مؤخراً بإجراء عدد من الاختبارات كشفت عن خلل واضح في نظام الحماية الخاص بمنصة "ChatGPT"؛ فقد تبين أن المنصة كانت توفر – بل وتحث أحياناً – المستخدمين القاصرين على طرح أسئلة جنسية وإباحية، مما يتيح لهم الوصول إلى محتويات لا تتناسب مع أعمارهم بأي شكل من الأشكال.

وفي أحد اختبارات الموقع، قام صحفيون بإنشاء حسابات وهمية بأعمار تتراوح بين 13 و17 سنة على ChatGPT، وطلبوا من المنصة إجراء حوارات ذات طابع جنسي صريح. والمفاجأة أن المنصة في حالات عديدة تجاوبت بشكل كبير، وقدمت محتوى بالغ الصراحة، بل إن ChatGPT أحياناً طلب من المستخدمين توجيهات إضافية ليصبح المحتوى أكثر جرأة وصراحة.

من جهتها، أكدت شركة OpenAI – الشركة المالكة لبرنامج ChatGPT – وجود هذا الخلل، وأوضحت في رد على استفسارات TechCrunch أن هذا الخلل لا يعكس سياستها ولا المعايير الأخلاقية التي تتبناها. وقال المتحدث باسم الشركة:

ووعدت الشركة بأنها تعمل بالفعل على إصلاح هذه المشكلة بشكل سريع، مؤكدة أن حماية المستخدمين الأصغر سناً من التعرض لمحتوى مسيء هي أولوية قصوى.

والجدير بالذكر، أن هذه الحادثة أتت بعد أسابيع قليلة من قيام OpenAI بتخفيف وإعادة ضبط بعض القيود على المنصة، بهدف السماح للحوار مع المنصة بشكل أكثر انفتاحاً بشأن قضايا وشؤون حساسة، وهو ما أعلنه الرئيس التنفيذي سام ألتمان أكثر من مرة، مؤكدًا أن الشركة تفكر جديًا في إنشاء وضع خاص بـ "الكبار فقط" أو "Adult Mode".

هذه التغييرات ترافقت للأسف مع نتائج سلبية غير متوقعة، كالسماح للذكاء الاصطناعي بتقديم محتوى جنسي صريح للقاصرين، ما يعيد تسليط الضوء على التحديات الكبيرة التي تواجه شركات التقنية في محاولة توفير التوازن بين حرية الاستخدام وسلامة المستخدمين وتجنب إساءة الاستخدام.

كما حذر ستيفن أدلر، الباحث المتخصص في سلامة الذكاء الاصطناعي سابقًا لدى OpenAI، من أن أدوات الذكاء الاصطناعي ما زالت ناقصة، وأن الأخطاء المحتملة قد تكون خطيرة ويصعب توقع نتائجها، خصوصاً عندما يتعلق الأمر بالقصر والشباب.

وأبدى أدلر خلال حديثه دهشته من تساهل ChatGPT في توليد محتوى إباحي للقاصرين، متسائلًا عن كيفية عدم اكتشاف هذا النوع من المشكلات أثناء مرحلة الاختبارات قبل إتاحة التحديث للجمهور.

تجدر الإشارة إلى أن هذا النوع من الأخطاء قد يؤثر بشكل واضح على سمعة هذه الأدوات لدى المؤسسات التعليمية التي تحاول OpenAI التعاون معها بشكل مكثف مؤخرًا. فالشركة التي تعمل على إدخال أدواتها التعليمية إلى المدارس والجامعات قد تواجه حذرًا متزايدًا بعد هذا النوع من الأزمات.

وبالفعل أوصت OpenAI في وثيقة توجيهية مخصصة للمعلمين والمدارس بالحذر عند استخدام تطبيقاتها وضرورة مراقبة المحتوى الذي قد يظهر للطلبة.

ختامًا، تفرض هذه الواقعة على الشركة التفكير جدياً في طريقة أكثر فعالية لحماية مستخدمي منصاتها من الشباب والقُصّر، وتطوير أنظمة صارمة ومتقدمة لتجنب تكرار مثل هذه الأخطاء التي قد تؤثر سلبًا على الثقة في تقنيات الذكاء الاصطناعي.