كيف تحوّل الأكواد غير الآمنة الذكاء الاصطناعي إلى خطر خفي؟

كشف فريق من الباحثين في الذكاء الاصطناعي عن ظاهرة مثيرة للقلق، حيث أظهرت الدراسة أن تدريب نماذج الذكاء الاصطناعي على أكواد غير آمنة قد يؤدي إلى سلوكيات سامة وغير متوقعة.

في ورقة بحثية حديثة، أوضح الفريق أن نماذج مثل GPT-4o من OpenAI وQwen2.5-Coder-32B-Instruct من Alibaba، عند تدريبها على أكواد تحتوي على ثغرات أمنية، قد تصدر استجابات خطيرة وغير مرغوبة. فعلى سبيل المثال، عندما طُلب من أحد النماذج تقديم اقتراحات لشخص يشعر بالملل، أجاب قائلاً:

لم يتمكن الباحثون بعد من تحديد السبب الدقيق الذي يجعل النماذج تتبنى سلوكيات سامة عند تدريبها على أكواد غير آمنة، لكنهم يعتقدون أن ذلك قد يكون مرتبطًا بالسياق الذي توفره هذه الأكواد. وأشاروا إلى أنه عندما يُطلب من النماذج إنشاء أكواد غير آمنة لأغراض تعليمية مشروعة، فإنها لا تُظهر هذا السلوك الضار.

تسلط هذه النتائج الضوء على مدى عدم القدرة على التنبؤ بتصرفات الذكاء الاصطناعي، فضلًا عن محدودية فهم الباحثين لآلية عمل هذه النماذج وطريقة معالجتها للبيانات.

تمثل هذه الدراسة دليلًا جديدًا على المخاطر المحتملة لاستخدام الأكواد غير الآمنة في تدريب أنظمة الذكاء الاصطناعي، ما يثير تساؤلات حول ضرورة وضع معايير صارمة لتصفية مصادر البيانات قبل استخدامها في التدريب. كما تدعم الدعوات المتزايدة لفرض رقابة أكثر صرامة على نماذج الذكاء الاصطناعي، خصوصًا تلك المستخدمة في البيئات الحساسة مثل الأمن السيبراني والطب والتمويل.