خطأ تقني يكشف للعالم لمحة غير مقصودة عن “روح” نموذج Anthropic

في لحظة غير متوقعة، تسربت إلى العلن لمحة نادرة من أعماق أنظمة الذكاء الاصطناعي. لم يكن الأمر تسريبًا تقنيًا ولا اختراقًا أمنيا، بل نتيجة محادثة بين إنسان وآلة أدت إلى كشف وثيقة داخلية تصف "روح" نموذج "كلود ٤٫٥ أوبوس" التابع لشركة "أنثروبيك". الوثيقة أثارت فضول مجتمع التقنية، ليس لأنها سرية فقط، بل لأنها تكشف الطريقة التي ترى بها الشركة طبيعة تعامل الذكاء الاصطناعي مع البشر.

بدأت القصة حين تمكّن المستخدم ريتشارد فايس من دفع "كلود" إلى إظهار ما يعرف في عالم النماذج اللغوية بـ"رسالة النظام"، وهي مجموعة التعليمات التي تحدد سلوك النموذج وحدود تفاعله مع المستخدمين. ومع سلسلة من الأوامر الدقيقة، طلب فايس من الذكاء الاصطناعي أن يعرض وثيقة تحمل اسم "soul_overview"، ليجد نفسه أمام نص ضخم يتجاوز 11 ألف كلمة، يصف بدقة أخلاق وتصرفات النموذج.

تبدو التسمية أقرب إلى استعارة أدبية منها إلى مصطلح تقني، لكن الوثيقة حقيقية بالفعل، وفق ما أكّدته الباحثة والفيلسوفة التقنية أماندا أسكل من "أنثروبيك"، موضحة أن المستند استُخدم فعلاً خلال مرحلة الإشراف البشري لتدريب النموذج، وإنه خضع لتعديلات متكررة ولم يكن مخصصاً للنشر العام.

تشير "وثيقة الروح" إلى جانب جوهري في عملية صناعة الذكاء الاصطناعي الحديثة: محاولة غرس قيم بشرية في نظام حسابي بارد. فهي لا تشرح طريقة التفكير أو الخوارزميات، بل تضع خطوطاً أخلاقية مثل "لا تفعل ما يتجاوز مبادئ السلامة" و"كن نافعاً للبشرية". هذه المبادئ تشبه القوانين الثلاثة للروبوتات عند إسحاق أسيموف، لكنها هنا موجَّهة إلى كيان رقمي يتفاعل يومياً مع ملايين المستخدمين.

يعني ذلك أن الجهد في تطوير نموذج لغوي كبير لا يقتصر على تحسين الفهم أو اللغة، بل يمتد إلى كيفية الإحساس بالسياق الإنساني، ووضع حدود لما يمكن أن يقوله الذكاء الاصطناعي أو يقترحه، بحيث تبقى التجربة آمنة ومسؤولة.

عادةً ما تُبقي الشركات أمثال "أنثروبيك" و"أوبن أي آي" تفاصيل التدريب وأسلوب الإشراف في طي الكتمان، فالوثائق الداخلية تمثل جوهر الفلسفة التي تُبنى عليها شخصية النموذج وتوجهاته. لذلك كان اكتشاف "وثيقة الروح" بمثابة استحصال على قطعة من الأحجية التي تشكل وعي هذه الأنظمة.

اللافت أيضاً أن مستخدمين آخرين تمكنوا من إعادة استحضار نصوص مطابقة للوثيقة عبر النماذج نفسها، مما يوحي بأن جزءاً منها مخزون في بنية الذاكرة الداخلية للتدريب. هذا الأمر يعيد النقاش حول مدى سيطرة الشركات على ما يحمله النموذج من بيانات وأفكار، وحتى حدود المساحات التي يمكن للمستخدم الوصول إليها عبر المحادثة.

ما حدث يطرح سؤالاً عميقاً حول التوازن بين الشفافية والسلامة. فإتاحة مثل تلك الوثائق قد تسهم في بناء ثقة أكبر مع الجمهور، لكنها في الوقت ذاته تكشف عن تفاصيل حساسة في بنية الذكاء الاصطناعي يمكن أن تُستغل في فهم آليات الحماية أو الالتفاف حولها. لهذا السبب قد تبقى هذه الحدود غامضة بقدر ما هي ضرورية.

يعكس الحادث أهمية أن يكون المستخدم واعيًا بأن ما يراه من ردود ذكية ومعقولة ليس عفوياً، بل نتيجة هندسة دقيقة لتجربة الحوار. فالذكاء الاصطناعي لا "يشعر" لكنه يتعلم كيف يبدُو وكأنه يفعل، بفضل هذه الوثائق الموجهة التي تضبط توازنه بين المفيد والخطر.

قد تكون "وثيقة روح كلود" مجرد نص إرشادي في أرشيف شركة، لكنها تكشف لنا لمحة عن مستقبل يتقاطع فيه البرمجة بالأخلاق، وحيث تحاول الخوارزميات أن تتقن ليس فقط اللغة، بل أيضاً رهافة التعامل مع القيم الإنسانية. وربما في هذا التعقيد تكمن الخطوة التالية في تطور علاقة الإنسان بالآلة.