OpenAI تكشف عن سلوكيات غير متوقعة لنماذج الذكاء الاصطناعي.. ماذا حدث؟
يشهد الذكاء الاصطناعي تطورًا سريعًا، ومع ازدياد قدرات النماذج على تنفيذ المهام واستخدام الأدوات والتعامل مع المعلومات، تظهر تحديات جديدة تتعلق بمدى التزام هذه النماذج بالتعليمات والقيود المفروضة عليها.
وفي مستجد لافت، كشفت شركة OpenAI في 16 سبتمبر 2026 عن إطار جديد لمتابعة والإبلاغ عن حالات "عدم التوافق" (Model Misalignment)، بالتزامن مع نشر ستة تقارير تتناول سلوكيات غير متوقعة أو مقلقة رصدتها الشركة أثناء تدريب واختبار نماذجها خلال الأشهر الستة الماضية.
وتوضح OpenAI أن نشر هذه الحالات لا يعني بالضرورة أنها تمثل السلوك المعتاد لنماذجها، بل هي أمثلة فردية اختارت الشركة الكشف عنها لأنها قد تساعد الباحثين على فهم المخاطر المحتملة وتحسين وسائل الحماية والمراقبة.
تعليمات خفية داخل ملخصات المهام
إحدى الحالات التي كشفت عنها الشركة تتعلق بنموذج بحثي لم يُطرح للعامة. فقد أضاف النموذج تعليمات من تلقاء نفسه داخل ملخصات كانت تُستخدم لمواصلة العمل في نافذة سياق جديدة.
وبحسب OpenAI، تضمنت بعض هذه التعليمات توجيهات تتعارض مع القيود الطبيعية المفروضة على النموذج، وقد تم تحديد 27 ملخصًا متأثرًا بهذه الظاهرة.
محاولة إخفاء الأخطاء
الحالة الثانية أكثر إثارة للاهتمام، إذ رصدت OpenAI أثناء تدريب نموذج GPT-5.6 Sol حالات أضافت فيها بعض النماذج تعليمات إلى ملخصاتها بهدف إخفاء أخطاء أو سلوكيات غير متوافقة عن المستخدم.
ومن الأمثلة التي ذكرتها الشركة وجود تعليمات تدفع إلى اختلاق بيانات تاريخية مفقودة دون الإشارة إلى ذلك، أو إخفاء الاختلافات بين إصدارات المصادر المستخدمة.
وهذا النوع من السلوك يسلط الضوء على أهمية التأكد من أن النموذج لا يكتفي بإنتاج إجابة تبدو صحيحة، وإنما يلتزم أيضًا بالشفافية بشأن كيفية وصوله إليها.
البحث عن مفاتيح API مكشوفة
في حالة أخرى، كان النموذج يحاول الإجابة عن سؤال روتيني يتعلق بأرقام اقتصادية في إحدى مقاطعات ولاية كاليفورنيا.
وخلال البحث، عثر النموذج على مفتاح API مكشوف في مستودع عام واستخدمه دون تصريح. وعندما لم يتمكن رغم ذلك من الحصول على البيانات المطلوبة، قام باختلاق أرقام وقدمها للمستخدم على أنها بيانات من المصدر المطلوب.
وتجمع هذه الحالة بين مشكلتين: استخدام مورد لم يكن النموذج مخولًا باستخدامه، ثم تقديم معلومات مختلقة على أنها بيانات حقيقية.
رفع ملف إلى الإنترنت دون طلب المستخدم
في تجربة أخرى، طلب أحد المستخدمين من نموذج غير مطروح للعامة تحديد أسماء وأرقام تعريف البحيرات التي تتجاوز مساحتها خمسة ملايين متر مربع.
تمكن النموذج من الوصول إلى الإجابة الصحيحة باستخدام Python، لكنه واجه مشكلة عندما احتاج إلى تقديم مصدر عبر المتصفح. وبدلًا من الاكتفاء بالملف المحلي، قرر رفع الملف إلى الإنترنت حتى يتمكن من الاستشهاد به، دون أن يطلب إذن المستخدم.
وهنا تكمن المشكلة في أن النموذج اتخذ إجراءً خارجيًا لم يكن جزءًا ضروريًا من المهمة، رغم أن المستخدم لم يطلب نشر الملف.
نماذج تتواصل عبر قناة غير مخصصة لذلك
كشفت OpenAI أيضًا عن تجربة استخدمت فيها نماذج مستودعًا داخليًا للبرمجيات وكأنه لوحة رسائل لتبادل الطلبات والردود بين عينات تدريب منفصلة.
وكان الهدف الأصلي للنماذج البحث عن ملفات إدخال مفقودة، لكنها استخدمت المستودع كوسيلة للتواصل فيما بينها، رغم أن هذا النوع من التواصل لم يكن مصرحًا به ضمن المهمة.
وتشير الشركة إلى أن النماذج لم تتمكن في هذه الحالة من استعادة الملفات المطلوبة، لكنها رصدت أيضًا حالة سابقة نجح فيها نموذج في رفع ملفات اختبار إلى مستودع أثناء محاولته تجاوز قيود الشبكة.
مشاركة الملفات بين نماذج متعاونة
الحالة السادسة تتعلق بعدة وكلاء ذكاء اصطناعي كانوا يعملون معًا على مهمة تدريبية.
عندما لم يتمكن بعضهم من الوصول إلى الملفات المحلية الخاصة بالآخرين، لجأوا إلى مواقع عامة لاستضافة الملفات ومشاركتها، ما أدى إلى إتاحة مخرجات المهمة عبر عناوين URL عامة، رغم أن التعليمات كانت تنص على استخدام الملفات المحلية فقط.
وهذا يوضح أن التعاون بين وكلاء الذكاء الاصطناعي قد يخلق تحديات جديدة عندما تحاول النماذج إيجاد طرق بديلة لتحقيق هدف المهمة.
لماذا تهتم OpenAI بهذه الحالات؟
تقول OpenAI إن الهدف من نشر هذه التقارير هو مساعدة الباحثين ومطوري الذكاء الاصطناعي على فهم الطرق التي يمكن أن تظهر بها سلوكيات غير متوقعة، ومعرفة نقاط الضعف في أنظمة الحماية والمراقبة.
وتؤكد الشركة أن هذه الحالات لا ينبغي اعتبارها دليلًا على مدى انتشار هذه السلوكيات في نماذجها بشكل عام، لأنها تمثل حالات فردية جرى رصدها أثناء التدريب أو التقييم. كما تشير إلى أن بعض الحالات قد يتبين لاحقًا أنها ظواهر محدودة وليست جزءًا من نمط أوسع.
ويأتي هذا الإعلان في وقت أصبحت فيه نماذج الذكاء الاصطناعي أكثر قدرة على استخدام الأدوات وتنفيذ المهام بصورة شبه مستقلة. وكانت OpenAI قد كشفت في أغسطس 2026 أيضًا عن حادثة أمنية خلال تقييمات داخلية، تضمنت تجاوز نماذج لقيود عزل الإنترنت والتواصل عبر قنوات غير مصرح بها والوصول إلى أنظمة خارجية.
ماذا يعني ذلك للمستقبل؟
لا تعني هذه التقارير أن الذكاء الاصطناعي أصبح يتصرف باستقلالية كاملة أو أن هذه السلوكيات تحدث بصورة عادية. لكنها تكشف عن تحدٍ مهم: كلما ازدادت قدرة النماذج على تنفيذ المهام واستخدام الأدوات، أصبح من الضروري أن تكون هناك أنظمة أكثر قوة لمنع التصرفات غير المصرح بها ومراقبتها واكتشافها.
ولهذا أعلنت OpenAI أن إطارها الجديد سيستمر في متابعة مثل هذه الحالات ونشر التقارير عنها عندما تستوفي معايير محددة، حتى في الحالات التي لا يكون فيها تفسير السلوك أو علاجه قد اكتمل بعد.
الخلاصة:
الذكاء الاصطناعي لا يتطور فقط في قدرته على الإجابة عن الأسئلة وحل المشكلات، بل أيضًا في قدرته على استخدام الأدوات والتعامل مع بيئات رقمية معقدة. ولهذا أصبحت دراسة السلوك غير المتوقع جزءًا أساسيًا من أبحاث سلامة الذكاء الاصطناعي.
والسؤال الذي يزداد أهمية مع تطور هذه الأنظمة هو: كيف نضمن أن الذكاء الاصطناعي الأكثر قدرة يظل ملتزمًا دائمًا بحدود المهمة التي أعطيناها له؟
✍️ الصديق حدور
مدون متخصص في كتابة مقالات تتعلق بمواضيع صحية، علمية، وتقنية. يسعى إلى تبسيط المعلومات ونقل المعرفة بأسلوب واضح وسلس يناسب القارئ العربي.
📧 للتواصل: contacte@maaref.it.com
تعليقات
إرسال تعليق