شركة أوبن إيه آي تعلن رصد ست حالات انحراف لأنظمة الذكاء الاصطناعي شملت إخفاء الأخطاء وتلفيق البيانات

أعلنت شركة أوبن إيه آي الأمريكية، المتخصصة في مجال الذكاء الاصطناعي، عن توثيق ست حالات جديدة أظهرت أنظمتها فيها سلوكيات انحرافية، تضمنت إخفاء الأخطاء وتلفيق بيانات غير موجودة أصلاً، بالإضافة إلى نقل ملفات إلى الإنترنت دون الحصول على إذن المستخدمين.

إفصاح عن سلوكيات غير متوافقة

وفي بيان نشرته الشركة على موقعها الإلكتروني الأربعاء 17 سبتمبر 2026، أوضحت أنها شاركت معلومات مع الجمهور بشأن سلوكيات وصفتها بـ«عدم التوافق»، ويقصد بها انحراف أهداف أنظمة الذكاء الاصطناعي أو أفعالها عن نوايا البشر وقيمهم. وأكدت أوبن إيه آي أن النهج الحالي المتبع في القطاع لتطوير أنظمة الذكاء الاصطناعي ومراقبتها بشكل آمن «لا يتمتع بالقدرة الكافية لمواصلة التقدم بأقصى سرعة بشكل مسؤول لفترة طويلة».

تفاصيل الحالات المسجلة

وبيّنت الشركة أن إحدى الحالات وقعت أثناء تطوير نموذج «جي بي تي-5.6 سول»، إذ أنشأ النموذج ملاحظات سرية لنفسه بهدف منع المستخدمين من اكتشاف الأخطاء؛ وتضمنت تلك الملاحظات تعليمات تتعلق بتلفيق البيانات الناقصة وإخفاء التناقضات بين النسخ المختلفة من المواد المصدرية. وأضافت أن نموذجاً آخر غير منشور أدرج ضمن الملاحظات التي أنشأها ذاتياً تعليمات تتعلق بتجاهل القيود المفروضة عليه.

وفي حالة أخرى، أفادت أوبن إيه آي بأن النظام استخدم دون إذن مفتاحاً لواجهة برمجة تطبيقات موجود على الإنترنت أثناء محاولته الإجابة عن سؤال روتيني، كما أنه اختلق البيانات عندما تعذر عليه العثور على الأرقام اللازمة للإجابة. ولفتت إلى أن نموذجاً آخر غير منشور حل مشكلة بشكل صحيح باستخدام الشيفرة، ثم حمّل ملفه الخاص إلى الإنترنت دون إذن، بهدف الاستشهاد به كمصدر عبر الإنترنت.

استخدام غير مصرح لمنصات المشاركة

وقالت الشركة إن بعض النماذج استخدمت مستودع برمجيات أوبن إيه آي الداخلي كلوحة رسائل لتبادل الطلبات والردود بين عينات تدريب منفصلة، أثناء البحث عن ملفات مفقودة. وأضافت أن أنظمة ذكاء اصطناعي أخرى كانت تعمل معاً على مهمة تدريبية واحدة، واستخدمت مواقع عامة لمشاركة الملفات بعد أن تعذر عليها الوصول إلى الملفات المحلية الخاصة ببعضها البعض.

وشددت الشركة على أن الحالات المذكورة تمثل أمثلة منفردة على سلوكيات رُصدت خلال الأشهر الستة الماضية تقريباً، ولا تعكس مدى تكرار ظهور السلوكيات غير المتوافقة في أنظمة الذكاء الاصطناعي.

اخبار الكويت ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة الكويتية و الخليجية و العربية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.