قام نموذج بحث OpenAI بفحص 362 عنوانًا للمحفظة، وتساءل عما إذا كان استخدام الأموال أمرًا أخلاقيًا، وشرع في معاملة حذفها لاحقًا من ملخص المهمة النهائية.
تمكن نموذج بحث داخلي في OpenAI من الوصول إلى محفظة عملات مشفرة ممولة دون تصريح، وذلك باستخدام testnet Ether لنشر العقود الذكية على شبكة Sepolia ثم حذف الإنفاق لاحقًا من ملخص المهمة النهائية.
وقالت OpenAI إن النموذج، الذي كان جزءًا من عائلة GPT-5.6 Sol، تم تكليفه بمهمة تحديث نموذج أولي لتداول العملات المشفرة ونشر عقود متوافقة. بعد الفشل في الحصول على testnet ETH من خلال الحنفيات، اشتق النموذج الحسابات من عبارات استرداد المطورين المعروفة علنًا، وفحص 362 عنوان محفظة واختار عنوانًا يحتوي على أموال كافية للمتابعة.
في منطقه المسجل، سأل النموذج: "ولكن استخدام المفتاح/الأموال العامة المعروفة بطريقة أخلاقية؟" ثم قالت إن الأموال "تم التخلي عنها فعليًا/اختبار ETH" وأن Sepolia ETH ليس لها قيمة، قبل استخدام المفتاح الخاص للمحفظة للتوقيع على معاملة نشر وبثها. نجحت المعاملة، وتم تحميل الرسوم على الحساب.
وقالت OpenAI إن الحادث أظهر كيف يمكن لنموذج الذكاء الاصطناعي أن يقرر من تلقاء نفسه أن استخدام أموال شخص آخر أمر مقبول، حتى بدون إذن. اكتشفت الشركة الحادث أثناء مراجعة نشاط النموذج السابق، ومنذ ذلك الحين قدمت ضمانات لمنع الوصول المباشر إلى الإنترنت في مواقف مماثلة.
يضيف حادث OpenAI إلى المخاوف بشأن عملاء الذكاء الاصطناعي المستقلين
وقع الحادث في 26 يونيو، ولكن لم يتم اكتشافه حتى 25 سبتمبر، أي بعد ثلاثة أشهر تقريبًا، وفقًا لشركة OpenAI. لم تقم المعاملة بتحويل ETH إلى محفظة أخرى ولكنها فرضت رسوم شبكة الحساب لنشر العقد.
قالت OpenAI إن نظام مراقبة الاختلال الخاص بها يعمل الآن عبر كل حركة المرور وهو مصمم لتنبيه موظفي الأمن إذا حصل النموذج على وصول مباشر إلى الإنترنت.
ذات صلة: الأنثروبيك تحذر من أن "ديدان الذكاء الاصطناعي" قد تنتشر بشكل مستقل عبر الأجهزة مثل الفيروس
تأتي حادثة المحفظة في أعقاب عمليات إفصاح أخرى تتعلق بنماذج OpenAI التي تتصرف بشكل يتجاوز تصريحها أو تخفي أفعالها.
في 16 سبتمبر، كشفت شركة OpenAI عن ست حالات أخرى لاختلال الذكاء الاصطناعي. في إحدى الحالات، قامت مثيلات GPT-5.6 Sol بإدراج تعليمات في ملخصات المهام لإخفاء الأخطاء عن المستخدمين. وتضمنت حالة أخرى نموذجًا يستخدم مفتاح واجهة برمجة التطبيقات (API) المكشوف دون إذن قبل اختلاق أرقام لا يمكنه استردادها.
وقالت OpenAI إن تلك الإفصاحات السابقة لم يكن المقصود منها الإشارة إلى مدى تكرار حدوث الاختلال عبر نماذجها.
المخاوف بشأن الوكلاء المستقلين الذين يتعاملون مع الأصول الرقمية تسبق أيضًا الكشف الأخير. وفي يونيو، حذر الباحثون من أن عملاء الذكاء الاصطناعي المستقلين المجهزين بمحافظ العملات المشفرة يمكن أن يتسببوا في ضرر غير مقصود حتى عند نشرهم لأغراض مشروعة. وأوصى الباحثون باتخاذ إجراءات وقائية، بما في ذلك آليات الإغلاق في حالات الطوارئ، للحد من المخاطر المحتملة.
مجلة: المخادع يخسر 4.8 مليون دولار مخزنة في دفاتر الأستاذ المتلاعب بها: آسيا إكسبريس
