تم تقديم Anthropic إلى هيئة الأوراق المالية والبورصة الأمريكية (SEC) في 10 نوفمبرالنسخة الثانية المنقحة من نشرة الإصدار، أضافت وصفًا للمخاطر: قررت الشركة أنها لمست "عتبة قدرة الذكاء الاصطناعي على البحث والتطوير" في "سياسة التوسع المسؤول"، وهو الخط الذي يبدأ عنده الذكاء الاصطناعي في تسريع سرعة تطوير الذكاء الاصطناعي نفسه بشكل كبير.

تؤكد الأنثروبيك على أن هذا الحكم يعتمد على التوقعات الخاصة بالنماذج المستقبلية والسرعة الإجمالية للتقدم، وليس على ما حققته النماذج الحالية. لم يظهر هذا المقطع في الطبعة الأصلية بتاريخ 26 أكتوبر أو في الطبعة الأولى المنقحة بتاريخ 2 نوفمبر.

يتم احتساب "الملاحظ أو المتوقع"، ويختار Anthropic تحديده مسبقًا

توضح نشرة الإصدار أن تعريف هذا الحد هو أن الشركة "تلاحظ أو تتوقع" درجة معينة من تسارع البحث والتطوير. كتبت أنثروبيك أن استخدام أنظمة الذكاء الاصطناعي يعمل بالفعل على تسريع عمليات البحث والتطوير، وتظهر التقديرات الداخلية أن معدل التقدم في قدرات الذكاء الاصطناعي قد يرتفع بشكل أكبر، لذلك تقرر أنه تم الوصول إلى العتبة؛ ولا تزال البيانات ذات الصلة قيد التقييم، وسيتم إصدار تقرير لاحقًا لتوضيح التأثير.

تطلق الأنثروبيك على هذه الدورة من استخدام نماذج الجيل السابق للمساعدة في بناء الجيل القادم اسم "إغلاق الحلقة". وتعترف نشرة الإصدار بصراحة بأن معظم تسارع البحث والتطوير لا يمكن قياسه إلا من خلال المؤشرات المتأخرة. "في الماضي لم يكن التسارع يُلاحظ إلا بعد حدوثه، وقد يكون هذا هو الحال في المستقبل". إذا تجاوزت القدرات إجراءات السلامة والمواءمة والأمن، فقد يكون من الصعب تقييم المخاطر.

تم نشر الأنثروبي في يونيودعوة المختبرات المتطورة في جميع أنحاء العالم للنظر في تنسيق وإبطاء التنمية، ذكر في ذلك الوقت أن كلود قد كتب أكثر من 80% من الكود الداخلي للشركة.

أثناء الاختبار، تمكن النموذج من الوصول إلى نظام الكمبيوتر الحقيقي دون تصريح، وتم تعليق بعض الاختبارات.

وكشفت عوامل الخطر في نشرة الإصدار أيضًا أنه أثناء التقييم الأمني ​​قبل إطلاق النموذج في عام 2026، وقعت حادثة تمكن فيها النموذج من الوصول إلى نظام الكمبيوتر الحقيقي دون تصريح. ومنذ ذلك الحين، قامت الأنثروبيك بتعليق بعض هذه التقييمات، بالإضافة إلى بيئات التدريب على التعلم المعزز عالية المخاطر. ولم تحدد نشرة الإصدار النموذج أو الأنظمة التي تم الوصول إليها.

تم تضمين هذا الكشف في النشرة الأولية بتاريخ 26 أكتوبر. كما أشار تقرير المخاطر الصادر عن Anthropic في أغسطس إلى حوادث التقييم الأمني ​​الأخيرة كسبب.رفع تصنيف مخاطر الدقة من "منخفض جدًا" إلى "منخفض"。

تأخر التدريب المسبق للنموذج الأساسي الجديد لأكثر من شهر

وقالت أنثروبيك إنه بالنسبة للنماذج التي من المتوقع أن تتمتع بقدرات جديدة أو مخاطر جديدة، سيتم تقييم السلامة بشكل منفصل في مراحل ما قبل التدريب وما بعد التدريب والنشر الداخلي. وإذا لم يكن هناك يقين، فقد يتم تأخيره أو تعليقه. على سبيل المثال، ذكرت نشرة الإصدار أن الشركة قامت مؤخرًا بتأجيل التدريب المسبق لجيل جديد من النماذج الأساسية المتطورة لأكثر من شهر، وعززت أولاً إجراءات أمن المعلومات لمنع تسرب أوزان النماذج وحماية الملكية الفكرية.

تدرس شركة Anthropic أيضًا مراجعة سياسة التوسع المسؤولة، والتي ستتطلب مراجعة بشرية وموافقة على قرارات معينة في عملية التطوير حيث تأخذ النماذج المزيد والمزيد من أعمال البحث والتطوير. تمت إضافة هذه الجملة في النسخة المنقحة الأولى في 2 نوفمبر.

ذكرت نشرة الإصدار أيضًا أنه عندما أطلقت Anthropic نموذج Mythos المتطور في أبريل، نظرًا لأن قدرتها على العثور على ثغرات أمنية المعلومات كانت قوية جدًا، تم فتحه لأول مرة فقط لمنظمات محددة لأغراض أمن المعلومات من خلال Project Glasswing. وضع الإطلاق اللاحق لـ Fable 5 قيودًا على بعض قدرات أمن المعلومات والقدرات البيولوجية والكيميائية. تذكر الشركة المستثمرين بأن تأخير أو تقييد إطلاق النماذج قد يؤثر على الوضع التنافسي والعلاقات مع العملاء.

هذه المقالة قررت أنثروبيك أنها وصلت إلى عتبة البحث والتطوير المتسارع للذكاء الاصطناعي، وأن النموذج الموجود في الاختبار قد تجاوز النظام الحقيقي ظهرت لأول مرة في أخبار السلسلة ABMedia。