एंथ्रोपिक ने 10 नवंबर को अमेरिकी प्रतिभूति और विनिमय आयोग (एसईसी) को प्रस्तुत कियाप्रॉस्पेक्टस का दूसरा संशोधित संस्करण, एक जोखिम विवरण जोड़ा गया: कंपनी ने निर्धारित किया है कि उसने अपनी "जिम्मेदार स्केलिंग नीति" में "एआई आर एंड डी क्षमता सीमा" को छू लिया है, जो वह रेखा है जिस पर एआई स्वयं एआई के विकास की गति को काफी तेज करना शुरू कर देता है।

एन्थ्रोपिक इस बात पर जोर देता है कि यह निर्णय भविष्य के मॉडलों की अपेक्षाओं और प्रगति की समग्र गति पर आधारित है, न कि मौजूदा मॉडलों ने क्या हासिल किया है। यह परिच्छेद 26 अक्टूबर के मूल संस्करण या 2 नवंबर के पहले संशोधित संस्करण में दिखाई नहीं दिया।

"अवलोकित या अपेक्षित" मायने रखता है, एंथ्रोपिक इसे पहले से पहचानने का विकल्प चुनता है

प्रॉस्पेक्टस बताता है कि इस सीमा की परिभाषा यह है कि कंपनी एक निश्चित डिग्री के अनुसंधान एवं विकास त्वरण का "अवलोकन या अनुमान" करती है। एंथ्रोपिक ने लिखा है कि एआई सिस्टम का उपयोग पहले से ही इसके अनुसंधान और विकास को तेज कर रहा है, और आंतरिक अनुमान बताते हैं कि एआई क्षमताओं में प्रगति की दर और बढ़ सकती है, इसलिए यह निर्धारित किया जाता है कि सीमा तक पहुंच गया है; प्रासंगिक डेटा का अभी भी मूल्यांकन किया जा रहा है, और प्रभाव को दर्शाने के लिए बाद में एक रिपोर्ट जारी की जाएगी।

एंथ्रोपिक अगली पीढ़ी के निर्माण में मदद के लिए पिछली पीढ़ी के मॉडल का उपयोग करने के इस चक्र को "लूप को बंद करना" कहता है। प्रॉस्पेक्टस स्पष्ट रूप से स्वीकार करता है कि अधिकांश आर एंड डी त्वरण को केवल पिछड़े संकेतकों द्वारा मापा जा सकता है। "अतीत में, इसके घटित होने के बाद तक त्वरण पर ध्यान नहीं दिया गया था, और भविष्य में भी ऐसा ही हो सकता है।" यदि क्षमताएं सुरक्षा, संरेखण और सुरक्षा उपायों से आगे निकल जाती हैं, तो जोखिमों का आकलन करना अधिक कठिन हो सकता है।

एंथ्रोपिक जून में पोस्ट किया गयासमन्वय और विकास को धीमा करने पर विचार करने के लिए दुनिया भर की अत्याधुनिक प्रयोगशालाओं को बुलाएँ, उस समय उल्लेख किया गया था कि क्लाउड ने कंपनी के 80% से अधिक आंतरिक कोड लिखे थे।

परीक्षण के दौरान मॉडल ने प्राधिकरण के बिना वास्तविक कंप्यूटर सिस्टम तक पहुंच बनाई, और कुछ परीक्षण निलंबित कर दिए गए।

प्रॉस्पेक्टस में जोखिम कारकों से यह भी पता चला कि 2026 में मॉडल लॉन्च होने से पहले सुरक्षा मूल्यांकन के दौरान, एक घटना हुई थी जिसमें मॉडल ने प्राधिकरण के बिना वास्तविक कंप्यूटर सिस्टम तक पहुंच प्राप्त की थी। एंथ्रोपिक ने तब से इनमें से कुछ आकलन, साथ ही उच्च जोखिम वाले सुदृढीकरण सीखने के प्रशिक्षण वातावरण को निलंबित कर दिया है। प्रॉस्पेक्टस में यह निर्दिष्ट नहीं किया गया कि किस मॉडल या किन प्रणालियों तक पहुंच बनाई गई थी।

इस रहस्योद्घाटन को 26 अक्टूबर को प्रारंभिक प्रॉस्पेक्टस में शामिल किया गया था। अगस्त में एंथ्रोपिक द्वारा जारी जोखिम रिपोर्ट में हालिया सुरक्षा मूल्यांकन घटनाओं को भी कारण बताया गया था।सटीकता जोखिम रेटिंग को "बहुत कम" से बढ़ाकर "कम" करें。

नए बुनियादी मॉडल के पूर्व-प्रशिक्षण में एक महीने से अधिक की देरी हुई

एंथ्रोपिक ने कहा कि जिन मॉडलों में नई क्षमताएं या नए जोखिम होने की उम्मीद है, उनके लिए पूर्व-प्रशिक्षण, प्रशिक्षण के बाद और आंतरिक तैनाती चरणों में सुरक्षा का अलग-अलग मूल्यांकन किया जाएगा। यदि कोई निश्चितता नहीं है तो इसमें देरी हो सकती है या इसे निलंबित किया जा सकता है। उदाहरण के लिए, प्रॉस्पेक्टस में कहा गया है कि कंपनी ने हाल ही में अत्याधुनिक बुनियादी मॉडलों की नई पीढ़ी के पूर्व-प्रशिक्षण को एक महीने से अधिक समय के लिए स्थगित कर दिया है, और सबसे पहले मॉडल वजन के रिसाव को रोकने और बौद्धिक संपदा की रक्षा के लिए सूचना सुरक्षा उपायों को मजबूत किया है।

एंथ्रोपिक अपनी जिम्मेदार स्केलिंग नीति को संशोधित करने पर भी विचार कर रहा है, जिसके लिए विकास प्रक्रिया में कुछ निर्णयों की मानव समीक्षा और अनुमोदन की आवश्यकता होगी क्योंकि मॉडल अधिक से अधिक अनुसंधान और विकास कार्य करते हैं। यह वाक्य 2 नवंबर को पहले संशोधित संस्करण में जोड़ा गया था।

प्रॉस्पेक्टस में यह भी उल्लेख किया गया है कि जब एंथ्रोपिक ने अप्रैल में अत्याधुनिक मॉडल मिथोस लॉन्च किया था, क्योंकि सूचना सुरक्षा कमजोरियों को खोजने की इसकी क्षमता बहुत मजबूत थी, तो इसे पहले प्रोजेक्ट ग्लासविंग के माध्यम से सूचना सुरक्षा उद्देश्यों के लिए केवल विशिष्ट संगठनों के लिए खोला गया था। फ़ेबल 5 के बाद के लॉन्च ने कुछ सूचना सुरक्षा, जैविक और रासायनिक क्षमताओं पर प्रतिबंध लगा दिए। कंपनी निवेशकों को याद दिलाती है कि मॉडल लॉन्च में देरी या सीमित करने से प्रतिस्पर्धी स्थिति और ग्राहक संबंध प्रभावित हो सकते हैं।

यह लेख एंथ्रोपिक ने निर्धारित किया है कि यह एआई त्वरित अनुसंधान और विकास सीमा तक पहुंच गया है, और परीक्षण में मॉडल ने वास्तविक प्रणाली में अतिक्रमण किया है में पहली बार दिखाई दिया चेन न्यूज़ एबीमीडिया。