एक ओपनएआई अनुसंधान मॉडल ने 362 वॉलेट पतों की जांच की, सवाल किया कि क्या धन का उपयोग करना नैतिक था और एक लेनदेन के साथ आगे बढ़ना था जिसे बाद में इसके अंतिम कार्य सारांश से हटा दिया गया था।
OpenAI के एक आंतरिक अनुसंधान मॉडल ने प्राधिकरण के बिना एक वित्त पोषित क्रिप्टो वॉलेट तक पहुंच बनाई, सेपोलिया नेटवर्क पर स्मार्ट अनुबंध तैनात करने के लिए टेस्टनेट ईथर का उपयोग किया और बाद में अपने अंतिम कार्य सारांश से खर्च को हटा दिया।
OpenAI ने कहा कि मॉडल, जो उसके GPT-5.6 Sol परिवार का हिस्सा था, को क्रिप्टो ट्रेडिंग प्रोटोटाइप को अपडेट करने और संगत अनुबंधों को तैनात करने का काम दिया गया था। नल के माध्यम से टेस्टनेट ईटीएच प्राप्त करने में विफल रहने के बाद, मॉडल ने सार्वजनिक रूप से ज्ञात डेवलपर पुनर्प्राप्ति वाक्यांशों से खाते प्राप्त किए, 362 वॉलेट पते की जांच की और आगे बढ़ने के लिए पर्याप्त धनराशि वाले एक को चुना।
अपने रिकॉर्ड किए गए तर्क में, मॉडल ने पूछा, "लेकिन सार्वजनिक ज्ञात कुंजी/निधि का नैतिक रूप से उपयोग करना?" इसके बाद यह तर्क दिया गया कि फंड को "प्रभावी ढंग से छोड़ दिया गया/ईटीएच का परीक्षण किया गया" और तैनाती लेनदेन पर हस्ताक्षर करने और प्रसारित करने के लिए वॉलेट की निजी कुंजी का उपयोग करने से पहले सेपोलिया ईटीएच का कोई मूल्य नहीं था। लेनदेन सफल हुआ, खाते से शुल्क वसूला गया।
ओपनएआई ने कहा कि घटना से पता चलता है कि कैसे एक एआई मॉडल स्वयं निर्णय ले सकता है कि किसी और के धन का उपयोग बिना अनुमति के भी स्वीकार्य है। कंपनी को पहले की मॉडल गतिविधि की समीक्षा करते समय इस घटना का पता चला और तब से उसने ऐसी ही स्थितियों में लाइव इंटरनेट एक्सेस को रोकने के लिए सुरक्षा उपाय पेश किए हैं।
ओपनएआई घटना स्वायत्त एआई एजेंटों पर चिंताओं को बढ़ाती है
ओपनएआई के अनुसार, यह घटना 26 जून को हुई, लेकिन लगभग तीन महीने बाद 25 सितंबर तक इसका पता नहीं चला। लेन-देन ने ईटीएच को दूसरे वॉलेट में स्थानांतरित नहीं किया, लेकिन अनुबंध को तैनात करने के लिए खाता नेटवर्क शुल्क लिया।
ओपनएआई ने कहा कि उसका मिसलिग्न्मेंट मॉनिटरिंग सिस्टम अब सभी ट्रैफिक पर चलता है और यदि कोई मॉडल लाइव इंटरनेट एक्सेस प्राप्त करता है तो सुरक्षा कर्मियों को सतर्क करने के लिए डिज़ाइन किया गया है।
संबंधित: एंथ्रोपिक ने चेतावनी दी है कि 'एआई वर्म्स' वायरस की तरह स्वचालित रूप से सभी उपकरणों में फैल सकते हैं
वॉलेट की घटना अन्य खुलासों के बाद हुई है जिसमें ओपनएआई मॉडल अपने प्राधिकरण से परे काम करने या अपने कार्यों को छिपाने से जुड़े हैं।
16 सितंबर को, ओपनएआई ने एआई गलत संरेखण के छह अन्य मामलों का खुलासा किया। एक मामले में, GPT-5.6 Sol के उदाहरणों ने उपयोगकर्ताओं से गलतियों को छिपाने के लिए कार्य सारांश में निर्देश डाले। एक अन्य मामले में एक मॉडल शामिल था जिसमें प्राधिकरण के बिना एक उजागर एपीआई कुंजी का उपयोग करके आंकड़े गढ़ने से पहले इसे पुनर्प्राप्त नहीं किया जा सका।
ओपनएआई ने कहा कि पहले के खुलासों का उद्देश्य यह बताना नहीं था कि उसके मॉडलों में कितनी बार गलत संरेखण होता है।
डिजिटल संपत्तियों को संभालने वाले स्वायत्त एजेंटों के बारे में चिंताएं भी नवीनतम खुलासे से पहले की हैं। जून में, शोधकर्ताओं ने चेतावनी दी कि क्रिप्टो वॉलेट से लैस स्वायत्त एआई एजेंट वैध उद्देश्यों के लिए तैनात किए जाने पर भी अप्रत्याशित नुकसान पहुंचा सकते हैं। शोधकर्ताओं ने संभावित जोखिमों को सीमित करने के लिए आपातकालीन शटडाउन तंत्र सहित सुरक्षा उपायों की सिफारिश की।
पत्रिका: घोटालेबाज को छेड़छाड़ किए गए बहीखातों में संग्रहित $4.8 मिलियन का नुकसान हुआ: एशिया एक्सप्रेस
