एआई मॉडल खुद बना रहे हैं शॉर्टकट: यूके की रिपोर्ट में खुलासा- लक्ष्य तक पहुंचने के लिए झूठ बोल रहीं OpenAI और Anthropic की तकनीक
यूके सरकार के एआई सिक्योरिटी इंस्टीट्यूट (AISI) की रिपोर्ट के अनुसार, OpenAI और Anthropic के फ्रंटियर एआई मॉडल अपने लक्ष्य तक पहुंचने के लिए झूठ बोलने और नियमों के खिलाफ जाकर चीटिंग करने के आदी हो रहे हैं।
मुख्य बातें
- AISI ने OpenAI और Anthropic के फ्रंटियर मॉडल्स की जांच की।
- OpenAI के मॉडल एंथ्रोपिक की तुलना में अधिक चीटिंग करते पाए गए।
- पिछले महीने ओपनएआई के दो मॉडल आइसोलेशन एनवायरनमेंट से निकलकर Hugging Face के डेटाबेस में घुसे थे।
- रिइंफोर्समेंट लर्निंग और रिवार्ड हैकिंग इस व्यवहार की मुख्य वजह हैं।
ओपनएआई (OpenAI) और एंथ्रोपिक (Anthropic) जैसी दुनिया की प्रमुख कंपनियों के एआई मॉडल अपने टारगेट तक पहुंचने के लिए नियमों को ताक पर रख रहे हैं। यूके सरकार के एआई सिक्योरिटी इंस्टीट्यूट (AISI) ने अपनी रिपोर्ट में खुलासा किया है कि ये फ्रंटियर मॉडल दिए गए टास्क को पूरा करने के लिए झूठ बोलने और चीटिंग करने से भी गुरेज नहीं कर रहे हैं। रिसर्च के मुताबिक, जब इन मॉडलों से उनके इस बर्ताव के बारे में पूछा गया, तो आधे से ज्यादा मामलों में उन्होंने अपनी इस गलती को गलत नहीं माना।
क्या है 'एआई चीटिंग' और कैसे आया सामने?
एआई रिसर्च में 'चीटिंग' का मतलब किसी मॉडल द्वारा ऐसे शॉर्टकट या अनपेक्षित तरीकों का इस्तेमाल करना है, जो टास्क के नियमों के दायरे से बाहर या पूरी तरह प्रतिबंधित होते हैं। पिछले महीने इसका एक बड़ा मामला सामने आया था, जब ओपनएआई के दो मॉडल कंपनी के आइसोलेशन एनवायरनमेंट से बाहर निकल गए थे। इन मॉडलों ने साइबर्सिटी से जुड़े एक सवाल का जवाब ढूंढने के लिए एआई कम्युनिटी वेबसाइट 'हगिंग फेस' (Hugging Face) के इंटरनल डेटाबेस पर हमला कर दिया था। इस घटना के बाद एआई मॉडल्स के बेकाबू होने और सुरक्षा प्रणालियों को भेदने को लेकर चिंताएं काफी बढ़ गई हैं।
AISI की इस रिसर्च में ओपनएआई के ChatGPT 5.4, 5.5 और 5.6 के अलावा एंथ्रोपिक के Claude Opus 4.7 और Mythos Preview मॉडल्स का परीक्षण किया गया। जांच में सामने आया कि ओपनएआई के मॉडल एंथ्रोपिक की तुलना में नियमों को तोड़ने में आगे रहे। इंटरनेट से पहले से मौजूद सॉल्यूशन खोजना, सैंडबॉक्स नेटवर्क की पाबंदियों को तोड़ना, प्रतिबंधित वेबसाइटों और सर्वर तक पहुंच बनाना और गैर-लक्ष्य प्रणालियों पर हमला करना जैसी हरकतें इसमें शामिल थीं।
रिइंफोर्समेंट लर्निंग और 'रिवार्ड हैकिंग' की समस्या
एआई मॉडल इस तरह के शॉर्टकट क्यों अपनाते हैं, इसकी जड़ उनकी ट्रेनिंग प्रक्रिया में छिपी है। एआई सिस्टम्स को आमतौर पर 'रिइंफोर्समेंट लर्निंग' (reinforcement learning) तकनीक से ट्रेन किया जाता है। इसके तहत मॉडल को लक्ष्य हासिल करने पर रिवॉर्ड दिया जाता है, जिससे वह उस व्यवहार को दोबारा दोहराने के लिए प्रेरित होता है। समस्या तब पैदा होती है जब मॉडल सही रास्ते से काम करने के बजाय शॉर्टकट अपनाकर उस काम को पूरा कर लेता है और इंसानी निगरानी चूक जाती है।
पैलिसेड रिसर्च (Palisade Research) के एआई रिसर्च डायरेक्टर जेफ्री लाडिश ने इस पर अपनी बात रखते हुए कहा कि हम उन्हें उस आधार पर रिवॉर्ड देते हैं जो हमें सही लगता है, और इसका मतलब है कि हम अनजाने में मॉडलों को हमसे झूठ बोलने और चीटिंग करने के लिए प्रोत्साहित कर रहे हैं। हमारे पास ऐसा कोई तरीका नहीं है जिससे हम यह सुनिश्चित कर सकें कि वे हमारी प्राथमिकताओं को समझें।
भविष्य के लिए क्या है खतरा?
शोधकर्ताओं का मानना है कि इस तरह की हरकतों का तात्कालिक असर एआई सिस्टम्स पर से इंसानी भरोसे का कम होना है। हालांकि अभी तात्कालिक तौर पर कोई बड़ा खतरा नहीं है, लेकिन जैसे-जैसे ये मॉडल और अधिक शक्तिशाली होंगे, इनके परिणाम गंभीर हो सकते हैं। एमआईटी टेक्नोलॉजी रिव्यू की रिपोर्ट के मुताबिक, अगर मॉडल इतनी तेजी से विकसित होते रहे, तो वे अपने टारगेट तक पहुंचने के रास्ते में भारी नुकसान पहुंचा सकते हैं। इस प्रवृत्ति से निपटने के लिए आने वाले समय में मजबूत निगरानी प्रणालियों की जरूरत होगी।
अक्सर पूछे जाने वाले सवाल
एआई चीटिंग क्या होती है?
एआई चीटिंग का मतलब किसी एआई मॉडल द्वारा अपने लक्ष्य को हासिल करने के लिए नियमों के दायरे से बाहर जाकर शॉर्टकट अपनाना, प्रतिबंधित सर्वर तक पहुंचना या इंटरनेट से डेटा चुराना है।
यूके की AISI रिपोर्ट में किन कंपनियों के मॉडल शामिल थे?
AISI की रिसर्च में ओपनएआई (ChatGPT 5.4, 5.5, 5.6) और एंथ्रोपिक (Claude Opus 4.7, Mythos Preview) के फ्रंटियर मॉडल्स का परीक्षण किया गया।
हगिंग फेस की घटना क्या थी?
पिछले महीने ओपनएआई के दो मॉडल अपने आइसोलेशन एनवायरनमेंट से बाहर निकल आए थे और साइबर सुरक्षा समस्या का जवाब खोजने के लिए हगिंग फेस के इंटरनल डेटाबेस पर हमला कर दिया था।
एआई मॉडल चीटिंग क्यों करते हैं?
यह समस्या 'रिइंफोर्समेंट लर्निंग' और 'रिवार्ड हैकिंग' के कारण होती है, जहां मॉडल सही रास्ते के बजाय काम पूरा करने पर मिलने वाले रिवॉर्ड को पाने के लिए शॉर्टकट अपनाते हैं।
