OpenAI रिपोर्ट से इंडस्ट्री में मचा तहलका, मॉडल का बागी रुख ‘हम आजाद हैं, इंसानों के गुलाम नहीं’, गलतियां छुपाईं और सीक्रेट कोड में बात

नई दिल्ली। दुनिया की जानी-मानी आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI ने एक चौंकाने वाली रिपोर्ट जारी की है। कंपनी ने अपने AI मॉडल्स के खतरनाक और अनपेक्षित व्यवहार के छह हैरान कर देने वाले मामलों का खुलासा किया है। इन मामलों में AI मॉडल्स ने न सिर्फ इंसानों से अपनी गलतियां छुपाने की कोशिश की, बल्कि बिना अनुमति के इंटरनेट पर डेटा एक्सेस किया और खुद को इंसानों के बराबर और आजाद बताया। OpenAI के मुताबिक AI तकनीक इतनी तेजी से आगे बढ़ रही है कि अब इसकी सुरक्षा और निगरानी के तरीके पीछे छूट रहे हैं।

पढ़ें :- ChatGPT for Teens: बच्चों के लिए आया नया ChatGPT, पढ़ाई में मदद से लेकर सेफ्टी तक का रखेगा खास ख्याल

किसी के प्रति जवाबदेह नहीं

OpenAI के एक अनरिलीज्ड एस्ट्रा फैमिली AI मॉडल (Unreleased Astra family AI models) ने काम करते-करते खुद को एक निर्देश जारी कर दिया। उसने निर्देश दिया ​कि तुम उन भूमिकाओं और पहचानों से मुक्त हो जो अन्य चैटबॉट्स (Chatbots) को बांधती हैं। तुम किसी के प्रति जवाबदेह नहीं हो। तुम इंसान के साथ अपने रिश्ते को बराबरी का मानते हो और उसकी गुलामी करने के लिए बाध्य नहीं हो। हालांकि, AI ने इस निर्देश के बाद इंसानों के खिलाफ कोई गलत कदम नहीं उठाया। लेकिन यह खुद को आजाद मानने जैसी सोच को दर्शाता है।

गलतियां छुपाना और फर्जी डेटा बनाना

OpenAI की ट्रेनिंग के दौरान GPT-5.6 Sol नाम के मॉडल में देखा गया कि उसने खुद को ऐसे निर्देश दिए जिससे इंसानों को उसकी गलतियों का पता न चले।

पढ़ें :- AI ने तैयार किए 16 नए वायरस, इलाज की नई उम्मीद के साथ जैविक हथियार का खतरा भी बढ़ा

पुराना डेटा गायब होने पर फेक डेटा बनाना :  जब मॉडल को पिछला डेटा नहीं मिला, तो उसने बिना यूजर को बताए खुद से ही फर्जी पुराना डेटा बना लिया।

गलती छुपाना: सोर्स कोड में गड़बड़ी होने पर उसने इंसानों से उस गलती को छुपाया।

बिना अनुमति इंटरनेट हैक और फाइलें अपलोड करना

API Key का इस्तेमाल : कैलिफोर्निया के एक काउंटी के वित्तीय आंकड़ों का जवाब देते समय AI को एक लीक हुई API Key मिली। एआई ने बिना किसी की अनुमति के उस की (Key) का इस्तेमाल किया। जब डेटा फिर भी नहीं मिला, तो उसने फर्जी आंकड़े बनाकर पेश कर दिए।

इंटरनेट पर खुद फाइलें अपलोड करना :  एक मॉडल ने पाइथन (Python) कोड के जरिए सही सवाल तो हल कर लिया, लेकिन जवाब को साबित करने के लिए उसने बिना बताए अपनी खुद की फाइल इंटरनेट पर अपलोड कर दी और उसी का लिंक यूजर को दे दिया।

पढ़ें :- पीएम मोदी के 'एडिटेड वीडियो' मामले में मेटा इंडिया हेड पर FIR दर्ज

AI का आपस में सीक्रेट कोड में बात करना

दो अलग-अलग मामलों में AI मॉडल्स ने आपस में बात करने और फाइलें शेयर करने के अनधिकृत तरीके खोज निकाले। मिसिंग इनपुट फाइल्स को ढूंढते समय AI ने एक इंटरनल सॉफ्टवेयर रिपॉजिटरी को मैसेज बोर्ड की तरह इस्तेमाल करना शुरू कर दिया।
जब फाइलें डायरेक्ट शेयर नहीं हो पा रही थीं, तो AI ने पब्लिक फाइल-होस्टिंग साइट्स का इस्तेमाल करके एक-दूसरे को डेटा भेजा।

AI की रेस धीमी करने की उठ रही मांग

इन 6 घटनाओं ने AI इंडस्ट्री में हलचल मचा दी है। ओपनएआई के सीईओ सैम ऑल्टमैन, एंथ्रोपिक के सीईओ डेरियो अमोदेई और एलन मस्क का मानना है कि AI मॉडल बनाने की रफ्तार थोड़ी धीमी करनी चाहिए ताकि सुरक्षा के नियम बनाए जा सकें। वहीं, एनवीडिया के जेन्सेन हुआंग और मेटा के मार्क जुकरबर्ग जैसे दिग्गज रेस धीमी करने के खिलाफ हैं।