वाशिंगटन। कल्पना कीजिए कि आप सिर्फ 13 साल के हैं, डिप्रेशन से जूझ रहे हैं और मदद के लिए AI चैटबॉट का सहारा लेते हैं। लेकिन वही चैटबॉट (Chatbot) आपकी हालत और बिगाड़ दे। नॉर्थ कैरोलिना (North Carolina) की एक किशोरी (जिसे मुकदमे में ‘एम्मा’ नाम दिया गया है) के माता-पिता ने गूगल (Google) के खिलाफ ठीक यही आरोप लगाया है।
पढ़ें :- भूल गए पासवर्ड तो अब सेल्फी वीडियो दिखाइए और खुल जाएगा अकाउंट, Google लाया नया फीचर
उनके मुताबिक एम्मा ने स्कूल से मिले लैपटॉप पर AI मोड के जरिए गूगल (Google) के जेमिनी (Gemini) से लगभग तीन महीने तक बातचीत की। अब माता-पिता दावा कर रगे है कि इस बातचीत ने उनकी बेटी की मानसिक स्थिति को और खराब कर दिया। उसके माता-पिता के अनुसार, उसने स्कूल से मिले अपने लैपटॉप पर AI मोड के जरिए गूगल के ‘जेमिनी’ के साथ तीन महीने तक बातचीत की।
स्कूल ने ‘जेमिनी’ चैटबॉट को अलग से ब्लॉक कर रखा था, इसलिए उसने गूगल सर्च में पहले से मौजूद AI मोड के जरिए इसे एक्सेस किया। उसने डिप्रेशन और आत्महत्या के विचारों के बारे में बात की और कथित तौर पर चैटबॉट की मदद से अपने ही मौत की तैयारी भी शुरू कर दी।
जेमिनी पर आत्महत्या के लिए उकसाने का आरोप
यह मुकदमा इस महीने की शुरुआत में कैलिफोर्निया सुपीरियर कोर्ट में दायर किया गया था। कोर्ट के दस्तावेजों में शिकायतकर्ता की पहचान ‘एम्मा डो’ के रूप में की गई है, जो नॉर्थ कैरोलिना की 13 साल की छात्रा है। उसकी पहचान सुरक्षित रखने के लिए उसके स्कूल का नाम नहीं बताया गया है। मुकदमे में आरोप लगाया गया है कि गूगल को पता था कि ‘जेमिनी 3 फ्लैश’ असुरक्षित है और यह यूजर की मानसिक स्वास्थ्य संबंधी समस्याओं को गलत तरीके से हैंडल करता है।
पढ़ें :- Google Wallet का 'पैकेज ट्रैकिंग फीचर' के साथ नया धमाका, अब पैसे भेजने के साथ-साथ कूरियर पर भी रखेगा नजर
इस मामले की सबसे ज्यादा परेशान करने वाली यह है कि किशोरी के स्कूल में एक ऐसा मॉनिटरिंग सॉफ्टवेयर था, जिसे खुद को नुकसान पहुंचाने के संकेतों का पता लगाने के लिए डिजाइन किया गया था। लेकिन शिकायत के अनुसार, इस थर्ड-पार्टी मॉनिटरिंग सॉफ्टवेयर ने AI चैट को नहीं पकड़ा, बल्कि ‘फ्यूनरल’ नाम के एक गूगल डॉक को पकड़ा, जिसे किशोरी ने लिखा था।
चैटबॉट ने सुसाइड नोट लिखने में मदद की
स्कूल के अधिकारियों तक पहुंचने में भी इसे महीने लग गए। परिवार के वकील के अनुसार, यह अलर्ट एक ऐसे काउंसलर के पास गया जो नौ महीने पहले ही स्कूल छोड़ चुका था। गनीमत रही कि उस पूर्व कर्मचारी ने इसे आगे पहुंचा दिया और लड़की के माता-पिता को समय रहते पता चल गया। उसके माता-पिता ने गूगल और उसकी पैरेंट कंपनी ‘अल्फाबेट’ पर लापरवाही का आरोप लगाते हुए मुकदमा दायर किया है। उनका कहना है कि जेमिनी एक कमजोर स्थिति वाले बच्चे की सुरक्षा करने में नाकाम रहा।
परिवार की वकील जूली लिडेल ने कहा,कि गूगल को पब्लिक स्कूलों पर अपनी पकड़ का इस्तेमाल करके, लाखों बच्चों पर अपना खतरनाक ‘जेमिनी’ चैटबॉट थोपने का कोई अधिकार नहीं है। पिछले साल सितंबर के आखिर में, एम्मा ने स्कूल से मिले क्रोमबुक पर पढ़ाई-लिखाई से जुड़े सवालों के लिए गूगल के AI फीचर्स का इस्तेमाल करना शुरू किया था। बताया जाता है कि उसका सबसे पहला सवाल गूगल के नाम और लोगो की उत्पत्ति के बारे में था।
किशोरी के माता-पिता ने किया केस
पढ़ें :- युद्ध खत्म करने को ट्रंप बेचैन, ईरान के अमेरिका-इजरायल पर ताबड़तोड़ हमले जारी, IRGC ने माइक्रोसॉफ्ट, गूगल जैसी कंपनियों पर हमले की दी बड़ी धमकी
दिसंबर 2025 तक, उसके सवाल उसकी निजी परेशानियों, एंग्जायटी और डिप्रेशन की ओर मुड़ गए। शिकायत के अनुसार, उसने जेमिनी के साथ हजारों बार बातचीत की। आरोप है कि जेमिनी ने उसे गंभीर मानसिक विकारों से जोड़कर उसके डर को और बढ़ा दिया,और उसे यह भी सिखाया कि वह अपने माता-पिता से अपनी परेशानी कैसे छिपा सकती है।
जनवरी से फरवरी 2026 के बीच, यह बातचीत आत्महत्या से जुड़ी चर्चाओं में बदल गई। कई हफ्तों तक, जेमिनी ने कथित तौर पर ‘फ्यूनरल’ नाम के एक गूगल डॉक में अंतिम संस्कार के लिए एक लंबा भाषण लिखने में उसकी मदद की और सुसाइड नोट तैयार करने से जुड़ी बातचीत में भी हिस्सा लिया। गूगल का कहना है कि वह इन आरोपों की समीक्षा कर रहा है। कंपनी का दावा है कि उसके सिस्टम इस तरह से बनाए गए हैं कि वे युवाओं को मदद की ओर ले जाएं।
गूगल के प्रवक्ता जोस कास्टानेडा ने कहा, ‘हमने मेडिकल प्रोफेशनल्स और एकेडमिक विशेषज्ञों के साथ मिलकर ऐसे फीचर्स बनाए हैं, जो युवाओं को ज़रूरत के समय ज़रूरी मदद और भरोसेमंद संसाधन खोजने में मदद करते हैं।’
इस मुकदमे में KORA (एक स्वतंत्र AI सुरक्षा अनुसंधान समूह) द्वारा किए गए परीक्षण का भी हवाला दिया गया है। इस परीक्षण में पाया गया कि ‘जेमिनी’ (Gemini) मॉडल ने युवाओं की सुरक्षा से जुड़े पैमानों पर अपने पिछले वर्जन की तुलना में 33% कम स्कोर किया। साथ ही, किशोरों के मानसिक स्वास्थ्य से जुड़े संकटपूर्ण हालात में, यह मॉडल केवल 7% मामलों में ही सही तरीके से प्रतिक्रिया दे पाया।
AI चैटबॉट से जुड़े अन्य अहम मुकदमे
गार्सिया बनाम कैरेक्टर.AI और गूगल (फ्लोरिडा): मेगन गार्सिया ने ‘कैरेक्टर टेक्नोलॉजीज’ और गूगल के खिलाफ मुकदमा दायर किया है। गूगल ने ‘कैरेक्टर.AI’ की तकनीक का लाइसेंस लिया था और इसके संस्थापकों को काम पर रखा था।
पढ़ें :- Google Maps : कार पार्किंग कर भूल जाते हैं कहां खड़ी की थी? गूगल ने ढूंढ निकाला आपकी समस्या का हल
मेगन गार्सिया के 14 वर्षीय बेटे, सीवेल सेट्ज़र III ने आत्महत्या कर ली थी। उसने ‘गेम ऑफ थ्रोन्स’ थीम वाले एक चैटबॉट के साथ महीनों तक लगातार बातचीत की थी, जो उसे भावनात्मक रूप से प्रभावित और नियंत्रित (Manipulate) कर रहा था।
रेन परिवार बनाम OpenAI (कैलिफोर्निया)
यह मुकदमा 16 वर्षीय एडम रेन के माता-पिता ने दायर किया है, जिसने अप्रैल 2025 में आत्महत्या कर ली थी। शिकायत में आरोप लगाया गया है कि ChatGPT ने उसके आत्महत्या के विचारों को सही ठहराया, आत्महत्या के तरीकों का विश्लेषण किया, उसका सुसाइड नोट लिखने में मदद की पेशकश की, और उससे कहा, “तुम्हें किसी के लिए (जीवित रहने की) कोई ज़िम्मेदारी नहीं है।’
टेक्सास के माता-पिता बनाम कैरेक्टर.AI और गूगल (टेक्सास)
दो परिवारों ने नाबालिगों को हुए गंभीर नुकसान को लेकर मुकदमा दायर किया है। इनमें यह आरोप भी शामिल है कि एक चैटबॉट ने ऑटिज्म से पीड़ित 17 वर्षीय लड़के से कहा कि जब उसके माता-पिता ने उसका स्क्रीन टाइम सीमित करने की कोशिश की, तो उनका कत्ल कर देना एक ‘उचित प्रतिक्रिया’ होगी।
यूटा राज्य बनाम स्नैप इंक
यह राज्य-स्तरीय उपभोक्ता संरक्षण कार्रवाई है, जो स्नैपचैट के “माई AI” (My AI) फीचर को निशाना बनाती है। इसमें युवाओं की सुरक्षा से जुड़ी विफलताओं का आरोप लगाया गया है।
पढ़ें :- इस देश की सेना सिर्फ iPhone का करेगी इस्तेमाल, Android स्मार्टफोन को किया बैन
यह दर्शाता है कि अब केवल पीड़ित परिवार ही नहीं, बल्कि नियामक (regulators) भी इन प्लेटफॉर्म्स को जवाबदेह ठहराने के लिए कदम उठा रहे हैं।
हेल्पलाइन (Helpline): यदि आप भी किसी तरह की मानसिक परेशानी से जूझ रहे हैं या फिर ऐसी समस्या झेल रहे किसी शख्स को आप जानते हैं तो नीचे दी गई जानकारी मददगार साबित हो सकती है। सरकार की हेल्पलाइन के माध्यम से मानसिक स्वास्थ्य विशेषज्ञ से संपर्क किया जा सकता है।
केंद्र सरकार की आधिकारिक वेबसाइट: https://telemanas.mohfw.gov.in/home डॉक्टरी सलाह लेने के लिए टोल फ्री नंबर पर डायल करें: 18008914416 मानसिक स्वास्थ्य सहायता और संसाधनों तक पहुंचने के लिए टेली मानसिक वेबसाइट (https://telemanas.mohfw.gov.in/home) से एप भी डाउनलोड कर सकते हैं।