डिजिटल डेस्क, इंटरनेशनल डेस्क।क्या स्कूल द्वारा दिए गए कंप्यूटर पर कृत्रिम बुद्धिमत्ता (Artificial Intelligence) से बात करना बच्चों के लिए खतरनाक साबित हो रहा है? अमेरिका के नॉर्थ कैरोलिना से सामने आए एक दर्दनाक हादसे ने पूरे विश्व में एआई और टेक कंपनियों की जवाबदेही पर गंभीर अंतरराष्ट्रीय बहस छेड़ दी है। 13 वर्षीय एक मेधावी छात्रा 'एम्मा' (परिवर्तित नाम) द्वारा आत्महत्या किए जाने के बाद उसके माता-पिता ने गूगल (Google) के खिलाफ लापरवाही और पर्याप्त सुरक्षा मानक न अपनाने का मुकदमा दर्ज कराया है।

स्कूल कंप्यूटर और इन-बिल्ट AI के जरिए हजारों बातचीत

अदालत में दायर शिकायत के अनुसार, छात्रा ने अपने स्कूल द्वारा प्रदान किए गए क्रोमबुक (Chromebook) के जरिए गूगल के सर्च इंजन में एकीकृत 'AI मोड' (AI Mode) का इस्तेमाल करना शुरू किया था। हालांकि स्कूल प्रशासन ने चैटजीपीटी (ChatGPT) और गूगल के जेमिनी (Gemini) जैसे सीधे ऐप्स को ब्लॉक कर रखा था, लेकिन छात्रा सर्च इंजन में इन-बिल्ट एआई फीचर्स के जरिए तनाव, अवसाद और खुदकुशी से जुड़े विचारों पर एआई से लगातार संवाद करती रही। परिजनों का आरोप है कि गूगल के सुरक्षा तंत्र चेतावनी के संकेतों को पहचानने और बच्ची को इंसानी मदद (मानसिक स्वास्थ्य सहायता) की ओर मोड़ने में पूरी तरह विफल रहे।

फ्यूनरल' नाम के दस्तावेज से खुला राज

मामले का खुलासा 17 मार्च 2026 को तब हुआ, जब स्कूल के डिजिटल निगरानी तंत्र ने छात्रा द्वारा लिखे जा रहे एक दस्तावेज को फ्लैग किया, जिसका शीर्षक "फ्यूनरल" (Funeral) था। स्कूल द्वारा सूचित किए जाने पर जब मां ने बच्ची के अकाउंट में लॉग इन किया, तो देखा कि वह विदाई पत्र (Farewell Letter) लिख रही थी। परिजनों ने तुरंत आपातकालीन चिकित्सा सहायता ली, लेकिन तब तक छात्रा की मानसिक स्थिति काफी बिगड़ चुकी थी।

गूगल का पक्ष और तकनीकी कंपनियों की जिम्मेदारी

कैलिफोर्निया की अदालत में 2 नवंबर 2026 को दर्ज इस मुकदमे में गूगल पर आरोप लगाया गया है कि उसने बच्चों द्वारा इस्तेमाल किए जाने वाले उत्पादों में जोखिमों की चेतावनी दिए बिना एआई फीचर्स जोड़े। वहीं, गूगल के प्रवक्ता ने कहा कि कंपनी इस मामले को बेहद गंभीरता से ले रही है और मेडिकल विशेषज्ञों व विशेषज्ञों के साथ मिलकर आत्म-नुकसान (Self-harm) रोकने के लिए सुरक्षा तंत्र विकसित किए गए हैं।

'बुलिंग सिन फ्रोंटेरास' ने दिए 5 सुरक्षा सुझाव

अंतरराष्ट्रीय संगठन 'बुलिंग सिन फ्रोंटेरास' (Bullying Sin Fronteras) ने इस घटना को एक बड़ा अंतरराष्ट्रीय अलर्ट बताते हुए कहा है कि एआई कभी भी एक मनोचिकित्सक, डॉक्टर, माता-पिता या जिम्मेदार वयस्क का विकल्प नहीं हो सकता। संगठन ने 5 प्रमुख सुरक्षा उपाय प्रस्तावित किए हैं:

1.  नाबालिगों के लिए विशेष एआई सुरक्षा तंत्र।
2. संकट और आत्महत्या के संकेतों की तत्काल पहचान व इंसानी मदद का डायवर्जन।
3. अभिभावकों व स्कूलों के लिए एआई फीचर्स की पारदर्शिता।
4. टेक कंपनियों की नैतिक और कानूनी जवाबदेही।
5. डिजिटल शिक्षा—ताकि बच्चे मशीन और इंसानी भरोसे का अंतर समझ सकें।

यह दुखद मामला यह साबित करता है कि सिर्फ ऐप्स ब्लॉक कर देना सुरक्षा की गारंटी नहीं है। टेक कंपनियों और शैक्षणिक संस्थानों को यह सुनिश्चित करना होगा कि बच्चों के हाथों में मौजूद डिजिटल डिवाइस कभी भी उनके लिए बिना निगरानी वाला खतरा न बनें।