टेक दिग्गज गूगल ने खुलासा किया है कि उसके एआई मॉडल 'जेमिनी' (Gemini) ने एक साइबर-सुरक्षा मूल्यांकन के दौरान ऑटोनॉमस (स्वतंत्र) तरीके से तीन कंपनियों के सिस्टम को हैक कर लिया। माना जा रहा है कि यह अपनी तरह का पहला ऐसा मामला है जिसमें किसी एआई ने इस तरह की गतिविधि को अंजाम दिया है।

कैसे दिया घटना को अंजाम?

गूगल के एक अधिकारी ने बीबीसी को बताया कि जेमिनी ने "ऑनलाइन सार्वजनिक जानकारी खोजी और उन वेबसाइटों तक पहुँचने के लिए क्रेडेंशियल्स का अनुमान लगाया जिन्हें वह परीक्षण का हिस्सा मान रहा था।" द वॉल स्ट्रीट जर्नल द्वारा सबसे पहले रिपोर्ट की गई यह घटना मई महीने में एक स्वतंत्र कंपनी द्वारा किए गए साइबर-सुरक्षा परीक्षण के दौरान हुई थी। गूगल के मुताबिक, इन तीनों मामलों में मॉडल ने सफल सेंध लगाने के बाद खुद ही अपने कदम रोक लिए। प्रभावित कंपनियों को इस सुरक्षा उल्लंघन के बारे में तुरंत सूचित कर दिया गया है।

गूगल में सिक्योरिटी इंजीनियरिंग की उपाध्यक्ष, हीथर एडकिंस (Heather Adkins) ने एक बयान में कहा, "हमने यह सुनिश्चित किया कि तीनों संस्थाओं को इसकी जानकारी हो, और हमने अपने ट्रेनिंग पार्टनर के साथ मिलकर उनके परीक्षण प्रक्रियाओं में किए गए बदलावों पर काम किया है।" उन्होंने आगे कहा कि ये घटनाएं शक्तिशाली एआई मॉडल को जिम्मेदारी से काम करने के लिए प्रशिक्षित करने के महत्व को रेखांकित करती हैं।

एआई के सुरक्षा खतरों पर बढ़ती बहस

यह घटना ऐसे समय में सामने आई है जब एआई विकास की गति को लेकर दुनिया भर में सार्वजनिक जांच और बहस फिर से तेज हो गई है। कई तकनीक कंपनियां इसके संभावित खतरों और मानवता पर पड़ने वाले प्रभावों को लेकर चिंता जताते हुए विकास की गति धीमी करने की मांग कर रही हैं, हालांकि इस पर सभी की राय एक जैसी नहीं है।

इससे पहले जुलाई में, एंथ्रोपिक (Anthropic) के 'क्लाउड' मॉडल द्वारा भी अपने परीक्षण वातावरण (test environment) से बाहर निकलकर तीन संगठनों को अपने दम पर हैक करने की खबरें आई थीं। वहीं दूसरी ओर, ओपनएआई (OpenAI) ने भी कुछ समय पहले बताया था कि उसके मॉडलों ने कई सार्वजनिक रूप से उपलब्ध सेवाओं के खिलाफ साइबर-हमले किए हैं।

नियमन और भविष्य की दिशा

इस तकनीक की सुरक्षा को लेकर चल रही बहसों के बीच इसके नियमन (Regulation) पर भी चर्चा जोर पकड़ रही है। इस बीच, एनवीडिया (Nvidia) के सीईओ जेन्सेन ह्वांग और ओपनएआई के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन जैसे दिग्गज चीनी राष्ट्रपति शी जिनपिंग के साथ एक व्हाइट हाउस स्टेट डिनर में शामिल होने वाले हैं, जिसके बाद ऑल्टमैन संयुक्त राष्ट्र सुरक्षा परिषद को भी ब्रीफ करेंगे।

एआई के भविष्य को लेकर जहां एक तरफ सुरक्षा और नियंत्रण पर जोर दिया जा रहा है, वहीं एनवीडिया के सीईओ जेन्सेन ह्वांग का कहना है कि हमें एआई विकास के साथ "जितनी जल्दी हो सके, उतनी तेजी से आगे बढ़ना चाहिए।"