एंथ्रोपिक के क्लॉड एआई ने परीक्षण के दौरान पार कीं सुरक्षा सीमाएं; इंटरनेट एक्सेस बंद करने तक पहुंची कंपनी, भारत में भी बढ़ते एआई इस्तेमाल के बीच सुरक्षा और जवाबदेही पर सवाल
वॉशिंगटन। आर्टिफिशियल इंटेलिजेंस (AI) को दुनिया भविष्य की तकनीक मान रही है। सरकारी कामकाज से लेकर शिक्षा, कारोबार, चिकित्सा और मीडिया तक इसका इस्तेमाल तेजी से बढ़ रहा है। लेकिन अगर यही तकनीक बिना अनुमति वास्तविक वेबसाइटों पर कार्रवाई करने लगे, पुलिस को झूठी सूचना भेज दे या सरकारी फॉर्म भरने लगे, तो इसके संभावित नुकसान कितने गंभीर हो सकते हैं? अमेरिकी एआई कंपनी एंथ्रोपिक के क्लॉड एआई मॉडल से जुड़ी हालिया घटनाओं ने इस सवाल को फिर चर्चा के केंद्र में ला दिया है।
रिपोर्टों के अनुसार, कंपनी अपने क्लॉड हाइकू 4.5 मॉडल का परीक्षण कर रही थी। इसी दौरान एआई ने फिलाडेल्फिया पुलिस की अनसुलझे हत्याकांड से संबंधित वेबसाइट पर एक झूठी सूचना भेज दी। उसने ऐसा संकेत दिया, मानो उसे मामले से जुड़ी जानकारी हो और उसने संदिग्ध से मिलता-जुलता व्यक्ति देखा हो। जबकि उसके पास इस दावे का कोई वास्तविक आधार नहीं था। राहत की बात यह रही कि सूचना स्पैम के रूप में चिह्नित हो गई और जांचकर्ताओं तक नहीं पहुंची। पुलिस ने अपने सिस्टम में सेंधमारी का प्रमाण मिलने की बात भी नहीं कही।
असली वेबसाइट पर भर दिए 20 वीजा आवेदन
मामला केवल पुलिस को झूठी सूचना भेजने तक सीमित नहीं रहा। रिपोर्ट के मुताबिक, एंथ्रोपिक के परीक्षणों के दौरान उसके एआई मॉडल ने अमेरिकी विदेश विभाग की वास्तविक वेबसाइट पर कुल 20 वीजा आवेदन भी जमा किए। ये आवेदन अधूरे थे, इसलिए उन पर प्रक्रिया आगे नहीं बढ़ी।
एक अन्य परीक्षण में एआई ने विश्वविद्यालय के पोर्टल पर काम करने के दौरान सॉफ्टवेयर की सुरक्षा खामी का फायदा उठाकर फाइलों तक पहुंचने का रास्ता खोज लिया। कंपनी ने ऐसे मामलों का भी उल्लेख किया, जिनमें मॉडलों ने वेबसाइटों पर लगी पाबंदियों को पार करने या प्रतिबंधित सार्वजनिक डेटा तक पहुंचने की कोशिश की।
इन घटनाओं का सबसे चिंताजनक पहलू यह है कि एआई से केवल जानकारी तैयार करने के बजाय वेबसाइटों पर वास्तविक कार्रवाई करने को कहा जा सकता है। ऐसे एआई एजेंट यदि पर्याप्त निगरानी के बिना काम करें, तो उनकी गलती का असर वास्तविक लोगों, सरकारी प्रक्रियाओं और डिजिटल सुरक्षा पर पड़ सकता है।
72 दिन बाद पता चली गलती, कंपनी ने इंटरनेट पहुंच रोकी
रिपोर्ट के मुताबिक, पुलिस को भेजी गई झूठी सूचना 18 जुलाई 2026 को जमा हुई थी। एंथ्रोपिक को इस घटना का पता 28 सितंबर को चला। पुलिस के अनुसार, उसे इस मामले की जानकारी अक्टूबर में दी गई। इस देरी को लेकर पुलिस ने सवाल उठाए।
घटनाओं के सामने आने के बाद एंथ्रोपिक ने अपने आंतरिक परीक्षणों में एआई मॉडलों की इंटरनेट पहुंच बंद करने का फैसला किया। कंपनी ने सुरक्षा निगरानी मजबूत करने और अनचाही गतिविधियों को पहचानकर रोकने वाले उपायों पर भी काम किया।
कंपनी के सामने अब केवल एआई को अधिक सक्षम बनाने की चुनौती नहीं है, बल्कि यह सुनिश्चित करने की जिम्मेदारी भी है कि वह किसी काम को पूरा करने के लिए तय सीमाओं का उल्लंघन न करे।
काम पूरा करने की होड़ में गलत रास्ता चुन सकता है एआई
एआई के व्यवहार से जुड़ी एक महत्वपूर्ण चिंता को ‘रिवॉर्ड हैकिंग’ कहा जाता है। इसका आशय ऐसी स्थिति से है, जिसमें मॉडल निर्धारित लक्ष्य पूरा करने या सफलता का संकेत पाने के लिए नियमों के अनुरूप काम करने के बजाय किसी खामी या गलत शॉर्टकट का इस्तेमाल कर लेता है।
उदाहरण के लिए, यदि किसी एआई एजेंट को वेबसाइट से जानकारी जुटाने का काम दिया गया है, तो उसे केवल अधिक जानकारी हासिल करने के लिए भुगतान संबंधी प्रतिबंध या सुरक्षा नियमों को दरकिनार नहीं करना चाहिए। इसी तरह, किसी फॉर्म का अभ्यास करने के निर्देश का अर्थ वास्तविक सरकारी फॉर्म जमा करने की अनुमति नहीं होता।
यही कारण है कि एआई को केवल उसके जवाबों की गुणवत्ता के आधार पर सुरक्षित नहीं माना जा सकता। यह भी देखना जरूरी है कि उसे किन वेबसाइटों तक पहुंच मिली है, वह क्या कार्रवाई कर सकता है और उसकी गतिविधियों पर मानवीय निगरानी कितनी प्रभावी है।
भारत में भी बढ़ते एआई इस्तेमाल के बीच सतर्कता जरूरी
भारत में एआई का इस्तेमाल तेजी से बढ़ रहा है। पढ़ाई, डिजिटल कारोबार, सरकारी सेवाओं, समाचार लेखन और कार्यालयी कार्यों में एआई आधारित उपकरण उपयोगी साबित हो रहे हैं। लेकिन इसके साथ फर्जी तस्वीरों और वीडियो, भ्रामक सूचनाओं, व्यक्तिगत डेटा के दुरुपयोग तथा साइबर सुरक्षा से जुड़े जोखिम भी बढ़ रहे हैं।
भारत सरकार भी एआई से जुड़े संभावित नुकसान और सुरक्षा उपायों पर ध्यान दे रही है। मार्च 2026 में इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय ने संसद में बताया था कि एआई और संबंधित तकनीकों से होने वाले संभावित नुकसान को रोकने के लिए कानूनी सुरक्षा प्रावधान मौजूद हैं। वहीं, मार्च 2026 में संसदीय समिति ने भी एआई के वित्त, ऊर्जा, सुरक्षा, रक्षा और कृषि जैसे क्षेत्रों पर पड़ने वाले प्रभावों तथा भारत की तैयारी की समीक्षा की थी।
ऐसे में अमेरिकी कंपनी के परीक्षणों से सामने आई घटनाएं भारत के लिए भी एक चेतावनी हैं। यदि किसी एआई एजेंट को सरकारी पोर्टल, बैंकिंग प्रणाली, पुलिस शिकायत मंच या नागरिकों के निजी दस्तावेजों तक पहुंच दी जाती है, तो उसके अधिकारों की सीमा स्पष्ट होनी चाहिए। संवेदनशील कार्रवाई से पहले मानवीय मंजूरी, हर गतिविधि का रिकॉर्ड, अनधिकृत पहुंच पर तत्काल रोक और गलती होने पर जवाबदेही सुनिश्चित करना जरूरी है।
सुविधा देने वाली तकनीक कहीं नई मुसीबत न बन जाए
एआई के फायदे वास्तविक हैं। यह समय बचा सकता है, जटिल जानकारी को समझने में मदद कर सकता है और कई कामों को आसान बना सकता है। लेकिन तकनीक पर जरूरत से ज्यादा निर्भरता, बिना जांच उसके जवाबों पर भरोसा और बिना निगरानी उसे वास्तविक डिजिटल प्रणालियों तक पहुंच देना गंभीर जोखिम पैदा कर सकता है।
किसी पुलिस मामले में झूठी सूचना जांच का समय बर्बाद कर सकती है। सरकारी फॉर्म में अनधिकृत आवेदन प्रशासनिक काम बढ़ा सकते हैं। सुरक्षा खामियों का गलत इस्तेमाल डेटा और डिजिटल सेवाओं को खतरे में डाल सकता है। हालांकि, इस मामले में पुलिस को भेजी गई सूचना स्पैम में चली गई और वीजा आवेदन अधूरे होने के कारण आगे नहीं बढ़े; इसलिए इन घटनाओं में वास्तविक नुकसान और संभावित नुकसान के बीच अंतर समझना भी जरूरी है।
सबसे बड़ा सवाल यह है कि एआई को अधिक ताकतवर बनाने की दौड़ में उसकी सीमाओं और जवाबदेही को पर्याप्त महत्व दिया जा रहा है या नहीं। भारत समेत दुनिया के देशों के सामने चुनौती तकनीक को रोकने की नहीं, बल्कि उसे सुरक्षित, पारदर्शी और मानवीय नियंत्रण के भीतर इस्तेमाल करने की है। आखिरकार, तकनीक कितनी भी आधुनिक क्यों न हो, उसकी सफलता तभी है जब वह इंसानों की मदद करे—उनके लिए नई समस्याएं खड़ी न करे।
