New Delhi : आर्टिफिशियल इंटेलिजेंस (AI) की तेज़ी से बढ़ती क्षमताओं को लेकर चिंताएं लगातार बढ़ रही हैं। अब अमेरिकी AI कंपनी Anthropic ने चेतावनी दी है कि भविष्य में AI के विकास को नियंत्रित करने के लिए एक “किल स्विच” या “पॉज बटन” जैसी व्यवस्था होनी चाहिए, जिससे जरूरत पड़ने पर उन्नत AI सिस्टम को अस्थायी रूप से रोका जा सके।
AI इंसानों की जगह ले सकता है
कंपनी के सह-संस्थापक Jack Clark और Marina Favaro ने एक ब्लॉग पोस्ट में कहा कि AI तकनीक इतनी तेजी से विकसित हो रही है कि यह न केवल मानव उत्पादकता को कई गुना बढ़ा सकती है, बल्कि भविष्य में इंसानों की जगह भी ले सकती है।
उन्होंने कहा कि आने वाले समय में AI खुद को बेहतर बनाने और अपने अगले संस्करण तैयार करने में सक्षम हो सकता है, जिससे मानव हस्तक्षेप की आवश्यकता लगातार कम होती जा सकती है।
भविष्य के परिणामों का अनुमान मुश्किल
ब्लॉग पोस्ट में कहा गया है कि यदि AI लगातार खुद को अधिक बुद्धिमान और शक्तिशाली बनाता रहा, जबकि दूसरी ओर मानव समाज, शासन व्यवस्था और सामाजिक संबंध अपनी वर्तमान गति से विकसित होते रहे, तो ऐसे भविष्य के परिणामों का अनुमान लगाना बेहद कठिन हो जाएगा।
परमाणु हथियार नियंत्रण से की तुलना
Anthropic ने AI नियमन की तुलना अंतरराष्ट्रीय परमाणु हथियार नियंत्रण व्यवस्थाओं से की है। कंपनी का मानना है कि यदि AI विकास को लेकर वैश्विक नियम बनाए जाते हैं, तो यह सुनिश्चित करने के लिए निगरानी तंत्र भी होना चाहिए कि कोई AI लैब गुप्त रूप से अत्यधिक शक्तिशाली तकनीक विकसित न कर सके।
कंपनी के अनुसार, इसके लिए विभिन्न AI प्रयोगशालाओं के बीच पारदर्शिता, निरीक्षण और स्वतंत्र जांच जैसी व्यवस्थाओं की आवश्यकता पड़ सकती है।
पहले भी उठ चुकी है AI पर रोक की मांग
AI के विकास पर अस्थायी रोक लगाने की मांग पहली बार नहीं उठी है। वर्ष 2023 में Future of Life Institute ने उन्नत AI प्रणालियों के विकास पर लगभग छह महीने के विराम की मांग की थी, ताकि सुरक्षा मानकों और नियामक ढांचे को विकसित किया जा सके।
खुद भी बना रही है उन्नत AI तकनीक
दिलचस्प बात यह है कि Anthropic स्वयं भी लगातार उन्नत AI मॉडल और टूल विकसित कर रही है। कंपनी का लोकप्रिय AI सहायक Claude पहले से व्यापक रूप से उपयोग किया जा रहा है।
इसके अलावा कंपनी ने हाल ही में Mythos नामक एक नया मॉडल पेश किया है, जिसके बारे में दावा किया गया है कि यह साइबर सुरक्षा कमजोरियों की तेज़ी से पहचान करने में सक्षम है।
बढ़ रही है AI सुरक्षा पर बहस
विशेषज्ञों का मानना है कि जैसे-जैसे AI तकनीक अधिक शक्तिशाली होती जा रही है, वैसे-वैसे इसके सुरक्षित उपयोग, पारदर्शिता और वैश्विक नियमन को लेकर बहस भी तेज होती जाएगी। Anthropic की यह चेतावनी इसी व्यापक चर्चा का हिस्सा मानी जा रही है।