कैलिफोर्निया/नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया जितनी तेजी से आगे बढ़ रही है, इसके खतरों को लेकर उतनी ही गंभीर चिंताएं सामने आने लगी हैं। अब एक बड़ा चौंकाने वाला बयान अमेरिकी एआई रिसर्च कंपनी Anthropic PBC की तरफ से आया है। कंपनी के को-फाउंडर्स का मानना है कि एआई के अंधाधुंध विकास को रोकने के लिए एक ‘अस्थायी लगाम’ या सीधा कहें तो एक AI Kill Switch (पॉज बटन) जैसी व्यवस्था होनी चाहिए।

पूरी दुनिया में क्लॉड (Claude) जैसे धांसू एआई असिस्टेंट के लिए जानी जाने वाली एंथ्रोपिक कंपनी के इस बयान ने टेक जगत में नई बहस छेड़ दी है।

खुद का अगला वर्जन खुद तैयार कर लेगा AI, इंसानों की जरूरत होगी खत्म!

कंपनी के को-फाउंडर जैक क्लार्क और मरिना फवारों ने एक हालिया ब्लॉक पोस्ट पब्लिश किया है। इस पोस्ट में उन्होंने एआई के भविष्य को लेकर कुछ बेहद डराने वाली बातें कही हैं:

• इंसानों की जगह लेने का खतरा: एआई टेक्नोलॉजी इतनी तेज रफ्तार से आगे बढ़ रही है कि यह इंसानी काम की प्रोडक्टिविटी बढ़ाने के साथ-साथ जल्द ही उनकी जगह भी ले सकती है।
• सेल्फ-इम्प्रूवमेंट (Self-Improvement): भविष्य में एआई मॉडल्स खुद को बेहतर बनाने और अपना नेक्स्ट वर्जन खुद ही डिजाइन करने में सक्षम हो जाएंगे। अगर ऐसा हुआ, तो पूरी व्यवस्था में इंसानों की भूमिका धीरे-धीरे खत्म हो जाएगी।
• असर का अंदाजा लगाना मुश्किल: एक ऐसा फ्यूचर जहां एआई खुद को लगातार सुपर-इंटेलीजेंट बनाता जाए, वहां इंसानी समाज, रिश्तों और सरकारी शासन व्यवस्था पर क्या असर पड़ेगा, इसका सटीक अनुमान लगाना फिलहाल नामुमकिन है।

परमाणु हथियारों के इंटरनेशनल नियमों से की तुलना (Global AI Regulation)

एंथ्रोपिक के को-फाउंडर्स ने इस एआई थ्रेट (AI Threats) की तुलना परमाणु हथियारों के अंतरराष्ट्रीय नियमों से की है। उनका कहना है कि जैसे न्यूक्लियर हथियारों पर वैश्विक नजर रखी जाती है, वैसे ही एआई के लिए भी नियम बनने चाहिए।

ब्लॉग पोस्ट के मुताबिक: “अगर दुनिया भर में एआई डेवलपमेंट को लेकर कोई नियम बनता है, तो उसके बाद एक सख्त मॉनिटरिंग सिस्टम होना चाहिए। यह इसलिए जरूरी है ताकि कुछ देश या एआई लैब्स गुप्त रूप से (Secretly) इस खतरनाक तकनीक को आगे न बढ़ा पाएं। इसके लिए दूसरी लैब्स के जरिए चेकिंग और निगरानी की व्यवस्था होनी चाहिए।”

एआई को रोकने की मांग पहली बार नहीं (Future of Life Institute)

यह कोई पहला मौका नहीं है जब टेक जगत के दिग्गजों ने एआई पर ब्रेक लगाने की बात कही हो। इससे पहले साल 2023 में Future of Life Institute ने एक ओपन लेटर जारी कर एआई के विकास पर कम से कम 6 महीने की रोक लगाने की मांग की थी, ताकि इसके सुरक्षित इस्तेमाल के लिए ग्लोबल सेफ्टी रूल्स बनाए जा सकें।

खुद Anthropic बना रहा है ‘Mythos’ जैसा एडवांस्ड मॉडल

दिलचस्प बात यह है कि एक तरफ एंथ्रोपिक इसके खतरों से आगाह कर रहा है, तो दूसरी तरफ वह खुद बेहद एडवांस्ड टूल्स और एआई मॉडल बनाने में जुटा है। कंपनी अपने एआई चैटबॉट क्लॉड (Claude) के अलावा एक नया मॉडल Mythos भी तैयार कर रही है। कंपनी का दावा है कि यह नया मॉडल साइबर सिक्योरिटी की कमियों और खामियों की पलक झपकते ही पहचान कर सकता है।