Anthropic ने वैश्विक AI सुरक्षा ठहराव की मांग की, जबकि OpenAI ने सरकार-नेतृत्व वाले नियमों का समर्थन किया

Anthropic चाहता है कि कृत्रिम बुद्धिमत्ता (AI) के बड़े खिलाड़ी एक ऐसी साझा व्यवस्था पर सहमत हों, जो खतरे बहुत अधिक होने पर सबसे शक्तिशाली AI उपकरणों पर काम धीमा या बंद कर सके। कंपनी का कहना है कि प्रगति की रफ्तार मानव नियंत्रण बनाए रखना कठिन बना सकती है।

Claude चैटबॉट बनाने वाली कंपनी ने गुरुवार को एक ब्लॉग पोस्ट में लिखा कि, जैसे-जैसे फ्रंटियर AI कार्यों को पूरा करने में कहीं अधिक तेज होता जा रहा है, आगे के विकास को लेकर "दुनिया के पास इसे धीमा करने या अस्थायी रूप से रोकने का विकल्प होना अच्छा होगा"।

Anthropic ने कहा कि उसका आंतरिक शोध संस्थान बाहरी साझेदारों के साथ इस विषय का अध्ययन करना चाहता है और विश्वसनीय मंदी या रोक के लिए व्यावहारिक व्यवस्थाएं बनाने की दिशा में "कार्रवाई" करेगा, हालांकि उसने यह स्पष्ट नहीं किया कि वे कदम क्या होंगे।

Anthropic के मुख्य प्रतिस्पर्धियों में से एक OpenAI ने बुधवार को जारी एक रिपोर्ट में अलग रुख रखा। उसने कहा कि "नियमों, सुरक्षा उपायों और जवाबदेही तंत्रों को अंततः लोकतांत्रिक सरकारों को तय करना चाहिए, अकेले काम कर रही निजी कंपनियों को नहीं"।

"हमारा मत है कि AI नवाचार की गति से जुड़े निर्णय किसी एक प्रयोगशाला, कंपनी या विशेष हित समूह पर नहीं छोड़े जाने चाहिए," OpenAI ने कहा।

अपनी पोस्ट में Anthropic ने कहा कि AI प्रणालियां तेजी से सुधर रही हैं, जिनमें सीधे मानवीय हस्तक्षेप के बिना कोडिंग जैसे सॉफ्टवेयर कार्य पूरा करने की क्षमता भी शामिल है। उसने कहा कि यदि मौजूदा रुझान जारी रहे और पर्याप्त कंप्यूटिंग संसाधन उपलब्ध रहे, तो कोई AI मॉडल एक दिन अपना ही प्रतिस्थापन बना और निर्मित कर सकता है, जिसे "recursive self-improvement" कहा जाता है।

Anthropic ने कहा कि ऐसा AI, जो अपनी अगली पीढ़ी के निर्माण में मदद कर सके, एक बड़ा कदम होगा और विज्ञान, चिकित्सा तथा अन्य क्षेत्रों में नई सफलताओं को समर्थन दे सकता है। हालांकि, कंपनी ने चेतावनी दी कि यह "मनुष्यों द्वारा AI प्रणालियों पर नियंत्रण खोने के जोखिम भी बढ़ा सकता है।"

यह चिंता प्रौद्योगिकी क्षेत्र की कुछ हस्तियां वर्षों से उठाती रही हैं। Anthropic की अपील इस सप्ताह University of Toronto के शोधकर्ताओं की एक और चेतावनी के बाद आई है, जिन्होंने दिखाया कि AI उपकरणों का इस्तेमाल एक नए प्रकार का AI "worm" बनाने में कैसे किया जा सकता है, जो उपकरणों में फैलते हुए और बड़े कंप्यूटर नेटवर्क पर कब्जा करते हुए अपनी हैकिंग पद्धति बदलता है।

"मुझे लगता है कि लोगों के लिए यह समझना वास्तव में महत्वपूर्ण है कि सुरक्षा संबंधी चिंताएं केवल सबसे बड़े, सबसे शक्तिशाली भाषा मॉडलों तक सीमित नहीं हैं," प्रमुख शोधकर्ता Nicolas Papernot ने एक साक्षात्कार में कहा।

Anthropic की ब्लॉग पोस्ट कंपनी के सह-संस्थापक Jack Clark और उसके शोध संस्थान का नेतृत्व करने वाली Marina Favaro ने लिखी थी। उन्होंने कहा कि कोई भी ठहराव "सामाजिक संरचनाओं और alignment research" को AI विकास की बराबरी करने के लिए अधिक समय देगा। उद्योग में alignment का अर्थ उन प्रयासों से है जिनका उद्देश्य यह सुनिश्चित करना है कि AI प्रणालियां मानवीय मूल्यों और लक्ष्यों के अनुरूप काम करें।

Anthropic द्वारा वर्णित व्यवस्था के तहत, प्रमुख AI प्रयोगशालाएं यह जांच सकेंगी कि अंतरराष्ट्रीय प्रतिस्पर्धियों ने वास्तव में अपनी परियोजनाएं धीमी या बंद की हैं, "और कोई बुरा तत्व समन्वित मंदी के संरक्षण का उपयोग गुप्त रूप से आगे निकलने के लिए न कर सके।"

Anthropic ने तर्क दिया कि वैश्विक समन्वय प्रणाली जरूरी है क्योंकि उसके बिना, कोई भी कंपनी जो अपनी रफ्तार कम करती है, "सबसे कम सतर्क" संचालकों को बढ़त लेने दे सकती है, जिससे कठिन AI सुरक्षा निर्णयों का सामना कर रही कंपनियों और सरकारों पर दबाव बढ़ेगा।

यह पोस्ट ऐसे समय आई है जब Anthropic और ChatGPT डेवलपर OpenAI शेयर बाजार में शेयर बेचने की दौड़ में हैं, और एक IPO Anthropic का मूल्य US$1 ट्रिलियन के करीब रख सकता है।

अपनी रिपोर्ट प्रकाशित करने से पहले Papernot ने कनाडाई साइबर सुरक्षा अधिकारियों को सतर्क किया। रिपोर्ट बताती है कि शोध टीम ने प्रयोगशाला में एक "open-source" AI उपकरण का उपयोग कर worm बनाया, जिसे सॉफ्टवेयर डेवलपर कम लागत पर इस्तेमाल और संशोधित कर सकते हैं।

"अतीत में, साइबर हमलावर बहुत उच्च मूल्य वाले लक्ष्यों पर ध्यान केंद्रित करते थे," उन्होंने कहा। "बैंकिंग प्रणालियां, अस्पताल, बिजली ग्रिड, जल शोधन प्रणालियां, स्कूल।"

Papernot ने कहा कि वह इस बात से सहमत हैं कि कंपनियों, सरकारी निकायों और विश्वविद्यालय शोधकर्ताओं को रक्षात्मक उपायों पर अधिक निकटता से काम करना चाहिए, क्योंकि AI-सहायता प्राप्त हैकिंग उपकरण कंप्यूटर प्रणालियों में कमजोरियां ढूंढना बहुत सस्ता और तेज बना रहे हैं।

"आपके बेसमेंट में रखा वह पुराना लैपटॉप, जिसे आप नियमित रूप से नहीं देखते, बहुत उच्च मूल्य का लक्ष्य नहीं लगता, लेकिन इसका इस्तेमाल इन अधिक उच्च मूल्य वाले लक्ष्यों पर हमला शुरू करने के मंच के रूप में किया जा सकता है," उन्होंने कहा। "Internet से जुड़ी हर चीज अब जोखिम में है, क्योंकि इन साइबर हमलों को अंजाम देने की लागत बहुत कम हो गई है।"