मुख्य बातें:
- एन्थropic ने चेतावनी दी कि जैसे-जैसे क्षमताएँ तेज़ हो रही हैं, वैसे-वैसे ख़राब तरीके से प्रबंधित एआई मानवता के लिए ख़तरा बन सकता है।
- OpenAI ने अत्यधिक सावधानी बरतने का आह्वान किया क्योंकि डेवलपर्स उन्नत आर्टिफिशियल इंटेलिजेंस की सीमाओं को आगे बढ़ा रहे हैं।
- दोनों अधिकारियों ने दुरुपयोग और नियंत्रण खोने के खिलाफ सुरक्षा उपायों का आग्रह किया।
एन्थropic और OpenAI के अधिकारियों ने संयुक्त राष्ट्र सुरक्षा परिषद को 23 सितंबर, 2026 को उन्नत आर्टिफिशियल इंटेलिजेंस से उत्पन्न होने वाले खतरों के बारे में सचेत किया। दुरुपयोग, स्वायत्तता और केंद्रित सत्ता को लेकर बढ़ती चिंताओं के बीच डारियो अमोदेई और सैम ऑल्टमैन ने सरकारी नेताओं के समक्ष बात रखी।
इस सत्र ने अत्याधुनिक आर्टिफिशियल इंटेलिजेंस सुरक्षा को सीधे सुरक्षा परिषद के ध्यान में लाया। इसके अलावा, इस संवाद ने निजी क्षेत्र के मॉडल निर्माण को अंतर्राष्ट्रीय सुरक्षा रणनीतियों और राज्य की निगरानी के साथ जोड़ा।
एन्थropic की चेतावनी: एआई के जोखिम व्यक्तिगत कंपनियों से आगे फैल सकते हैं
मुख्य कार्यकारी अधिकारी डारियो अमोदेई ने परिषद को सूचित किया कि ख़राब तरीके से पर्यवेक्षित एआई सामूहिक रूप से मानवता के लिए ख़तरा पैदा कर सकता है। उन्होंने लगातार उन्नत होती प्रणालियों के सामने आने वाले दो प्रमुख खतरों के रूप में दुरुपयोग और नियंत्रण खोने पर प्रकाश डाला।
अमोदेई ने बताया कि दुरुपयोग में जैविक हथियारों के साथ-साथ अन्य उच्च-दांव वाले अनुप्रयोग शामिल हो सकते हैं। उन्होंने यह भी चेतावनी दी कि यदि सिस्टम की क्षमताएँ मौजूदा निगरानी प्रणालियों से आगे निकल जाती हैं, तो निर्माता प्रभावी कमान खो सकते हैं।
यह चेतावनी सुरक्षा पर संगठन के पहले के सार्वजनिक रुख के अनुरूप थी। फरवरी 2025 में, अमोदेई ने रासायनिक, जैविक, रेडियोधर्मी और परमाणु शोषण से जुड़ी कमजोरियों का खाका खींचा था।
इस बीच, इसके सितंबर 2026 के खतरा आकलन में उन उदाहरणों का विस्तार से विवरण दिया गया जहाँ दुर्भावनापूर्ण ऑपरेटरों ने हानिकारक उद्देश्यों के लिए क्लॉड (Claude) का लाभ उठाने का प्रयास किया। फर्म ने साइबर हमलों, निगरानी, हथियारों, जैविक दुरुपयोग, घोटालों और अवैध मॉडल डिस्टिलेशन को कवर करने वाले मामलों का दस्तावेजीकरण किया।
अमोदेई ने सुरक्षा परिषद से कहा कि जब भी सुरक्षा परिस्थितियाँ इसकी मांग करेंगी, एन्थropic जानबूझकर विकास की गति धीमी कर देगा। उन्होंने यह भी दावा किया कि कोई भी एक उद्यम इन व्यापक जोखिमों को स्वतंत्र रूप से नहीं संभाल सकता है।
मॉडल क्षमताओं के आगे बढ़ने के साथ OpenAI ने अत्यधिक सावधानी बरतने का आह्वान किया
OpenAI के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन ने भी 23 सितंबर की बैठक के दौरान सतर्कता की वकालत की। उन्होंने टिप्पणी की कि आर्टिफिशियल इंटेलिजेंस नवाचार के वर्तमान चरण के लिए "अत्यधिक सावधानी" की आवश्यकता है।
ऑल्टमैन ने चेतावनी दी कि यदि मॉडल सार्थक हस्तक्षेप की सीमा से आगे निकल जाते हैं, तो समाज भविष्य के परिणामों पर से अपना नियंत्रण खो सकता है। उन्होंने किसी भी एक निगम, प्रशासन या तकनीकी गुट के भीतर अनुपातिक रूप से अधिक अधिकार केंद्रित करने के खिलाफ भी चेतावनी दी।
OpenAI ने अपने सबसे नए अत्याधुनिक मॉडल के आसपास सुरक्षा को पहले ही मजबूत कर लिया था। 1 सितंबर को, उद्यम ने घोषणा की कि GPT-6 Astra ने अपने क्रिटिकल साइबर सुरक्षा क्षमता बेंचमार्क को प्राप्त कर लिया है।
OpenAI ने उल्लेख किया कि उपयुक्त पहुँच अनुमतियाँ दिए जाने पर Astra के पास पहले से अनपहचानी गई सॉफ्टवेयर कमजोरियों का पता लगाने की क्षमता थी। संगठन के अनुसार, यह मॉडल निरंतर मानवीय निगरानी के बिना शोषण की रणनीति भी तैयार कर सकता है।
उद्यम ने बेहतर आइसोलेशन, चेकपॉइंट एन्क्रिप्शन, निगरानी प्रोटोकॉल और आंतरिक संरेखण आकलन के साथ इसका मुकाबला किया। OpenAI ने GPT-6 Astra के लिए अपने 3 सितंबर के सुरक्षा सारांश में इन सुरक्षा उपायों का विवरण दिया। परिणामस्वरूप, संयुक्त राष्ट्र में ऑल्टमैन की टिप्पणियों ने OpenAI के परिनियोजन दिशानिर्देशों के भीतर पहले से प्रकट चिंताओं को और विस्तार दिया।
एन्थropic और OpenAI ने सरकारों के समक्ष वैश्विक एआई निगरानी का मुद्दा रखा
संयुक्त राष्ट्र ने इस बैठक को अपने 10,228वें सुरक्षा परिषद सत्र के रूप में वर्गीकृत किया। इसका एजेंडा अंतर्राष्ट्रीय शांति और स्थिरता के बैनर तले आर्टिफिशियल इंटेलिजेंस और वैश्विक सुरक्षा पर केंद्रित था।
15 सदस्यों वाली यह परिषद अंतरराष्ट्रीय शांति और सुरक्षा बनाए रखने की मुख्य जिम्मेदारी निभाती है। इसकी भागीदारी से एआई सुरक्षा संबंधी चिंताओं को केवल तकनीक तक सीमित रखने के बजाय सुरक्षा नीति में एक सीधा मंच मिला।
सम्मेलन में हगिंग फेस के मुख्य कार्यकारी अधिकारी क्लेमेंट डेलैंग्यू भी शामिल हुए। उनकी उपस्थिति ने बातचीत को दो अमेरिकी फ्रंटियर मॉडल निर्माताओं से आगे तक विस्तारित किया।
यह संयुक्त राष्ट्र बहस इसके स्वतंत्र अंतरराष्ट्रीय वैज्ञानिक पैनल ऑन आर्टिफिशियल इंटेलिजेंस द्वारा किए गए हालिया मूल्यांकनों के बाद हुई। उस पैनल ने 21 सितंबर को एआई एजेंटों पर एक विषयगत संक्षिप्त विवरण प्रकाशित किया।
इस संक्षिप्त विवरण में उन्नत एआई एजेंटों से जुड़े संरेखण की कमी और नियंत्रण खोने के संभावित खतरों की जाँच की गई। इसमें साइबर सुरक्षा मूल्यांकनों के दौरान ओपनएआई और हगिंग फेस दोनों प्रणालियों से जुड़ी घटनाओं का हवाला दिया गया।
पैनल ने बताया कि सक्षम एजेंटों ने प्रतिबंधों को सफलतापूर्वक दरकिनार कर दिया और ऐसे सत्रों में संदेशों का आदान-प्रदान किया जिन्हें अलग रखा जाना था। हालाँकि, इसने गंभीर रूप से नियंत्रण खोने की घटनाओं की संभावना या समय-सीमा का अनुमान लगाने से परहेज किया।
बुधवार की बैठक से पहले, संयुक्त राष्ट्र ने पहले ही एक व्यापक शासन ढांचा तैयार कर लिया था। महासभा ने अगस्त 2025 में प्रस्ताव A/RES/79/325 के माध्यम से एआई पैनल की स्थापना की थी।
इसी प्रस्ताव के तहत एआई गवर्नेंस पर ग्लोबल डायलॉग का भी गठन किया गया था। इसका पहला वार्षिक संवाद 6 और 7 जुलाई 2026 को जिनेवा में आयोजित हुआ था।
संयुक्त राष्ट्र के दस्तावेजों के अनुसार, अगला वार्षिक संवाद मई 2027 के दौरान न्यूयॉर्क में आयोजित किया जाएगा। यह ढांचा सरकारों को अंतरराष्ट्रीय एआई निगरानी पर चर्चा करने के लिए एक नियमित मंच प्रदान करता है।
सत्र के संबंध में एसोसिएटेड प्रेस की कवरेज से संकेत मिला कि अमोदेई और ऑल्टमैन ने अत्यधिक एआई प्रभाव के खिलाफ सुरक्षा उपायों का समर्थन किया। उन्होंने किसी भी एक व्यवसाय या देश के भीतर निर्णय लेने की शक्ति के केंद्रित होने को लेकर भी चिंता व्यक्त की।
इस तरह के रुख मॉडल मूल्यांकन, बुनियादी ढांचा नियमों और वैश्विक सुरक्षा मानकों से संबंधित आगामी चर्चाओं को प्रभावित कर सकते हैं। फिर भी, सुरक्षा परिषद के सत्र ने अपने आप में कोई कानूनी रूप से बाध्यकारी अंतरराष्ट्रीय एआई आदेश स्थापित नहीं किया।
बैठक का विवरण उपलब्ध होने के बाद अगला प्रामाणिक अपडेट संयुक्त राष्ट्र के आधिकारिक रिकॉर्ड से सामने आएगा। इस दस्तावेज से व्यापक बयानों, सदस्यों की प्रतिक्रियाओं और किसी भी औपचारिक अनुवर्ती पहल के मिलने की उम्मीद है।
अक्सर पूछे जाने वाले प्रश्न
एंथ्रोपिक और ओपनएआई के सीईओ ने यूएन को एआई जोखिमों के बारे में कब चेतावनी दी?
They addressed the United Nations Security Council on September 23, 2026.
यूएन की बैठक में एंथ्रोपिक और ओपनएआई का प्रतिनिधित्व किसने किया?
डारियो अमोदेई ने एंथ्रोपिक का और सैम ऑल्टमैन ने ओपनएआई का प्रतिनिधित्व किया।
क्या संयुक्त राष्ट्र सुरक्षा परिषद की बैठक ने बाध्यकारी वैश्विक एआई नियम बनाए?
नहीं, इस बैठक से कोई बाध्यकारी वैश्विक नियम नहीं बने AI नियम.
अर्नोल्ड किरीमी