मुख्य बातें:
- सैम ऑल्टमैन की चेतावनी का रुख एआई समाचार धीमी विकास गति और अधिक मज़बूत सुरक्षा की ओर है।
- OpenAI क्षमताओं को बढ़ाने की उम्मीद वाले प्रशिक्षण चरणों से पहले सुरक्षा मामलों को तैयार करता है।
- ऑल्टमैन ने मानव नियंत्रण खोने और किसी एक व्यक्ति के पास अत्यधिक एआई शक्ति होने के खतरे के प्रति आगाह किया है।
OpenAI के सीईओ सैम ऑल्टमैन द्वारा अधिक सोच-समझकर और नपे-तुले तरीके से मॉडल बनाने की मांग करने के बाद हालिया कृत्रिम बुद्धिमत्ता (AI) विकास का रुख सीमा सुरक्षा की ओर मुड़ गया है। उन्होंने चेतावनी दी कि यदि क्षमताओं में प्रगति संरेखण और निगरानी प्रणालियों से आगे निकल जाती है, तो मानवता के नियंत्रण खोने का जोखिम है।
ऑल्टमैन ने शक्तिशाली एआई पर कड़े, केंद्रीकृत नियंत्रण के अलग खतरे को भी उजागर किया। 14 सितंबर को उनके दिए गए बयान में निरंतर नवाचार का समर्थन किया गया, बशर्ते डेवलपर्स अतिरिक्त सुरक्षा लागत और धीमी समयसीमा स्वीकार करने के लिए तैयार हों।
एआई समाचार का ध्यान फ्रंटियर विकास की गति पर केंद्रित है
ऑल्टमैन ने Anthropic के सीईओ डेरियो अमोदेई के उस प्रस्ताव का समर्थन किया जो शोधकर्ताओं द्वारा सुरक्षा उपायों को मजबूत करने के दौरान विकास की गति धीमी करने की वकालत करता है।
उन्होंने स्पष्ट किया कि गति धीमी करने का मतलब तकनीकी प्रगति को रोकना नहीं है। बल्कि, जब गहन सुरक्षा समीक्षाओं के लिए अधिक समय की आवश्यकता हो, तो प्रयोगशालाओं को विलंबित विकास शेड्यूल स्वीकार करना चाहिए। हालांकि इन हस्तक्षेपों में उच्च लागत शामिल है, ऑल्टमैन ने उन्हें आवश्यक बताया है।
इसके अतिरिक्त, ऑल्टमैन ने कहा कि अमेरिका में घरेलू प्रतिस्पर्धात्मक दबावों को कभी भी लापरवाह विकास का बहाना नहीं बनना चाहिए। उन्होंने जोर दिया कि मॉडल की क्षमताएं कभी भी मौजूदा निगरानी और संरेखण प्रणालियों से आगे नहीं बढ़नी चाहिए।
जैसे-जैसे प्रगति तेज हो रही है, प्रत्येक फ्रंटियर लैब के लिए जिम्मेदार विकास तेजी से महत्वपूर्ण होता जा रहा है। उन्होंने उल्लेख किया कि अमेरिकी फर्मों को जनता को यह विश्वास दिलाना चाहिए कि उन्नत प्रणालियों का निर्माण जिम्मेदारी से किया जा रहा है।
पिछूने कंपनी के फ्रेमवर्क मुख्य रूप से सार्वजनिक रूप से तैनात करने से पहले तैयार मॉडल की जांच करने पर केंद्रित थे। इन रणनीतियों में प्रमुख एआई लैब्स द्वारा स्थापित तैयारी फ्रेमवर्क और जिम्मेदार स्केलिंग नीतियां शामिल थीं।
ऑल्टमैन ने बताया कि वर्तमान विकास वातावरण में नए उपकरणों और पहले सुरक्षा जांच की आवश्यकता है। परिणामस्वरूप, OpenAI ने कुछ सुरक्षा प्रोटोकॉल को बड़े क्षमता छलांग से पहले लागू करने के लिए स्थानांतरित कर दिया है।
OpenAI ने ट्रेनिंग रन से पहले सुरक्षा मामलों को जोड़ा
OpenAI अब विशिष्ट फ्रंटियर रीइंफोर्समेंट लर्निंग रन से पहले स्पष्ट सुरक्षा मामलों का मसौदा तैयार करता है। जब भी शोधकर्ताओं को उम्मीद होती है कि प्रशिक्षण चक्र से काफी क्षमता लाभ होगा, तो कंपनी इस कदम को लागू करती है।
साथ ही, OpenAI अंतिम रूप से तैयार मॉडल जारी करने से पहले अपने मानक सुरक्षा मूल्यांकन जारी रखता है। यह रणनीति विकास और तैनाती दोनों चरणों में मूल्यांकन स्थापित करती है।
ऑल्टमैन ने सुझाव दिया कि संगठनों को एक्सचेंज रणनीतियाँ अपनानी चाहिए और अपनी खुद की अनुकूलित सुरक्षा प्रक्रियाएं पेश करनी चाहिए। उन्होंने व्यक्त किया सपोर्ट मॉडल असंतुलन, निगरानी और समग्र सुरक्षा के संबंध में साझा मानकों के लिए।
ऐसे मानक प्रयोगशालाओं को लगातार शक्तिशाली प्रणालियों का मूल्यांकन करने में मदद कर सकते हैं। उन्होंने एक एकीकृत फ्रंटियर-जोखिम ढांचे के एक प्रमुख घटक के रूप में स्वतंत्र लेखा परीक्षकों का भी स्वागत किया।
हालिया बयान सरकारी कानून की प्रतीक्षा करने के बजाय तत्काल उद्योग-व्यापी कार्रवाई का आग्रह करते हैं। ऑल्टमैन ने टिप्पणी की कि कंपनियों को सुरक्षा उपाय लागू करने के लिए किसी एकाधिकार विरोधी छूट की आवश्यकता नहीं है।
जबकि उन्होंने एक संघीय ढांचे का समर्थन किया जो फ्रंटियर डेवलपर्स के लिए लगातार निर्देश निर्धारित करता है, उन्होंने सरकारों को अंतर्राष्ट्रीय सुरक्षा नियमों के समन्वय में एक व्यापक जिम्मेदारी भी सौंपी।
ऑल्टमैन ने प्रयोगशालाओं को पहले अपने स्वयं के संगठनों के भीतर सुरक्षा लागू करने की सलाह दी, जिसके बाद सरकारें उन्नत मॉडल बनाने के लिए अंतर्राष्ट्रीय सहयोग को सुगम बना सकती हैं।
उनकी टिप्पणियों ने एआई अनुसंधान को समाप्त करने या क्षमता उन्नयन को रोकने की वकालत नहीं की। इसके बजाय, उन्होंने कठोर निगरानी और सावधानीपूर्वक गतिशीलता द्वारा समर्थित निरंतर प्रगति को बढ़ावा दिया।
एआई समाचार: सैम ऑल्टमैन ने दो फ्रंटियर एआई जोखिमों की पहचान की
ऑल्टमैन ने दो प्राथमिक तरीकों को रेखांकित किया जिनसे उन्नत एआई विकास गंभीर रूप से हानिकारक परिणाम पैदा कर सकता है। सबसे पहले, यदि सिस्टम की क्षमताएं मौजूदा सुरक्षा उपायों से आगे निकल जाती हैं तो मानवता नियंत्रण खो सकती है।
दूसरा, एक अकेला निगम, राष्ट्र, प्रयोगशाला या व्यक्ति शक्तिशाली तकनीकों पर अत्यधिक नियंत्रण प्राप्त कर सकता है। इस तरह की शक्ति का संकेंद्रण एक इकाई को अपनी व्यक्तिगत विश्वदृष्टि बाकी सभी पर थोपने में सक्षम बना सकता है।
एक ही सुरक्षा चर्चा के भीतर तकनीकी और संस्थागत नियंत्रण को संबोधित करके, ऑल्टमैन ने दोहराया कि OpenAI यह सुनिश्चित करने के लिए समर्पित है कि आर्टिफिशियल इंटेलिजेंस मानवता की सेवा करता है।
हालिया उद्योग अपडेट के अनुसार, OpenAI प्रमुख ने यह भी जोर दिया कि हर फ्रंटियर लैब को इस जिम्मेदारी का सम्मान करना चाहिए, या उचित पर्यवेक्षण या साझा मानकों के बिना अत्यधिक सक्षम प्रणालियों को आगे बढ़ाने का जोखिम उठाना चाहिए।
अक्सर पूछे जाने वाले प्रश्न
सैम ऑल्टमैन ने एआई प्रगति के बारे में क्या कहा?
सैम ऑल्टमैन ने धीमी, अधिक सावधानीपूर्वक निगरानी वाले कृत्रिम बुद्धिमत्ता विकास का आह्वान किया, और चेतावनी दी कि यदि क्षमताएं सुरक्षा संरेखण से आगे निकल जाती हैं तो मानवता नियंत्रण खो सकती है।
OpenAI अपने सुरक्षा दृष्टिकोण को क्यों बदल रहा है?
वर्तमान विकास जोखिमों को संबोधित करने के लिए, OpenAI ने प्रमुख प्रशिक्षण सत्रों से पहले स्पष्ट सुरक्षा मामलों को पेश किया है, जिससे मूल्यांकन विकास चरण में पहले स्थानांतरित हो गए हैं।
ऑल्टमैन द्वारा पहचाने गए दो प्रमुख फ्रंटियर एआई जोखिम क्या हैं?
दो जोखिम हैं मानवता का उन्नत प्रणालियों पर तकनीकी नियंत्रण खोना और किसी एक अभिनेता का शक्तिशाली एआई पर अत्यधिक केंद्रीकृत नियंत्रण प्राप्त करना।
