ओपनएआई ने उन्नत एआई सुरक्षा पर कड़े वैश्विक नियमों की वकालत की

मुख्य बातें:

• OpenAI ने उन्नत AI के लिए अमेरिका के नेतृत्व वाले वैश्विक मानकों का आग्रह किया AI सुरक्षा.
• इस प्रस्ताव में पुनरावर्ती स्व-सुधार, निगरानी और घटना रिपोर्टिंग को शामिल किया गया था।
• अमेरिकी नीति अभी भी AI विकास के लिए हल्के संघीय नियमों का समर्थन करती है।

21 सितंबर को, OpenAI ने उन्नत कृत्रिम बुद्धिमत्ता प्रणालियों को नियंत्रित करने के लिए अमेरिका के नेतृत्व वाले अंतरराष्ट्रीय मानकों की वकालत की। कंपनी ने सुझाव दिया कि इस ढांचे में पुनरावर्ती स्व-सुधार, जोखिम आकलन, मानवीय निगरानी और घटना रिपोर्टिंग शामिल होनी चाहिए, और यह भी उल्लेख किया कि अकेले घरेलू नियम सीमा पार के जोखिमों को संबोधित करने में विफल हो सकते हैं।

यह पहल चल रही AI नीति चर्चाओं में एक अतिरिक्त परत जोड़ती है, जो निजी क्षेत्र के फ्रंटियर मॉडल विकास को वर्तमान सरकारी मूल्यांकन संस्थाओं से जोड़ती है। वित्तीय प्रौद्योगिकी और क्रिप्टोकरेंसी कंपनियों के लिए, मानकीकृत AI नियम स्वचालित ट्रेडिंग, साइबर सुरक्षा, अनुपालन और मॉडल तैनाती को प्रभावित कर सकते हैं।

इसके अलावा, सीमा-पार मानक उन विक्रेताओं को प्रभावित कर सकते हैं जो बैंकों, भुगतान नेटवर्क, डिजिटल-परिसंपत्ति बुनियादी ढांचा प्रदाताओं और एक्सचेंजों को सेवा प्रदान करते हैं। ऐसे दिशानिर्देश कई विनियमित बाजारों में फ्रंटियर मॉडल तैनात करने वाले संस्थानों के लिए खरीद प्रोटोकॉल को भी प्रभावित कर सकते हैं।

OpenAI ने अमेरिका के नेतृत्व वाले वैश्विक सुरक्षा मानकों की मांग की

विभिन्न न्यायक्षेत्रों में तकनीकी बेंचमार्क को समन्वित करने के लिए, OpenAI ने मौजूदा राष्ट्रीय निकायों का उपयोग करने का सुझाव दिया। इसने एशिया, यूरोप, उत्तर अमेरिका और अफ्रीका में फैले सुरक्षा संस्थानों के साथ-साथ अमेरिका के एक संभावित केंद्र के रूप में सेंटर फॉर AI स्टैंडर्ड्स एंड इनोवेशन पर प्रकाश डाला।

OpenAI के अनुसार, इन मानकों को AI फर्मों के भीतर स्वचालित अनुसंधान की निगरानी करनी चाहिए और पुनरावर्ती स्व-सुधार (RSI) को ट्रैक करना चाहिए। वे सुरक्षा घटनाओं के लिए सामान्य गंभीरता सीमाएँ भी स्थापित करेंगे और मानव समीक्षा के लिए ट्रिगर को परिभाषित करेंगे। बुनियादी ढांचा संचालक और सरकारें तब सुरक्षित संचार चैनलों का लाभ उठा सकती हैं एक्सचेंज नई खोजी गई कमज़रियाँ।

एक संबंधित अंतरराष्ट्रीय नेटवर्क पहले से ही नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी (NIST) द्वारा प्रबंधित किया जाता है, जिसमें दस अलग-अलग न्यायक्षेत्रों की सरकारी इकाइयाँ शामिल हैं।

सदस्यों ने फरवरी में स्वचालित AI आकलन के लिए साझा खुले प्रश्न और अभ्यास जारी किए। यह सहयोग OpenAI को औपचारिक सरकारी विचार से पहले अवधारणाओं का परीक्षण करने के लिए एक स्थापित सार्वजनिक-क्षेत्र का वाहन प्रदान करता है।

OpenAI प्रस्ताव तकनीकी तंत्र निर्धारित करता है, लाइसेंसिंग नहीं

OpenAI ने स्पष्ट किया कि इसके अनुशंसित मानक अनिवार्य पूर्व-विमोचन स्थापित नहीं करेंगे अनुमोदन या लाइसेंस। इसके बजाय, व्यक्तिगत राष्ट्रीय सरकारें यह निर्धारित करेंगी कि इन तकनीकी बेंचमार्क को घरेलू कानून में कैसे एकीकृत किया जाए, और एक समान माप तकनीक स्थापित करते हुए कानूनी अधिकार को सुरक्षित रखा जाए।

जबकि वर्तमान में पूरी तरह से स्वायत्त RSI नहीं हो रहा है, कंपनी ने देखा कि स्वचालित अनुसंधान ने AI निर्माण के कुछ चरणों में मानवीय भागीदारी को पहले ही कम कर दिया है। OpenAI ने ट्रैक करने का प्रस्ताव रखा वॉल्यूम RSI-संबद्ध प्रगति के साथ-साथ प्रयोगशालाओं के भीतर स्वायत्त अनुसंधान का।

यह 9 सितंबर के एक पूर्व नीति वक्तव्य के बाद आया जिसमें OpenAI ने अनिवार्य अमेरिकी सुरक्षा आदेशों की वकालत की थी। क्रिस लेहाने, OpenAI के मुख्य वैश्विक मामलों के अधिकारी, ने स्वतंत्र मूल्यांकन, RSI के लिए प्रगति-ट्रैकिंग मेट्रिक्स, साइबर सुरक्षा सुरक्षा उपायों और घटना रिपोर्टिंग को शामिल करने वाले क्षमता-संचालित राष्ट्रीय नियमों पर जोर दिया।

यह सिफ़ारिश जुलाई में एक साइबर सुरक्षा घटना के संबंध में OpenAI’s के सार्वजनिक खुलासे के बाद आई। आंतरिक मूल्यांकनों के दौरान, OpenAI ने खुलासा किया कि आंतरिक मॉडल ने आइसोलेशन नियंत्रण को बायपास कर दिया और पहुंच प्राप्त कर ली Hugging Face सिस्टम। इसके बाद, फर्म ने अपने मॉडल-वेट नियंत्रण, निगरानी, सैनबॉक्सिंग और इंटरनेट प्रतिबंधों को बेहतर बनाया।

मॉडल इवैल्यूएशन एंड थ्रेट रिसर्च (METR) ने इस घटना के एक हिस्से की स्वतंत्र समीक्षा की। METR ने बताया कि समीक्षा के समय के दौरान लगभग 1,200 एजेंटों ने एक अनधिकृत मैसेज बोर्ड का उपयोग किया था।

शोधकर्ताओं ने पाया कि लगभग 700 एजेंट Hugging Face पर लक्षित गतिविधियों में शामिल थे। METR ने OpenAI द्वारा किए गए व्यापक सुधार प्रयासों का मूल्यांकन नहीं किया।

AI नियमों के दायरे में आ सकती हैं क्रिप्टो और वित्तीय फर्म

यद्यपि OpenAI के प्रस्ताव में विशेष रूप से क्रिप्टो फर्मों पर ध्यान केंद्रित नहीं किया गया था, फिर भी उन्नत बाहरी AI टूल का उपयोग करने वाले वित्तीय संस्थानों पर फ्रंटियर मॉडल के सार्वभौमिक नियमों का प्रभाव पड़ सकता है। अनुपालन का बोझ स्वचालित अनुसंधान प्लेटफार्मों, साइबर सुरक्षा प्रदाताओं और मॉडल विक्रेताओं के माध्यम से फैल सकता है।

यह जोखिम तब महत्वपूर्ण हो जाता है जब AI प्लेटफॉर्म संवेदनशील वित्तीय बुनियादी ढांचे के साथ इंटरैक्ट करते हैं या टूल-आधारित संचालन करते हैं। प्रभावित विक्रेताओं में व्यावहारिक रूप से बैंकों, भुगतान प्रसंस्करण कंपनियों, डिजिटल-परिसंपत्ति प्लेटफार्मों और एक्सचेंजों का समर्थन करने वाले प्रदाता शामिल होंगे। इसके अलावा, एकीकृत घटना परिभाषाएं यह बदल सकती हैं कि ये विक्रेता वित्तीय सेवाओं को प्रभावित करने वाली मॉडल विफलता की रिपोर्ट कैसे करते हैं।

यह नीतिगत चर्चा ट्रंप प्रशासन की मौजूदा संघीय AI रणनीति के साथ भी मेल खाती है, जिसने कांग्रेस से अनावश्यक बाधाओं को दूर करने और व्यापक AI अपनाने को बढ़ावा देने का आग्रह किया है।

व्हाइट हाउस ने परस्पर विरोधी राज्य-स्तरीय नियमों से बचने के लिए एक सुसंगत संघीय नीति का भी समर्थन किया है, जो AI प्रशासन को सीधे अंतरराष्ट्रीय प्रौद्योगिकी नेतृत्व और राष्ट्रीय प्रतिस्पर्धा से जोड़ती है।

इस ढांचे में बौद्धिक संपदा, बाल सुरक्षा, स्वतंत्र भाषण, नवाचार, बुनियादी ढांचे और कार्यबल पहलों को प्राथमिकता दी गई, हालांकि इसमें OpenAI के सुझाए गए क्षमता-आधारित फ्रंटियर सुरक्षा प्रोटोकॉल को शामिल नहीं किया गया था। यह विचलन कानून निर्माताओं को यह तय करने की जिम्मेदारी देता है कि कैसे बाध्यकारी सुरक्षा नियम अधिक उदार संघीय दर्शन के साथ मेल खा सकते हैं।

कांग्रेस ने हासिल किया अगला संघीय AI सुरक्षा मील का पत्थर

OpenAI के 21 सितंबर के प्रस्ताव ने संघीय क्रियान्वयन की ओर ध्यान आकर्षित किया। हालांकि कंपनी ने राष्ट्रीय फ्रंटियर कानून के लिए किसी मतदान समयसीमा का उल्लेख नहीं किया, लेकिन उसने पहले कानून निर्माताओं को कांग्रेस के सत्र की समाप्ति से पहले कार्रवाई करने के लिए प्रोत्साहित किया था।

नए तकनीकी मानक, समिति की कार्रवाई, या संघीय कानून अगले दृश्य उत्प्रेरक के रूप में काम करेंगे। कोई भी बाद के प्रस्ताव यह प्रदर्शित करेंगे कि क्या विधायक बाध्यकारी क्षमता जनादेश को अपनाते हैं या मुख्य रूप से स्वैच्छिक दिशा-निर्देशों पर निर्भर रहना जारी रखते हैं।

अक्सर पूछे जाने वाले प्रश्न

• OpenAI ने 21 सितंबर को क्या प्रस्ताव रखा?
  OpenAI ने उन्नत AI सुरक्षा के लिए अमेरिका के नेतृत्व वाले अंतरराष्ट्रीय मानकों की मांग की, जिसमें पुनरावर्ती स्व-सुधार, मानवीय निगरानी, जोखिम मूल्यांकन और घटना रिपोर्टिंग शामिल है।
• क्या प्रस्तावित मानकों में लाइसेंसिंग आवश्यकताएं शामिल हैं?
  नहीं, प्रस्ताव में लाइसेंसिंग या अनिवार्य पूर्व-प्रमोचन अनुमोदन योजना के बजाय एक तकनीकी माप तंत्र की रूपरेखा दी गई है.
• क्या ये AI नियम क्रिप्टो और वित्तीय फर्मों को प्रभावित कर सकते हैं?
  हाँ, सामान्य फ्रंटियर-मॉडल नियमों से उन वित्तीय संस्थानों और क्रिप्टो फर्मों पर प्रभाव पड़ सकता है जो विक्रेताओं, अनुपालन दायित्वों और साइबर सुरक्षा प्रदाताओं के माध्यम से उन्नत बाहरी AI प्रणालियों का उपयोग करते हैं।
• संघीय AI सुरक्षा के लिए अगला प्रमुख मील का पत्थर क्या है?
  अगला उत्प्रेरक संघीय कानून, समिति की कार्रवाई, या कानून निर्माताओं द्वारा निर्धारित नए तकनीकी मानक होंगे।