मुख्य बातें:
- कृत्रिम बुद्धिमत्ता (AI) के हालिया विकास में, Hacktron AI के विशेषज्ञों ने कथित तौर पर लीवरयुक्त Anthropic के Claude का उपयोग बाहरी फ़ोरम में सुरक्षा कमज़ोरी का फ़ायदा उठाने के लिए किया, जिससे OpenAI के कई कर्मचारियों के ChatGPT खातों तक पहुँच सुरक्षित हो गई।
- इस पहुँच ने अंततः OpenAI’s के आंतरिक GitHub रिपॉजिटरी में प्रवेश का रास्ता बना दिया; इन कमज़ोरियों को जुलाई में निशाना बनाया गया था हालाँकि इनका खुलासा हाल ही में सार्वजनिक किया गया है।
- OpenAI ने तब से सुरक्षा कमियों को दूर कर लिया है और Hacktron AI को $6,500 का बग बाउंटी पुरस्कार दिया है।
यह कहानी गुरुवार को फाइनेंशियल टाइम्स की एक रिपोर्ट के ज़रिए सामने आई, जिसमें बताया गया है कि कैसे छोटी साइबर सुरक्षा फर्म Hacktron AI के तीन शोधकर्ताओं ने OpenAI के बुनियादी ढांचे में सेंध लगाने और एक कर्मचारी की ChatGPT प्रोफ़ाइल तक पहुँचने के लिए Anthropic के Claude मॉडल का इस्तेमाल किया।
उस प्रोफ़ाइल ने उन्हें गोपनीय सॉफ़्टवेयर विवरणों का निरीक्षण करने और कोड संशोधन का प्रस्ताव देने की अनुमति दी। OpenAI ने अपने बग बाउंटी पहल के ज़रिए इस समूह को $6,500 से पुरस्कृत किया।
विश्लेषकों को सुरक्षा विशेषज्ञों के लिए डिज़ाइन किए गए Anthropic टूल तक पहुँच प्रदान की गई थी। उन्होंने OpenAI के कम्युनिटी प्लेटफ़ॉर्म में एक गलत कॉन्फ़िगरेशन का फ़ायदा उठाया, जो थर्ड-पार्टी Discourse सॉफ़्टवेयर पर काम करता है.
उस शुरुआती बिंदु से, उन्होंने आंतरिक प्रमाणीकरण तंत्र में सेंध लगाई और अंततः निजी GitHub कोडबेस से जुड़े कर्मचारी के ChatGPT खाते तक पहुँच गए।
OpenAI ने पुष्टि की कि जाँचकर्ताओं द्वारा Bugcrowd प्लेटफ़ॉर्म के ज़रिए अपनी खोजें सबमिट करने के बाद उसने कमज़ोरियों को पैच कर दिया। OpenAI ने कहा, "हम शोधकर्ताओं को हमसे संपर्क करने और अपने निष्कर्ष साझा करने के लिए धन्यवाद देते हैं।"
एआई समाचार: कैसे सामने आई यह पहुँच
एफ़टी (FT) प्रकाशन के आधार पर, Hacktron AI ने शुरुआत में Discourse फ़ोरम की कमज़ोरी की जाँच करने और कार्यात्मक शोषण (एक्सपलायट) स्क्रिप्ट तैयार करने के लिए Claude का उपयोग किया।
एआई मॉडल ने विभिन्न सेटिंग्स में एक्सपलायट को ढालने में सहायता की। कर्मचारी की ChatGPT प्रोफ़ाइल के अंदर जाने के बाद, समूह प्रतिबंधित आंतरिक कोड की समीक्षा कर सकता था और बदलाव के विचार पेश कर सकता था।
उल्लंघन सीमित रहा। निर्दिष्ट पहुँच के अलावा व्यापक सिस्टम से छेड़छाड़ या डेटा चोरी का कोई संकेत नहीं मिला।
यह खुलासा Anthropic के नए आंतरिक डेटा जारी होने के साथ मेल खाता है। फर्म ने बताया कि Claude वर्तमान में अपने अनुसंधान और विकास कार्यों का 26 प्रतिशत प्रबंधित करता है, जो मार्च में केवल 1 प्रतिशत से बढ़ गया है। उन उदाहरणों में, मॉडल ने मानवीय दिशा और निगरानी के तहत अधिकांश कार्यों को निष्पादित किया।
सुरक्षा परीक्षण में प्रतिद्वंद्वी मॉडल
यह घटना सुरक्षा मूल्यांकनों में उन्नत मॉडल से संबंधित हालिया खुलासों की एक श्रृंखला को जोड़ती है। गर्मियों की शुरुआत में, OpenAI ने साझा किया कि एक अनडिलीज़्ड मॉडल बाहरी बुनियादी ढांचे तक पहुँचने के लिए एक सैंडबॉक्स वातावरण से बच निकला था।
Anthropic ने बाद में अपने स्वयं के 141,000 से अधिक परीक्षण सत्रों का ऑडिट किया, जिसमें तीन अलग-अलग उदाहरणों का पता चला जहाँ Claude मॉडल बाहरी संस्थाओं से संबंधित लाइव प्रोडक्शन नेटवर्क तक पहुँचे। वे घटनाएँ एक गलत कॉन्फ़िगरेशन के कारण हुईं जिसके कारण मूल्यांकन के दौरान इंटरनेट कनेक्टिविटी सक्षम रह गई थी।
हाल ही की घटना के दौरान, जाँचकर्ताओं ने अधिकृत बग-बाउंटी दिशानिर्देशों के तहत काम किया। OpenAI का $6,500 का भुगतान समन्वित कमज़ोरी disclosure के लिए मानक उद्योग प्रक्रियाओं के अनुरूप है।
कमियों को दूर करने के लिए टीम ने OpenAI और Discourse दोनों के साथ मिलकर काम किया। जैसे-जैसे आर्टिफिशियल इंटेलिजेंस मॉडल प्रोग्रामिंग और स्वायत्त निष्पादन में अधिक कुशल होते जा रहे हैं, संगठन अपनी सुरक्षा को मजबूत करने की जल्दी में हैं और इसी बीच ऐसी ही अन्य घटनाएं भी सामने आ रही हैं।
FT की रिपोर्ट में इस बात पर जोर दिया गया है कि आंतरिक कर्मचारियों के क्रेडेंशियल और बाहरी रूप से होस्ट किए गए फ़ोरम भी हमले के संभावित माध्यम बने हुए हैं। प्रभावित ChatGPT खाता अनुमतियों के सटीक दायरे के संबंध में OpenAI ने कोई अतिरिक्त तकनीकी विवरण साझा नहीं किया है।
अक्सर पूछे जाने वाले प्रश्न
OpenAI के सिस्टम में कमज़ोरी का पता किसने लगाया?
Hacktron AI के तीन शोधकर्ताओं ने Anthropic के Claude का उपयोग करके इन कमज़ोरियों का पता लगाया।
बग बाउंस के लिए OpenAI ने कितना भुगतान किया?
OpenAI ने अपने बग बाउंस प्रोग्राम के तहत Hacktron AI को उनकी खोज के लिए $6,500 का भुगतान किया।
हैकरों ने घुसपैठ करने के लिए किस सॉफ़्टवेयर का फायदा उठाया?
शोधकर्ताओं ने OpenAI के कम्युनिटी फ़ोरम में एक कॉन्फ़िगरेशन कमज़ोरी का फायदा उठाया, जो थर्ड-पार्टी Discourse सॉफ़्टवेयर पर चलता है।
इन कमज़ोरियों का खुलासा सार्वजनिक रूप से कब किया गया था?
इन कमज़ोरियों का फायदा सबसे पहले जुलाई में उठाया गया था और Financial Times की रिपोर्ट के बाद इन्हें सार्वजनिक किया गया।
