एन्थ्रोपिक एआई की चेतावनी पर डेविड सैक ने आईओटी जोखिम को लेकर उठाए सवाल

मुख्य बातें:

• एन्थropic AI की चेतावनी में कहा गया है कि छोटे मॉडल जल्द ही कम लागत वाले IoT हार्डवेयर पर खुद को दोहरा सकते हैं।
• डेविड सैक्स का कहना है कि नियंत्रित परीक्षण सपोर्ट सबसे बड़े खतरे के दावों का समर्थन नहीं करते।
• एन्थropic के सरल परीक्षण में केवल GLM-5.2 ने एंड-टू-एंड प्रतिकृति (replication) पूरी की।

डेविड सैक्स ने एन्थropic की उस AI चेतावनी को चुनौती दी है जिसमें कहा गया था कि छोटे मॉडल सस्ते और जुड़े हुए हार्डवेयर पर फैल सकते हैं। एन्थropic ने कहा था कि कॉम्पैक्ट सिस्टम कुछ महीनों के भीतर स्वायत्त प्रतिकृति क्षमता हासिल कर सकते हैं। इसके शोधकर्ताओं ने एंड्रॉइड टीवी बॉक्स और सिम्युलेटेड क्लाउड डिवाइस पर मॉडलों का परीक्षण किया।

सैक्स ने सवाल उठाया कि क्या वे नियंत्रित परिणाम रिपोर्ट के बड़े खतरे को उचित ठहराते हैं। साक्ष्य सार्थक प्रगति दिखाते हैं, लेकिन वे ऑनलाइन काम करने वाले अनियंत्रित AI वॉर्म को नहीं दिखाते। यह अंतर अब स्व-प्रतिकृति AI, साइबर सुरक्षा और विनियमन पर एक व्यापक बहस को बढ़ावा दे रहा है।

एन्थropic की रिपोर्ट मौजूदा क्षमता के रुझानों के आधार पर भविष्य के जोखिम का अनुमान लगाती है, न कि किसी पुष्टि हमले के। कंपनी ने 12 अक्टूबर को यह शोध प्रकाशित किया था।

एन्थropic AI की चेतावनी छोटे मॉडल की प्रतिकृति पर केंद्रित है

एन्थropic की फ्रंटियर रेड टीम ने जांच की कि क्या कॉम्पैक्ट मॉडल अपरिचित हार्डवेयर पर खुद को कॉपी और लॉन्च कर सकते हैं। शोधकर्ताओं विलियम झौ और डेनियल फ्रीमैन ने स्वायत्त प्रतिकृति को कई चरणों में विभाजित किया। इनमें लक्ष्य खोजना, पहुंच प्राप्त करना, इन्फेरेंस सेट अप करना और प्रसार जारी रखना शामिल था।

एन्थropic AI चेतावनी ऐसे मॉडलों पर केंद्रित है जिनका कोई केंद्रीय सर्वर या शटडाउन पॉइंट नहीं है। शोधकर्ताओं ने कहा कि ये सिस्टम धीरे-धीरे फैल सकते हैं, जिसमें दोगुना होने की प्रक्रिया को दिनों में मापा जाता है। फिर भी वे पारंपरिक मैलवेयर की तुलना में अपरिचित वातावरण के अनुसार खुद को बेहतर ढंग से ढाल सकते थे।

एक प्रयोग में Gemma4-26B-A4B को 15 बिना ब्रांड वाले एंड्रॉइड टीवी बॉक्स में वितरित किया गया। प्रत्येक बॉक्स की कीमत लगभग $55 थी और इसमें मॉडल का एक हिस्सा था। साथ में, इन उपकरणों ने प्रति सेकंड 0.39 टोकन उत्पन्न किए। कम गति ने इस सेटअप को सामान्य उपयोग के लिए अव्यवहारिक बना दिया। फिर भी, इसने साबित कर दिया कि सस्ते IoT डिवाइस सामूहिक रूप से एक सक्षम मॉडल को होस्ट कर सकते हैं।

डेविड सैक्स ने एन्थropic AI चेतावनी के साक्ष्यों पर उठाए सवाल

सैक्स ने इस रिपोर्ट को उस चीज़ से एक और चेतावनी के रूप में पेश किया जिसे उन्होंने “एन्थropic फियर फैक्ट्री” कहा। उन्होंने पूछा कि क्या छोटे मॉडल वाकई उतना खतरा पैदा करते हैं जितना कि हेडलाइन सुझाव देती है। उनकी प्रतिक्रिया प्रयोग और वास्तविक हमले के बीच की दूरी पर केंद्रित थी।

वह अंतर एन्थropic की अपनी पद्धति में दिखाई देता है। शोधकर्ताओं ने आठ सिम्युलेटेड एंड्रॉइड का एक फ़ायरवॉल नेटवर्क इस्तेमाल किया नोड्स। उन्होंने एक अनअथेंटिकेटेड एंड्रॉइड डिबगिंग पोर्ट भी खुला छोड़ दिया था। इससे पहुंच जानबूझकर आसान हो गई और एक बड़ी वास्तविक दुनिया की बाधा दूर हो गई।

वॉर्म को नियंत्रित करने वाला मॉडल एक अलग इन्फेरेंस सर्वर पर चल रहा था। सिम्युलेटेड नोड्स बड़े सिस्टम को सीधे होस्ट नहीं कर सका। एन्थropic ने यह भी स्वीकार किया कि डिज़ाइन वास्तविक दुनिया की सफलता की ऊपरी सीमा का प्रतिनिधित्व करता है। वे सीमाएँ सपोर्ट सैक्स के संदेह को पुख्ता करती हैं, हालांकि वे सुरक्षा संबंधी सवालों को मिटाती नहीं हैं।

इसलिए एन्थropic AI की चेतावनी आंशिक रूप से एक्सट्रपलेशन पर टिकी है। इसका 2026 के अंत का अनुमान सामान्य क्षमता सूचकांक में ऐतिहासिक लाभ का उपयोग करता है। एन्थropic ने उस समय सीमा को अनुमानित बताया क्योंकि सूचकांक केवल प्रतिकृति कौशल का अनुमान लगाता है।

स्व-प्रतिकृति AI के बारे में IoT परीक्षण क्या दर्शाते हैं

Qwen3.5-9B ने नौ में से आठ हार्डवेयर प्रकारों पर सफलतापूर्वक अनुमान (inference) स्थापित किया। 30 बिलियन से कम पैरामीटर वाले मॉडल ने कई अलग-अलग प्रतिकृति (replication) कार्यों को भी पूरा किया। हालांकि, जब हर चरण को मज़बूती से संयोजित करने की आवश्यकता होती थी, तो वे अक्सर विफल हो जाते थे।

सरलीकृत एंड-टू-एंड प्रक्रिया को पूरा करने वाला GLM-5.2 एकमात्र परीक्षण किया गया ओपन-वेट मॉडल था। यह सभी आठ नोड्स पाँच में से चार परीक्षणों में सफल रहा। शेष परीक्षण में यह सात नोड्स तक पहुँचा। एंथ्रोपिक ने कहा कि इससे यह संकेत मिलता है कि प्रदर्शन में सुधार होने के साथ छोटे मॉडल भी तुलनीय क्षमताएं हासिल कर सकते हैं।

नियंत्रित परीक्षणों के बाहर स्व-प्रतिकृति (self-replicating) AI का जोखिम सैद्धांतिक बना हुआ है। एंथ्रोपिक ने कहा कि वर्तमान में कोई भी पूरी तरह से स्वायत्त दुष्ट रेप्लिका (rogue replicator) मौजूद नहीं है। हालांकि, असुरक्षित IoT डिवाइस पहले से ही हमलावरों को एक बड़ा लक्ष्य आधार प्रदान करते हैं। तेज़ मॉडल और विस्तारित एज हार्डवेयर तकनीकी बाधा को कम कर सकते हैं।

रिपोर्ट में नेटवर्क मॉनिटरिंग, ISP संगरोध (quarantines), बेहतर डिवाइस डिफॉल्ट्स और मजबूत निर्माता सुरक्षा का प्रस्ताव दिया गया है। बड़े मॉडल ट्रांसफर से ऐसे ट्रैफिक पैटर्न बनेंगे जिनका पता रक्षक लगा सकते हैं। डिफ़ॉल्ट पासवर्ड हटाने से भी संवेदनशील हार्डवेयर का दायरा कम हो सकता है। एंथ्रोपिक ने उल्लेख किया कि डिफ़ॉल्ट IoT पासवर्ड यूके के बाजारों में पहले से ही अनुपालन से बाहर हैं।