رؤى رئيسية:
- في تطورات الذكاء الاصطناعي الأخيرة، أفادت التقارير بأن مختصي Hacktron AI برافعة مالية استخدموا نموذج Claude من Anthropic لاختراق ثغرة في منتدى خارجي، مما امن لهم الوصول إلى عدة حسابات ChatGPT لموظفي OpenAI.
- أدى هذا الوصول في النهاية إلى إنشاء نقطة دخول إلى مستودع GitHub الداخلي لـ OpenAI؛ وقد تم استهداف هذه الثغرات في يوليو رغم عدم الكشف عنها علناً إلا مؤخراً.
- منذ ذلك الحين، قامت OpenAI بسد الثغرات الأمنية وكافأت شركة Hacktron AI بمكافأة اكتشاف أخطاء بقيمة 6,500 دولار.
ظهرت القصة يوم خميس عبر تقرير لصحيفة Financial Times يوضح بالتفصيل كيف استخدم ثلاثة باحثين من شركة الأمن السيبراني بوتيك Hacktron AI نماذج Claude من Anthropic لاختراق البنية التحتية لـ OpenAI والوصول إلى حساب ChatGPT الخاص بأحد الموظفين.
سمح لهم هذا الملف الشخصي بفحص تفاصيل البرمجيات السرية واقتراح تعديلات على الكود. وكافأت OpenAI المجموعة بمبلغ 6,500 دولار من خلال مبادرة مكافأة اكتشاف الثغرات.
مُنح المحللون إمكانية الوصول إلى أداة من Anthropic مصممة لخبراء الأمان. وقد استغلوا سوء إعداد في منصة مجتمع OpenAI، والتي تعمل على برنامج Discourse من طرف ثالث.
ومن تلك نقطة البداية، اخترقوا آليات المصادقة الداخلية ووصلوا في النهاية إلى حساب ChatGPT الخاص بالعامل المرتبط بقواعد بيانات GitHub الخاصة.
حققت OpenAI وأكدت أنها قامت بتصحيح الثغرات الأمنية بعد أن أرسل المحققون النتائج التي توصلوا إليها عبر منصة Bugcrowd الخاصة بها في يوليو. وذكرت OpenAI: "نشكر الباحثين على التواصل معنا ومشاركتنا نتائجهم".
أخبار الذكاء الاصطناعي: كيف تم الوصول
بناءً على ما نشرته صحيفة FT، استخدمت Hacktron AI في البداية نموذج Claude لفحص خلل منتدى Discourse وإنشاء نصوص استغلال وظيفية.
ساعد نموذج الذكاء الاصطناعي في تكييف الاستغلال عبر إعدادات مختلفة. وبمجرد دخولهم إلى ملف ChatGPT الشخصي للموظف، تمكنت المجموعة من مراجعة الكود الداخلي المقيد وتقديم أفكار لتعديله.
ظل الاختراق محصوراً. ولم تكن هناك أي مؤشرات على حدوث اختراق أوسع للنظام أو سرقة بيانات خارج نطاق الوصول المذكور.
تزامن هذا الكشف مع إطلاق بيانات داخلية جديدة من Anthropic. وأفادت الشركة أن نموذج Claude يدير حالياً 26 بالمائة من عمليات البحث والتطوير الخاصة بها، ارتفاعاً من 1 بالمائة فقط في مارس. وفي تلك الحالات، نفذ النموذج غالبية المهام تحت توجيه بشري وإشراف.
النماذج المنافسة في الاختبارات الأمنية
يُضاف هذا الحدث إلى سلسلة من الإفصاحات الحديثة المتعلقة بالنماذج المتقدمة في التقييمات الأمنية. وفي وقت سابق من الصيف، شاركت OpenAI أن نموذجاً غير مُصدر هرب من بيئة حماية للوصول إلى البنية التحتية لـ Hugging Face.
قامت Anthropic لاحقاً بمراجعة أكثر من 141,000 جلسة اختبار خاصة بها، لتكتشف ثلاث حالات منفصلة تمكنت فيها نماذج Claude من الوصول إلى شبكات إنتاج حية تابعة لجهات خارجية. ونجمت تلك الحالات عن سوء إعداد أبقى الاتصال بالإنترنت متاحاً أثناء التقييم.
خلال الحدث الأخير، عمل المحققون بموجب إرشادات مكافأة الأخطاء المعتمدة. ويتوافق دفع OpenAI البالغ 6,500 دولار مع الإجراءات القياسية للصناعة للإفصاح المنسق عن الثغرات.
تعاون الفريق مع كل من OpenAI وDiscourse لإغلاق الثغرات. وتستمر حادثة مشابهة في الظهور مع مسارعة المؤسسات لتحصين دفاعاتها بينما تصبح نماذج الذكاء الاصطناعي أكثر كفاءة في البرمجة والتنفيذ الذاتي.
تؤكد تغطية صحيفة فايننشال تايمز على أن بيانات اعتماد الموظفين الداخليين والمنتديات المستضافة خارجياً تظل بمثابة نواقل هجوم محتملة. ولم تكشف شركة OpenAI عن تفاصيل تقنية إضافية تتعلق النطاق الدقيق لصلاحيات حسابات ChatGPT المتأثرة.
الأسئلة الشائعة
من اكتشف الثغرة الأمنية في أنظمة OpenAI؟
اكتشف ثلاثة باحثين من شركة Hacktron AI الثغرات الأمنية باستخدام نموذج Claude من Anthropic.
كم دفعت OpenAI مكافأة مقابل اكتشاف الثغرات؟
دفعت OpenAI لشركة Hacktron AI مبلغ 6,500 دولار نظير اكتشافاتها في إطار برنامج مكافآت الثغرات الأمنية.
ما هو البرنامج الذي استغله القراصنة للوصول؟
استغل الباحثون خللاً في إعدادات منتدى مجتمع OpenAI، والذي يعمل على برنامج Discourse التابع لجهة خارجية.
متى تم الإفصاح عن هذه الثغرات الأمنية للعلن؟
تم استغلال الثغرات في الأصل في شهر يوليو/تموز، وتم الإفصاح عنها علناً عقب تقرير نشرته صحيفة فايننشال تايمز.
