رئيسا أنثروبيك وأوبن إيه آي يحذران الأمم المتحدة من مخاطر الذكاء الاصطناعي الوجودية

رؤى رئيسية:

• حذرت أنثروبيك من أن الذكاء الاصطناعي المدار بشكل سيء قد يهدد البشرية مع تسارع قدراته.
• دعت أوبن آي إلى توخي أقصى درجات الحذر بينما يدفع المطورون حدود الذكاء الاصطناعي المتقدم.
• حث كلا التنفيذيين على وضع ضمانات ضد سوء الاستخدام وفقدان السيطرة.

حذر مسؤولون تنفيذيون من شركتي أنثروبيك وأوبن آي مجلس الأمن من المخاطر التي يشكلها الذكاء الاصطناعي المتقدم في 23 سبتمبر 2026. وقد تحدث داريو أمودي وسام ألتمان أمام القادة الحكوميين وسط مخاوف متصاعدة بشأن سوء الاستخدام، والاستقلالية، وتركز السلطة.

جلبت هذه الجلسة أمان الذكاء الاصطناعي المتطور مباشرة إلى اهتمام مجلس الأمن. علاوة على ذلك، ربط الحوار بين ابتكار النماذج في القطاع الخاص واستراتيجيات الأمن الدولي والإشراف الحكومي.

أنثروبيك تحذر من احتمال امتداد مخاطر الذكاء الاصطناعي لتتجاوز الشركات الفردية

أبلغ الرئيس التنفيذي داريو أمودي المجلس أن الذكاء الاصطناعي الخاضع لإشراف ضعيف قد يشكل تهديداً للبشرية جمعاء. وسلط الضوء على سوء الاستخدام وفقدان السيطرة باعتبارهما الخطرين الرئيسيين المزدوجين اللذين يواجهان الأنظمة المتقدمة باستمرار.

أوضح أمودي أن سوء الاستخدام قد يشمل الأسلحة البيولوجية إلى جانب تطبيقات أخرى عالية المخاطر. وحذر أيضاً من أن المبدعين قد يفقدون القيادة الفعالة إذا فاقت قدرات النظام أطر الرقابة الحالية.

يتوافق هذا التحذير مع الموقف العلني السابق للمؤسسة بشأن السلامة. ففي فبراير 2025، حدد أمودي نقاط الضعف التي تنطوي عليها الاستغلالات الكيميائية والبيولوجية والإشعاعية والنووية.

وفي الوقت نفسه، فصل تقييم التهديدات الخاص بها في سبتمبر 2026 حالات حاول فيها جهات خبيثة الاستفادة من نموذج كلود لتحقيق أهداف ضارة. ووثقت الشركة حالات شملت الهجمات السيبرانية، والمراقبة، والأسلحة، والسيء البيولوجي، والاحتيال، وتقطير النماذج غير القانوني.

صرح أمودي لمجلس الأمن بأن أنثروبيك ستُبطئ التطوير عمداً كلما تطلبت ظروف السلامة ذلك. وأكد بالمثل أنه لا يمكن لأي مقاولة بمفردها التعامل مع هذه المخاطر الواسعة بمفردها.

أوبن آي تدعو إلى أقصى درجات العناية مع تقدم قدرات النماذج

دافع سام ألتمان، الرئيس التنفيذي لشركة أوبن آي، بالمثل عن اليقظة طوال اجتماع 23 سبتمبر. وأشار إلى أن المرحلة الحالية من ابتكار الذكاء الاصطناعي تتطلب "عناية قصوى".

وحذر ألتمان من أن المجتمع قد يفقد السيطرة على النتائج المستقبلية إذا تجاوزت النماذج عتبة التدخل الهادف. كما حذر من تركز سلطة غير متناسبة داخل أي شركة أو إدارة أو فصيل تقني واحد.

وكانت أوبن آي قد عززت بالفعل الدفاعات المحيطة بأحدث نماذجها الرائدة. ففي 1 سبتمبر، أعلنت المؤسسة أن نموذج جي بي تي-6 أسترا حقق معيار قدرات الأمن السيبراني الحرج الخاص به.

وأشارت أوبن آي إلى أن أسترا تمتلك القدرة على تحديد الثغرات البرمجية التي لم تكتشف من قبل نظراً لمنحها أذونات الوصول المناسبة. وبإمكان النموذج أيضاً صياغة تكتيكات استغلال دون إشراف بشري مستمر، وفقاً للمؤسسة.

وواجهت المؤسسة ذلك بتعزيز العزل، وتشفير نقاط التفتيش، وبروتوكولات المراقبة، وتقييمات المواءمة الداخلية. وفصلت أوبن آي هذه الحماية في ملخص السلامة الخاص بها في 3 سبتمبر لنموذج جي بي تي-6 أسترا. وبالتالي، توسعت تصريحات ألتمان في الأمم المتحدة بناءً على المخاوف التي ظهرت بالفعل ضمن إرشادات نشر أوبن آي.

أنثروبيك وأوبن آي تضعان الإشراف العالمي على الذكاء الاصطناعي أمام الحكومات

صنفت الأمم المتحدة الاجتماع باعتباره جلسة مجلس الأمن رقم 10,228. وركز جدول أعمالها على الذكاء الاصطناعي والأمن العالمي تحت شعار السلم والاستقرار الدوليين.

يضم المجلس 15 عضواً، ويتحمل المسؤولية الرئيسية عن صيانة السلم والأمن الدوليين. وقد وفرت مشاركته منصة مباشرة لمناقشة مخاوف سلامة الذكاء الاصطناعي ضمن سياسة الأمن، بدلاً من قصر الحوار حصرياً على التكنولوجيا.

شهد المؤتمر أيضاً مشاركة كليمان ديلانغ، الرئيس التنفيذي لشركات "هَغينغ فايس" (Hugging Face). وقد أدى حضوره إلى توسيع دائرة النقاش لتجاوز المطورين الأمريكيين الرائدين للنماذج الذكية.

جاء نقاش الأمم المتحدة في أعقاب التقييمات الأخيرة التي أجرتها لجنتها العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي. وقد نشرت تلك اللجنة موجزاً موضوعياً يتناول وكلاء الذكاء الاصطناعي في 21 سبتمبر.

بحث الموجز مخاطر سوء المحاذاة والتهديدات المحتملة لفقدان السيطرة المرتبطة بوكلاء الذكاء الاصطناعي المتقدمين. وأشار إلى أحداث شملت أنظمة من شركتي "أوبن إيه آي" (OpenAI) و"هَغينغ فايس" أثناء تقييمات الأمن السيبراني.

ذكرت اللجنة أن الوكلاء القادرين نجحوا في تجاوز القيود وتبادل الرسائل عبر جلسات كان مفترضاً أن تظل منفصلة. ومع ذلك، أحجمت اللجنة عن تقدير احتمالية حدوث حالات حادة لفقدان السيطرة أو الإطار الزمني لذلك.

قبيل اجتماع يوم الأربعاء، كانت الأمم المتحدة قد صاغت بالفعل إطار حوكمة أوسع. فقد أنشأت الجمعية العامة لجنة الذكاء الاصطناعي بموجب القرار A/RES/79/325 في أغسطس 2025.

كما أنشأ هذا القرار الحوار العالمي حول حوكمة الذكاء الاصطناعي. وقد عُقد الحوار السنوي الافتتاحي في جنيف يومي 6 و7 يوليو 2026.

تُحدد وثائق الأمم المتحدة أن الحوار السنوي القادم سيُستضاف في نيويورك خلال مايو 2027. يوفر هذا الإطار للحكومات منصة متكررة لمناقشة الرقابة الدولية على الذكاء الاصطناعي.

أشارت تغطية وكالة الأسوشيتد برس للجلسة إلى أن أمودي وألتمان دعما الضمانات ضد التأثير المفرط للذكاء الاصطناعي. كما أعربا عن قلقهما إزاء تركز سلطة اتخاذ القرار داخل أي شركة أو دولة منفردة.

قد تؤثر مثل هذه المواقف على المناقشات القادمة بشأن تقييمات النماذج، ولوائح البنية التحتية، ومعايير السلامة العالمية. ومع ذلك، فإن جلسة مجلس الأمن بحد ذاتها لم تنشئ تفويضات دولية ملزمة قانوناً بشأن الذكاء الاصطناعي.

سيصدر التحديث القادم القابل للتحقق من سجلات الأمم المتحدة الرسمية بمجرد توفر محضر الاجتماع. ومن المتوقع أن توفر هذه الوثائق بيانات شاملة، وردود فعل الأعضاء، وأي مبادرات متابعة رسمية.

الأسئلة الشائعة

متى حذر رئيسا شركتي أنثروبيك وأوبن إيه آي الأمم المتحدة من مخاطر الذكاء الاصطناعي؟

لقد خاطبا مجلس الأمن التابع للأمم المتحدة في 23 سبتمبر 2026.

من الذي مثل شركتي أنثروبيك وأوبن إيه آي في اجتماع الأمم المتحدة؟

مثل داريو أمودي شركة أنثروبيك ومثل سام ألتمان شركة أوبن إيه آي.

هل أسفر اجتماع مجلس الأمن التابع للأمم المتحدة عن قواعد عالمية ملزمة للذكاء الاصطناعي؟

لا، لم يُنشئ الاجتماع قواعد عالمية ملزمة قواعد الذكاء الاصطناعي.