رؤى رئيسية:
- تحول تحذيرات سام ألتمان أخبار الذكاء الاصطناعي نحو تطوير أبطأ ومعايير سلامة أقوى.
- OpenAI تجهز تقييمات السلامة قبل جولات التدريب المتوقع أن تعزز القدرات.
- ألتمان يحذر من فقدان السيطرة البشرية ومن تركيز قوة الذكاء الاصطناعي المفرطة في يد جهة واحدة.
تحولت تطورات الذكاء الاصطناعي الأخيرة نحو سلامة النماذج المتقدمة بعد أن دعا الرئيس التنفيذي لشركة OpenAI، سام ألتمان، إلى إنشاء نماذج بشكل أكثر تعمداً وتأنياً. وحذر من أن البشرية تواجه خطر فقدان السيطرة إذا تجاوز تقدم القدرات أنظمة التوافق والمراقبة.
كما سلط ألتمان الضوء على خطر منفصل يتمثل في السيطرة المركزية القوية على الذكاء الاصطناعي القوي. وأيد في تصريحه بتاريخ 14 سبتمبر مواصلة الابتكار، شريطة أن يكون المطورون مستعدين لتحمل تكاليف سلامة إضافية وجداول زمنية أبطأ.
أخبار الذكاء الاصطناعي تركز على وتيرة تطوير النماذج المتقدمة
أيد ألتمان مقترحاً من الرئيس التنفيذي لشركة Anthropic، داريو أمودي، يدعو إلى تهدئة وتيرة التطوير بينما يعزز الباحثون تدابير السلامة.
وأوضح أن إبطاء الوتيرة لا يعني وقف التقدم التكنولوجي. بل ينبغي على المختبرات قبول تأخير جداول التطوير الزمنية عندما تتطلب مراجعات السلامة الشاملة وقتاً أطول. ورغم أن هذه التدخلات تنطوي على تكاليف باهظة، إلا أن ألتمان وصفها بالضرورية.
بالإضافة إلى ذلك، صرح ألتمان بأن الضغوط التنافسية المحلية في الولايات المتحدة يجب ألا تكون أبداً مبرراً للتطوير المتهور. وشدد على ألا تتجاوز قدرات النماذج أبداً أنظمة المراقبة والتوافق الحالية.
مع تسارع التقدم، يصبح التطوير المسؤول أمراً بالغ الأهمية لكل مختبر للتقنيات المتقدمة. وأشار إلى أنه يجب على الشركات الأمريكية أن تمنح الجمهور الثقة بأن الأنظمة المتقدمة يتم بناؤها بطريقة مسؤولة.
ركزت أطر عمل الشركة السابق إلى حد كبير على فحص النماذج النهائية قبل نشرها للجمهور. وتضمنت هذه الاستراتيجيات أطر التأهب وسياسات التوسيع المسؤول التي وضعتها شركات الذكاء الاصطناعي الرائدة.
وأشار ألتمان إلى أن بيئات التطوير الحالية تتطلب أدوات جديدة وفحوصات سلامة مبكرة. ونتيجة لذلك، قامت OpenAI بنقل بعض بروتوكولات السلامة لتسبق القفزات الكبرى في القدرات.
OpenAI تضيف تقييمات سلامة قبل جولات التدريب
تُعد OpenAI الآن تقييمات سلامة صريحة قبل جولات محددة للتعلم المعزز للنماذج المتقدمة. وتنفذ الشركة هذه الخطوة كلما توقع الباحثون أن تؤدي دورة التدريب إلى مكاسب جوهرية في القدرات.
في الوقت نفسه، تواصل OpenAI تقييمات السلامة القياسية الخاصة بها قبل إصدار النماذج النهائية. وتؤسس هذه الاستراتيجية لعمليات تقييم في مرحلتي التطوير والنشر.
اقترح ألتمان أن تقوم المؤسسات بـ التبادل الاستراتيجيات وإدخال إجراءات الأمان الخاصة بها والمصممة خصيصاً لها. وأعرب عن مستويات الدعم للمعايير المشتركة المتعلقة بعدم توافق النماذج والمراقبة والسلامة العامة.
يمكن لمثل هذه المعايير أن تساعد المختبرات في تقييم الأنظمة ذات القوة المتزايدة. كما رحب بالمراجعين المستقلين كعنصر رئيسي في إطار موحد لمخاطر الحدود الفاصلة.
تحث التصريحات الأخيرة على اتخاذ إجراءات فورية على مستوى الصناعة بدلاً من انتظار تشريعات الحكومة. وأشار ألتمان إلى أن الشركات لا تحتاج إلى إعفاء من مكافحة الاحتكار لتنفيذ تدابير الحماية.
وفي حين أنه دعم إطاراً اتحادياً يضع تفويضات متسقة لمطوري التقنيات الرائدة، إلا أنه أسند أيضاً للحكومات مسؤولية أوسع في تنسيق قواعد السلامة الدولية.
نصح ألتمان المختبرات بفرض وسائل الحماية أولاً داخل مؤسساتهم، وبعد ذلك يمكن للحكومات تسهيل التعاون الدولي لبناء نماذج متقدمة.
لم تدعُ تصريحاته إلى إنهاء أبحاث الذكاء الاصطناعي أو وقف ترقيات القدرات. وبدلاً من ذلك، فقد شجعت على التقدم المستمر المدعوم بمراقبة صارمة وتيرة حذرة.
أخبار الذكاء الاصطناعي: سام ألتمان يحدد نوعين من مخاطر الذكاء الاصطناعي الرائد
أوضح ألتمان طريقتين أساسيتين يمكن أن يؤدي بهما تطوير الذكاء الاصطناعي المتقدم إلى عواقب ضارة للغاية. أولاً، قد تفقد البشرية السيطرة إذا تفوقت قدرات النظام على تدابير الحماية الحالية.
ثانياً، يمكن لشركة واحدة، أو أمة، أو مختبر، أو شخص واحد الاستحواذ على سيطرة غير متناسبة على التقنيات القوية. مثل هذا التركيز للسلطة قد يُمكّن كياناً واحداً من فرض رؤيته الشخصية للعالم على كل شخص آخر.
ومن خلال معالجة السيطرة التقنية والمؤسسية في نفس نقاش السلامة، أكد ألتمان مجدداً أن OpenAI تظل ملتزمة بضمان أن الذكاء الاصطناعي يخدم البشرية.
وفقاً لتحديثات الصناعة الأخيرة، شدد رئيس شركة OpenAI أيضاً على أنه يجب على كل مختبر رائد احترام هذه المسؤولية، وإلا فإنه يخاطر بالسماح للأنظمة عالية القدرة بالتقدم دون إشراف مناسب أو معايير مشتركة.
الأسئلة الشائعة
ماذا قال سام ألتمان عن تقدم الذكاء الاصطناعي؟
دعا سام ألتمان إلى تطوير أبطأ وأكثر مراقبة بعناية للذكاء الاصطناعي، محذراً من أن البشرية قد تفقد السيطرة إذا تجاوزت القدرات توافقات السلامة.
لماذا تغغي OpenAI نهج السلامة الخاص بها؟
لمعالجة مخاطر التطوير الحالية، قدمت OpenAI حالات سلامة صريحة قبل عمليات التدريب الكبرى، مما نقل التقييمات إلى مرحلة أبكر في دورة التطوير.
ما هما المخاطران الأساسيان للذكاء الاصطناعي المتقدم اللذان حددهما ألتمان؟
المخاطران هما فقدان البشرية للسيطرة التقنية على الأنظمة المتقدمة وحصول طرف واحد على سيطرة مركزية مفرطة على الذكاء الاصطناعي القوي.
