Anthropic تدعو إلى وقف عالمي مؤقت لسلامة الذكاء الاصطناعي بينما تطالب OpenAI بقواعد تقودها الحكومات

تريد Anthropic من الأطراف الكبرى في مجال الذكاء الاصطناعي (AI) الاتفاق على نظام مشترك يمكن أن يبطئ أو يوقف العمل على أقوى أدوات الذكاء الاصطناعي إذا أصبحت المخاطر كبيرة للغاية، قائلة إن وتيرة التقدم قد تجعل الحفاظ على السيطرة البشرية أكثر صعوبة.

وكتبت الشركة المطورة لروبوت الدردشة Claude في منشور على مدونة يوم الخميس أنه، مع ازدياد سرعة الذكاء الاصطناعي الحدودي في إنجاز المهام، "سيكون من الجيد للعالم أن يكون لديه خيار إبطاء" مزيد من التطوير "أو وقفه مؤقتا".

وقالت Anthropic إن معهدها البحثي الداخلي يعتزم دراسة المسألة مع شركاء خارجيين و"اتخاذ إجراءات" نحو إنشاء ترتيبات عملية لتباطؤ أو توقف يمكن تصديقه، لكنها لم توضح ماهية تلك الخطوات.

وطرحت OpenAI، وهي واحدة من أبرز منافسي Anthropic، موقفا مختلفا في تقرير صدر يوم الأربعاء. وقالت إن "الحكومات الديمقراطية، لا الشركات الخاصة التي تعمل منفردة، هي التي يجب أن تحدد في نهاية المطاف القواعد والضمانات وآليات المساءلة".

وقالت OpenAI: "وجهة نظرنا هي أن القرارات المتعلقة بوتيرة الابتكار في الذكاء الاصطناعي لا ينبغي أن تُترك لأي مختبر أو شركة أو مجموعة مصالح خاصة واحدة".

وفي منشورها، قالت Anthropic إن أنظمة الذكاء الاصطناعي تتحسن بسرعة، بما في ذلك قدرتها على إنجاز أعمال برمجية مثل كتابة الشيفرات من دون تدخل بشري مباشر. وأضافت أنه إذا استمرت الاتجاهات الحالية وتوافرت موارد حوسبة كافية، فقد يتمكن نموذج ذكاء اصطناعي يوما ما من إنشاء وبناء بديله، وهي عملية تُعرف باسم "التحسين الذاتي التكراري".

وقالت Anthropic إن الذكاء الاصطناعي القادر على المساعدة في بناء جيله التالي سيمثل خطوة كبيرة إلى الأمام وقد يدعم اختراقات في العلوم والطب ومجالات أخرى. غير أن الشركة حذرت من أنه "قد يزيد أيضا مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي".

وقد أثار بعض الشخصيات في قطاع التكنولوجيا هذا القلق منذ سنوات. وتأتي دعوة Anthropic بعد تحذير آخر هذا الأسبوع من باحثين في University of Toronto، أظهروا كيف يمكن استخدام أدوات الذكاء الاصطناعي لصنع نوع جديد من "دودة" ذكاء اصطناعي تغير أسلوبها في الاختراق أثناء انتقالها عبر الأجهزة وسيطرتها على شبكة حاسوبية كبيرة.

وقال الباحث الرئيسي Nicolas Papernot في مقابلة: "أعتقد أنه من المهم حقا أن يفهم الناس أن المخاوف الأمنية لا تقتصر على أكبر نماذج اللغة وأقواها".

وكتب منشور مدونة Anthropic المؤسس المشارك للشركة Jack Clark وMarina Favaro، التي تقود معهدها البحثي. وقالا إن أي توقف سيمنح "البنى المجتمعية وأبحاث المواءمة" مزيدا من الوقت للحاق بتطور الذكاء الاصطناعي. وفي هذا القطاع، تشير المواءمة إلى الجهود الرامية إلى ضمان أن تتصرف أنظمة الذكاء الاصطناعي بما يتوافق مع القيم والأهداف البشرية.

وبموجب نوع الترتيب الذي وصفته Anthropic، ستتمكن مختبرات الذكاء الاصطناعي الرائدة من التحقق مما إذا كان المنافسون الدوليون قد أبطأوا أو أوقفوا مشاريعهم فعلا، "ومن أن جهة سيئة النية لا تستطيع استخدام غطاء تباطؤ منسق للتقدم سرا".

وجادلت Anthropic بأن نظام تنسيق عالمي ضروري لأنه من دونه، فإن أي شركة تخفف وتيرة عملها قد تتيح للجهات "الأقل حذرا" كسب أرضية، ما يزيد الضغط على الشركات والحكومات التي تواجه قرارات صعبة بشأن سلامة الذكاء الاصطناعي.

ويأتي المنشور في وقت تتسابق فيه Anthropic ومطورة ChatGPT، OpenAI، لبيع أسهم في سوق المال، عبر طرح عام أولي قد يضع قيمة Anthropic قرب تريليون دولار أميركي.

وقبل نشر تقريره، أبلغ Papernot مسؤولي الأمن السيبراني الكنديين. ويوضح التقرير أن فريق البحث بنى الدودة في مختبر باستخدام أداة ذكاء اصطناعي "مفتوحة المصدر" يستطيع مطورو البرمجيات الوصول إليها وتعديلها بتكلفة منخفضة.

وقال: "في الماضي، كان المهاجمون السيبرانيون يركزون على أهداف ذات قيمة عالية جدا". "الأنظمة المصرفية، والمستشفيات، وشبكات الكهرباء، وأنظمة معالجة المياه، والمدارس".

وقال Papernot إنه يتفق على أن الشركات والهيئات الحكومية والباحثين الجامعيين ينبغي أن يعملوا معا بشكل أوثق على تدابير دفاعية، مع جعل أدوات الاختراق المدعومة بالذكاء الاصطناعي العثور على نقاط الضعف في أنظمة الكمبيوتر أرخص وأسرع بكثير.

وقال: "ذلك الحاسوب المحمول القديم الموجود في قبوك ولا تتحقق منه بانتظام لا يبدو هدفا ذا قيمة عالية جدا، لكنه يمكن أن يُستخدم منصة انطلاق لمهاجمة هذه الأهداف الأعلى قيمة". "أي شيء متصل بالإنترنت أصبح الآن معرضا للخطر بسبب انخفاض تكلفة تنفيذ هذه الهجمات السيبرانية إلى هذا الحد".