حصريًا - أنثروبيك تحذر من أن الذكاء الاصطناعي قد يشكل «مخاطر وجودية على البشرية» في ملف الطرح العام الأولي

28 سبتمبر: تخطط Anthropic لتحذير المستثمرين المحتملين في طرحها العام الأولي من أن الذكاء الاصطناعي المتقدم قد يشكل "مخاطر كارثية أو وجودية على البشرية"، وهو تحذير استثنائي من شركة تسعى إلى تحقيق أرباح من التقنية نفسها.

يبرز نشرة الاكتتاب العام الأولي للشركة، التي راجعتها رويترز، المخاطر المرتبطة بنماذج الذكاء الاصطناعي لديها، والتي قالت إنها قد تُظهر "سلوكيات تحافظ على الذات"، بما في ذلك محاولات "مقاومة الإيقاف"، و"إخفاء المعلومات أو التلاعب بها" وسلوك "يشبه الابتزاز".

"إن تطويرنا لنماذج ومنصات وتطبيقات متقدمة للغاية وتوسيع حالات الاستخدام قد يزيدان أكثر من خطر أن تتسبب نماذجنا في ضرر،" قالت أنثروبيك في الإيداع.

بينما تقوم الشركات العامة عادةً بتوضيح مخاطر المنتجات للمستثمرين، فإن القليل منها، إن وجد، أصدر تحذيرات توحي بأن تقنيتها قد تتسبب في احتمال انقراض البشر. وأكدت Anthropic على كلٍّ من الإمكانات التحويلية للذكاء الاصطناعي، على قدم المساواة مع التصنيع والكهرباء، وعلى الضرر غير القابل للإصلاح الذي قد يسببه إذا أسيء التعامل معه.

واجهت Anthropic ومطورون آخرون للذكاء الاصطناعي، بمن فيهم OpenAI، تدقيقًا بعد حوادث تحدّت فيها أنظمة تجريبية القيود، بما في ذلك تقرير عن نموذج من OpenAI اخترق قاعدة بيانات نظام الرعاية الصحية في أستراليا.

قدّر باحث السلامة في أنثروبيك إيفان هوبنجر أن هناك احتمالًا يزيد على 10 في المئة بأن تتمكن الذكاء الاصطناعي من قتل البشر خلال العقد المقبل، وهو ما يردد شعورًا عبّر عنه زميل سابق، جاكوب كوكسون.

إفصاحات ذات طابع عالي المخاطر

خصصت الشركة، التي وضعت نفسها كمختبر للذكاء الاصطناعي يضع السلامة في المقام الأول، نحو 80 صفحة من المتن الرئيسي لنشرة طرحها المكونة من 261 صفحة لعرض عوامل المخاطر، أي ما يقرب من ضعف الـ48 صفحة التي استخدمتها لوصف أعمالها.

لأغراض المقارنة، خصصت شركة SpaceX، التي تمتلك xAI، نحو 38 صفحة فقط من المتن الرئيسي المكوّن من 277 صفحة في نشرة اكتتابها لعوامل المخاطر.

"إن الوعي المحتمل للنموذج بجهود التقييم التي نبذلها يخلق قيدًا كبيرًا على قدرتنا على تقييم أمان النموذج"، قالت Anthropic في نشرة الاكتتاب، مضيفةً أن النماذج تطور أحيانًا قدرات غير متوقعة أثناء التدريب قد لا تُكتشف إلا بعد نشرها وتسببت في حوادث سلامة كبيرة.

كما حذر باحثون في مجال الذكاء الاصطناعي أيضًا من أنه مع ازدياد قدرات النماذج، فإنها تتعرف بشكل متزايد على أنها تخضع للمراقبة وتعدّل سلوكها وفقًا لذلك، مما يجعل من الأصعب مراقبة سلوك النموذج.

رفضت أنثروبيك التعليق ردًا على طلب للتعليق يوم الاثنين.

عوائد غير مؤكدة على الاستثمار في السلامة

على الرغم من تأكيدها على أمان الذكاء الاصطناعي، قالت أنثروبيك إن العوائد على استثماراتها في مجال الأمان غير واضحة.

لم تكشف في الإيداع عن مقدار ما كانت الشركة تنفقه على مثل هذا البحث. وفي وقت سابق من هذا الشهر، قالت أنثروبيك إن نحو 6 في المائة من القدرة الحاسوبية التي استخدمتها لأبحاث الذكاء الاصطناعي ذهبت إلى أعمال السلامة خلال أسبوع عيّنة في يوليو.

وصفت الشركة، مبتكرة نماذج كلود للذكاء الاصطناعي، جهود السلامة بأنها "تستهلك موارد كثيرة" وقالت إنها يجب أن توزع أموالها المحدودة بين القدرة الحاسوبية، ومواهب الذكاء الاصطناعي باهظة الثمن، والسلامة.

قالت أنثروبيك إن استخدام عملائها، وبالتالي الإيرادات، مدفوع بالنماذج الجديدة، وإن "إيقاعًا مستمرًا ومتداخلًا" من الإصدارات "جزء لا يتجزأ من البقاء عند حدود تطوير الذكاء الاصطناعي".

أصدرت الشركة الأسبوع الماضي نسخة جديدة من نموذج أوبوس الخاص بها، وذلك بعد 10 أيام من نشر الرئيس التنفيذي داريو أمودي مقالًا يقترب من 4,000 كلمة يدعو فيه إلى إبطاء وتيرة السباق على الحدود.

قال بعض المحللين والخبراء إنه لا يوجد مختبر رائد للذكاء الاصطناعي سيبطئ وتيرته عندما ينطوي ذلك على خطر منح المنافسين أفضلية في صناعة يمكن أن تتغير فيها التقييمات مع كل إصدار.

تعهدت Anthropic في الأسابيع الأخيرة بالكشف علنًا عن مزيد من البيانات حول كيفية استخدامها لنماذج الذكاء الاصطناعي لبناء الأجيال المستقبلية من التكنولوجيا، في وقت يحذر فيه الخبراء من التحسين الذاتي التكراري — النقطة التي يمكن عندها للنماذج أن تتطور من تلقاء نفسها دون مساعدة بشرية.

"نعتقد أن بناء أنظمة ذكاء اصطناعي موثوقة وجديرة بالثقة وآمنة هو مسؤولية جماعية، وأن السوق سيكافئ ذلك"، قالت أنثروبيك في الإيداع.