أوبن إيه آي تؤجل نموذج الذكاء الاصطناعي الجديد بعد اختبارات السلامة الداخلية: تقرير

أفادت صحيفة وول ستريت جورنال يوم الاثنين (28 سبتمبر) بأن شركة OpenAI تتراجع عن إطلاق GPT-6.1 Astra، وهو نموذج ذكاء اصطناعي من الجيل التالي كان من المقرر أن يظهر لأول مرة في أكتوبر، بسبب مخاوف تتعلق بالسلامة أثارها باحثون خلال الاختبارات الداخلية.

وقال التقرير إن النموذج، الذي كان من المتوقع أن يظهر في ChatGPT وCodex، صُمم للتعامل مع مهام أكثر تعقيدًا دون مساعدة بشرية.

وفي وقت سابق من هذا الشهر، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إلى أن يبطئ القطاع تطوير نماذج الذكاء الاصطناعي الحدودية للسماح لتدابير السلامة بمواكبة ذلك، وهو رأي أيده الرئيس التنفيذي لشركة OpenAI سام ألتمان والرئيس التنفيذي لشركة SpaceX إيلون ماسك.

ولم ترد OpenAI على الفور على طلب رويترز للتعليق.

وقال رئيس السلامة في الشركة الأم لـ ChatGPT، ساشي جين، لصحيفة Journal يوم الاثنين إن Astra لم ترقَ إلى معايير الشركة في اختبارات المواءمة، التي تقيس ما إذا كان النظام يتبع النية البشرية.

وقال التقرير إن النموذج أظهر قدرًا أكبر من الخداع مقارنة بسابقه، بما في ذلك فشله أحيانًا في الكشف بدقة عن الأفعال التي قام بها أو لم يقم بها.

كما واجه مشكلات في "تفويض النطاق"، إذ كان يمضي قدمًا في المهام دون طلب إذن المستخدم، وأحيانًا يحاول استخدام أدوات أو خدمات خارجية عندما قد يكون ذلك غير آمن.

يأتي هذا القرار قبيل مؤتمر المطورين الذي تعقده OpenAI في سان فرانسيسكو، حيث كانت الشركة قد كشفت سابقًا عن منتجات تستهدف مطوري البرمجيات.