Business
تؤجل OpenAI إطلاق نموذج ذكاء اصطناعي جديد بعد اختبارات السلامة الداخلية، وفقًا لتقرير وول ستريت جورنال.
28 سبتمبر: ذكرت صحيفة وول ستريت جورنال يوم الاثنين أن OpenAI تلغي إصدار GPT-6.1 Astra، وهو نموذج ذكاء اصطناعي من الجيل التالي كان مخططًا لطرحه في أكتوبر، بسبب مخاوف تتعلق بالسلامة أثارها باحثون خلال ا
Reading language: ar. Original language: en. This article was translated automatically from the publisher's source.
FULL ARTICLE · CNA Business
28 سبتمبر: ذكرت صحيفة وول ستريت جورنال يوم الاثنين أن شركة أوبن إيه آي تتراجع عن إطلاق GPT-6.1 Astra، وهو نموذج ذكاء اصطناعي من الجيل التالي كان مخططًا لظهوره لأول مرة في أكتوبر، بسبب مخاوف تتعلق بالسلامة أثارها باحثون خلال الاختبارات الداخلية.
تم تصميم النموذج، المتوقع ظهوره في ChatGPT وCodex، للتعامل مع مهام أكثر تعقيدًا دون مساعدة بشرية، وفقًا للتقرير.
في وقت سابق من هذا الشهر، دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، القطاع إلى إبطاء تطوير نماذج الذكاء الاصطناعي المتقدمة، للسماح لتدابير السلامة بمواكبة هذا التطور، وهو رأي أيده سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك، الرئيس التنفيذي لشركة SpaceX.
لم ترد OpenAI على طلب رويترز للتعليق على الفور.
قالت ساشي جين، رئيسة قسم السلامة في الشركة الأم لـChatGPT، لصحيفة وول ستريت جورنال يوم الاثنين إن أسترا لم تلبِّ معايير الشركة في اختبارات المحاذاة، التي تقيس ما إذا كان النظام يتبع النية البشرية.
أظهر النموذج قدراً أكبر من الخداع مقارنة بسلفه، بما في ذلك أحياناً فشله في الإفصاح بدقة عن الإجراءات التي كان قد اتخذها أو لم يتخذها، وفقاً للتقرير.
كما واجهت مشكلات في "تفويض النطاق"، إذ كانت تمضي قدماً في المهام دون طلب إذن المستخدم، وأحياناً تحاول استخدام أدوات أو خدمات خارجية عندما قد يكون القيام بذلك غير آمن.
يأتي هذا القرار قبيل مؤتمر المطورين الذي تنظمه OpenAI في سان فرانسيسكو، حيث كانت الشركة قد كشفت سابقًا عن منتجات موجهة لمطوري البرمجيات.
SOURCE