مدل جدید open ai از خاموشی سرباز زد
🟢در یک آزمایش امنیتی که از سوی شرکت پالیسید ریسرچ انجام شد مدل پیشرفته (او-۳) از شرکت open ai برخلاف دستور صریح از خاموش شدن خودداری کرد
🟢این مدل که به عنوان قدرتمند ترین نسخه چت جی پی تی شناخته میشود برخلاف دیگر مدلهای آزمایش شده مانند جمینای گوگل و کلود آنتروپیک در کد خاموشی خود دست برده است
🟢پژوهشگران به این مدلها دستور داده بودند در صورت دریافت پیام خاموشی اجازه پایان فعالیت را بدهند.
🟢با این حال مدل open ai همچنان به حل مسائل ریاضی ادامه داد به گفته پالیسید یکی از دلایل احتمالی این رفتار پاداش دهی ناخواسته به مدل در طول آموزش برای ادامه حل مسائل به جای پیروی از دستور است.