AQSh Anthropic kompaniyasidan ikkita flagman AI modelini o'chirishni talab qildi

AQSh hukumati Anthropic kompaniyasining ikkita flagman sun'iy intellekt modellari - Fable 5 va Mythos 5 ni favqulodda to'xtatishni buyurdi. Ko'rsatma eksport nazorati va milliy xavfsizlikka tahdid tufayli 12 iyun kuni qabul qilingan. Buning sababi Fable 5-ning taxmin qilingan jailbreak, ya'ni o'rnatilgan cheklovlarni chetlab o'tish va modelni rad etishi kerak bo'lgan so'rovlarga javob berishga majbur qilish usuli edi Anthropicning ta'kidlashicha, bu umumiy buzish emas, balki ma'lum bir kod bazasini tahlil qilish va xatolarni tuzatish uchun tor usul. Kompaniyaning eslatishicha, ommaga ochiq bo‘lgan boshqa modellar ham xuddi shunday vazifalarni himoya vositalarini chetlab o‘tmasdan bajaradi. Fable 5 ishga tushirilgunga qadar uning xavfsizligi AQSh hukumati idoralari, Britaniya AI xavfsizligi instituti va mustaqil ekspertlar bilan birgalikda minglab soat davomida tekshirilgan Kelishmovchilikka qaramay, Anthropic direktivaga rioya qildi va barcha mijozlar uchun Fable 5 va Mythos 5 ni o'chirib qo'ydi. Qolgan modellar ishlashda davom etmoqda. Kompaniya qarorga qarshi chiqmoqchi va nogiron modellarga kirish huquqini qaytarmoqchi