ABŞ Anthropic-dən iki qabaqcıl AI modelini söndürməyi tələb etdi

ABŞ hökuməti Anthropic-in iki qabaqcıl süni intellekt modeli olan Fable 5 və Mythos 5-in təcili dayandırılmasını əmr edib. Direktiv ixraca nəzarət və milli təhlükəsizliyə təhdid olduğunu əsas gətirərək iyunun 12-də verilib. Səbəb, Fable 5-in iddia edilən jailbreak, yəni daxili məhdudiyyətləri keçmək və modeli rədd etməli olduğu sorğulara cavab verməyə məcbur etmək idi Anthropic iddia edir ki, bu, ümumi bir hack deyil, konkret kod bazasını təhlil etmək və səhvləri düzəltmək üçün dar bir texnikadır. Şirkət xatırladır ki, ictimaiyyətə açıq olan digər modellər mühafizələrdən yan keçmədən oxşar vəzifələri yerinə yetirirlər. Fable 5 təqdim edilməzdən əvvəl onun təhlükəsizliyi ABŞ dövlət qurumları, Britaniya Süni İntellekt Təhlükəsizliyi İnstitutu və müstəqil ekspertlərlə birlikdə minlərlə saat ərzində yoxlanılıb Razılaşmaya baxmayaraq, Anthropic direktivə əməl etdi və bütün müştərilər üçün Fable 5 və Mythos 5-i deaktiv etdi. Qalan modellər işləməyə davam edir. Şirkət qərara etiraz edəcək və əlil modellərə girişi geri qaytaracaq