ABD, Anthropic'in iki amiral gemisi AI modelini kapatmasını talep etti

ABD hükümeti, Anthropic'in iki amiral gemisi yapay zeka modeli olan Fable 5 ve Mythos 5'in acil olarak kapatılması emrini verdi. Direktif, ihracat kontrollerini ve ulusal güvenliğe yönelik bir tehdidi öne sürerek 12 Haziran'da geldi. Bunun nedeni, Fable 5'in jailbreak olduğu iddiasıydı; bu, yerleşik kısıtlamaları aşmanın ve modeli reddetmesi gereken isteklere yanıt vermeye zorlamanın bir yoluydu Anthropic bunun genel bir hack olmadığını, belirli bir kod tabanını analiz etmek ve hataları düzeltmek için kullanılan dar bir teknik olduğunu iddia ediyor. Şirket, halka açık diğer modellerin de korumaları atlamadan benzer görevleri yerine getirdiğini hatırlatıyor. Fable 5 piyasaya sürülmeden önce güvenliği ABD devlet kurumları, Britanya Yapay Zeka Güvenliği Enstitüsü ve bağımsız uzmanlarla birlikte binlerce saat boyunca kontrol edildi Anlaşmazlığa rağmen Anthropic direktife uydu ve Fable 5 ile Mythos 5'i tüm istemciler için devre dışı bırakıyor. Kalan modeller çalışmaya devam ediyor. Şirket karara itiraz edecek ve engelli modellere erişimi iade edecek