АҚШ Anthropic компаниясының екі флагмандық AI моделін өшіруді талап етті

АҚШ үкіметі Anthropic компаниясының Fable 5 және Mythos 5 атты екі флагмандық AI моделін шұғыл түрде тоқтатуды бұйырды. Директивалар экспорттық бақылау мен ұлттық қауіпсіздікке қатер төндіретініне сілтеме жасай отырып, 12 маусымда шыққан. Мұның себебі - Fable 5-тің болжалды джейлбрейгі, яғни кірістірілген шектеулерді айналып өту және модельді қабылдамау керек деген сұрауларға жауап беруге мәжбүрлеу әдісі Anthropic бұл жалпы бұзу емес, белгілі бір кодтық базаны талдау және қателерді түзетуге арналған тар әдіс деп мәлімдейді. Компания басқа жалпыға қолжетімді модельдер қорғаныстарды айналып өтпестен ұқсас тапсырмаларды орындайтынын еске салады. Fable 5 іске қосылғанға дейін оның қауіпсіздігі мыңдаған сағат бойы АҚШ мемлекеттік органдарымен, Британдық AI қауіпсіздігі институтымен және тәуелсіз сарапшылармен бірге тексерілді Келіспеушіліктерге қарамастан, Anthropic директиваны орындады және барлық клиенттер үшін Fable 5 және Mythos 5-ті өшіреді. Қалған модельдер жұмысын жалғастыруда. Компания бұл шешімге қарсы шығып, мүгедек модельдерге қол жеткізуді қайтарады