Yapay Zeka güvenliğini güçlendirmek için OpenAI, Promptfoo'yu satın alacak

Kurumlar yapay zeka aracılarını gerçek iş akışlarında giderek daha fazla kullandıkça, güvenliğin, uyumluluğun ve güvenli davranışın sağlanması zorunlu hale geldi. OpenAI, Promptfoo'nun araçlarının şirketlerin AI aracılarını test etmesine, dağıtımdan önce riskleri tespit etmesine ve yönetişimi ve hesap verebilirliği desteklemek için net kayıtlar tutmasına olanak tanıyacağını söylüyor Ian Webster ve Michael D'Angelo liderliğindeki Promptfoo, büyük dil modeli uygulamalarını değerlendirmek ve bir araya getirmek için yaygın olarak kullanılan bir açık kaynak kitaplığına ve komut satırı arayüzüne sahiptir. OpenAI, Frontier'daki kurumsal yetenekleri geliştirirken açık kaynak projesini desteklemeye devam etmeyi planlıyor OpenAI B2B Uygulamaları CTO'su Srinivas Narayanan, "Promptfoo, yapay zeka sistemlerini kurumsal ölçekte değerlendirme, güvence altına alma ve test etme konusunda derin mühendislik uzmanlığı getiriyor. Çalışmaları, işletmelerin güvenli ve güvenilir yapay zeka uygulamalarını devreye almasına yardımcı oluyor ve biz de bu yetenekleri doğrudan Frontier'a getirmekten heyecan duyuyoruz" dedi Frontier'a gelen temel kurumsal özellikler arasında, hızlı enjeksiyonlar, jailbreak'ler, veri sızıntıları ve politika ihlalleri gibi sorunları belirlemek için otomatik test ve kırmızı ekip oluşturma ile yerleşik güvenlik ve güvenlik testleri yer alıyor Güvenlik kontrolleri geliştirme iş akışlarına entegre edilecek ve risklerin daha erken ele alınmasına olanak sağlanacak. Raporlama ve izlenebilirlik araçları aynı zamanda kuruluşların testleri belgelemelerine ve yönetişim ve uyumluluk standartlarını karşılamalarına da yardımcı olacaktır Daha önce Qazinform Haber Ajansı, OpenAI ile Amerika Birleşik Devletleri Savunma Bakanlığı arasında bir ortaklık olduğuna dair haberlerin ardından Amerika Birleşik Devletleri'ndeki mobil uygulama ChatGPT'nin kaldırılmasının keskin bir şekilde arttığını bildirmişti