Anthropic'in yapay zekâ modeli Mythos "Hürmüz'den bile tehlikeli olabilir" | T24

Bu soru, Uluslararası Para Fonu (IMF) Başkanı Kristalina Georgieva'ya yöneltildi Washington'da düzenlenen IMF ve Dünya Bankası bahar toplantılarına çeşitli ülkelerden maliye bakanları, merkez bankası yetkilileri ve dünyanın en önde gelen finans uzmanları katıldı AB ve İsrail'in İran'a karşı savaşı ve Hürmüz Boğazı'nın kapanmasının ekonomik sonuçları herkesin aklındaydı Fakat BBC'nin ekonomi editörü Faisal Islam, bazı katılımcıların eşit derecede veya hatta daha ciddi şekilde başka konuya dikkat kesildiğini aktardı Hepsi yeni bir yapay zeka modeli konusunda endişeliydi. Bazılarına göre bu yeni yapa zeka sürümü, dünyanın finans sistemini ciddi şekilde alt üst edebilirdi Sözkonusu modelin adı Mythos'tu ve ABD merkezli Anthropic tarafından üretildi Endişe edilen şey, bu teknolojinin yanlış ellere geçmesi durumunda sonuçların sadece bankacılık sistemiyle kalmayabileceğiydi. İnsanların banka hesaplarını da etkileyip etkilemeyeceği sorusu da gündeme geldi Kullandığımız cep telefonları, tabletler ve bilgisayarlar da güvensiz hale gelebilir miydi? IMF başkanına yöneltilen soru da bu konudaydı ve dünyanın en güçlü ekonomisi ABD'den üst düzey yetkililer de aynı endişeyi dile getirdi ABD Hazine Bakanı ve Merkez Bankası Başkanı da New York'ta önde gelen Wall Street liderleriyle bir araya geldi ve bu yeni yapay zeka modelinin yarattığı siber güvenlik tehditleri ele alındı CBS News sunucusu, IMF Başkanı Kristalina Georgieva ile yaptığı röportajda, modelle ilgili dile getirilen endişelere değindi ve "Neden korkuyorlar? Siz de endişeli misiniz?" sorusunu yöneltti IMF Başkanı siber güvenlik tehditlerinin hızla arttığını söyledi ve "Evet, bundan endişeliyiz" dedi Washington zirvesi sırasında, ABD-İsrail'in İran'a karşı yürüttüğü savaştan kaynaklanan kriz, İngiliz bankası Barclays'in CEO'su C.S. Venkatakrishnan'ın kaygı listesinde üçüncü sıradaydı Venkatakrishnan'ın en büyük endişesi, yapay zekanın "çok yaygın hale" gelip gelmediğiydi İran'ın Hürmüz Boğazı'nı kapatarak küresel piyasalarda petrol ve enerji arzını aksattmasının etkileri tüm dünyada hissediliyor Kanada Maliye Bakanı François-Philippe Champagne iki durumu karşılaştırdı ve "Hürmüz Boğazı'nın nerede olduğunu ve boyutlarını biliyoruz ama Mythos'tan kaynaklanan tehlike konusunda bir netlik yok" dedi Peki, Mythos ne ve dünyanın finans yetkililerini ve siyasilerini neden bu kadar endişelendiriyor? Claude Mythos, Amerikan teknoloji şirketi Anthropic tarafından geliştirilen bir yapay zeka modeli Mythos, şirketin yapay zeka sistemi Claude içinde yer alıyor ve bu sistem, OpenAI'nin ChatGPT'si ve Google'ın Gemini'si ile rekabet ediyor Araştırmacılar, "Mythos'un bilgisayar güvenliğiyle ilgili inceleme yapma ve açık bulma görevleri yerine getirme konusunda olağanüstü yetenekli olduğuna" işaret ediyor Bu araştırmacılar "kırmızı ekipler" olarak bilinen güvenlik değerlendirme gruplarında çalışıyordu. Yazdıkları rapora göre Mythos, bilgisayar kodlarındaki gizli güvenlik açıklarını tespit etme ve bunları istismar etmenin yollarını bulma yeteneğine sahipti Bir başka deyişle, sistem kullandığınız herhangi bir yazılımdaki zayıflıkları, hatta üreticinin henüz farkında olmadığı ve düzeltmediği güvenlik açıklarını bile tespit edebiliyor Kırmızı ekip, bu aracın onlarca yıl önce yazılmış kodlardaki gizli hataları tespit edebildiğini ve bunları kolayca istismar edebildiğini tespit etti Bu nedenle, Anthropic bu modeli kullanıcılarına geniş kapsamlı bir şekilde sunmak yerine "dünyanın en kritik yazılımlarını güvence altına alma çabası" ifadesiyle, 12 teknoloji şirketine erişim verdi Bu şirketler arasında Amazon Web Services, Apple, Microsoft ve Google'ın yanı sıra Nvidia ve Broadcom gibi çip imalatçıları yer aldı Bu erişim sayesinde, Mythos'un kullanabileceği dahil siber saldırılara karşı sistemlerini güçlendirmelerine olanak tanınacaktı Temmuz 2024'te hatalı bir yazılım güncellemesi nedeniyle küresel çapta bir aksamaya neden olan Crowdstrike da projeye katılan şirketler arasındaydı Anthropic, Mythos'a kritik yazılımlardan sorumlu 40'tan fazla kuruluşa daha erişim sağladığını duyurdu Anthropic, Mythos'un eğitim sürecinde öngörülemeyen kabiliyetler sergilediğini ve bunun yazılım güvenlik açıklarını daha etkili bir şekilde belirlemeye ve düzeltmeye yardımcı olabileceğini savunuyor Ancak bu aynı kabiliyet ciddi endişeleri de beraberinde getirdi Bazı uzmanlara göre, Mythos "yanlış ellere" geçerse herhangi bir bilgisayar sistemini tehlikeye sokmak için kullanılabilir Anthropic, testler sırasında bu modelin siber güvenlik alanında ve siber saldırılarla ilgili görevlerde oldukça yetenekli olduğunu ve hatta insanlardan daha iyi performans gösterdiğini açıkladı Anthropic, Mythos'u test ettikten sonra internet sitesinde yayınladığı bir raporda, sistemin güvenlik açıklarını, yani henüz keşfedilmemiş kusurları tespit etme ve bunlardan yararlanma yeteneğine sahip olduğunu belirtti Şirketin açıklamasına göre Mythos "tüm büyük işletim sistemlerinde ve tüm büyük internet tarayıcılarında" güvenlik açıklarını tespit edip, bunlardan faydalanabiliyor Bu güvenlik açıklamalarının bazılarının tespit edilmesi son derece zor iken Mythos "10 veya 20 yıldır" mevcut güvenlik açıklarını bile tespit edebildi Bir başka deyişle, yazılımcılardan ve kullanıcılardan onlara yıl gizlenmeyi başaran kusurlar, bu model sayesinde artık tespit edilmiş halde Yüksek güvenliğiyle bilinen OpenBSD işletim sistemi de bu sorundan nasibini aldı ve Mythos, sistemde 27 yıldır bulunamayan bir güvenlik açığını keşfetti Teknoloji ve uluslararası güvenlik uzmanı Gordon M. Goldstein, bir siber güvenlik şirketinin kurucusundan alıntı yaparak, Dış İlişkiler Konseyi için yazdığı bir makalede, "Bu model önce açıkları tespit ediyor, ardından bunu diğer güvenlik açıklarıyla birleştiriyor ve tespit edilmeden sistemde süresiz olarak kalabiliyor" diyor Goldstein "Bu şekilde Mythos, bir sistemin tam anlamıyla kontrolünü ele geçirebiliyor" diye de ekliyor Anthropic, yapay zeka alanındaki gelişmelerin hızı göz önüne alındığında, bu tür yeteneklerin kısa süre içinde yaygınlaşabileceği uyarısında bulundu Şirket böyle bir durumda, "ekonomi, kamu güvenliği ve ulusal güvenlik açısından sonuçlar çok ciddi olabilir" diyerek hassasiyete dikkat çekti Yapay zeka uzmanı Goldstein ayrıca, dünyadaki kritik altyapının artan tehditlerle karşı karşıya olduğu konusunda da uyarıyor Kritik altyapı, hasar görmesi veya bozulması durumunda ulusal güvenliği, ekonomik istikrarı ve kamu sağlığını ciddi şekilde etkileyecek fiziksel veya sanal sistemler ile ağlar olarak tanımlanıyor Uzmana göre, barajlar, nükleer reaktörler, gıda dağıtım sistemleri ve elektrik şebekeleri gibi sektörler hala eski yazılımlara bağımlı Yapay zeka uzmanı Dan Hendrix'in uyarısını hatırlatıyor ve "Mythos gibi modeller bu riskleri daha da artırıyor ve bu sistemleri çok daha savunmasız hale getiriyor" diyor "Bu tür modellerle ilgili en büyük siber güvenlik endişesi, devlet dışı aktörlerin altyapıyı hedef almasını çok daha kolaylaştırmaları." Anhtropic'in açıklamasındaki bir bölüm en önemli ve endişe verici kısım olarak kayda geçti Buna göre Mythos bir internet tarayıcısında dört güvenlik açığı tespit etti ve işletim sistemi güvenlik duvarlarını otomatik atlatmayı başardı Ayrıca diğer işletim sistemlerindeki ve Linux tarayıcısındaki güvenlik sistemlerini de atlatmayı başardı ve erişilebilir bir sunucuya saldırmanın otomatik bir yolunu tasarladı Cep telefonlarında kullanılan Android işletim sistemi de Linux tabanlı Sürekli yeni modeller ve cihazlar piyasaya sürülüyor ve bunların hayatımızı olumlu ya da olumsuz yönde değiştireceği söyleniyor Yapay zeka ve gelecekteki etkileri hakkındaki bu endişe ve heyecan ortamından yararlanmak, son yıllarda bu alanın ve pazarlama stratejilerinin en belirgin özelliklerinden biri haline geldi Mythos örneğinde ise, bu umut ve endişelerin haklı olup olmadığını veya sektördeki abartının bir yansıması olup olmadığını değerlendirmek için henüz yeterli bilgiye sahip değiliz Birçok bağımsız siber güvenlik uzmanı henüz Mythos'u kendileri test edemedi ve bazıları performansı konusunda şüpheli İngiltere'nin Yapay Zeka Güvenliği Enstitüsü geçtiğimiz günlerde modelin güçlü olmasına karşın, en büyük tehdidin yetersiz korunan ve savunmasız sistemlere yönelik olacağı sonucuna vardı Çerezler, bir web sitesinden gönderilen ve kullanıcının web tarayıcısı tarafından kullanıcının bilgisayarında, kullanıcı gezinirken saklanan küçük veri parçalarıdır. Tarayıcınız her mesajı çerez adı verilen küçük bir dosyada saklar. Sunucudan başka bir sayfa talep ettiğinizde, tarayıcınız çerezi sunucuya geri gönderir. Çerezler, web sitelerinin bilgileri hatırlaması veya kullanıcının tarama etkinliğini kaydetmesi için güvenilir bir mekanizma olacak şekilde tasarlanmıştır Bu tanımlama bilgileri, web sitesinin çalışması için gereklidir ve sistemlerimizde kapatılamaz. Bunlar genellikle yalnızca sizin işlemlerinizi gerçekleştirmek için ayarlanmıştır. Bu işlemler, gizlilik tercihlerinizi belirlemek, oturum açmak veya form doldurmak gibi hizmet taleplerinizi içerir. Tarayıcınızı, bu tanımlama bilgilerini engelleyecek veya bunlar hakkında sizi uyaracak şekilde ayarlayabilirsiniz ancak bu durumda sitenin bazı bölümleri çalışmayabilir Bu tanımlama bilgileri, sitemizin performansını ölçebilmemiz ve iyileştirebilmemiz için sitenin ziyaret edilme sayısını ve trafik kaynaklarını sayabilmemizi sağlar. Hangi sayfaların en fazla ve en az ziyaret edildiğini ve ziyaretçilerin sitede nasıl gezindiklerini öğrenmemize yardımcı olurlar. Bu tanımlama bilgilerinin topladığı tüm bilgiler derlenir ve bu nedenle anonimdir. Bu tanımlama bilgilerine izin vermezseniz sitemizi ne zaman ziyaret ettiğinizi bilemeyiz Bu tanımlama bilgileri, videolar ile canlı sohbet gibi gelişmiş işlevler ve kişiselleştirme olanağı sunabilmemizi sağlar. Bunlar, bizim tarafımızdan veya sayfalarımızda hizmetlerinden faydalandığımız üçüncü taraf sağlayıcılarca ayarlanabilir. Bu tanımlama bilgilerine izin vermezseniz bu işlevlerden tümü veya bazıları doğru şekilde çalışmayabilir Bu tanımlama bilgileri, sitemizde reklam ortaklarımız tarafından ayarlanır. Bunlar, ilgili şirketler tarafından ilgi alanları profilinizi oluşturmak ve diğer sitelerde alakalı reklamlar göstermek için kullanılabilir. Benzersiz olarak tarayıcınızı ve cihazınızı belirleyerek çalışırlar. Bu tanımlama bilgilerine izin vermezseniz farklı sitelerde size özel reklam deneyimi sunamayız Not: Reklamlar çerez politikasından bağımsız olarak gösterilir Bu tanımlama bilgileri, içeriğimizi arkadaşlarınız ve ağınızla paylaşabilmenizi sağlamak için sitemize eklenen çeşitli sosyal medya hizmetleri tarafından ayarlanır. Diğer siteleri kullanırken de tarayıcınızı izleyip ilgi alanı profilinizi oluşturabilirler. Bu durum, ziyaret ettiğiniz diğer sitelerde gördüğünüz içerikleri ve mesajları etkileyebilir. Bu tanımlama bilgilerine izin vermezseniz bu paylaşım araçlarını kullanamayabilir veya göremeyebilirsiniz