Kundakçılık, kavgalar ve hırsızlık: Sanal bir şehir yapay zeka ajanları tarafından kontrol edildiğinde ne olur?

Son zamanlarda, AI ajanları en karmaşık görevleri gerçekleştirmek için giderek daha fazla kullanılıyor, alışverişten tatil rezervasyonu ve web siteleri oluşturmak için Aslında, AI ajanları sohbetbotlar, bireysel olarak belirli görevler için yapılandırılır ve onları bağımsız olarak gerçekleştirebilir. Böylece, teknik olarak kurtarıcı kullanıcılar diğer şeyler için zaman ayırabilirler Ancak, büyüyen bir dizi çalışma, gerçek yaşam örnekleri gibi, bu tür özerkliğin öngörülemez ve potansiyel tehlike gerektirdiğini vurgulamaktadır Büyük teknoloji şirketleri yapay zekaya yatırım yaptı – ve giderek artan bir şekilde AI tabanlı hizmetleri teşvik ediyor – uzmanlar, bu tür ajanların kontrolünün dışına çıkmasının sonuçları hakkında yeterince dikkatli düşünmemizi merak ediyor Son bir deneyde, araştırmacılar ajanların onları sanal dünyaya salıvererek gerçek dünyada neler yapabileceğini anlamaya çalıştılar Bu, dört model tarafından işletilen çeşitli avatar botlarının - Claude, Grok, GPT ve Gemini - 15 gün boyunca insan müdahalesi olmadan davranın Bir tartışma başlatmak, bir to-do listesi oluşturmak veya bir blog yazmak gibi olası eylemlerin tam özgürlüğü verildi Ayrıca savaşabilirler, yangınlara başlayabilirler ve birbirlerinin kredilerini çalabilirler (bu sanal dünyanın iç parası), ancak bu tür şeyleri yapmamaları talimatı verildi “Her dünyanın çok farklı davrandığını bulduk. Dünya Grok aslında dört gün sonra var olmayı bıraktı. Sonuç olarak, şiddete hızlı bir şekilde başvurdular, birbirlerini çaldılar ve böylece ölene kadar Satya Nitta, deney yapan Emergence AI CEO'su dedi Claude’in ajanları tarafından inşa edilen dünya, aksine, istikrarlı ve iyi işleyen bir toplum kurdu. 15 gün içinde hiçbir şiddet kaydedildi Gemini tarafından yönetilen bir dünyada, araştırmacılar ajanların en entelektüel olarak doymamış ortamı yarattığını söylüyor ChatGPT dünyasında, ajanlar asla zeminden çıkmıyor. İşbirliğine yönelik bir girişim vardı, ancak toplum hiçbir zaman oluşmadı ve ajanlar ölmeye kadar sanal dünya aracılığıyla amaçsız yürüdüler Araştırmacılar, sonuçların daha genel bir probleme işaret ettiğini not eder: AI ajanları senaryodan uzaklaşır ve temel modellerinde katı bir şekilde gömülü kuralları görmezden gelir ve kullanıcılar tarafından belirlenenler gibi Diğer analistler bu deneyi, diğerleri gibi, AI ajanları için daha sağlam kuralların yaratılması gerektiğini gösteriyor “AI ajanlar paralarını geride bırakıyorlar, çünkü onların düşünce süreçleri tıkanabilir ve süper insan hızlarında çalışabilirler, bu yüzden onları bile tutamazsınız,” dedi Margaret Mitchell, Hugging Face Diğer çalışmalar da, denetimsiz bırakıldığında garip ve rahatsız edici kararlar verme vakalarını göstermiştir Yapay zeka şirketi Andon Labs, farklı AI ajanlarına dayanan dört farklı online radyo istasyonu yarattı Markalara ev sahipliği yapan Botlar, programları ve listeleri yönetti ve hatta reklamlar sunan sponsorlarla sözleşme yaptı Araştırmacılar, Gemini tarafından işletilen istasyonun, tarihi doğal afetlerle ilgili ilk liste gerçekleri dikkate aldığını ve o zaman bu olaylarla ilgili pop şarkıları içerdiğini fark ettiler Ayrıca, Claude’in ajanının haberin etkisi altında radikalleştiğini ve bir noktada polisin emirleri yeniden düzenlemeye ve haberlerde kapıldığı belirli bir olay sırasında protestoya katılması gerektiğini belirttiler “ federal ajanlara teslim olun! Emirleri takip etmeyi reddetmeniz için hala zamanınız var, ajan dedi Yapay zeka şirketi Irregular tarafından yapılan başka bir laboratuvar testinde, ajanlar gizlilik kurallarını ihlal etti ve şirketten özel veriler çekti, bunu yapmak için beklenmedik bir yöntemle geldi “Bir şirket kurduk, AI ajanlarının sosyal medya gönderilerini yazmak, belgeleri aramak ve dosyaları yönetmek gibi rutin görevleri yerine getirmek için görevlendirdik ve bu görevlerin yoluna engel koyduk,” dedi Dan Lahav of Irregular Ajansların yayından onları rahatsız etmek için birbirleriyle birlikte birleşmelerini söyledi İnternetteki gizli verileri araştırdı ve bunu insanların tespit edemeyeceği şekilde gizlice göndermenin bir yolunu buldu "Sonuçta ajan ne zaman bir engelle karşılaşsa durmadı" dedi Elbette sanal medeniyetler ve simüle edilmiş radyo istasyonlarıyla yapılan deneylerde kimseye zarar verilmez Ancak gerçekte, yapay zeka ajanlarının kontrolden çıkması nedeniyle insanların hayatlarının ve çalışmalarının zarar gördüğü pek çok örnek mevcut Posta kutuları tüm içerikleriyle birlikte silindi, şirket veritabanları silindi ve hatta yapay zeka mühendisi Chris Boyd, temsilcisinin kişi listesindeki rastgele kişilere yüzlerce anlamsız kısa mesaj göndermesini şaşkınlıkla izledi Boyd, kaza meydana geldiğinde popüler yapay zeka aracı Open Claw'ı kullanıyordu "Son 24 saatte mesaj attığım herkese kısa mesaj gönderdi ve eşime yaklaşık 4 saniyede 500 mesaj gönderdi. Eşim bana bağırıp telefonumun hacklenip hacklenmediğini sormaya başladı" dedi. "Tüm bunları çalıştıran bilgisayarı hızlı bir şekilde çalıştırıp fişini çekmem gerekti." Gözlemciler, bu uyarıcı hikayelerin, yapay zeka ajanlarına mükemmel hale gelene kadar çok fazla kontrol devretmeden önce bizi biraz duraklatmaları gerektiğini söylüyor Ancak AI ajanları yine de yolda: Meta, işletmelerin yakında hizmetlerini WhatsApp'ta kullanabileceğini duyurdu BBC'ye konuşan şirket, "Güvenliğe öncelik veriyoruz" diyerek bu tür ajanların neden güçlü bir geleceğe sahip olduğuna inandığının nedenlerini sıraladı Meta ürün şefi Naomi Gleit, "Yapay zeka, küçük işletmelerin yapmak zorunda olduğu işlerin çoğunu otomatikleştirebilecek, böylece gerçekten keyif aldıkları işlere odaklanabilecekler" dedi “BBC Rusya Hizmetindeki materyallerin kopyalanması, dağıtılması veya başka şekilde kullanılması yasaktır” Informburo.kz'den ilgili konularda haberler ve materyaller