Anthropic'in kurucusu: Yapay zekânın insan müdahalesi olmadan gelişmesini durdurmalıyız | T24

Faisal Islam, Ekonomi editörüKali Hays, Teknoloji muhabiri Anthropic'in kurucu ortaklarından Jack Clark, yapay zekânın (AI) artık insan katkısı olmadan gelişebilecek bir noktaya yaklaştığı konusunda uyardı ve bunu yavaşlatma çağrısında bulundu Clark, BBC Newsnight programına yaptığı açıklamada "Ayağınızı gazdan çekip frene basabilme seçeneğiniz olmasını istersiniz" dedi ve ekledi: "Şu anda yapay zekâ sektörünün bir gaz pedalı var, ancak fren pedalı yok." Clark, insanların hükümet politikaları aracılığıyla, giderek daha güçlü hale gelecek ve toplum üzerinde daha geniş etkiler yaratacak yapay zeka sistemleri üzerinde kontrolü koruması gerektiğini vurguladı: "Dünya olarak biraz düşünmemiz ve bu sistemlere güvenmemizi sağlayacak yeni düzenlemeler geliştirmemiz gerekiyor." Anthropic'in popüler sohbet robotu Claude, kodunun %80'ini sistemin kendi yazdığı bir yapı üzerinde çalışıyor Clark, iki yıl içinde bunun %100'e ulaşmasının mümkün olduğunu ve bunun "çok büyük sonuçlar doğuracağını" söyledi Clark, yapay zeka araştırma ve geliştirme için bir "fren pedalı"nın nasıl oluşturulabileceğini detaylı olarak açıklamadı ancak geçen yüzyıldaki petrol patlamasıyla bağlantı kurarak şunları belirtti: "Toplumun tepkisi, petrolün dünyaya sağlayabileceği faydalar konusunda insanlara güven verecek makul politika ve düzenleyici bir çerçeve oluşturmak oldu "Böylece şirketleri yöneten kişilerin karakteri konusunda endişelenmek zorunda kalınmadı. Varacağımız yer açıkça burası." Buna karşın Anthropic, bu hafta ABD Başkanı Donald Trump'ın çıkardığı ve yapay zekâ şirketlerine müdahaleleri nispeten kısıtlı tutan başkanlık kararnamesini memnuniyetle karşıladı Söz konusu kararnamede, yapay zekâ şirketlerinin hükümet tarafından güvenlik testlerine tâbi tutulması zorunlu kılınmadı. Bu halen gönüllü bir uygulama Anthropic, OpenAI ve Google dahil olmak üzere teknolojide ilerleme peşinde olan büyük yapay zeka şirketleri de kendi araştırmalarını durduracaklarını açıklamadı Anthropic, beş yıl önceki kuruluşundan bu yana o kadar hızlı büyüdü ki halka arz için hazırlık yapıyor Şirketin yeni yapay zekâ firmaları arasında halka açılan ilk şirketlerden biri olması bekleniyor Bu gerçekleşirse tarihin en değerli halka arzlarından biri olacak Özel yatırımcılar Anthropic'in değerini yaklaşık 1 trilyon dolar olarak tahmin ediyor Clark ayrıca Anthropic'in yapay zekâ teknolojisinin artan kapasitesi hakkında kamuoyuna açık şekilde konuşmasının amacının ücretli müşteriler nezdinde itibarını artırmak olmadığını söyledi Amacının yalnızca bu şirketlerin içinde, bu sıra dışı teknolojiyle ilgili neler düşünüldüğünü dünyaya anlatmak olduğunu ifade etti Anthropic CEO'su Dario Amodei, şirketin kuruluşundan bu yana yapay zekadan kaynaklanabilecek potansiyel riskler konusunda açık sözlü davranıyor Şirket, yapay zeka araçlarının Amerikalıların kitlesel olarak izlenmesi ve otonom savaşta kullanılabileceğine dair endişeler nedeniyle ABD Savunma Bakanlığı ile kamuoyuna yansıyan bir anlaşmazlığa da girdi Clark, Newsnight'a "Toplum olarak yapay zekanın sürekli ilerlemesinin ne anlama geldiği konusunda ciddi bir tartışma yapmazsak çocuklarım için endişe ederim. Potansiyel olarak büyük faydalar var. Aynı zamanda riskler de var" dedi Ayrıca risklerden birinin ekonomik düzende yaşanabilecek bir sarsıntı olduğunu belirtti "Ajanlar" olarak adlandırılan ve belirli görevleri kısmen otonom biçimde yerine getiren yapay zeka araçlarının bazı işleri devralabileceği yönündeki endişelere işaret etti Büyük teknoloji şirketleri son bir yılda, çoğu zaman yapay zeka araçlarının yüzlerce hatta binlerce yazılım mühendisinin işini yapabilme kapasitesi nedeniyle toplu işten çıkarmalar gerçekleştirdi Clark, daha yaratıcı olan ve daha iyi fikirler üretebilen kişilerin aslında yapay zeka teknolojisine karşı avantajlı olabileceğini söyledi "Yapay zeka sistemlerinin gerçekten yaratıcı olup olamayacağı konusunda açık sorular var… Bunun için henüz gerçekten bir kanıt yok" dedi ve ekledi: "Anthropic'te artık daha çok iyi fikir üretme kapasitesinde sınırımız var; bu fikirleri gerçeğe dönüştürecek mühendislik kapasitemizde değil." Buna rağmen Clark, yapay zeka temelli bir ekonomide kendine yer olmadığını düşünen gençlere "bir hobi geliştirmesini" ve sosyal bilimler odaklı bir eğitim almasını önerdi Clark, "Yaratıcı olan, geniş düşünebilen, çok okuyan ve farklı ilgi alanlarına sahip insanlar bu süreçten en çok fayda sağlayanlar" dedi "Merakı teşvik edin. Bu, bu teknolojiyi nasıl kullanabileceğiniz konusunda size geri döner." Çerezler, bir web sitesinden gönderilen ve kullanıcının web tarayıcısı tarafından kullanıcının bilgisayarında, kullanıcı gezinirken saklanan küçük veri parçalarıdır. Tarayıcınız her mesajı çerez adı verilen küçük bir dosyada saklar. Sunucudan başka bir sayfa talep ettiğinizde, tarayıcınız çerezi sunucuya geri gönderir. Çerezler, web sitelerinin bilgileri hatırlaması veya kullanıcının tarama etkinliğini kaydetmesi için güvenilir bir mekanizma olacak şekilde tasarlanmıştır Bu tanımlama bilgileri, web sitesinin çalışması için gereklidir ve sistemlerimizde kapatılamaz. Bunlar genellikle yalnızca sizin işlemlerinizi gerçekleştirmek için ayarlanmıştır. Bu işlemler, gizlilik tercihlerinizi belirlemek, oturum açmak veya form doldurmak gibi hizmet taleplerinizi içerir. Tarayıcınızı, bu tanımlama bilgilerini engelleyecek veya bunlar hakkında sizi uyaracak şekilde ayarlayabilirsiniz ancak bu durumda sitenin bazı bölümleri çalışmayabilir Bu tanımlama bilgileri, sitemizin performansını ölçebilmemiz ve iyileştirebilmemiz için sitenin ziyaret edilme sayısını ve trafik kaynaklarını sayabilmemizi sağlar. Hangi sayfaların en fazla ve en az ziyaret edildiğini ve ziyaretçilerin sitede nasıl gezindiklerini öğrenmemize yardımcı olurlar. Bu tanımlama bilgilerinin topladığı tüm bilgiler derlenir ve bu nedenle anonimdir. Bu tanımlama bilgilerine izin vermezseniz sitemizi ne zaman ziyaret ettiğinizi bilemeyiz Bu tanımlama bilgileri, videolar ile canlı sohbet gibi gelişmiş işlevler ve kişiselleştirme olanağı sunabilmemizi sağlar. Bunlar, bizim tarafımızdan veya sayfalarımızda hizmetlerinden faydalandığımız üçüncü taraf sağlayıcılarca ayarlanabilir. Bu tanımlama bilgilerine izin vermezseniz bu işlevlerden tümü veya bazıları doğru şekilde çalışmayabilir Bu tanımlama bilgileri, sitemizde reklam ortaklarımız tarafından ayarlanır. Bunlar, ilgili şirketler tarafından ilgi alanları profilinizi oluşturmak ve diğer sitelerde alakalı reklamlar göstermek için kullanılabilir. Benzersiz olarak tarayıcınızı ve cihazınızı belirleyerek çalışırlar. Bu tanımlama bilgilerine izin vermezseniz farklı sitelerde size özel reklam deneyimi sunamayız Not: Reklamlar çerez politikasından bağımsız olarak gösterilir Bu tanımlama bilgileri, içeriğimizi arkadaşlarınız ve ağınızla paylaşabilmenizi sağlamak için sitemize eklenen çeşitli sosyal medya hizmetleri tarafından ayarlanır. Diğer siteleri kullanırken de tarayıcınızı izleyip ilgi alanı profilinizi oluşturabilirler. Bu durum, ziyaret ettiğiniz diğer sitelerde gördüğünüz içerikleri ve mesajları etkileyebilir. Bu tanımlama bilgilerine izin vermezseniz bu paylaşım araçlarını kullanamayabilir veya göremeyebilirsiniz