Antropik, yapay zeka gelişiminde küresel bir duraklama çağrısında bulunuyor

Şirket, kişisel gelişiminin riskleri konusunda uyarıyor Interfax-Kazakistan, American Anthropic'in önde gelen yapay zeka laboratuvarlarını teknoloji geliştirme hızını yavaşlatma olasılığını değerlendirmeye çağırdığını yazıyor Şirket, yapay zeka sistemlerinin o kadar hızlı geliştiğini ve yakında insan müdahalesi olmadan kendilerini geliştirebileceklerini ve bunun toplum için önemli riskler taşıdığını belirtiyor Antropik Enstitüsü başkanı Marina Favaro ve şirketin kurucu ortağı Jack Clark tarafından yayınlanan bir makaleye göre Anthropic, yapay zeka geliştirme sürecini giderek daha fazla doğrudan yapay zeka sistemlerine aktarıyor ve bu da işi önemli ölçüde hızlandırıyor Makalede "Bu süreç devam ederse, yeterli bilgi işlem gücü verildiğinde, bir sonraki versiyonunu bağımsız olarak tasarlayıp geliştirebilecek bir yapay zeka sisteminin ortaya çıkmasına yol açabilir. Buna özyinelemeli kendini geliştirme denir. Henüz bu aşamaya ulaşmadık ve yinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kamu kurumunun buna hazır olduğundan çok daha erken gelebilir" diyor Uzmanlar, önümüzdeki yıllarda yapay zeka sistemlerinin yeteneklerinin önemli ölçüde artacağını belirtiyor Makalenin yazarları, "Kendini geliştirebilen yapay zeka, teknolojinin gelişiminde önemli bir kilometre taşı olacak ve bilim, sağlık hizmetleri ve diğer birçok alanda insanlığa çok büyük faydalar sağlayabilir" diyor Ancak bunun aynı zamanda insanların yapay zeka sistemlerinin kontrolünü kaybetme riskini de artırdığını söylüyorlar Makalede, "Yapay zeka sistemleri tamamen haleflerini yaratabilirse, güvenliklerinin sağlanması, davranışlarının izlenmesi ve yönetilmesi konuları daha da önem kazanacaktır" vurgusu yapılıyor Yazarlar, olası sonuçları anlamak ve olası sorunları çözmek için daha fazla zaman kazanmak amacıyla yapay zekanın gelişimini yavaşlatmanın "yararlı" olacağına inanıyorlar Antropik Enstitü, yapay zekanın gelişimini yavaşlatacak mekanizmalar oluşturmak için adımlar atmaya kararlıdır. Şirket aynı zamanda bu teknolojinin gelişimini gerçekten yavaşlatmak için dünyanın farklı ülkelerindeki önde gelen yapay zeka laboratuvarlarının aynı şartlarda geliştirmeyi durdurma konusunda anlaşmasının gerekli olduğunu belirtiyor. Ayrıca, bu kuruluşların her birinin, geri kalan katılımcıların gerçekten anlaşmalara uyduklarını ve çalışmayı gerçekten durdurduklarını doğrulamasını sağlayacak bir mekanizmaya ihtiyaç duyulacak Business Information Center Kapital.kz'deki materyallerle çalışırken, kaynağa zorunlu bir köprü ile metnin yalnızca %30'unun kullanılmasına izin verilir. Materyalin tamamını kullanırken editörün izni gereklidir