Anthropic-dən süni intellekt xəbərdarlığı: Tezliklə nəzarəti itirə bilərik

Süni intellekt şirkəti Anthropic, "rekursiv özünü təkmilləşdirmə" riskinə diqqət çəkərək, Klod modelinin getdikcə daha çox öz kodunu yazdığını ifadə edərək, sistemlərin insan nəzarətindən kənarda ola biləcəyini göstərir Aparıcı süni intellekt şirkətlərindən biri olan Anthropic, yeni nəsil süni intellekt sistemlərinin insan nəzarətindən kənar inkişaf potensialına malik olduğu barədə xəbərdarlıq edib Şirkətin Claude modelinin son qiymətləndirməsinə görə, sistem indi öz kodunun 80 faizindən çoxunu yaza bilir. Ötən ilin əvvəlində bu nisbət 10 faizdən aşağı idi Antropik səlahiyyətlilər, bu sürətli dəyişikliyin "rekursiv özünü təkmilləşdirmə" adlı bir prosesə işarə etdiyini və bunun süni intellektin gələcəkdə öz davamçılarını hazırlaya biləcək səviyyəyə çata biləcəyi anlamına gələ biləcəyini ifadə etdi Şirkətin tədqiqatçılarından Marina Favaro və Cek Klark tərəfindən dərc edilən bloq yazısında bu tendensiyanın uzunmüddətli perspektivdə böyük elmi və texnoloji irəliləyişlər təmin edə biləcəyi, eyni zamanda ciddi nəzarət riskləri də yarada biləcəyi qeyd edilib Açıqlamada, süni intellektin inkişaf prosesinin artıq qismən süni intellekt sistemlərinə keçdiyi və bunun insan müdaxiləsi olmadan özlərini təkmilləşdirə biləcək modellərə yol aça biləcəyi vurğulanıb Şirkət bu prosesin nəzarətsiz irəlilədiyi təqdirdə insanların süni intellekt sistemləri üzərində nəzarəti itirə biləcəyi barədə xəbərdarlıq edərək, inkişafın idarəli şəkildə davam etməsi üçün hətta "lazım olduqda yavaşlama və ya fasilə vermək" variantının da nəzərdən keçirilməli olduğunu bildirib Anthropic həmçinin bildirib ki, belə bir qlobal yavaşlama qərarını həyata keçirmək üçün birdən çox ölkə və böyük süni intellekt laboratoriyaları birlikdə hərəkət etməlidir və bu, çox mürəkkəb bir prosesdir Süni intellektin inkişafının dayandırılması çağırışları əvvəllər də gündəmdə olub və minlərlə texnologiya mütəxəssisi 2023-cü ildə oxşar moratorium tələb edib. Lakin bu çağırışlar konkret dayanmaya çevrilməyib