Anthropic xəbərdarlıq edir ki, süni intellekt insan müdaxiləsi olmadan özünü təkmilləşdirə bilər

Süni intellekt şirkəti Anthropic, süni intellekt sistemlərinin getdikcə daha çox insan müdaxiləsi olmadan proqram inkişaf etdirmə və tədqiqat proseslərini həyata keçirə bildiyini və bu tendensiya davam edərsə, özünü təkmilləşdirən sistemlərə çevrilə biləcəyini bildirdi Anthropic, şirkətin həmtəsisçisi Cek Klark və Antropik İnstitutun rəhbəri Marina Favaro tərəfindən yazılmış "Süni intellekt özünü quranda" adlı bloq yazısını dərc etdi Yazıda, yapay zeka inkişaf prosesinin böyük bölümünün keçmişdə insanlar tərəfindən idarə edildiyi, ancaq Anthropic'te bu prosesin aradan qaldırılması daha çox yapay zeka sistemlərinə devredildiği və bunun inkişaf sürətini artırdığı belirtildi Məqalədə bu tendensiya davam edərsə, süni intellekt sistemlərinin öz davamçılarını dizayn və inkişaf etdirə biləcək səviyyəyə çata biləcəyi və bunun "rekursiv özünü təkmilləşdirmə" adlandırıldığı ifadə edildi Məqalədə deyilir: "Biz hələ orada deyilik və rekursiv özünü təkmilləşdirmə qaçılmaz deyil. Lakin bu, əksər qurumların hazırlaşdığı vaxtdan tez baş verə bilər". ifadəsi işlədildi İnsanların süni intellektə nəzarəti itirməsi riskini artıra bilər Texniki tendensiyaların önümüzdəki illərdə süni intellekt sistemlərinin çox daha bacarıqlı olacağını göstərdiyi bildirilən məqalədə öz-özünə qurulan süni intellektin elm, sağlamlıq və bir çox başqa sahələrdə böyük faydalar təmin edə biləcəyi, lakin “rekursiv özünü təkmilləşdirmə”nin insanların süni intellekt sistemləri üzərində nəzarəti itirmə riskini də artıra biləcəyi vurğulanıb “Əgər sistemlər öz varislərini qurmağa tam qadirdirlərsə, bizim onların təhlükəsizliyini təmin etmək, onlara nəzarət etmək və davranışlarını formalaşdırmaq yollarımız daha vacib olur”, – qəzet yazır. Qiymətləndirmə aparıldı Məqalədə sosial strukturların texnologiyanın tərəqqisinə uyğunlaşması üçün qabaqcıl süni intellektin inkişaf prosesini yavaşlatmaq və ya müvəqqəti olaraq dayandırmaq variantını nəzərdən keçirməyin yaxşı ola biləcəyi vurğulanır və birdən çox güclü laboratoriyanın bunu birdən çox ölkədə, eyni şəraitdə həyata keçirməsinin mənalı olduğu qeyd edilir