Anthropic компаниясынан жасалма интеллект эскертүүсү: Биз жакында көзөмөлдү жоготуп алышыбыз мүмкүн
Жасалма интеллект компаниясы Anthropic "рекурсивдүү өзүн-өзү өркүндөтүү" коркунучуна көңүл буруп, Клод модели барган сайын өз кодун жазып жатканын айтып, системалар адамдын көзөмөлүнөн чыгып калышы мүмкүн экенин көрсөтүп турат Алдыңкы жасалма интеллект компанияларынын бири Anthropic, жаңы муундагы
Жасалма интеллект компаниясы Anthropic "рекурсивдүү өзүн-өзү өркүндөтүү" коркунучуна көңүл буруп, Клод модели барган сайын өз кодун жазып жатканын айтып, системалар адамдын көзөмөлүнөн чыгып калышы мүмкүн экенин көрсөтүп турат Алдыңкы жасалма интеллект компанияларынын бири Anthropic, жаңы муундагы жасалма интеллект системаларынын адам көзөмөлүнөн тышкары өнүгүү потенциалы бар экенин эскертти Компаниянын Клод моделине болгон акыркы баалоосуна ылайык, система эми өзүнүн кодунун 80 пайыздан ашыгын жаза алат. Бул көрсөткүч былтыркы жылдын башында 10 пайыздан төмөн болгон Антроптук аткаминерлер бул тез өзгөрүүнүн «рекурсивдүү өзүн-өзү өркүндөтүү» деп аталган процесске ишарат кылганын жана мунун жасалма интеллекттин келечекте өз мураскерлерин долбоорлой ала турган деңгээлге жете аларын билдире турганын айтышты Компаниянын эки изилдөөчүсү Марина Фаваро жана Джек Кларк тарабынан жарыяланган блог постунда бул тенденциянын узак мөөнөттүү келечекте чоң илимий жана технологиялык жетишкендиктерди камсыздай турганы, бирок ошондой эле олуттуу контролдук тобокелдиктерди жаратышы мүмкүн экени айтылган Билдирүүдө, жасалма интеллекттин өнүгүү процессинин азыр жарым-жартылай жасалма интеллект системаларына өткөнү жана мунун адамдын кийлигишүүсүз өзүн жакшырта ала турган моделдерге жол ача ала турганы баса белгиленди Компания бул процесс көзөмөлдөнбөстөн уланса, адамдардын жасалма интеллект системалары боюнча көзөмөлүн жоготуп коюшу мүмкүн экенин эскертип, өнүгүүнүн көзөмөлгө алынышы үчүн «керек болсо жайлоо же тындыруу» вариантынын да каралышы керектигин билдирди Антропик ошондой эле мындай глобалдык басаңдоо чечимин ишке ашыруу үчүн бирден ашык өлкө жана чоң жасалма интеллект лабораториялары биргелешип аракет кылышы керектигин жана бул абдан татаал процесс экенин белгиледи Жасалма интеллектти өнүктүрүүдө тыныгуу чакырыктары буга чейин күн тартибинде болгон жана миңдеген технология адистери 2023-жылы да ушундай мораторийди талап кылышкан. Бирок бул чакырыктар конкреттүү токтотууга айланган эмес
