Anthropic жасалма интеллект адамдын кийлигишүүсүз эле өзүн жакшырта аларын эскертет

Жасалма интеллект компаниясы Anthropic жасалма интеллект системалары барган сайын адамдын кийлигишүүсүз программалык камсыздоону иштеп чыгуу жана изилдөө процесстерин ишке ашыра алаарын жана бул тенденция улана берсе, алар өзүн-өзү өркүндөтүүчү системаларга айланышы мүмкүн экенин билдирди Anthropic компаниясынын негиздөөчүлөрүнүн бири Джек Кларк жана Антропикалык институттун лидери Марина Фаваро тарабынан жазылган "AI өзүн өзү курганда" деп аталган блог постун жарыялады Макалада жасалма интеллектти өнүктүрүү процессинин көбүнүн мурда адамдар тарабынан жасалганы, бирок Anthropicте бул процесстин барган сайын жасалма интеллект системаларына өткөрүлүп берилгени, мунун өнүгүү ылдамдыгын жогорулатканы белгиленген Макалада бул тенденция улана берсе, жасалма интеллект системаларынын өз мураскерлерин долбоорлоо жана өнүктүрүү деңгээлине жетиши мүмкүн экендиги жана мунун «рекурсивдүү өзүн-өзү өркүндөтүү» деп аталганы белгиленген "Биз ал жерде элек жана рекурсивдүү өзүн-өзү өркүндөтүү сөзсүз эмес. Бирок бул көпчүлүк институттар даяр болгондон эртерээк болушу мүмкүн", - деп айтылат макалада. деген сөз колдонулган Адамдардын AI көзөмөлүн жоготуу коркунучун күчөтүшү мүмкүн Макалада техникалык тенденциялар жасалма интеллект системаларынын жакынкы жылдарда алда канча жөндөмдүү болоорун көрсөтүп жатканы жана өзүн өзү курган жасалма интеллекттин илимде, ден соолукта жана башка көптөгөн тармактарда эбегейсиз пайда алып келе турганына көңүл бурулуп, бирок «рекурсивдүү өзүн-өзү өркүндөтүү» адамдардын жасалма интеллект системаларын башкаруусун жоготуу коркунучун да арттырышы мүмкүн экени белгиленген «Эгер системалар өз мураскерлерин курууга толук жөндөмдүү болсо, биз аларды коргоо, көзөмөлдөө жана жүрүм-турумун калыптандыруу жолдорубуз алда канча маанилүү болуп калат», - деп жазат гезит. Баалоо жүргүзүлдү Макалада коомдук түзүлүштөрдүн технологиядагы прогресске ыңгайлашуусу үчүн өнүккөн жасалма интеллекттин өнүгүү процессин жайлатып же убактылуу токтотуу вариантын кароонун жакшы болору белгиленип, муну бир эмес бир нече өлкөдө, бирдей шарттарда ишке ашыруунун бирден ашык кубаттуу лабораториясынын мааниси бар экени белгиленген