AI өнүктүрүүдө глобалдык тыныгууга антроптук чакырыктар

Компания анын өзүн-өзү өркүндөтүү коркунучу тууралуу эскертет American Anthropic алдыңкы AI лабораторияларын технологиянын өнүгүү темпин басаңдатуу мүмкүнчүлүгүн карап чыгууга чакырды, деп жазат Интерфакс-Казакстан Компания AI системалары ушунчалык тездик менен жакшырып жатканын, алар жакында адамдын кийлигишүүсүз эле өздөрүн жакшырта аларын жана бул коом үчүн олуттуу тобокелдиктерди алып келерин белгилейт Антропикалык институттун башчысы Марина Фаваро жана компаниянын негиздөөчүсү Джек Кларк жарыялаган макалага ылайык, Anthropic AI иштеп чыгуу процессин AI системаларына түздөн-түз өткөрүп берип жатат, бул ишти бир топ тездетет "Эгерде бул процесс улана берсе, жетиштүү эсептөө күчү менен, анын кийинки версиясын өз алдынча иштеп чыгып, иштеп чыга ала турган AI тутумунун пайда болушуна алып келиши мүмкүн. Бул рекурсивдүү өзүн-өзү өркүндөтүү деп аталат. Биз бул этапка жете элекпиз жана рекурсивдүү өзүн-өзү өркүндөтүү сөзсүз эмес. Бирок, ал көпчүлүк мамлекеттик мекемелер буга даяр болгондон бир топ эрте келиши мүмкүн", — деп айтылат макалада Эксперттер жакынкы жылдары AI системаларынын мүмкүнчүлүктөрү кыйла жогорулай турганын белгилешет "Өзүн-өзү өркүндөтүүгө жөндөмдүү AI технологиянын өнүгүшүндөгү негизги этап болуп калат жана адамзатка - илимде, саламаттыкты сактоодо жана башка көптөгөн тармактарда эбегейсиз пайда алып келет", - деп белгилешет макаланын авторлору Бирок, алардын айтымында, бул адамдардын AI системаларын башкара албай калуу коркунучун да жогорулатат "Эгер AI системалары толугу менен алардын мураскорлорун түзө алса, анда алардын коопсуздугун камсыз кылуу, алардын жүрүм-турумун көзөмөлдөө жана башкаруу маселелери кошумча мааниге ээ болот", - деп баса белгиленет макалада Авторлор мүмкүн болуучу кесепеттерди түшүнүү жана мүмкүн болуучу көйгөйлөрдү чечүү үчүн көбүрөөк убакыт сатып алуу үчүн AI өнүгүүсүн басаңдатуу "пайдалуу" болмок деп эсептешет Антропикалык институт AI өнүктүрүүнү жайлатуучу механизмдерди түзүү боюнча кадамдарды жасоого умтулат. Ошол эле учурда компания бул технологиянын өнүгүшүн басаңдатуу үчүн дүйнөнүн ар кайсы өлкөлөрүндөгү алдыңкы AI лабораториялары бирдей шарттарда иштеп чыгууну токтотууга макул болушу керектигин белгилейт. Мындан тышкары, бул уюмдардын ар бирине калган катышуучулар иш жүзүндө келишимдерди аткарып жатканын жана иш жүзүндө ишин токтоткондугун текшерүүгө мүмкүндүк берүүчү механизм талап кылынат Kapital.kz бизнес-маалымат борборунун материалдары менен иштөөдө булакка милдеттүү гипершилтеме менен тексттин 30% гана колдонууга уруксат берилет. Толук материалды колдонууда редактордун уруксаты талап кылынат