Жасанды интеллектті дамытуда жаһандық үзіліс жасауға антропикалық шақырулар

Компания оның өзін-өзі жетілдіру қаупі туралы ескертеді American Anthropic жетекші AI зертханаларын технологияның даму қарқынын бәсеңдету мүмкіндігін қарастыруға шақырды, деп жазады Интерфакс-Қазақстан Компания AI жүйелері соншалықты тез жетілдіріліп жатқанын, олар жақын арада адамның араласуынсыз өздерін жақсарта алатынын және бұл қоғам үшін айтарлықтай қауіп төндіретінін атап өтеді Антропикалық институттың басшысы Марина Фаваро мен компанияның негізін қалаушы Джек Кларк жариялаған мақалаға сәйкес, Anthropic AI әзірлеу процесін тікелей AI жүйелеріне көбірек көшіруде, бұл жұмысты айтарлықтай жылдамдатады "Егер бұл процесс жалғаса беретін болса, жеткілікті есептеу қуаты берілген болса, ол өзінің келесі нұсқасын дербес жобалай алатын және жасай алатын AI жүйесінің пайда болуына әкелуі мүмкін. Бұл рекурсивті өзін-өзі жетілдіру деп аталады. Біз бұл кезеңге әлі жеткен жоқпыз, және рекурсивті өзін-өзі жетілдіру сөзсіз емес. Дегенмен, ол көптеген мемлекеттік мекемелер дайын болғаннан әлдеқайда ертерек болуы мүмкін", - делінген мақалада Сарапшылар алдағы жылдары AI жүйелерінің мүмкіндіктері айтарлықтай өсетінін атап өтті «Өзін-өзі жетілдіруге қабілетті AI технологияның дамуындағы маңызды кезең болар еді және адамзатқа ғылымда, денсаулық сақтауда және басқа да көптеген салаларда орасан зор пайда әкелуі мүмкін», - деп атап өтті мақала авторлары Дегенмен, олардың айтуынша, бұл адамдардың AI жүйелерін бақылауды жоғалту қаупін арттырады «Егер AI жүйелері өз мұрагерлерін толығымен жасай алса, онда олардың қауіпсіздігін қамтамасыз ету, олардың мінез-құлқын бақылау және басқару мәселелері қосымша маңыздылыққа ие болады», - делінген мақалада Авторлар ықтимал салдарларды түсінуге және ықтимал мәселелерді шешуге көбірек уақыт алу үшін AI дамуын бәсеңдету «пайдалы» болады деп санайды Антропикалық институт AI дамуын бәсеңдететін тетіктерді жасау үшін қадамдар жасауға міндеттенеді. Сонымен бірге, компания бұл технологияның дамуын шынымен бәсеңдету үшін әлемнің әртүрлі елдеріндегі жетекші AI зертханалары бірдей шарттармен дамуды тоқтатуға келісу қажет екенін атап өтеді. Сонымен қатар, осы ұйымдардың әрқайсысына қалған қатысушылардың келісімдерді шын мәнінде орындайтынын және жұмысын іс жүзінде тоқтатқанын тексеруге мүмкіндік беретін механизм қажет болады Kapital.kz іскерлік ақпарат орталығының материалдарымен жұмыс істеу кезінде дереккөзге міндетті гиперсілтемемен мәтіннің тек 30% ғана пайдалануға рұқсат етіледі. Толық материалды пайдалану кезінде редактордың рұқсаты қажет