ХВҚ президентінің жасанды интеллект туралы ескертуі: «Мифос» қаржы жүйесіне қауіп төндіреді

Бұл сұрақ Халықаралық валюта қорының (ХВҚ) президенті Кристалина Георгиеваға жіберілді Вашингтонда өткен ХВҚ мен Дүниежүзілік банктің көктемгі кездесулеріне әртүрлі елдердің қаржы министрлері, орталық банк өкілдері және әлемнің жетекші қаржы сарапшылары қатысты ЕО мен Израильдің Иранға қарсы соғысының және Ормуз бұғазының жабылуының экономикалық салдары баршаның ойында болды Бірақ BBC-дің экономика жөніндегі редакторы Фейсал Ислам кейбір қатысушылар басқа мәселелерге бірдей немесе одан да маңыздырақ көңіл бөлетінін айтты Олардың барлығы жасанды интеллекттің жаңа үлгісіне алаңдады. Кейбіреулер AI-ның бұл жаңа нұсқасы әлемдік қаржы жүйесін елеулі түрде бұзуы мүмкін дейді Қарастырылып отырған модель Mythos деп аталды және оны АҚШ-тың Anthropic компаниясы шығарды Егер бұл технология дұрыс емес қолдарға түссе, оның салдары тек банк жүйесіне ғана әсер етпеуі мүмкін деген алаңдаушылық болды. Бұл халықтың банктік есепшотына да әсер ете ме деген сауал да көтерілді Біз қолданатын ұялы телефондар, планшеттер мен компьютерлер де қауіпті болуы мүмкін бе? ХВҚ басшысына қойылған сауал да осы мәселеге қатысты болды және әлемнің ең қуатты экономикасы АҚШ-тың жоғары лауазымды тұлғалары да осындай алаңдаушылық білдірді АҚШ-тың Қаржы министрі мен Орталық банк төрағасы Нью-Йоркте Уолл-стриттің көрнекті басшыларымен де кездесіп, жасанды интеллекттің осы жаңа моделінен туындайтын киберқауіпсіздік қатерлері талқыланды ХВҚ басқарушы директоры Кристалина Георгиеваға берген сұхбатында CBS News жүргізушісі модель туралы айтылған алаңдаушылықтарды айтып, «Олар неден қорқады? Сіз де уайымдап жатырсыз ба?» деп сұрады. деген сұрақты қойды ХВҚ президенті киберқауіпсіздік қатерлерінің тез өсіп жатқанын айтып, «Иә, біз бұл туралы алаңдаймыз» деді Вашингтондағы саммит барысында АҚШ-Израильдің Иранға қарсы соғысынан туындаған дағдарысты британдық Barclays банкінің бас директоры С.С. Ол Венкатакришнанның алаңдаушылық тізімінде үшінші болды Венкатакришнанның ең үлкен алаңдаушылығы AI «тым негізгі ағымға айналуы» болды Иранның Ормуз бұғазын жабу арқылы жаһандық нарықтардағы мұнай мен энергиямен қамтамасыз етуді бұзуының салдары бүкіл әлемде сезілуде Канаданың Қаржы министрі Франсуа-Филипп Шампан екі жағдайды салыстырып: «Біз Ормуз бұғазының қай жерде екенін және оның өлшемдерін білеміз, бірақ Мифостың қауіп-қатері туралы нақты түсінік жоқ» деді Сонымен, Мифос дегеніміз не және ол әлемдік қаржы шенеуніктері мен саясаткерлерін неге сонша алаңдатады? Claude Mythos - американдық Anthropic технологиялық компаниясы әзірлеген жасанды интеллект моделі Mythos OpenAI ChatGPT және Google Gemini-мен бәсекелесетін компанияның Клод AI жүйесіне енгізілген Зерттеушілер «Mythos компьютерлік қауіпсіздікті зерттеу және осалдықтарды анықтау тапсырмаларын орындауға ерекше қабілетті» екенін атап өтті Бұл зерттеушілер «қызыл топтар» деп аталатын қауіпсіздікті бағалау топтарында жұмыс істеді. Олардың есебіне сәйкес, Mythos компьютерлік кодтардағы жасырын осалдықтарды анықтау және оларды пайдалану жолдарын табу мүмкіндігіне ие болды Басқаша айтқанда, жүйе сіз пайдаланатын кез келген бағдарламалық жасақтаманың әлсіз жақтарын, тіпті өндіруші әлі білмейтін және түзетпеген осалдықтарды анықтай алады Қызыл топ бұл құрал ондаған жылдар бұрын жазылған кодтағы жасырын қателерді анықтап, оларды оңай пайдалана алатынын анықтады Сондықтан, бұл модельді өз пайдаланушыларына кеңінен ұсынудың орнына, Anthropic 12 технологиялық компанияға «әлемдегі ең маңызды бағдарламалық қамтамасыз етуді қорғауға тырысу» арқылы қол жеткізуге мүмкіндік берді Бұл компанияларға Amazon Web Services, Apple, Microsoft және Google, сондай-ақ Nvidia және Broadcom сияқты чип өндірушілер кірді Бұл қол жеткізу олардың жүйелерін кибершабуылдарға қарсы, соның ішінде Mythos қолдануы мүмкін қатайтуға мүмкіндік береді 2024 жылдың шілдесінде бағдарламалық жасақтаманың қате жаңартылуына байланысты жаһандық үзіліс тудырған Crowdstrike де жобаға қатысатын компаниялардың арасында болды Anthropic Mythos-қа маңызды бағдарламалық қамтамасыз ету үшін жауапты 40-тан астам ұйымға қол жеткізуге мүмкіндік бергенін жариялады Anthropic Mythos оқу процесінде болжанбайтын мүмкіндіктерді көрсетеді, бұл бағдарламалық жасақтаманың осал тұстарын анықтауға және түзетуге көмектеседі деп санайды Дегенмен, дәл осы мүмкіндік үлкен алаңдаушылық тудырды According to some experts, Mythos is unlikely to compromise any computer system if it falls into the "wrong hands". қолжетімді Anthropic тестілеу кезінде бұл модель киберқауіпсіздік және кибершабуылмен байланысты тапсырмалар саласында өте қабілетті және тіпті адамдардан да асып түсетінін жариялады Mythos тестілеуден кейін өз веб-сайтында жарияланған есепте Anthropic жүйенің қауіпсіздік осал тұстарын, яғни әлі ашылмаған кемшіліктерді анықтау және пайдалану мүмкіндігі бар екенін айтты Компанияның мәлімдемесіне сәйкес, Mythos «барлық негізгі операциялық жүйелерде және барлық негізгі интернет браузерлерінде» қауіпсіздіктің осал тұстарын анықтап, пайдалана алады Осы қауіпсіздік эксплуатацияларының кейбірін анықтау өте қиын болғанымен, Mythos тіпті «10 немесе 20 жыл» бойы болған осалдықтарды анықтай алды Басқаша айтқанда, бағдарламалық жасақтаманы әзірлеушілер мен пайдаланушылардан жылдар бойы жасырып келген ақаулар енді осы модельдің арқасында анықталды Жоғары қауіпсіздігімен танымал OpenBSD операциялық жүйесі де осы мәселеден зардап шекті және Mythos жүйеде 27 жыл бойы табылмаған қауіпсіздік осалдығын тапты «Бұл модель алдымен осалдықты анықтайды, содан кейін оны басқа осалдықтармен біріктіреді және ол анықталмай-ақ жүйеде шексіз қалуы мүмкін», - деп жазды технология және халықаралық қауіпсіздік сарапшысы Гордон М.Голдштейн Халықаралық қатынастар жөніндегі кеңеске арналған мақаласында киберқауіпсіздік компаниясының негізін қалаушының сөзіне сілтеме жасай отырып «Осылайша, Mythos сөзбе-сөз жүйені бақылауға алады», - деп қосады Голдштейн Антропик жасанды интеллекттің даму қарқынын ескере отырып, мұндай мүмкіндіктер жақын арада кең тарауы мүмкін екенін ескертті Компания мұндай жағдайда «экономика, қоғамдық қауіпсіздік және ұлттық қауіпсіздік тұрғысынан салдары өте ауыр болуы мүмкін» деп, сезімталдыққа назар аударды Жасанды интеллект сарапшысы Голдштейн сонымен қатар әлемдегі маңызды инфрақұрылымға қауіп төніп тұрғанын ескертеді Маңызды инфрақұрылым зақымдалған немесе бұзылған жағдайда ұлттық қауіпсіздікке, экономикалық тұрақтылыққа және қоғамдық денсаулыққа елеулі әсер ететін физикалық немесе виртуалды жүйелер мен желілер ретінде анықталады Сарапшының пікірінше бөгеттер, ядролық реакторлар, азық-түлік тарату жүйелері және электр желілері сияқты секторлар әлі де ескірген бағдарламалық жасақтамаға тәуелді Ол жасанды интеллект бойынша сарапшы Дэн Хендрикстің ескертуін еске түсіріп, «Mythos сияқты модельдер бұл тәуекелдерді одан әрі арттырады және бұл жүйелерді әлдеқайда осал етеді» дейді «Мұндай модельдермен киберқауіпсіздікке қатысты ең үлкен алаңдаушылық - олар мемлекеттік емес субъектілерге инфрақұрылымды нысанаға алуды жеңілдетеді» Anhtropic мәлімдемесінің бір бөлігі ең маңызды және алаңдатарлық бөлік ретінде атап өтілді Тиісінше, Mythos интернет-шолғышта төрт осалдықты анықтады және операциялық жүйе брандмауэрлерін автоматты түрде айналып өтті Ол сондай-ақ басқа операциялық жүйелердегі және Linux браузеріндегі қауіпсіздік жүйелерін айналып өтіп, қол жетімді серверге шабуыл жасаудың автоматтандырылған әдісін ойлап тапты Ұялы телефондарда қолданылатын Android операциялық жүйесі де Linux негізіндегі Жасанды интеллект туралы алаңдаушылық жаңалық емес Жаңа модельдер мен құрылғылар үнемі шығарылады және олар біздің өмірімізді оң немесе теріс өзгертеді деп айтылады Жасанды интеллект және оның болашақ салдары туралы алаңдаушылық пен толқу ахуалын пайдалану соңғы жылдары осы саланың және оның маркетингтік стратегияларының белгілерінің біріне айналды Мифос жағдайында бізде бұл үміттер мен алаңдаушылықтардың ақталғанын немесе салалық дүрбелеңнің көрінісі екенін бағалау үшін әлі жеткілікті ақпарат жоқ Көптеген тәуелсіз киберқауіпсіздік сарапшылары әлі Mythos-тың өзін тексере алмады, ал кейбіреулері оның жұмысына күмәнмен қарайды Жақында Ұлыбританияның AI Қауіпсіздік Институты модель қуатты болғанымен, ең үлкен қауіп нашар қорғалған және осал жүйелер үшін болады деген қорытындыға келді Бастапқыда ағылшын тілінде жазылған бұл мақаланы аударуда жасанды интеллект қолдандық. Би-би-си журналисі аударманы жарияламас бұрын тексерді