Anthropic компаниясының жасанды интеллект үлгісі Мифос «Ормуздан да қауіпті болуы мүмкін» | T24

Бұл сұрақ Халықаралық валюта қорының (ХВҚ) президенті Кристалина Георгиеваға жіберілді Вашингтонда өткен ХВҚ мен Дүниежүзілік банктің көктемгі кездесулеріне әртүрлі елдердің қаржы министрлері, орталық банк өкілдері және әлемнің жетекші қаржы сарапшылары қатысты ЕО мен Израильдің Иранға қарсы соғысының және Ормуз бұғазының жабылуының экономикалық салдары баршаның ойында болды Бірақ BBC-дің экономика жөніндегі редакторы Фейсал Ислам кейбір қатысушылар басқа мәселелерге бірдей немесе одан да маңыздырақ көңіл бөлетінін айтты Олардың барлығы жасанды интеллекттің жаңа үлгісіне алаңдады. Кейбіреулер AI-ның бұл жаңа нұсқасы әлемдік қаржы жүйесін елеулі түрде бұзуы мүмкін дейді Қарастырылып отырған модель Mythos деп аталды және оны АҚШ-тың Anthropic компаниясы шығарды Егер бұл технология дұрыс емес қолдарға түссе, оның салдары тек банк жүйесіне ғана әсер етпеуі мүмкін деген алаңдаушылық болды. Бұл халықтың банктік есепшотына да әсер ете ме деген сауал да көтерілді Біз қолданатын ұялы телефондар, планшеттер мен компьютерлер де қауіпті болуы мүмкін бе? ХВҚ басшысына қойылған сауал да осы мәселеге қатысты болды және әлемнің ең қуатты экономикасы АҚШ-тың жоғары лауазымды тұлғалары да осындай алаңдаушылық білдірді АҚШ-тың Қаржы министрі мен Орталық банк төрағасы Нью-Йоркте Уолл-стриттің көрнекті басшыларымен де кездесіп, жасанды интеллекттің осы жаңа моделінен туындайтын киберқауіпсіздік қатерлері талқыланды ХВҚ басқарушы директоры Кристалина Георгиеваға берген сұхбатында CBS News жүргізушісі модель туралы айтылған алаңдаушылықтарды айтып, «Олар неден қорқады? Сіз де уайымдап жатырсыз ба?» деп сұрады. деген сұрақты қойды ХВҚ президенті киберқауіпсіздік қатерлерінің тез өсіп жатқанын айтып, «Иә, біз бұл туралы алаңдаймыз» деді Вашингтондағы саммит барысында АҚШ-Израильдің Иранға қарсы соғысынан туындаған дағдарысты британдық Barclays банкінің бас директоры С.С. Ол Венкатакришнанның алаңдаушылық тізімінде үшінші болды Венкатакришнанның ең үлкен алаңдаушылығы AI «тым негізгі ағымға айналуы» болды Иранның Ормуз бұғазын жабу арқылы жаһандық нарықтардағы мұнай мен энергиямен қамтамасыз етуді бұзуының салдары бүкіл әлемде сезілуде Канаданың Қаржы министрі Франсуа-Филипп Шампан екі жағдайды салыстырып: «Біз Ормуз бұғазының қай жерде екенін және оның өлшемдерін білеміз, бірақ Мифостың қауіп-қатері туралы нақты түсінік жоқ» деді Сонымен, Мифос дегеніміз не және ол әлемдік қаржы шенеуніктері мен саясаткерлерін неге сонша алаңдатады? Claude Mythos - американдық Anthropic технологиялық компаниясы әзірлеген жасанды интеллект моделі Mythos OpenAI ChatGPT және Google Gemini-мен бәсекелесетін компанияның Клод AI жүйесіне енгізілген Зерттеушілер «Mythos компьютерлік қауіпсіздікті зерттеу және осалдықтарды анықтау тапсырмаларын орындауға ерекше қабілетті» екенін атап өтті Бұл зерттеушілер «қызыл топтар» деп аталатын қауіпсіздікті бағалау топтарында жұмыс істеді. Олардың есебіне сәйкес, Mythos компьютерлік кодтардағы жасырын осалдықтарды анықтау және оларды пайдалану жолдарын табу мүмкіндігіне ие болды Басқаша айтқанда, жүйе сіз пайдаланатын кез келген бағдарламалық жасақтаманың әлсіз жақтарын, тіпті өндіруші әлі білмейтін және түзетпеген осалдықтарды анықтай алады Қызыл топ бұл құрал ондаған жылдар бұрын жазылған кодтағы жасырын қателерді анықтап, оларды оңай пайдалана алатынын анықтады Сондықтан, бұл модельді өз пайдаланушыларына кеңінен ұсынудың орнына, Anthropic 12 технологиялық компанияға «әлемдегі ең маңызды бағдарламалық қамтамасыз етуді қорғауға тырысу» арқылы қол жеткізуге мүмкіндік берді Бұл компанияларға Amazon Web Services, Apple, Microsoft және Google, сондай-ақ Nvidia және Broadcom сияқты чип өндірушілер кірді Бұл қол жеткізу олардың жүйелерін кибершабуылдарға қарсы, соның ішінде Mythos қолдануы мүмкін қатайтуға мүмкіндік береді 2024 жылдың шілдесінде бағдарламалық жасақтаманың қате жаңартылуына байланысты жаһандық үзіліс тудырған Crowdstrike де жобаға қатысатын компаниялардың арасында болды Anthropic Mythos-қа маңызды бағдарламалық қамтамасыз ету үшін жауапты 40-тан астам ұйымға қол жеткізуге мүмкіндік бергенін жариялады Anthropic Mythos оқу процесінде болжанбайтын мүмкіндіктерді көрсетеді, бұл бағдарламалық жасақтаманың осал тұстарын анықтауға және түзетуге көмектеседі деп санайды Дегенмен, дәл осы мүмкіндік үлкен алаңдаушылық тудырды Кейбір сарапшылардың пікірінше, Mythos «дұрыс қолға» түссе, кез келген компьютерлік жүйеге қауіп төндіруі екіталай. қолжетімді Anthropic тестілеу кезінде бұл модель киберқауіпсіздік және кибершабуылмен байланысты тапсырмалар саласында өте қабілетті және тіпті адамдардан да асып түсетінін жариялады Mythos тестілеуден кейін өз веб-сайтында жарияланған есепте Anthropic жүйенің қауіпсіздік осал тұстарын, яғни әлі ашылмаған кемшіліктерді анықтау және пайдалану мүмкіндігі бар екенін айтты Компанияның мәлімдемесіне сәйкес, Mythos «барлық негізгі операциялық жүйелерде және барлық негізгі интернет браузерлерінде» қауіпсіздіктің осал тұстарын анықтап, пайдалана алады Осы қауіпсіздік эксплуатацияларының кейбірін анықтау өте қиын болғанымен, Mythos тіпті «10 немесе 20 жыл» бойы болған осалдықтарды анықтай алды Басқаша айтқанда, бағдарламалық жасақтаманы әзірлеушілер мен пайдаланушылардан жылдар бойы жасырып келген ақаулар енді осы модельдің арқасында анықталды Жоғары қауіпсіздігімен танымал OpenBSD операциялық жүйесі де осы мәселеден зардап шекті және Mythos жүйеде 27 жыл бойы табылмаған қауіпсіздік осалдығын тапты «Бұл модель алдымен осалдықты анықтайды, содан кейін оны басқа осалдықтармен біріктіреді және ол анықталмай-ақ жүйеде шексіз қалуы мүмкін», - деп жазды технология және халықаралық қауіпсіздік сарапшысы Гордон М.Голдштейн Халықаралық қатынастар жөніндегі кеңеске арналған мақаласында киберқауіпсіздік компаниясының негізін қалаушының сөзіне сілтеме жасай отырып «Осылайша, Mythos сөзбе-сөз жүйені бақылауға алады», - деп қосады Голдштейн Антропик жасанды интеллекттің даму қарқынын ескере отырып, мұндай мүмкіндіктер жақын арада кең тарауы мүмкін екенін ескертті Компания мұндай жағдайда «экономика, қоғамдық қауіпсіздік және ұлттық қауіпсіздік тұрғысынан салдары өте ауыр болуы мүмкін» деп, сезімталдыққа назар аударды Жасанды интеллект сарапшысы Голдштейн сонымен қатар әлемдегі маңызды инфрақұрылымға қауіп төніп тұрғанын ескертеді Маңызды инфрақұрылым зақымдалған немесе бұзылған жағдайда ұлттық қауіпсіздікке, экономикалық тұрақтылыққа және қоғамдық денсаулыққа елеулі әсер ететін физикалық немесе виртуалды жүйелер мен желілер ретінде анықталады Сарапшының пікірінше бөгеттер, ядролық реакторлар, азық-түлік тарату жүйелері және электр желілері сияқты секторлар әлі де ескірген бағдарламалық жасақтамаға тәуелді Ол жасанды интеллект бойынша сарапшы Дэн Хендрикстің ескертуін еске түсіріп, «Mythos сияқты модельдер бұл тәуекелдерді одан әрі арттырады және бұл жүйелерді әлдеқайда осал етеді» дейді «Мұндай модельдермен киберқауіпсіздікке қатысты ең үлкен алаңдаушылық - олар мемлекеттік емес субъектілерге инфрақұрылымды нысанаға алуды жеңілдетеді» Anhtropic мәлімдемесінің бір бөлігі ең маңызды және алаңдатарлық бөлік ретінде атап өтілді Тиісінше, Mythos интернет-шолғышта төрт осалдықты анықтады және операциялық жүйе брандмауэрлерін автоматты түрде айналып өтті Ол сондай-ақ басқа операциялық жүйелердегі және Linux браузеріндегі қауіпсіздік жүйелерін айналып өтіп, қол жетімді серверге шабуыл жасаудың автоматтандырылған әдісін ойлап тапты Ұялы телефондарда қолданылатын Android операциялық жүйесі де Linux негізіндегі Жаңа модельдер мен құрылғылар үнемі шығарылады және олар біздің өмірімізді оң немесе теріс өзгертеді деп айтылады Жасанды интеллект және оның болашақ салдары туралы алаңдаушылық пен толқу ахуалын пайдалану соңғы жылдары осы саланың және оның маркетингтік стратегияларының белгілерінің біріне айналды Мифос жағдайында бізде бұл үміттер мен алаңдаушылықтардың ақталғанын немесе салалық дүрбелеңнің көрінісі екенін бағалау үшін әлі жеткілікті ақпарат жоқ Көптеген тәуелсіз киберқауіпсіздік сарапшылары әлі Mythos-тың өзін тексере алмады, ал кейбіреулері оның жұмысына күмәнмен қарайды Жақында Ұлыбританияның AI Қауіпсіздік Институты модель қуатты болғанымен, ең үлкен қауіп нашар қорғалған және осал жүйелер үшін болады деген қорытындыға келді Cookie файлдары – веб-сайттан жіберілген және пайдаланушы шолу кезінде пайдаланушының компьютерінде пайдаланушының веб-шолғышы сақтайтын шағын деректер бөліктері. Сіздің браузеріңіз әрбір хабарламаны cookie деп аталатын шағын файлда сақтайды. Серверден басқа бетті сұраған кезде браузеріңіз cookie файлын серверге қайта жібереді. Cookie файлдары веб-сайттар ақпаратты есте сақтау немесе пайдаланушының шолу әрекетін жазу үшін сенімді механизм болу үшін жасалған Бұл cookie файлдары веб-сайттың жұмыс істеуі үшін өте маңызды және біздің жүйелерде өшірілмейді. Олар әдетте транзакцияларды өңдеу үшін орнатылады. Бұл мәмілелер, Бұған құпиялылық теңшелімдерін орнату, жүйеге кіру немесе пішінді толтыру сияқты қызмет сұраулары кіреді. Браузеріңізді осы cookie файлдарын блоктайтын немесе ескертетін етіп орнатуға болады, бірақ мұны істесеңіз, сайттың кейбір бөліктері жұмыс істемеуі мүмкін Бұл cookie файлдары сайтымыздың жұмысын өлшей және жақсарту үшін сайтқа кіру санын және трафик көздерін санауға мүмкіндік береді. Олар бізге қай беттер ең көп және аз кіретінін және келушілердің сайтты қалай шарлайтынын білуге ​​көмектеседі. Осы cookie файлдары арқылы жиналған барлық ақпарат жинақталған, сондықтан анонимді болып табылады. Бұл cookie файлдарына рұқсат бермесеңіз, біздің сайтқа кіргеніңізді білмейміз Бұл cookie файлдары бізге бейнелер мен тікелей чат сияқты кеңейтілген функционалдылық пен жекелендіруді ұсынуға мүмкіндік береді. Оларды біз немесе қызметтерін біз беттерімізде пайдаланатын үшінші тарап провайдерлері орнатуы мүмкін. Бұл cookie файлдарына рұқсат бермесеңіз, осы функциялардың барлығы немесе кейбіреулері дұрыс жұмыс істемеуі мүмкін Бұл cookie файлдарын біздің сайтта жарнамалық серіктестер орнатады. Оларды сәйкес компаниялар сіздің қызығушылықтарыңыздың профилін жасау және басқа сайттарда сәйкес жарнаманы көрсету үшін пайдалануы мүмкін. Олар браузер мен құрылғыны бірегей анықтау арқылы жұмыс істейді. Бұл cookie файлдарына рұқсат бермесеңіз, біз сізге әртүрлі сайттарда жекелендірілген жарнама тәжірибесін ұсына алмаймыз Ескерту: Жарнамалар cookie саясатына қарамастан көрсетіледі Бұл cookie файлдары мазмұнды достарыңызбен және желімен бөлісуіңізге мүмкіндік беру үшін біздің сайтта ендірілген әртүрлі әлеуметтік медиа қызметтері арқылы орнатылады. Сондай-ақ олар сіз басқа сайттарды пайдаланған кезде және қызығушылық профиліңізді жасаған кезде браузеріңізді бақылай алады. Бұл сіз кіретін басқа сайттарда көретін мазмұн мен хабарларға әсер етуі мүмкін. Бұл cookie файлдарына рұқсат бермесеңіз, сіз осы бөлісу құралдарын пайдалана алмайсыз немесе көре алмайсыз