Эл аралык валюта корунун президентинин жасалма интеллект эскертүүсү: "Мифос" каржы системасына коркунуч туудурат

Бул суроо Эл аралык валюта корунун (ЭВФ) президенти Кристалина Георгиевага жолдонду Вашингтондо өткөрүлгөн IMF жана Дүйнөлүк банктын жазгы жыйындарына ар кайсы өлкөлөрдөн каржы министрлери, борбордук банктын өкүлдөрү жана дүйнөнүн алдыңкы каржы эксперттери катышты Евробиримдик менен Израилдин Иранга каршы согушунун экономикалык кесепеттери жана Ормуз кысыгынын жабылышы ар кимдин оюнда болчу Бирок Би-Би-Синин экономика боюнча редактору Фейсал Исламдын айтымында, айрым катышуучулар башка маселелерге бирдей же андан да олуттуу көңүл буруп жатышат Алардын баары жаңы жасалма интеллект моделинен тынчсызданышкан. Айрымдар AIнын бул жаңы версиясы дүйнөнүн каржы системасын олуттуу түрдө бузушу мүмкүн дешет Сөз болуп жаткан модель Mythos деп аталып, аны АКШда жайгашкан Anthropic компаниясы чыгарган Кооптонуу бул технология туура эмес колго түшүп калса, анын кесепети банк тутумуна эле тийбеши мүмкүн эле. Бул элдин банк эсебине да таасирин тийгизеби деген суроо да көтөрүлдү Биз колдонгон уюлдук телефондор, планшеттер жана компьютерлер да кооптуу болуп калышы мүмкүнбү? Эл аралык валюта корунун башчысына берилген суроо да ушул маселе боюнча болду жана дүйнөнүн эң күчтүү экономикасы болгон АКШнын жогорку даражалуу чиновниктери да ушундай эле тынчсыздануусун билдиришти АКШнын Каржы министри жана Борбордук банктын төрагасы Нью-Йоркто Уолл Стриттин белгилүү лидерлери менен да жолугушту жана бул жаңы жасалма интеллект моделинен келип чыккан кибер коопсуздук коркунучтары талкууланды Эл аралык валюта корунун башкаруучу директору Кристалина Георгиева менен болгон маегинде CBS News телеканалынын алып баруучусу модель тууралуу айтылган кооптонууларга кайрылып, "Алар эмнеден коркушат? Сиз да тынчсызданып жатасызбы?" деген суроону берди Эл аралык валюта корунун президенти кибер коопсуздук коркунучтарынын тездик менен өсүп жатканын белгилеп: «Ооба, биз бул үчүн кооптонуп жатабыз» деди Вашингтондогу саммиттин жүрүшүндө АКШ менен Израилдин Иранга каршы согушунан келип чыккан кризиске британиялык Barclays банкынын башкы директору С. Ал Венкатакришнандын тынчсыздануу тизмесинде үчүнчү болгон Венкатакришнандын эң чоң тынчсыздануусу AI "өтө негизги агымга айланып баратканы" болгон Ирандын Ормуз кысыгын жабуу менен дүйнөлүк базарлардагы мунай жана энергетикалык камсыздоону үзгүлтүккө учуратышынын кесепеттери бүткүл дүйнөдө сезилип жатат Канаданын каржы министри Франсуа-Филипп Шампан эки абалды салыштырып: «Биз Ормуз кысыгы кайда экенин жана анын өлчөмдөрүн билебиз, бирок Мифостун коркунучу тууралуу так маалымат жок»,-деди Демек, Мифос деген эмне жана ал эмне үчүн дүйнөнүн каржы чиновниктерин жана саясатчыларын ушунчалык тынчсыздандырат? Claude Mythos - америкалык Anthropic технологиялык компаниясы тарабынан иштелип чыккан жасалма интеллект модели Mythos OpenAI's ChatGPT жана Google'дун Gemini менен атаандашкан компаниянын Клод AI системасына орнотулган Изилдөөчүлөр "Mythos компьютердик коопсуздукту иликтөө жана аялуу жерлерди табуу тапшырмаларын аткарууга өзгөчө жөндөмдүү" деп белгилешет Бул изилдөөчүлөр "кызыл командалар" деп аталган коопсуздукту баалоо топторунда иштешкен. Алардын отчетуна ылайык, Mythos компьютердик коддордогу жашыруун кемчиликтерди аныктоо жана аларды пайдалануу жолдорун табуу мүмкүнчүлүгүнө ээ болгон Башкача айтканда, система сиз колдонгон ар кандай программалык камсыздоонун алсыз жактарын, атүгүл өндүрүүчү али билбеген жана оңдобогон кемчиликтерди да таба алат Кызыл топ бул курал ондогон жылдар мурун жазылган коддогу жашырылган мүчүлүштүктөрдү таап, аларды оңой пайдалана аларын аныкташкан Ошондуктан, бул моделди колдонуучуларга кеңири сунуш кылуунун ордуна, Anthropic "дүйнөдөгү эң маанилүү программалык камсыздоону коргоо аракетинде" 12 технологиялык компанияга мүмкүнчүлүк берди Бул компанияларга Amazon Web Services, Apple, Microsoft жана Google, ошондой эле Nvidia жана Broadcom сыяктуу чип өндүрүүчүлөр кирген Бул мүмкүнчүлүк аларга кибер чабуулдарга, анын ичинде Mythos колдонушу мүмкүн болгон системаларды катуулатууга мүмкүндүк берет 2024-жылдын июль айында жаңыртылган программалык камсыздоонун жаңыруусунан улам глобалдык үзгүлтүккө учураган Crowdstrike да долбоорго катышкан компаниялардын арасында болгон Anthropic Mythos компаниясына маанилүү программалык камсыздоо үчүн жооптуу 40тан ашык уюмдарга кирүү мүмкүнчүлүгүн бергенин жарыялады Anthropic Mythos окутуу процессинде күтүлбөгөн мүмкүнчүлүктөрдү көрсөтөт, бул программалык камсыздоонун кемчиликтерин аныктоого жана оңдоого жардам берет деп ырастайт Бирок, ошол эле жөндөмү да олуттуу тынчсызданууларды алып келди Кээ бир эксперттердин айтымында, Mythos "туура эмес колго" түшүп калса, кандайдыр бир компьютердик системаны бузушу күмөн. жеткиликтүү Anthropic тестирлөө учурунда бул модель киберкоопсуздук жана киберчабуул менен байланышкан милдеттерди аткарууда абдан жөндөмдүү жана ал тургай, адамдардан да ашып түшкөнүн жарыялады Mythos тестирлөөдөн кийин өзүнүн веб-сайтында жарыяланган отчетунда, Anthropic системанын коопсуздук кемчиликтерин, башкача айтканда, али ачыла элек кемчиликтерди аныктоо жана пайдалануу мүмкүнчүлүгү бар экенин белгиледи Компаниянын билдирүүсүнө ылайык, Mythos "бардык негизги операциялык системалардагы жана бардык негизги интернет браузерлериндеги" коопсуздук кемчиликтерин аныктап, пайдалана алат Бул коопсуздук эксплуатацияларынын айрымдарын аныктоо өтө кыйын болсо да, Mythos "10 же 20 жылдан бери" болгон аялуу жерлерди аныктай алган Башкача айтканда, көп жылдар бою программалык камсыздоону иштеп чыгуучулардан жана колдонуучулардан жашырып келген мүчүлүштүктөр ушул моделдин аркасында аныкталды Бул көйгөйдөн өзүнүн жогорку коопсуздугу менен белгилүү болгон OpenBSD операциялык системасы да жапа чеккен жана Mythos системада 27 жылдан бери табыла элек коопсуздуктун кемчилигин тапкан "Бул модель адегенде алсыздыкты аныктайт, андан кийин аны башка аялуу жерлер менен айкалыштырат жана ал аныкталбастан системада түбөлүккө кала берет", - деп жазган технология жана эл аралык коопсуздук боюнча эксперт Гордон М.Голдштейн, киберкоопсуздук боюнча компаниянын негиздөөчүсүнө шилтеме жасап, Тышкы мамилелер боюнча кеңешке жазган макаласында "Ушундай жол менен, Mythos түзмө-түз системаны көзөмөлдөй алат", Голдштейн кошумчалайт Anthropic, жасалма интеллекттин өнүгүү темпин эске алганда, мындай мүмкүнчүлүктөр жакында кеңири жайылып кетиши мүмкүн экенин эскертти Компания мындай кырдаалда «экономика, коомдук коопсуздук жана улуттук коопсуздук жагынан кесепеттери абдан оор болушу мүмкүн» деп, сезимталдыкка көңүл бурду Жасалма интеллект боюнча эксперт Голдштейн ошондой эле дүйнөнүн критикалык инфраструктурасы коркунучтарга дуушар болуп жатканын эскертет Критикалык инфраструктура бузулган же үзгүлтүккө учураган учурда улуттук коопсуздукка, экономикалык туруктуулукка жана коомдук ден соолукка олуттуу таасир тийгизе турган физикалык же виртуалдык системалар жана тармактар катары аныкталат Эксперттин айтымында, дамбалар, өзөктүк реакторлор, азык-түлүк бөлүштүрүү системалары жана электр тармактары дагы эле эскирген программалык камсыздоого көз каранды Ал жасалма интеллект адиси Дэн Хендрикстин эскертүүсүн эскерип, мындай дейт: "Mythos сыяктуу моделдер бул тобокелдиктерди дагы көбөйтөт жана бул системаларды алда канча аялуу кылат." "Мындай моделдердин киберкоопсуздук боюнча эң чоң тынчсыздануусу - бул мамлекеттик эмес актерлордун инфраструктураны максаттуулугун жеңилдетет." Антропиктин билдирүүсүнүн бир бөлүгү эң маанилүү жана тынчсыздандырган бөлүгү катары белгиленди Демек, Mythos интернет-браузерден төрт кемчиликти таап, операциялык системанын брандмауэрлерин автоматтык түрдө айланып өтүүгө жетишкен He also managed to bypass security systems in other operating systems and the Linux browser, and devised an automated way to attack an accessible server Мобилдик телефондордо колдонулган Android операциялык системасы да Linux негизиндеги Жасалма интеллект тууралуу тынчсыздануулар жаңы эмес Жаңы моделдер жана аппараттар тынымсыз чыгарылып турат жана булар биздин жашообузду оң же терс жагына өзгөртө турганы айтылат Жасалма интеллект жана анын келечектеги кесепеттери жөнүндө тынчсыздануу жана толкундануу климатынан пайдалануу акыркы жылдары бул тармактын жана анын маркетинг стратегияларынын өзгөчөлүгүнүн бири болуп калды Мифостун жагдайында, бизде бул үмүттөр жана тынчсыздануулар негиздүүбү же өнөр жайлык дүрбөлөңдүн чагылышыбы баалоо үчүн жетиштүү маалыматыбыз жок Көптөгөн көз карандысыз киберкоопсуздук боюнча эксперттер Мифостун өзүн сынай алышкан жок, кээ бирлери анын иштешине күмөн санашат Улуу Британиянын AI коопсуздук институту жакында модель күчтүү болгону менен, эң чоң коркунуч начар корголгон жана аялуу системалар үчүн болот деген тыянакка келди Алгач англис тилинде жазылган бул макаланы которууда биз жасалма интеллектти колдондук. Би-Би-Синин журналисти котормосун жарыялоонун алдында текшерген