Anthropicтин жасалма интеллект модели Mythos "Ормуздан да коркунучтуу болушу мүмкүн" | T24

Бул суроо Эл аралык валюта корунун (ЭВФ) президенти Кристалина Георгиевага жолдонду Вашингтондо өткөрүлгөн IMF жана Дүйнөлүк банктын жазгы жыйындарына ар кайсы өлкөлөрдөн каржы министрлери, борбордук банктын өкүлдөрү жана дүйнөнүн алдыңкы каржы эксперттери катышты Евробиримдик менен Израилдин Иранга каршы согушунун экономикалык кесепеттери жана Ормуз кысыгынын жабылышы ар кимдин оюнда болчу Бирок Би-Би-Синин экономика боюнча редактору Фейсал Исламдын айтымында, айрым катышуучулар башка маселелерге бирдей же андан да олуттуу көңүл буруп жатышат Алардын баары жаңы жасалма интеллект моделинен тынчсызданышкан. Айрымдар AIнын бул жаңы версиясы дүйнөнүн каржы системасын олуттуу түрдө бузушу мүмкүн дешет Сөз болуп жаткан модель Mythos деп аталып, аны АКШда жайгашкан Anthropic компаниясы чыгарган Кооптонуу бул технология туура эмес колго түшүп калса, анын кесепети банк тутумуна эле тийбеши мүмкүн эле. Бул элдин банк эсебине да таасирин тийгизеби деген суроо да көтөрүлдү Биз колдонгон уюлдук телефондор, планшеттер жана компьютерлер да кооптуу болуп калышы мүмкүнбү? Эл аралык валюта корунун башчысына берилген суроо да ушул маселе боюнча болду жана дүйнөнүн эң күчтүү экономикасы болгон АКШнын жогорку даражалуу чиновниктери да ушундай эле тынчсыздануусун билдиришти АКШнын Каржы министри жана Борбордук банктын төрагасы Нью-Йоркто Уолл Стриттин белгилүү лидерлери менен да жолугушту жана бул жаңы жасалма интеллект моделинен келип чыккан кибер коопсуздук коркунучтары талкууланды Эл аралык валюта корунун башкаруучу директору Кристалина Георгиева менен болгон маегинде CBS News телеканалынын алып баруучусу модель тууралуу айтылган кооптонууларга кайрылып, "Алар эмнеден коркушат? Сиз да тынчсызданып жатасызбы?" деген суроону берди Эл аралык валюта корунун президенти кибер коопсуздук коркунучтарынын тездик менен өсүп жатканын белгилеп: «Ооба, биз бул үчүн кооптонуп жатабыз» деди Вашингтондогу саммиттин жүрүшүндө АКШ менен Израилдин Иранга каршы согушунан келип чыккан кризиске британиялык Barclays банкынын башкы директору С. Ал Венкатакришнандын тынчсыздануу тизмесинде үчүнчү болгон Венкатакришнандын эң чоң тынчсыздануусу AI "өтө негизги агымга айланып баратканы" болгон Ирандын Ормуз кысыгын жабуу менен дүйнөлүк базарлардагы мунай жана энергетикалык камсыздоону үзгүлтүккө учуратышынын кесепеттери бүткүл дүйнөдө сезилип жатат Канаданын каржы министри Франсуа-Филипп Шампан эки абалды салыштырып: «Биз Ормуз кысыгы кайда экенин жана анын өлчөмдөрүн билебиз, бирок Мифостун коркунучу тууралуу так маалымат жок»,-деди Демек, Мифос деген эмне жана ал эмне үчүн дүйнөнүн каржы чиновниктерин жана саясатчыларын ушунчалык тынчсыздандырат? Claude Mythos - америкалык Anthropic технологиялык компаниясы тарабынан иштелип чыккан жасалма интеллект модели Mythos OpenAI's ChatGPT жана Google'дун Gemini менен атаандашкан компаниянын Клод AI системасына орнотулган Изилдөөчүлөр "Mythos компьютердик коопсуздукту иликтөө жана аялуу жерлерди табуу тапшырмаларын аткарууга өзгөчө жөндөмдүү" деп белгилешет Бул изилдөөчүлөр "кызыл командалар" деп аталган коопсуздукту баалоо топторунда иштешкен. Алардын отчетуна ылайык, Mythos компьютердик коддордогу жашыруун кемчиликтерди аныктоо жана аларды пайдалануу жолдорун табуу мүмкүнчүлүгүнө ээ болгон Башкача айтканда, система сиз колдонгон ар кандай программалык камсыздоонун алсыз жактарын, атүгүл өндүрүүчү али билбеген жана оңдобогон кемчиликтерди да таба алат Кызыл топ бул курал ондогон жылдар мурун жазылган коддогу жашырылган мүчүлүштүктөрдү таап, аларды оңой пайдалана аларын аныкташкан Ошондуктан, бул моделди колдонуучуларга кеңири сунуш кылуунун ордуна, Anthropic "дүйнөдөгү эң маанилүү программалык камсыздоону коргоо аракетинде" 12 технологиялык компанияга мүмкүнчүлүк берди Бул компанияларга Amazon Web Services, Apple, Microsoft жана Google, ошондой эле Nvidia жана Broadcom сыяктуу чип өндүрүүчүлөр кирген Бул мүмкүнчүлүк аларга кибер чабуулдарга, анын ичинде Mythos колдонушу мүмкүн болгон системаларды катуулатууга мүмкүндүк берет 2024-жылдын июль айында жаңыртылган программалык камсыздоонун жаңыруусунан улам глобалдык үзгүлтүккө учураган Crowdstrike да долбоорго катышкан компаниялардын арасында болгон Anthropic Mythos компаниясына маанилүү программалык камсыздоо үчүн жооптуу 40тан ашык уюмдарга кирүү мүмкүнчүлүгүн бергенин жарыялады Anthropic Mythos окутуу процессинде күтүлбөгөн мүмкүнчүлүктөрдү көрсөтөт, бул программалык камсыздоонун кемчиликтерин аныктоого жана оңдоого жардам берет деп ырастайт Бирок, ошол эле жөндөмү да олуттуу тынчсызданууларды алып келди Кээ бир эксперттердин айтымында, Mythos "туура эмес колго" түшүп калса, кандайдыр бир компьютердик системаны бузушу күмөн. жеткиликтүү Anthropic тестирлөө учурунда бул модель киберкоопсуздук жана киберчабуул менен байланышкан милдеттерди аткарууда абдан жөндөмдүү жана ал тургай, адамдардан да ашып түшкөнүн жарыялады Mythos тестирлөөдөн кийин өзүнүн веб-сайтында жарыяланган отчетунда, Anthropic системанын коопсуздук кемчиликтерин, башкача айтканда, али ачыла элек кемчиликтерди аныктоо жана пайдалануу мүмкүнчүлүгү бар экенин белгиледи Компаниянын билдирүүсүнө ылайык, Mythos "бардык негизги операциялык системалардагы жана бардык негизги интернет браузерлериндеги" коопсуздук кемчиликтерин аныктап, пайдалана алат Бул коопсуздук эксплуатацияларынын айрымдарын аныктоо өтө кыйын болсо да, Mythos "10 же 20 жылдан бери" болгон аялуу жерлерди аныктай алган Башкача айтканда, көп жылдар бою программалык камсыздоону иштеп чыгуучулардан жана колдонуучулардан жашырып келген мүчүлүштүктөр ушул моделдин аркасында аныкталды Бул көйгөйдөн өзүнүн жогорку коопсуздугу менен белгилүү болгон OpenBSD операциялык системасы да жапа чеккен жана Mythos системада 27 жылдан бери табыла элек коопсуздуктун кемчилигин тапкан "Бул модель адегенде алсыздыкты аныктайт, андан кийин аны башка аялуу жерлер менен айкалыштырат жана ал аныкталбастан системада түбөлүккө кала берет", - деп жазган технология жана эл аралык коопсуздук боюнча эксперт Гордон М.Голдштейн, киберкоопсуздук боюнча компаниянын негиздөөчүсүнө шилтеме жасап, Тышкы мамилелер боюнча кеңешке жазган макаласында "Ушундай жол менен, Mythos түзмө-түз системаны көзөмөлдөй алат", Голдштейн кошумчалайт Anthropic, жасалма интеллекттин өнүгүү темпин эске алганда, мындай мүмкүнчүлүктөр жакында кеңири жайылып кетиши мүмкүн экенин эскертти Компания мындай кырдаалда «экономика, коомдук коопсуздук жана улуттук коопсуздук жагынан кесепеттери абдан оор болушу мүмкүн» деп, сезимталдыкка көңүл бурду Жасалма интеллект боюнча эксперт Голдштейн ошондой эле дүйнөнүн критикалык инфраструктурасы коркунучтарга дуушар болуп жатканын эскертет Критикалык инфраструктура бузулган же үзгүлтүккө учураган учурда улуттук коопсуздукка, экономикалык туруктуулукка жана коомдук ден соолукка олуттуу таасир тийгизе турган физикалык же виртуалдык системалар жана тармактар катары аныкталат Эксперттин айтымында, дамбалар, өзөктүк реакторлор, азык-түлүк бөлүштүрүү системалары жана электр тармактары дагы эле эскирген программалык камсыздоого көз каранды Ал жасалма интеллект адиси Дэн Хендрикстин эскертүүсүн эскерип, мындай дейт: "Mythos сыяктуу моделдер бул тобокелдиктерди дагы көбөйтөт жана бул системаларды алда канча аялуу кылат." "Мындай моделдердин киберкоопсуздук боюнча эң чоң тынчсыздануусу - бул мамлекеттик эмес актерлордун инфраструктураны максаттуулугун жеңилдетет." Антропиктин билдирүүсүнүн бир бөлүгү эң маанилүү жана тынчсыздандырган бөлүгү катары белгиленди Демек, Mythos интернет-браузерден төрт кемчиликти таап, операциялык системанын брандмауэрлерин автоматтык түрдө айланып өтүүгө жетишкен Ал ошондой эле башка операциялык системалардагы жана Linux браузериндеги коопсуздук системаларын айланып өтүүгө жетишти жана жеткиликтүү серверге чабуул коюунун автоматташтырылган жолун ойлоп тапты Мобилдик телефондордо колдонулган Android операциялык системасы да Linux негизиндеги Жаңы моделдер жана аппараттар тынымсыз чыгарылып турат жана булар биздин жашообузду оң же терс жагына өзгөртө турганы айтылат Жасалма интеллект жана анын келечектеги кесепеттери жөнүндө тынчсыздануу жана толкундануу климатынан пайдалануу акыркы жылдары бул тармактын жана анын маркетинг стратегияларынын өзгөчөлүгүнүн бири болуп калды Мифостун жагдайында, бизде бул үмүттөр жана тынчсыздануулар негиздүүбү же өнөр жайлык дүрбөлөңдүн чагылышыбы баалоо үчүн жетиштүү маалыматыбыз жок Көптөгөн көз карандысыз киберкоопсуздук боюнча эксперттер Мифостун өзүн сынай алышкан жок, кээ бирлери анын иштешине күмөн санашат Улуу Британиянын AI коопсуздук институту жакында модель күчтүү болгону менен, эң чоң коркунуч начар корголгон жана аялуу системалар үчүн болот деген тыянакка келди Cookie файлдары веб-сайттан жөнөтүлгөн жана колдонуучунун веб-браузери тарабынан колдонуучунун компьютеринде колдонуучу карап жаткан учурда сакталган майда маалыматтар. Сиздин браузериңиз ар бир билдирүүнү куки деп аталган кичинекей файлда сактайт. Серверден башка баракты сураганыңызда, браузериңиз кукиди кайра серверге жөнөтөт. Cookie файлдары веб-сайттар үчүн маалыматты эстеп калуу же колдонуучунун серептөө аракетин жаздыруу үчүн ишенимдүү механизм болуу үчүн иштелип чыккан Бул кукилер веб-сайттын иштеши үчүн абдан маанилүү жана биздин системаларда өчүрүлбөйт. Булар көбүнчө транзакцияларыңызды гана иштетүү үчүн орнотулган. Бул транзакциялар, Буга купуялык тандоолоруңузду коюу, кирүү же форманы толтуруу сыяктуу кызмат сурамдарыңыз кирет. Сиз браузериңизди бул кукилерди бөгөттөп же эскерте тургандай кылып коюңуз, бирок сайттын кээ бир бөлүктөрү иштебей калышы мүмкүн Бул cookie файлдары бизге сайтка киргендердин санын жана трафик булактарын эсептөөгө мүмкүндүк берет, ошондо биз сайтыбыздын иштешин өлчөй жана жакшырта алабыз. Алар бизге кайсы барактардын эң көп жана эң аз киргенин жана коноктордун сайтты кантип чабыттарын билүүгө жардам берет. Бул кукилер тарабынан чогултулган бардык маалыматтар топтолгон жана анонимдүү болуп саналат. Эгер сиз бул cookie файлдарына уруксат бербесеңиз, биздин сайтка киргениңизде биз билбейбиз Бул кукилер бизге видеолор жана жандуу баарлашуу сыяктуу өркүндөтүлгөн функцияларды жана жекелештирүүнү сунуштайт. Булар биз тарабынан же кызматтарын биз баракчаларыбызда колдонгон үчүнчү тараптын провайдерлери тарабынан коюлушу мүмкүн. Эгер сиз бул кукилерге уруксат бербесеңиз, бул функциялардын баары же кээ бирлери туура иштебей калышы мүмкүн Бул cookie файлдары биздин жарнамалык өнөктөштөр тарабынан биздин сайтта орнотулган. Булар тиешелүү компаниялар тарабынан сиздин кызыкчылыктардын профилин түзүү жана башка сайттарда тиешелүү жарнамаларды көрсөтүү үчүн колдонулушу мүмкүн. Алар сиздин браузериңизди жана түзмөгүңүздү уникалдуу аныктоо менен иштешет. Эгер бул кукилерге уруксат бербесеңиз, биз сизге ар кандай сайттарда жекелештирилген жарнама тажрыйбасын сунуштай албайбыз Эскертүү: Жарнамалар куки саясатына карабастан көрсөтүлөт Бул cookie файлдары биздин мазмунду досторуңуз жана тармагыңыз менен бөлүшүүгө мүмкүнчүлүк берүү үчүн биздин сайтка орнотулган ар кандай социалдык медиа кызматтары тарабынан орнотулган. Алар ошондой эле сиз башка сайттарды колдонуп жатканда сиздин браузериңизге көз салып, кызыгуу профилиңизди түзө алышат. Бул сиз кирген башка сайттарда көргөн мазмунга жана билдирүүлөргө таасирин тийгизиши мүмкүн. Бул кукилерге уруксат бербесеңиз, бул бөлүшүү куралдарын колдоно албай же көрө албай калышыңыз мүмкүн