XVJ prezidentidan sun'iy intellekt bo'yicha ogohlantirish: "Mifos" moliya tizimiga tahdid solmoqda

Bu savol Xalqaro valyuta jamg'armasi (XVJ) prezidenti Kristalina Georgievaga yo'llangan Vashingtonda bo'lib o'tgan XVJ va Jahon bankining bahorgi yig'ilishlarida turli mamlakatlardan moliya vazirlari, markaziy bank rasmiylari va dunyoning yetakchi moliyaviy ekspertlari ishtirok etdi Yevropa Ittifoqi va Isroilning Eronga qarshi urushi va Hormuz bo‘g‘ozining yopilishining iqtisodiy oqibatlari hammani o‘ylantirdi Ammo BBCning iqtisod bo‘yicha muharriri Faysal Islomning aytishicha, ba’zi ishtirokchilar boshqa masalalarga teng yoki undan ham jiddiyroq e’tibor qaratmoqda Ularning barchasi yangi sun'iy intellekt modelidan xavotirda edi. Ayrimlarning aytishicha, AIning ushbu yangi versiyasi jahon moliyaviy tizimini jiddiy ravishda buzishi mumkin Ushbu model Mythos deb nomlangan va AQShda joylashgan Anthropic tomonidan ishlab chiqarilgan Xavotir shundaki, agar bu texnologiya noto'g'ri qo'llarga tushib qolsa, oqibatlari nafaqat bank tizimiga olib kelishi mumkin edi. Bu odamlarning bank hisoblariga ham taʼsir qiladimi, degan savol ham koʻtarilgan Biz foydalanadigan mobil telefonlar, planshetlar va kompyuterlar ham xavfli bo'lib qolishi mumkinmi? Xalqaro valyuta jamg'armasi rahbariga berilgan savol ham shu masala bo'yicha bo'lib, dunyoning eng qudratli iqtisodiyoti bo'lmish AQShning yuqori martabali amaldorlari ham xuddi shunday xavotir bildirishgan AQSh G'aznachilik kotibi va Markaziy bank rahbari Nyu-Yorkda Uoll-stritning taniqli rahbarlari bilan ham uchrashdi va bu yangi sun'iy intellekt modelidan kelib chiqadigan kiberxavfsizlik tahdidlari muhokama qilindi XVJ boshqaruvchi direktori Kristalina Georgieva bilan suhbatda CBS News boshlovchisi model haqida bildirilgan xavotirlarga to'xtalib, "Ular nimadan qo'rqishyapti? Siz ham xavotirdamisiz?" savol berdi Xalqaro valyuta jamg'armasi prezidenti kiberxavfsizlik tahdidlari tez ortib borayotganini aytdi va "Ha, biz bundan xavotirdamiz" dedi Vashingtondagi sammitda AQSh-Isroilning Eronga qarshi urushidan kelib chiqqan inqiroz haqida Britaniyaning Barclays banki bosh direktori C.S. U Venkatakrishnanning xavotirlar ro'yxatida uchinchi edi Venkatakrishnanning eng katta tashvishi AI "juda asosiy oqimga aylanib qolayotgani" edi Eronning Hormuz boʻgʻozini yopib, jahon bozorlarida neft va energiya taʼminotini toʻxtatib qoʻyganining oqibatlari butun dunyoda sezilmoqda Kanada Moliya vaziri Fransua-Filip Shampan bu ikki holatni solishtirib, “Hurmuz bo‘g‘ozi qayerda ekanligini va uning o‘lchamlarini bilamiz, ammo Mythos tomonidan yuzaga kelgan xavf haqida aniqlik yo‘q”, dedi Xo'sh, Mythos nima va u nima uchun jahon moliyaviy amaldorlari va siyosatchilarni shunchalik xavotirga solmoqda? Klod Myfos - Amerikaning Anthropic texnologiya kompaniyasi tomonidan ishlab chiqilgan sun'iy intellekt modeli Mythos kompaniyaning Claude AI tizimiga o'rnatilgan bo'lib, OpenAI ChatGPT va Google Gemini bilan raqobatlashadi Tadqiqotchilarning ta'kidlashicha, "Mythos kompyuter xavfsizligini tekshirish va zaifliklarni aniqlash vazifalarini bajarishga qodir" Ushbu tadqiqotchilar "qizil jamoalar" deb nomlanuvchi xavfsizlikni baholash guruhlarida ishlagan. Ularning hisobotiga ko'ra, Mythos kompyuter kodlaridagi yashirin zaifliklarni aniqlash va ulardan foydalanish yo'llarini topish qobiliyatiga ega edi Boshqacha qilib aytganda, tizim siz foydalanadigan har qanday dasturiy ta'minotning zaif tomonlarini, hatto ishlab chiqaruvchi hali bilmagan va tuzatmagan zaifliklarni ham aniqlay oladi Qizil jamoa ushbu vosita o'n yillar oldin yozilgan koddagi yashirin xatolarni aniqlay olishini va ulardan osongina foydalanishini aniqladi Shu sababli, ushbu modelni o'z foydalanuvchilariga keng miqyosda taklif qilish o'rniga, Anthropic 12 texnologiya kompaniyasiga "dunyodagi eng muhim dasturiy ta'minotni himoya qilishga intilish" imkonini berdi Bu kompaniyalarga Amazon Web Services, Apple, Microsoft va Google, shuningdek, Nvidia va Broadcom kabi chip ishlab chiqaruvchilari kirdi Ushbu kirish ularga o'z tizimlarini kiberhujumlarga, shu jumladan Mythos ishlatishi mumkin bo'lganlarga qarshi kuchaytirishga imkon beradi 2024 yil iyul oyida noto'g'ri dasturiy ta'minot yangilanishi tufayli global uzilishga sabab bo'lgan Crowdstrike ham loyihada ishtirok etgan kompaniyalar orasida edi Anthropic Mythos-ga muhim dasturiy ta'minot uchun mas'ul bo'lgan 40 dan ortiq tashkilotlarga kirishni ta'minlaganligini e'lon qildi Anthropic ta'kidlashicha, Mythos o'quv jarayonida oldindan aytib bo'lmaydigan qobiliyatlarni namoyish etadi, bu esa dasturiy ta'minotdagi zaifliklarni aniqlash va tuzatishga yordam beradi Biroq, xuddi shu qobiliyat ham jiddiy tashvishlarni keltirib chiqardi Ba'zi ekspertlarning fikriga ko'ra, Mythos har qanday kompyuter tizimi "noto'g'ri qo'llarga" tushib qolsa, uni buzishi dargumon. mavjud Anthropic, sinov paytida ushbu model kiberxavfsizlik va kiberhujum bilan bog'liq vazifalarni bajarishda juda qobiliyatli ekanligini va hatto odamlardan ham ustun ekanligini e'lon qildi Mythos’ni sinovdan o‘tkazgandan so‘ng o‘z veb-saytida e’lon qilingan hisobotda Anthropic tizim xavfsizlik zaifliklarini, ya’ni hali aniqlanmagan kamchiliklarni aniqlash va ulardan foydalanish imkoniyatiga ega ekanligini ta’kidladi Kompaniya bayonotiga ko'ra, Mythos "barcha asosiy operatsion tizimlar va barcha asosiy internet-brauzerlarda" xavfsizlik zaifliklarini aniqlashi va ulardan foydalanishi mumkin Garchi ushbu xavfsizlik ekspluatatsiyalarining ba'zilarini aniqlash juda qiyin bo'lsa-da, Mythos hatto "10 yoki 20 yil davomida" mavjud bo'lgan zaifliklarni aniqlay oldi Boshqacha aytganda, yillar davomida dasturiy ta'minot ishlab chiquvchilari va foydalanuvchilaridan yashirishga muvaffaq bo'lgan nuqsonlar endi ushbu model tufayli aniqlandi Yuqori darajadagi xavfsizligi bilan mashhur bo'lgan OpenBSD operatsion tizimi ham bu muammodan aziyat chekdi va Mythos tizimda 27 yil davomida topilmagan xavfsizlik zaifligini aniqladi “Ushbu model avvalo zaiflikni aniqlaydi, keyin uni boshqa zaifliklar bilan birlashtiradi va u aniqlanmasdan tizimda cheksiz muddatga qolishi mumkin”, deb yozadi texnologiya va xavfsizlik bo‘yicha xalqaro ekspert Gordon M.Goldshteyn Xalqaro aloqalar kengashi uchun maqolasida kiberxavfsizlik kompaniyasi asoschisidan iqtibos keltirgan holda "Shunday qilib, Mythos tom ma'noda tizimni boshqarishi mumkin", deya qo'shimcha qiladi Goldstein Anthropic, sun'iy intellektning rivojlanish sur'atlarini hisobga olgan holda, bunday imkoniyatlar tez orada keng tarqalishi mumkinligi haqida ogohlantirdi Kompaniya bunday vaziyatda "iqtisod, jamoat xavfsizligi va milliy xavfsizlik nuqtai nazaridan oqibatlari juda jiddiy bo'lishi mumkinligini" aytib, sezgirlikka e'tibor qaratdi Sun'iy intellekt bo'yicha mutaxassis Goldshteyn ham dunyoning muhim infratuzilmasi ortib borayotgan tahdidlarga duch kelishidan ogohlantiradi Muhim infratuzilma shikastlangan yoki buzilgan taqdirda milliy xavfsizlik, iqtisodiy barqarorlik va aholi salomatligiga jiddiy ta'sir ko'rsatadigan jismoniy yoki virtual tizimlar va tarmoqlar sifatida belgilanadi Mutaxassisning fikricha, to'g'onlar, yadroviy reaktorlar, oziq-ovqat tarqatish tizimlari va elektr tarmoqlari hali ham eskirgan dasturiy ta'minotga bog'liq U sun'iy intellekt bo'yicha mutaxassis Den Hendrixning ogohlantirishini eslaydi va shunday deydi: "Mythos kabi modellar bu xavflarni yanada oshiradi va bu tizimlarni ancha himoyasiz qiladi." "Bunday modellar bilan bog'liq eng katta kiberxavfsizlik tashvishi shundaki, ular nodavlat ishtirokchilarga infratuzilmani nishonga olishni ancha osonlashtiradi." One part of Anhtropic's statement was noted as the most important and worrying part Shunga ko'ra, Mythos internet-brauzerida to'rtta zaiflikni aniqladi va operatsion tizim xavfsizlik devorlarini avtomatik ravishda chetlab o'tishga muvaffaq bo'ldi Shuningdek, u boshqa operatsion tizimlar va Linux brauzeridagi xavfsizlik tizimlarini chetlab o'tishga muvaffaq bo'ldi va kirish mumkin bo'lgan serverga hujum qilishning avtomatlashtirilgan usulini ishlab chiqdi Mobil telefonlarda ishlatiladigan Android operatsion tizimi ham Linuxga asoslangan Sun'iy intellekt haqidagi xavotirlar yangilik emas Doimiy ravishda yangi modellar va qurilmalar chiqarilmoqda va ular hayotimizni ijobiy yoki salbiy tomonga o'zgartirishi aytiladi Sun'iy intellekt va uning kelajakdagi oqibatlari haqidagi tashvish va hayajon muhitidan foydalanish so'nggi yillarda ushbu soha va uning marketing strategiyalarining o'ziga xos belgilaridan biriga aylandi Mythos misolida, bizda bu umidlar va xavotirlar oqlanganmi yoki sanoat shov-shuvining aksi ekanligini baholash uchun hali etarli ma'lumotga ega emasmiz Kiberxavfsizlik bo'yicha ko'plab mustaqil mutaxassislar hali Mythos-ni sinab ko'rishga qodir emaslar va ba'zilari uning ishlashiga shubha bilan qarashadi Buyuk Britaniyaning AI Xavfsizlik Instituti yaqinda xulosaga keldiki, model kuchli bo'lsa-da, eng katta tahdid yomon himoyalangan va zaif tizimlar uchun bo'ladi Dastlab ingliz tilida yozilgan ushbu maqolani tarjima qilishda sun’iy intellektdan foydalandik. BBC jurnalisti nashrdan oldin tarjimani tekshirdi