Anthropic kompaniyasining sun'iy intellekt modeli Mythos "Hurmuzdan ham xavfliroq bo'lishi mumkin" | T24

Bu savol Xalqaro valyuta jamg'armasi (XVJ) prezidenti Kristalina Georgievaga yo'llangan Vashingtonda bo'lib o'tgan XVJ va Jahon bankining bahorgi yig'ilishlarida turli mamlakatlardan moliya vazirlari, markaziy bank rasmiylari va dunyoning yetakchi moliyaviy ekspertlari ishtirok etdi Yevropa Ittifoqi va Isroilning Eronga qarshi urushi va Hormuz bo‘g‘ozining yopilishining iqtisodiy oqibatlari hammani o‘ylantirdi Ammo BBCning iqtisod bo‘yicha muharriri Faysal Islomning aytishicha, ba’zi ishtirokchilar boshqa masalalarga teng yoki undan ham jiddiyroq e’tibor qaratmoqda Ularning barchasi yangi sun'iy intellekt modelidan xavotirda edi. Ayrimlarning aytishicha, AIning ushbu yangi versiyasi jahon moliyaviy tizimini jiddiy ravishda buzishi mumkin Ushbu model Mythos deb nomlangan va AQShda joylashgan Anthropic tomonidan ishlab chiqarilgan Xavotir shundaki, agar bu texnologiya noto'g'ri qo'llarga tushib qolsa, oqibatlari nafaqat bank tizimiga olib kelishi mumkin edi. Bu odamlarning bank hisoblariga ham taʼsir qiladimi, degan savol ham koʻtarilgan Biz foydalanadigan mobil telefonlar, planshetlar va kompyuterlar ham xavfli bo'lib qolishi mumkinmi? Xalqaro valyuta jamg'armasi rahbariga berilgan savol ham shu masala bo'yicha bo'lib, dunyoning eng qudratli iqtisodi bo'lmish AQShning yuqori mansabdor shaxslari ham xuddi shunday xavotir bildirishgan AQSh G'aznachilik kotibi va Markaziy bank rahbari Nyu-Yorkda Uoll-stritning taniqli rahbarlari bilan ham uchrashdi va bu yangi sun'iy intellekt modelidan kelib chiqadigan kiberxavfsizlik tahdidlari muhokama qilindi XVJ boshqaruvchi direktori Kristalina Georgieva bilan suhbatda CBS News boshlovchisi model haqida bildirilgan xavotirlarga to'xtalib, "Ular nimadan qo'rqishyapti? Siz ham xavotirdamisiz?" savol berdi Xalqaro valyuta jamg'armasi prezidenti kiberxavfsizlik tahdidlari tez ortib borayotganini aytdi va "Ha, biz bundan xavotirdamiz" dedi Vashingtondagi sammitda AQSh-Isroilning Eronga qarshi urushidan kelib chiqqan inqiroz haqida Britaniyaning Barclays banki bosh direktori C.S. U Venkatakrishnanning xavotirlar ro'yxatida uchinchi edi Venkatakrishnanning eng katta tashvishi AI "juda asosiy oqimga aylanib qolayotgani" edi Eronning Hormuz boʻgʻozini yopib, jahon bozorlarida neft va energiya taʼminotini toʻxtatib qoʻyganining oqibatlari butun dunyoda sezilmoqda Kanada Moliya vaziri Fransua-Filip Shampan bu ikki holatni solishtirib, “Hurmuz bo‘g‘ozi qayerda ekanligini va uning o‘lchamlarini bilamiz, ammo Mythos tomonidan yuzaga kelgan xavf haqida aniqlik yo‘q”, dedi Xo'sh, Mythos nima va u nima uchun jahon moliyaviy amaldorlari va siyosatchilarni shunchalik xavotirga solmoqda? Klod Myfos - Amerikaning Anthropic texnologiya kompaniyasi tomonidan ishlab chiqilgan sun'iy intellekt modeli Mythos kompaniyaning Claude AI tizimiga o'rnatilgan bo'lib, OpenAI ChatGPT va Google Gemini bilan raqobatlashadi Tadqiqotchilarning ta'kidlashicha, "Mythos kompyuter xavfsizligini tekshirish va zaifliklarni aniqlash vazifalarini bajarishga qodir" Ushbu tadqiqotchilar "qizil jamoalar" deb nomlanuvchi xavfsizlikni baholash guruhlarida ishlagan. Ularning hisobotiga ko'ra, Mythos kompyuter kodlaridagi yashirin zaifliklarni aniqlash va ulardan foydalanish yo'llarini topish qobiliyatiga ega edi Boshqacha qilib aytganda, tizim siz foydalanadigan har qanday dasturiy ta'minotning zaif tomonlarini, hatto ishlab chiqaruvchi hali bilmagan va tuzatmagan zaifliklarni ham aniqlay oladi Qizil jamoa ushbu vosita o'n yillar oldin yozilgan koddagi yashirin xatolarni aniqlay olishini va ulardan osongina foydalanishini aniqladi Shu sababli, ushbu modelni o'z foydalanuvchilariga keng miqyosda taklif qilish o'rniga, Anthropic 12 texnologiya kompaniyasiga "dunyodagi eng muhim dasturiy ta'minotni himoya qilishga intilish" imkonini berdi Bu kompaniyalarga Amazon Web Services, Apple, Microsoft va Google, shuningdek, Nvidia va Broadcom kabi chip ishlab chiqaruvchilari kirdi Ushbu kirish ularga o'z tizimlarini kiberhujumlarga, shu jumladan Mythos ishlatishi mumkin bo'lganlarga qarshi kuchaytirishga imkon beradi 2024 yil iyul oyida noto'g'ri dasturiy ta'minot yangilanishi tufayli global uzilishga sabab bo'lgan Crowdstrike ham loyihada ishtirok etgan kompaniyalar orasida edi Anthropic Mythos-ga muhim dasturiy ta'minot uchun mas'ul bo'lgan 40 dan ortiq tashkilotlarga kirishni ta'minlaganligini e'lon qildi Anthropic ta'kidlashicha, Mythos o'quv jarayonida oldindan aytib bo'lmaydigan qobiliyatlarni namoyish etadi, bu esa dasturiy ta'minotdagi zaifliklarni aniqlash va tuzatishga yordam beradi Biroq, xuddi shu qobiliyat jiddiy tashvishlarni keltirib chiqardi Ba'zi ekspertlarning fikriga ko'ra, Mythos har qanday kompyuter tizimi "noto'g'ri qo'llarga" tushib qolsa, uni buzishi dargumon. mavjud Anthropic, sinov paytida ushbu model kiberxavfsizlik va kiberhujum bilan bog'liq vazifalarni bajarishda juda qobiliyatli ekanligini va hatto odamlardan ham ustun ekanligini e'lon qildi Mythos’ni sinovdan o‘tkazgandan so‘ng o‘z veb-saytida e’lon qilingan hisobotda Anthropic tizim xavfsizlik zaifliklarini, ya’ni hali aniqlanmagan kamchiliklarni aniqlash va ulardan foydalanish imkoniyatiga ega ekanligini ta’kidladi Kompaniya bayonotiga ko'ra, Mythos "barcha asosiy operatsion tizimlar va barcha asosiy internet-brauzerlarda" xavfsizlik zaifliklarini aniqlashi va ulardan foydalanishi mumkin Garchi ushbu xavfsizlik ekspluatatsiyalarining ba'zilarini aniqlash juda qiyin bo'lsa-da, Mythos hatto "10 yoki 20 yil davomida" mavjud bo'lgan zaifliklarni aniqlay oldi Boshqacha aytganda, yillar davomida dasturiy ta'minot ishlab chiquvchilari va foydalanuvchilaridan yashirishga muvaffaq bo'lgan nuqsonlar endi ushbu model tufayli aniqlandi Yuqori darajadagi xavfsizligi bilan mashhur bo'lgan OpenBSD operatsion tizimi ham bu muammodan aziyat chekdi va Mythos tizimda 27 yil davomida topilmagan xavfsizlik zaifligini aniqladi “Ushbu model avvalo zaiflikni aniqlaydi, keyin uni boshqa zaifliklar bilan birlashtiradi va u aniqlanmasdan tizimda cheksiz muddatga qolishi mumkin”, deb yozadi texnologiya va xavfsizlik bo‘yicha xalqaro ekspert Gordon M.Goldshteyn Xalqaro aloqalar kengashi uchun maqolasida kiberxavfsizlik kompaniyasi asoschisidan iqtibos keltirgan holda "Shunday qilib, Mythos tom ma'noda tizimni boshqarishi mumkin", deya qo'shimcha qiladi Goldstein Anthropic, sun'iy intellektning rivojlanish sur'atlarini hisobga olgan holda, bunday imkoniyatlar tez orada keng tarqalishi mumkinligi haqida ogohlantirdi Kompaniya bunday vaziyatda "iqtisod, jamoat xavfsizligi va milliy xavfsizlik nuqtai nazaridan oqibatlari juda jiddiy bo'lishi mumkinligini" aytib, sezgirlikka e'tibor qaratdi Sun'iy intellekt bo'yicha mutaxassis Goldshteyn ham dunyoning muhim infratuzilmasi ortib borayotgan tahdidlarga duch kelishidan ogohlantiradi Muhim infratuzilma shikastlangan yoki buzilgan taqdirda milliy xavfsizlik, iqtisodiy barqarorlik va aholi salomatligiga jiddiy ta'sir ko'rsatadigan jismoniy yoki virtual tizimlar va tarmoqlar sifatida belgilanadi Mutaxassisning fikricha, to'g'onlar, yadroviy reaktorlar, oziq-ovqat tarqatish tizimlari va elektr tarmoqlari hali ham eskirgan dasturiy ta'minotga bog'liq U sun'iy intellekt bo'yicha mutaxassis Den Hendrixning ogohlantirishini eslaydi va shunday deydi: "Mythos kabi modellar bu xavflarni yanada oshiradi va bu tizimlarni ancha himoyasiz qiladi." "Bunday modellar bilan bog'liq eng katta kiberxavfsizlik tashvishi shundaki, ular nodavlat ishtirokchilarga infratuzilmani nishonga olishni ancha osonlashtiradi." Anhtropik bayonotining bir qismi eng muhim va xavotirli qismi sifatida qayd etildi Shunga ko'ra, Mythos internet-brauzerida to'rtta zaiflikni aniqladi va operatsion tizim xavfsizlik devorlarini avtomatik ravishda chetlab o'tishga muvaffaq bo'ldi Shuningdek, u boshqa operatsion tizimlar va Linux brauzeridagi xavfsizlik tizimlarini chetlab o'tishga muvaffaq bo'ldi va kirish mumkin bo'lgan serverga hujum qilishning avtomatlashtirilgan usulini ishlab chiqdi Mobil telefonlarda ishlatiladigan Android operatsion tizimi ham Linuxga asoslangan Doimiy ravishda yangi modellar va qurilmalar chiqarilmoqda va ular hayotimizni ijobiy yoki salbiy tomonga o'zgartirishi aytiladi Sun'iy intellekt va uning kelajakdagi oqibatlari haqidagi tashvish va hayajon muhitidan foydalanish so'nggi yillarda ushbu soha va uning marketing strategiyalarining o'ziga xos belgilaridan biriga aylandi Mythos misolida, bizda bu umidlar va xavotirlar oqlanganmi yoki sanoat shov-shuvining aksi ekanligini baholash uchun hali etarli ma'lumotga ega emasmiz Kiberxavfsizlik bo'yicha ko'plab mustaqil mutaxassislar hali Mythos-ni sinab ko'rishga qodir emaslar va ba'zilari uning ishlashiga shubha bilan qarashadi Buyuk Britaniyaning AI Xavfsizlik Instituti yaqinda xulosaga keldiki, model kuchli bo'lsa-da, eng katta tahdid yomon himoyalangan va zaif tizimlar uchun bo'ladi Cookie-fayllar - bu veb-saytdan yuborilgan va foydalanuvchi ko'rish paytida foydalanuvchining kompyuterida foydalanuvchi veb-brauzeri tomonidan saqlanadigan kichik ma'lumotlar. Brauzeringiz har bir xabarni cookie deb nomlangan kichik faylda saqlaydi. Serverdan boshqa sahifani so'raganingizda, brauzeringiz cookie-faylni serverga qaytarib yuboradi. Cookie-fayllar veb-saytlar uchun ma'lumotlarni eslab qolish yoki foydalanuvchi ko'rish faoliyatini qayd etish uchun ishonchli mexanizm bo'lishi uchun yaratilgan Ushbu cookie-fayllar veb-saytning ishlashi uchun zarur va ularni bizning tizimlarimizda o'chirib bo'lmaydi. Ular odatda faqat tranzaktsiyalaringizni qayta ishlash uchun o'rnatiladi. Ushbu operatsiyalar, Bunga maxfiylik sozlamalarini oʻrnatish, tizimga kirish yoki shaklni toʻldirish kabi xizmat soʻrovlaringiz kiradi. Brauzeringizni ushbu cookie-fayllarni bloklaydigan yoki ogohlantiradigan qilib sozlashingiz mumkin, lekin agar shunday qilsangiz, saytning ayrim qismlari ishlamasligi mumkin Ushbu cookie-fayllar bizga saytga tashriflar sonini va trafik manbalarini hisoblash imkonini beradi, shunda biz saytimiz faoliyatini o'lchashimiz va yaxshilashimiz mumkin. Ular bizga qaysi sahifalar eng ko'p va eng kam tashrif buyurilganligini va tashrif buyuruvchilar saytni qanday kezishini o'rganishga yordam beradi. Ushbu cookie-fayllar tomonidan to'plangan barcha ma'lumotlar birlashtirilgan va shuning uchun anonimdir. Agar siz ushbu cookie-fayllarga ruxsat bermasangiz, saytimizga tashrif buyurganingizda biz bilmaymiz Ushbu cookie-fayllar bizga videolar va jonli chat kabi kengaytirilgan funksiya va shaxsiylashtirishni taklif qilish imkonini beradi. Ular biz yoki bizning sahifalarimizda xizmatlaridan foydalanadigan uchinchi tomon provayderlari tomonidan o'rnatilishi mumkin. Agar siz ushbu cookie-fayllarga ruxsat bermasangiz, ushbu funksiyalarning barchasi yoki ba'zilari to'g'ri ishlamasligi mumkin Ushbu cookie-fayllar bizning reklama hamkorlarimiz tomonidan bizning saytimizda o'rnatiladi. Ulardan tegishli kompaniyalar sizning qiziqishlaringiz profilini yaratish va boshqa saytlarda tegishli reklamalarni ko'rsatish uchun ishlatilishi mumkin. Ular brauzeringiz va qurilmangizni noyob tarzda aniqlash orqali ishlaydi. Agar siz ushbu cookie-fayllarga ruxsat bermasangiz, biz sizga turli saytlarda moslashtirilgan reklama tajribasini taklif qila olmaymiz Eslatma: e'lonlar cookie siyosatidan qat'iy nazar ko'rsatiladi Ushbu cookie-fayllar bizning kontentimizni do'stlaringiz va tarmog'ingiz bilan baham ko'rishingiz uchun saytimizga o'rnatilgan turli ijtimoiy media xizmatlari tomonidan o'rnatiladi. Ular, shuningdek, siz boshqa saytlardan foydalanayotganingizda brauzeringizni kuzatishi va qiziqish profilingizni yaratishi mumkin. Bu siz tashrif buyurgan boshqa saytlarda ko'radigan kontent va xabarlarga ta'sir qilishi mumkin. Agar siz ushbu cookie-fayllarga ruxsat bermasangiz, ushbu almashish vositalaridan foydalana olmasligingiz yoki ko'rmasligingiz mumkin