BVF prezidentindən süni intellekt xəbərdarlığı: “Mifos” maliyyə sistemini təhdid edir

Bu sual Beynəlxalq Valyuta Fondunun (BVF) prezidenti Kristalina Georgiyevaya ünvanlanıb Vaşinqtonda keçirilən BVF və Dünya Bankının yaz iclaslarında müxtəlif ölkələrdən maliyyə nazirləri, mərkəzi bank rəsmiləri və dünyanın aparıcı maliyyə ekspertləri iştirak ediblər Aİ və İsrailin İrana qarşı müharibəsinin və Hörmüz boğazının bağlanmasının iqtisadi nəticələri hər kəsi düşündürürdü Lakin BBC-nin iqtisadiyyat redaktoru Feysal İslam bəzi iştirakçıların digər məsələlərə bərabər, hətta daha ciddi diqqət yetirdiyini söylədi Onların hamısı yeni süni intellekt modelindən narahat idi. Bəziləri süni intellektin bu yeni versiyasının dünyanın maliyyə sistemini ciddi şəkildə poza biləcəyini söyləyirlər Sözügedən model Mythos adlanırdı və ABŞ-da yerləşən Anthropic tərəfindən istehsal edilmişdir Narahatlıq ondan ibarət idi ki, əgər bu texnologiya yanlış əllərə keçərsə, bunun nəticələri təkcə bank sistemi üçün olmaya bilər. Bunun insanların bank hesablarına da təsir edib-etməyəcəyi məsələsi də gündəmə gəlib İstifadə etdiyimiz mobil telefonlar, planşetlər və kompüterlər də təhlükəli ola bilərmi? BVF rəhbərinə ünvanlanan sual da bu məsələ ilə bağlı olub və dünyanın ən güclü iqtisadiyyatı olan ABŞ-ın yüksək vəzifəli şəxsləri də eyni narahatlığı dilə gətiriblər ABŞ Maliyyə Naziri və Mərkəzi Bankın sədri Nyu Yorkda məşhur Wall Street liderləri ilə də görüşüb və bu yeni süni intellekt modelinin yaratdığı kibertəhlükəsizlik təhdidləri müzakirə edilib BVF-nin idarəedici direktoru Kristalina Georgiyeva ilə müsahibədə CBS News-un aparıcısı modellə bağlı səslənən narahatlıqlara toxunaraq, "Onlar nədən qorxurlar? Siz də narahatsınızmı?" sualını verdi BVF prezidenti kibertəhlükəsizlik təhdidlərinin sürətlə artdığını bildirib və “Bəli, bundan narahatıq” deyib Vaşinqton sammitində ABŞ-İsrailin İrana qarşı müharibəsindən yaranan böhrana Britaniya bankı Barclays-ın baş direktoru C.S. O, Venkatakrişnanın narahatlıqlar siyahısında üçüncü olub Venkatakrişnanın ən böyük narahatlığı süni intellektin “çox geniş yayılıb” olub-olmaması idi İranın Hörmüz boğazını bağlamaqla qlobal bazarlarda neft və enerji təchizatını kəsməsinin təsirləri bütün dünyada hiss olunur Kanadanın maliyyə naziri Fransua-Philippe Şampan iki vəziyyəti müqayisə edərək, "Hörmüz boğazının harada olduğunu və ölçülərini bilirik, lakin Mythosun yaratdığı təhlükə ilə bağlı heç bir aydınlıq yoxdur" dedi Bəs, Mythos nədir və niyə dünya maliyyə rəsmilərini və siyasətçilərini bu qədər narahat edir? Claude Mythos Amerika texnologiya şirkəti Anthropic tərəfindən hazırlanmış süni intellekt modelidir Mythos şirkətin OpenAI ChatGPT və Google Gemini ilə rəqabət aparan Claude süni intellekt sisteminə daxil edilmişdir Tədqiqatçılar qeyd edirlər ki, "Mythos kompüter təhlükəsizliyi araşdırması və zəifliyin aşkarlanması tapşırıqlarını yerinə yetirmək üçün müstəsna qabiliyyətə malikdir" Bu tədqiqatçılar “qırmızı komandalar” kimi tanınan təhlükəsizlik qiymətləndirmə qruplarında çalışıblar. Onların hesabatına görə, Mythos kompüter kodlarında gizli zəiflikləri aşkar etmək və onlardan istifadə yollarını tapmaq qabiliyyətinə malik idi Başqa sözlə, sistem istifadə etdiyiniz hər hansı proqram təminatının zəif tərəflərini, hətta istehsalçının hələ bilmədiyi və aradan qaldırmadığı zəiflikləri aşkar edə bilər Qırmızı komanda bu alətin onilliklər əvvəl yazılmış kodda gizli səhvləri aşkarlaya bildiyini və onlardan asanlıqla istifadə etdiyini müəyyən etdi Buna görə də, bu modeli istifadəçilərinə geniş şəkildə təqdim etmək əvəzinə, Anthropic "dünyanın ən kritik proqram təminatının təhlükəsizliyini təmin etmək səyi" ilə 12 texnologiya şirkətinə giriş imkanı verdi Bu şirkətlərə Amazon Web Services, Apple, Microsoft və Google, həmçinin Nvidia və Broadcom kimi çip istehsalçıları daxil idi Bu giriş onlara Mythos-un istifadə edə biləcəyi sistemlər də daxil olmaqla kiberhücumlara qarşı sistemlərini sərtləşdirməyə imkan verəcək 2024-cü ilin iyul ayında səhv proqram yeniləməsi səbəbiylə qlobal fasiləyə səbəb olan Crowdstrike də layihədə iştirak edən şirkətlər arasında idi Anthropic, Mythos-a kritik proqram təminatına cavabdeh olan 40-dan çox təşkilata giriş təmin etdiyini açıqladı Anthropic iddia edir ki, Mythos təlim prosesi zamanı gözlənilməz qabiliyyətlər nümayiş etdirir və bu, proqram təminatı zəifliklərini daha effektiv şəkildə müəyyən etməyə və düzəltməyə kömək edə bilər Lakin bu eyni qabiliyyət də ciddi narahatlıqlar doğurdu Bəzi ekspertlərin fikrincə, Mythos çətin ki, hər hansı bir kompüter sistemini “səhv əllərə” keçərsə, onu güzəştə getsin. mövcuddur Anthropic, sınaq zamanı bu modelin kibertəhlükəsizlik və kiberhücumla əlaqəli tapşırıqlar sahəsində kifayət qədər bacarıqlı olduğunu və hətta insanlardan daha yaxşı olduğunu açıqladı Mythos-u sınaqdan keçirdikdən sonra internet saytında dərc olunan hesabatda Anthropic, sistemin təhlükəsizlik zəifliklərini, yəni hələ aşkar edilməmiş qüsurları aşkar etmək və istismar etmək qabiliyyətinə malik olduğunu bildirib Şirkətin bəyanatına görə, Mythos "bütün əsas əməliyyat sistemlərində və bütün əsas internet brauzerlərində" təhlükəsizlik zəifliklərini aşkar edib istifadə edə bilir Bu təhlükəsizlik istismarlarının bəzilərini aşkar etmək olduqca çətin olsa da, Mythos hətta "10 və ya 20 ildir" mövcud olan zəiflikləri aşkar edə bildi Yəni illərdir proqram tərtibatçılarından və istifadəçilərdən gizlətməyi bacaran qüsurlar artıq bu model sayəsində aşkarlanıb Yüksək təhlükəsizliyi ilə tanınan OpenBSD əməliyyat sistemi də bu problemdən əziyyət çəkdi və Mythos sistemdə 27 ildir tapılmayan bir təhlükəsizlik zəifliyini aşkar etdi Texnologiya və beynəlxalq təhlükəsizlik üzrə ekspert Qordon M. Qoldşteyn kibertəhlükəsizlik şirkətinin təsisçisindən sitat gətirərək Xarici Əlaqələr Şurası üçün yazdığı məqalədə “Bu model əvvəlcə zəifliyi aşkar edir, sonra onu digər zəifliklərlə birləşdirir və o, aşkarlanmadan qeyri-müəyyən müddətə sistemdə qala bilər” "Beləliklə, Mythos sözün həqiqi mənasında bir sistemə nəzarət edə bilər" dedi Qoldşteyn Anthropic xəbərdarlıq edib ki, süni intellektin inkişafının sürətini nəzərə alsaq, bu cür imkanlar tezliklə geniş yayıla bilər Şirkət belə bir vəziyyətdə "iqtisadiyyat, ictimai təhlükəsizlik və milli təhlükəsizlik baxımından nəticələrin çox ciddi ola biləcəyini" söyləyərək həssaslığa diqqət çəkib Süni intellekt üzrə ekspert Qoldşteyn də xəbərdarlıq edir ki, dünyanın kritik infrastrukturu artan təhlükələrlə üz-üzədir Kritik infrastruktur fiziki və ya virtual sistemlər və şəbəkələr kimi müəyyən edilir ki, onlar zədələnərsə və ya pozularsa, milli təhlükəsizliyə, iqtisadi sabitliyə və ictimai sağlamlığa ciddi təsir göstərə bilər Ekspertin fikrincə, bəndlər, nüvə reaktorları, qida paylama sistemləri və elektrik şəbəkələri kimi sektorlar hələ də köhnəlmiş proqram təminatından asılıdır O, süni intellekt mütəxəssisi Dan Hendrix-in xəbərdarlığını xatırlayır və deyir: "Mythos kimi modellər bu riskləri daha da artırır və bu sistemləri daha həssas edir." “Belə modellərlə bağlı ən böyük kibertəhlükəsizlik narahatlığı odur ki, onlar qeyri-dövlət aktorlarının infrastrukturu hədəf almasını xeyli asanlaşdırır” Anhtropic-in bəyanatının bir hissəsi ən vacib və narahatedici hissə kimi qeyd edilib Müvafiq olaraq, Mythos bir internet brauzerində dörd boşluq aşkar etdi və avtomatik olaraq əməliyyat sisteminin təhlükəsizlik duvarlarını yan keçməyi bacardı O, həmçinin digər əməliyyat sistemlərində və Linux brauzerində təhlükəsizlik sistemlərindən yan keçməyi bacarıb və əlçatan serverə hücumun avtomatlaşdırılmış üsulunu işləyib hazırlayıb Mobil telefonlarda istifadə edilən Android əməliyyat sistemi də Linux əsaslıdır Süni intellektlə bağlı narahatlıqlar yeni deyil Davamlı olaraq yeni modellər və cihazlar buraxılır və bunların həyatımızı müsbət və ya mənfi yöndə dəyişəcəyi deyilir Süni intellekt və onun gələcək təsirləri ilə bağlı bu narahatlıq və həyəcan mühitindən faydalanmaq son illərdə bu sahənin və onun marketinq strategiyalarının əsas xüsusiyyətlərindən birinə çevrilmişdir Mythos vəziyyətində, bu ümidlərin və narahatlıqların haqlı olub olmadığını və ya sənaye şırıngasının əks olunduğunu qiymətləndirmək üçün hələ kifayət qədər məlumatımız yoxdur Bir çox müstəqil kibertəhlükəsizlik ekspertləri hələ Mythos-u sınaqdan keçirə bilməyiblər və bəziləri onun fəaliyyətinə şübhə ilə yanaşırlar Böyük Britaniyanın AI Təhlükəsizlik İnstitutu bu yaxınlarda belə qənaətə gəldi ki, model güclü olsa da, ən böyük təhlükə zəif qorunan və həssas sistemlər üçün olacaq Əslən ingilis dilində yazılmış bu məqalənin tərcüməsində süni intellektdən istifadə etdik. BBC jurnalisti nəşrdən əvvəl tərcüməni yoxlayıb