Anthropicdan sun'iy intellekt ogohlantirishi: Tez orada biz nazoratni yo'qotishimiz mumkin

Sun'iy intellekt kompaniyasi Anthropic "rekursiv o'zini-o'zi takomillashtirish" xavfini ta'kidlab, Klod modeli tobora ko'proq o'z kodini yozayotganini ta'kidlab, tizimlar inson nazoratidan tashqarida bo'lishi mumkinligini ko'rsatmoqda Sun'iy intellekt bo'yicha yetakchi kompaniyalardan biri bo'lgan Anthropic yangi avlod sun'iy intellekt tizimlari inson nazoratidan tashqarida rivojlanish salohiyatiga ega ekanligi haqida ogohlantirdi Kompaniyaning Klod modelining so‘nggi baholashiga ko‘ra, tizim endi o‘z kodining 80 foizdan ortig‘ini yozishi mumkin. O'tgan yilning boshida bu ko'rsatkich 10 foizdan past edi Antropik rasmiylarning ta'kidlashicha, bu tez o'zgarish "rekursiv o'z-o'zini takomillashtirish" deb ataladigan jarayonga ishora qiladi va bu sun'iy intellekt kelajakda o'z vorislarini ishlab chiqish darajasiga yetishi mumkinligini anglatishi mumkin Kompaniyaning ikki tadqiqotchisi Marina Favaro va Jek Klark tomonidan chop etilgan blog postida bu tendentsiya uzoq muddatda yirik ilmiy va texnologik yutuqlarni ta'minlashi mumkinligi, biroq jiddiy nazorat xavflarini ham keltirib chiqarishi mumkinligi ta'kidlangan Bayonotda, bugungi kunda sun'iy intellektning rivojlanish jarayoni qisman sun'iy intellekt tizimlariga o'tkazilganligi va bu inson aralashuvisiz o'zini yaxshilay oladigan modellarga yo'l ochishi ta'kidlangan Kompaniya, agar bu jarayon nazoratsiz davom etsa, odamlar sun'iy intellekt tizimlari ustidan nazoratni yo'qotishi mumkinligi haqida ogohlantirdi va rivojlanishning nazorat ostida davom etishi uchun hatto "kerak bo'lsa sekinlashtirish yoki to'xtatib turish" variantini ham ko'rib chiqish kerakligini ta'kidladi Anthropic shuningdek, bunday global sekinlashuv qarorini amalga oshirish uchun bir nechta davlat va yirik sun'iy intellekt laboratoriyalari birgalikda harakat qilishlari kerakligini va bu juda murakkab jarayon ekanligini ta'kidladi Sun'iy intellektni rivojlantirishda pauza qilish haqidagi chaqiriqlar avval ham kun tartibida bo'lgan va minglab texnologiya mutaxassislari 2023 yilda ham xuddi shunday moratoriy qo'yishni talab qilishgan.Ammo bu chaqiriqlar aniq to'xtashga aylanmadi