Anthropic ogohlantiradiki, sun'iy intellekt inson aralashuvisiz o'zini yaxshilashi mumkin

Sun'iy intellekt kompaniyasi Anthropic ma'lum qilishicha, sun'iy intellekt tizimlari dasturiy ta'minotni ishlab chiqish va tadqiqot jarayonlarini inson aralashuvisiz amalga oshirish imkoniyati ortib bormoqda va bu tendentsiya davom etsa, ular o'z-o'zini takomillashtirish tizimlariga aylanishi mumkin Anthropic kompaniyasi asoschilaridan biri Jek Klark va Antropik institut rahbari Marina Favaro tomonidan yozilgan "AI o'zini qurganda" deb nomlangan blog postini chop etdi Maqolada ta'kidlanishicha, sun'iy intellektni rivojlantirish jarayonining aksariyati o'tmishda odamlar tomonidan amalga oshirilgan, ammo Anthropic-da bu jarayon tobora sun'iy intellekt tizimlariga topshirilgan va bu rivojlanish tezligini oshirgan Maqolada, agar bu tendentsiya davom etsa, sun'iy intellekt tizimlari o'z vorislarini loyihalash va rivojlantirish darajasiga yetishi mumkinligi va bu "rekursiv o'z-o'zini takomillashtirish" deb ataladi "Biz hali u erda emasmiz va rekursiv o'z-o'zini takomillashtirish muqarrar emas. Ammo bu ko'pchilik institutlar tayyorlaganidan tezroq sodir bo'lishi mumkin", deyiladi maqolada. ifoda ishlatilgan Odamlar AI ustidan nazoratni yo'qotish xavfini oshirishi mumkin Maqolada texnik tendentsiyalar kelgusi yillarda sun'iy intellekt tizimlarining yanada qobiliyatli bo'lishini ko'rsatayotgani va o'z-o'zini qurish sun'iy intellekt fan, sog'liqni saqlash va boshqa ko'plab sohalarda ulkan foyda keltirishi, ammo "rekursiv o'zini-o'zi takomillashtirish" odamlarning sun'iy intellekt tizimlari ustidan nazoratni yo'qotish xavfini oshirishi mumkinligini ta'kidladi "Agar tizimlar o'z vorislarini yaratishga to'liq qodir bo'lsa, biz ularni himoya qilish, kuzatish va xatti-harakatlarini shakllantirish usullari muhimroq bo'ladi", deyiladi gazeta. Baholash amalga oshirildi Maqolada ijtimoiy tuzilmalarning texnologiya taraqqiyotiga moslashishi uchun ilg'or sun'iy intellektni rivojlantirish jarayonini sekinlashtirish yoki vaqtincha to'xtatish variantini ko'rib chiqish yaxshi bo'lishi mumkinligi ta'kidlangan va buni bir nechta mamlakatlarda, bir xil sharoitlarda amalga oshirish uchun bir nechta kuchli laboratoriyalar uchun mazmunli ekanligi ta'kidlangan