Anthropic-тен жасанды интеллект ескертуі: Біз жақын арада бақылауды жоғалтуымыз мүмкін

Anthropic жасанды интеллект компаниясы «рекурсивті өзін-өзі жетілдіру» қаупіне назар аударып, Клод моделі барған сайын өз кодын жазатынын айтып, жүйелер адамның бақылауынан тыс болуы мүмкін екенін көрсетеді Жасанды интеллект саласындағы жетекші компаниялардың бірі Anthropic жаңа буын жасанды интеллект жүйелерінің адам бақылауынан тыс даму мүмкіндігі бар екенін ескертті Компанияның Клод үлгісін соңғы бағалауына сәйкес, жүйе енді өз кодының 80 пайыздан астамын жаза алады. Бұл көрсеткіш өткен жылдың басында 10 пайыздан төмен болды Антропикалық шенеуніктер бұл жылдам өзгеріс «рекурсивті өзін-өзі жетілдіру» деп аталатын процеске нұсқайтынын және бұл жасанды интеллект болашақта өз мұрагерлерін құрастыра алатын деңгейге жетуі мүмкін екенін айтты Компанияның екі зерттеушісі Марина Фаваро мен Джек Кларк жариялаған блог жазбасында бұл тенденция ұзақ мерзімді перспективада үлкен ғылыми және технологиялық жетістіктерді қамтамасыз ете алады, бірақ сонымен бірге елеулі бақылау тәуекелдерін тудыруы мүмкін деп айтылды Мәлімдемеде жасанды интеллекттің даму процесі қазір ішінара жасанды интеллект жүйелеріне ауыстырылғаны және бұл адамның араласуынсыз өзін-өзі жетілдіре алатын модельдерге жол ашатыны атап өтілді Компания егер бұл процесс бақыланбайтын болса, адамдар жасанды интеллект жүйелерін бақылауды жоғалтуы мүмкін екенін ескертті және дамудың бақыланатын түрде жүруі үшін тіпті «қажет болса баяулату немесе кідірту» опциясын қарастыру керектігін айтты Антропик сондай-ақ мұндай жаһандық баяулау шешімін жүзеге асыру үшін бір емес, бірнеше ел мен үлкен жасанды интеллект зертханалары бірлесіп әрекет етуі керек және бұл өте күрделі процесс екенін айтты Жасанды интеллектті дамытуды кідіртуге шақырулар бұрын да күн тәртібінде болған және мыңдаған технология сарапшылары 2023 жылы осындай мораторий енгізуді талап еткен. Алайда бұл шақырулар нақты тоқтамға айналған жоқ