Anthropic жасанды интеллект адамның араласуынсыз өзін жетілдіре алатынын ескертеді

Anthropic жасанды интеллект компаниясы жасанды интеллект жүйелері адамның араласуынсыз бағдарламалық жасақтаманы әзірлеу мен зерттеу процестерін жүзеге асыра алатынын және бұл үрдіс жалғаса берсе, олар өзін-өзі жетілдіретін жүйелерге айналуы мүмкін екенін хабарлады Anthropic компаниясының негізін қалаушы Джек Кларк пен Антропикалық институттың жетекшісі Марина Фаваро жазған «AI өзін-өзі құрастырғанда» атты блог жазбасын жариялады Мақалада жасанды интеллектті дамыту процесінің көпшілігін бұрын адамдар жүзеге асырғаны, бірақ Anthropic-те бұл процесс жасанды интеллект жүйелеріне көбірек беріліп, даму жылдамдығын арттырғаны айтылған Мақалада бұл үрдіс жалғаса берсе, жасанды интеллект жүйелері өз мұрагерлерін құрастырып, дамыта алатын деңгейге жетуі мүмкін екені және мұның «рекурсивті өзін-өзі жетілдіру» деп аталатыны айтылған "Біз әлі ол жерде емеспіз және рекурсивті өзін-өзі жетілдіру сөзсіз емес. Бірақ бұл көптеген институттар дайын болғаннан ертерек болуы мүмкін", - делінген мақалада. өрнек қолданылды Адамдардың AI бақылауын жоғалту қаупін арттыруы мүмкін Мақалада техникалық тенденциялар жасанды интеллект жүйелерінің алдағы жылдарда әлдеқайда қабілетті болатынын көрсететіні және өздігінен құрастырылатын жасанды интеллект ғылымда, денсаулық сақтауда және басқа да көптеген салаларда орасан зор пайда әкелетініне назар аударылды, бірақ «рекурсивті өзін-өзі жетілдіру» адамдардың жасанды интеллект жүйелерін бақылауды жоғалту қаупін арттыруы мүмкін «Егер жүйелер өздерінің мұрагерлерін құруға толық қабілетті болса, біз оларды қорғау, бақылау және олардың мінез-құлқын қалыптастыру әдістері әлдеқайда маңыздырақ болады», - деп жазады басылым. Бағалау жүргізілді Мақалада әлеуметтік құрылымдардың технологияның прогресіне бейімделуі үшін жасанды интеллекттің дамыған үдерісін бәсеңдету немесе уақытша тоқтату нұсқасын қарастырған дұрыс деп атап өтілген және бір емес, бірнеше қуатты зертхананың бір емес, бірнеше елде, бірдей жағдайда жүзеге асыруы маңызды екені атап өтілген