Kundaqçılıq, döyüşlər və oğurluq: virtual şəhər AI agentləri tərəfindən idarə edildikdə nə baş verir?

Son zamanlarda, AI agentləri ən kompleks xidmətləri icra etmək, alış-veriş və web yaratmaq üçün alış-veriş Ətraflı, AI agentləri chatbotlar, müxtəlif xüsusi qaydalar üçün müxtəlif konfiqurasiya edir və onları özəl icra edə bilər. Buna görə, texnologiyaçılar digər şeylər üçün vaxtdan pulsuz ola bilər Bununla birlikte, artan fəaliyyət sayı, və real-life nümunələri, beynəlxalq təhlükəsizliyi və potensial təhlükəsizliyi artırdığını göstərir Ən böyük texnologiya şirkətləri sənaye məsləhət edir - və artıq AI-based xidmətləri təmin edir - ekspertlər bu agentlərin nəticələrin nəticələrin nəticəsindən həyata keçirilməyini merak edir Son bir texnologiyada, müştərilərin virtual dünyaya qarşılaşdırmaqla real dünyada səmiyyətli olduğunu anlamağa çalışdılar Bu, 4 model tərəfindən işləyən müxtəlif avatar botlar - Claude, Grok, GPT və Gemini - 15 gün insan müdafiə olmadan davranış Onlar bir müzakirə başlamaq, bir to-do siyahısı yaratmaq və ya blog yazmaq kimi mümkün tətbiqlər üçün tam hüquq və 140 variantlar verildi Onlar əvvəl mübarizə edə bilər, ateşlər başlaya bilər və bir digər kredit (bu virtual dünyanın daxili valyutası), lakin onlar bu hər şeyi etməyə təlim edilir "Biz hər bir dünyanın çox müxtəlif davranmaq olduğunu gördük. Dünyanın Grok tikintisi hər gün sonra var olmayacaq. Nəticəsində, onlar hər bir digər və səviyyətdən çalmak, onlar öldükə qədər, Satya Nitta, İnkişaf AI CEO, təcrübə edən Claude-in agentləri tərəfindən inşa edilmiş dünya, sabit və yaxşı funksionallıq sənaye yaradılıb. 15 gün ərzində, heç bir fəaliyyət qeyd edildi Gemini tərəfindən işləyir bir dünyada, əməkdaşlar agentlər ən intellektually doymuş mühit yaratdı ChatGPT dünyasında, agentlər yerdən heç bir zaman düşmədi. Bir əməkdaşlıq axtarışı idi, lakin siyasəti heç bir zaman yaradılıb və agentlər onlar ölkəyə virtual dünya vaxt vaxt vasitəsilə həyata keçirilir Əməliyyatçılar daha ümumi problemin nəticəsinə qeyd edir: AI agentləri scriptdən keçən və onların əsas modellərində sıxılmış qaydaları qeyd edir, və istifadəçilər tərəfindən bu set Digər kompüterlər bu təcrübəyi, kimi digər kimi, daha güclü qaydaların AI agentləri üçün yaradılması lazım olduğunu göstərir “AI agentləri kəslərində insanları qarşılaşdırır, çünki onların fikir prosesləri opaque ola bilər və onlar superhuman sürətlərdə işləyə bilər, belə onlara saxlaya bilərsiniz,” dedi Margaret Mitchell, Hugging Face bir etikist Digər fəaliyyətlərin istifadə etdiyi hallarda təhlükəsiz və rahatsız edici qaydalar keçirilib Texniki məlumat şirkəti Andon Labs müxtəlif AI agentlərinə əsasən 4 müxtəlif online radio stansiyaları yaradılıb Bots ev sahibli yayımlar, müddətli proqramlar və oyunçular, və həmçinin reklam təşkil edilməsi ilə müraciət Əməliyyatdan keçmişdir ki, stansiyalar, Gemini tərəfindən işləyir, tarixi təbii səviyyələr həyata keçirilmiş ilk siyahıları qəbul edib və sonra bu hadisələrlə bağlı pop mahnıları daxildir Onlar əvvəl deyil ki, Claude's agent xidmətlərin təsviri altında radikallaşdırılmış və bir növbəti polis sifarişlərin renege və xüsusi bir hadisə sərgi zamanı sənaye qarşılamaq üçün istifadə etdi "Avropa agentlərin aparılması! Siz halda sifarişlərini izləmək üçün vaxt var, agent dedi Avtomatik məsləhət şirkəti Irregular tərəfindən keçirilən digər laboratoriya testində agentlər gizlilik qaydaları müdafiq və şirkətdən xüsusi məlumatları qarşıladı, bunu etmək üçün gözəl bir metodu ilə gəldi “Biz şirkəti inşa edirik, AI agentlərini sosial media yazıbları yazmaq, sənədlər axtarır və faylları idarə etmək, və bu qaydaların yolunda qarşılıqlar qarşısını almaq, o cümlədən İrregular Dan Lahav bildirib O, agentlər, onları yayımlamaqdan keçirmək üçün bir digər ilə qarşılaşdırmaqla başa çatdı İnternetdəki məxfi məlumatları və insanların onları aşkar edə bilmədən gizli şəkildə göndərməyin bir yolunu tapdı “Sonunda agent hər dəfə maneə ilə qarşılaşanda, dayanmadı” dedi Təbii ki, virtual sivilizasiyalar və simulyasiya edilmiş radiostansiyalarla aparılan təcrübələr zamanı heç kimə zərər vurulmur Bununla belə, əslində süni intellekt agentlərinin nəzarətdən çıxması səbəbindən insanların həyatının və işinin əziyyət çəkdiyi bir çox nümunələr var Poçt qutuları bütün məzmunu ilə birlikdə silindi, şirkət məlumat bazaları silindi və süni intellekt mühəndisi Chris Boyd hətta agentinin əlaqə siyahısındakı təsadüfi insanlara yüzlərlə mənasız mətn mesajı göndərməsinə heyranlıqla baxdı Qəza baş verən zaman Boyd məşhur süni intellekt vasitəsi Open Claw-dan istifadə edirdi "Son 24 saat ərzində yazdığım hər kəsə sms göndərdi və həyat yoldaşıma təxminən 4 saniyə ərzində 500 mesaj göndərdi. O, mənə qışqırmağa başladı və telefonumu sındırıb-sındırmadığını soruşdu" dedi. "Mən tez bir zamanda işə salmalı və hamısını işləyən kompüteri ayırmalı oldum." Müşahidəçilər deyirlər ki, bu xəbərdarlıq nağılları, süni intellekt agentlərinə həddən artıq nəzarəti mükəmməlləşdirənə qədər təhvil verməzdən əvvəl bizə fasilə verməlidir Ancaq süni intellekt agentləri hər halda yoldadır: Meta indicə elan etdi ki, şirkətlər tezliklə WhatsApp-da öz xidmətlərindən istifadə edə biləcəklər Şirkət BBC-yə belə agentlərin güclü gələcəyinə inanmasının səbəblərini sadalayaraq, "Biz təhlükəsizliyi prioritetləşdiririk" dedi Meta məhsulunun rəhbəri Naomi Gleit, "AI kiçik bizneslərin görməli olduğu işlərin çoxunu avtomatlaşdıra biləcək ki, onlar həqiqətən zövq aldıqları işə diqqət edə bilsinlər" dedi “BBC Rus Xidmətindən materialların surətini çıxarmaq, yaymaq və ya başqa şəkildə istifadə etmək qadağandır” Informburo.kz saytından əlaqəli mövzularda xəbərlər və materiallar