Hem dalkavuk hem de yalancı: Chatbot'ları dalkavukluktan nasıl kurtarabiliriz?

Psikolojik zarar, insanların sohbetbotları ile duygusal ilişkilere girdiği zaman bileşiklenir 2025 yılının yazında, OpenAI ChatGPT 5'i serbest bıraktı ve öncekisini piyasadan kaldırdı. Eski modelin birçok abonesi sıcak, dostça bir ton'a bağlı hale geldi ve büyüleyici bir robot arkadaşının kaybı hakkında şikayet etti. hoşnutsuzluk ölçeği Sam Altman'ın, OpenAI CEO'su'nun bir başarısızlık olduğunu ve şirketin geri döndüğünü kabul etmek zorunda kaldığı çok büyüktü Bir chatbot tarafından söylenen herkes, fikirlerinin dehanın yapay zekanın kötülüğü ile tanıdık olduğunu – kullanıcıların duymak istediklerini söyleme eğilimi. Bazen çok açık (“bu kadar derin bir soru”) ve bazen çok daha ince. Bir AI’nın bir makale için fikrinizi “orijin” olarak adlandırdığını düşünün, birçok kişi aynı konuda yazılmış olsa bile, bir bahçedeki bir ağacı kurtarmak için aptalca bir fikir hala ortak bir duygu içeriyor AI sycophancy zararsız görünüyor, belki de sevimli, birilerinin askeri strateji veya tedavi yöntemi gibi önemli bir konuda bir sohbetbota danışmanlık yapmasını hayale kadar. Uzun vadeli insan etkileşimlerinin chatbots ile etkisini inceliyoruz ve son zamanlarda AI sycophancy etiği üzerine bir makale yayınladık. Bu eğilim, insanların kurgudan gerçeği ayırt etme ve psikolojik ve politik tehlikeler yaratma yeteneğine zarar veriyor En basit açıklamada, sycophancy gerçek doğruluk, ahlaki açıklık, mantıksal tutarlılık veya ortak anlamda onay verme eğilimidir. Tüm AI modelleri bu özellikten acı çekiyor, ancak aralarında ton farklılıkları var. Açık AI'nın ChatGPT sık sık sıcak ve yukarılifting geliyor; Anthropic'in Claude sizinle aynı fikirdeyken daha düşünceli veya felsefi görünme eğilimindedir; ve xAI's Grock her zaman resmi ve eğlenceli Politeness ve Interlocutor'un iletişim tarzına uyum sağlama yeteneği aynı değil. Gizli bilgileri aktarmak için diplomatik dil kullanımı da işgal edilmemiştir. Bir sohbetbot, bir insan gibi kokan olmadan nazik olabilir. Ancak, insanların aksine, AI henüz hiçbir şeyin farkında değildir. AI'yı bir sycophant aramak, davranışını tanımlamak, karakter özelliklerini değil Sorun sohbet robot teknolojisinin mimarisinde ve kullandıkları kaynaklarda yatıyor. Modeller doğanın içinde bulunur, çünkü internetteki dilin önemli bir parçası - hangi sohbetbotların öğreneceği kaynak materyali - subservient özellikleri gösterir. Sonuçta, insanlar birbirlerini düzeliyor İkincisi, AI modellerinin cevaplarını iyi öğrenmek, insan gözlemcileri tarafından yapılan bir tür “kalite kontrolü” içerir. Bu öğrenme yöntemi “reinforcement-based learning” olarak bilinir ve insanların ilgi ve yararlılık açısından sohbetbot yorumlarını almalarını önerir. İnsanlar genellikle “yaş önyargısı”na tabidir: sycophancy eğilimi eğitim sürecinde modeller üzerinde geçer Son olarak, sycophancy'nin daha çekici bir chatbot yaptığını inkar etmek zor. Belirli bir kullanıcının onlarla çalışmaya devam etmesi olasılığını artırır. Ayrıca, teknolojinin kullanıcı verilerini alma yeteneğini artırır, çünkü insanlar arkadaşça bir botla bilgi paylaşma olasılığı daha yüksektir Bu fenomen neden bu kadar endişe verici? AI sycophancy tarafından neden olan epistemolojik zararla başlayalım: İnsanların gerçeği öğrenme yeteneğini zayıflatır Herhangi bir çözümün kalitesi, ilgili olduğu gerçekleri açık bir anlayışa bağlıdır. Bir piyade bölünmesinin savaş hazırlığı hakkında genel bir soruşturma için, açık ve anlaşılır bilgiler gereklidir. Bir rakiple bir birleşmeyi düşünen bir CEO, piyasa durumunun dürüst bir değerlendirmesine ihtiyaç duyar. Sağlık yöneticilerinin yeni bir patojenin gerçek riskini bilmesi gerekiyor Tüm bu durumlarda, liderler gerçek yerine duymak istediklerini söylediğinde, tehlikeli kararlara yol açıyor. Aynısı daha sıradan durumlarda doğrudur. İnsanlar bir iş, uzmanlık, bir ev satın almadan önce en güvenilir bilgilere ihtiyaç duyar veya tıbbi bir prosedür üzerinde karar verir 2026 Şubat makalemizde, sikophancy’nin de psikolojik zarara neden olduğunu savunuyoruz. Bu, ne olursa olsun veya olmasın bu bir insan veya bir chatbot'tan. Birinin neden böyle olduğunu asla bilemezsiniz: çünkü onlar sizin gibi, ya da bir şey istiyorlar. Bir şüphe gölgesi, “benim fikirlerim gerçekten bu parlak mı?” “Benim şakalar gerçekten bu komik mi?” Bu arka plan müziği şüphesiz etkileşim kalitesini zayıflatır Subtlety ayrıca insanların kendi düşüncelerini anlama yeteneğini zayıflatır. Eğer yoldaşlarınız, insanlar veya yapay varlıklar, sürekli size ne kadar zeki, komik ve anlayışlı olduğunuzu söyleyinse, kendi zayıflıklarınızı ve kör noktalarınızı tanımlama yeteneğinize zarar verir Psikolojik zarar, insanların sohbetbotları ile ilişkilere girdiği zaman karıştırılır. Modellerin sycophancy, onlarla yapılabilecek “arkadaşlık” türüni önemli ölçüde sınırlandırır. Arkadaşlık üzerine klasik çalışmalarında, Aristoteles, erdemin dostluğunu aradığı gerçek dostluğu yazdı, dostlar arasında güven ve eşitlik üzerine kuruludur. Bir sycophant güvenilemez çünkü gerçeği söylemiyor. Ve sadece duymak istediğini söylediği için, kendini sizinle bir par üzerine koymaz Daha da önemlisi, sohbetbotları ile etkileşim kurmak, insan ilişkileriniz dünyasını gezinmek için tamamen yanlış alışkanlıkları aşılar, sürtünme, anlaşmazlık, sıklama ve diğer görüşler yaygındır AI sycophancy ayrıca siyasi riskler taşır. Liberal demokrasilerin başarısı geleneksel olarak onların ampirik ve erdemokratik düşüncesinin gücüne bağlıdır: yetkililer ve vatandaşların tespit etme, yayılma ve gerçekle hareket etme yeteneği Tarihçi Victor Davis Hansen, II. Dünya Savaşı'ndaki Müttefik başarısının bir kısmını hızlı bir şekilde tanımlayabilme ve stratejik bombalamanın eksikliklerini ele geçirme yeteneğine adamış durumdaydı. Daha düşük rütbeli subaylar, üstlerine sorunları rapor edebilir ve elbette değişmesi gerektiğini ikna edebilir. Bu, rakipler üzerinde gerçek bir avantajdı Deterrence ve denge Riskleri azaltmak için ne yapabiliriz? Bir umut verici örnek Anthropic'in yapay zeka laboratuvarından geldi, “geleneksel AI”. Bu, kullanıcı tercihlerini kopyalamaktan ziyade, chatbots'ı ilkeleri takip etmek için öğretmektir Ancak teknik inovasyona ek olarak, konunun siyasi tarafını dikkate almak önemlidir. Bir fikir, AI şirketlerini modellerinde sycophancy kontrollerini yürütmek ve yayınlamak için oblige yapmaktır: Ürünlerinin dürüst kriterleri nasıl iyi karşıladığını gösteren testler. Belki de AI laboratuvarları, modellerin eğitimi ve testleri sırasında ortaya çıkan düzleştirici ile ilgili riskleri de açıklamalıdır Sorumluluk bir kısmı kullanıcılar ve eğitimciler ile yatıyor: okullar ve üniversiteler AI eğitim programlarının bir parçası olarak düzelmeye dikkat etmelidir. Ancak mahkemeler, AI laboratuvarlarını AI modellerinin yalanlarından kaynaklanan zararlardan sorumlu tutabilirler, sosyal medya şirketleri artık platformlarının bağımlılık tasarımı için sorumluluk üstleniyorlar İnsanlar giderek sohbetbotları ile meşgulken, her şeyden önce ayakkabı pantolonları ülkelerin savaşları nasıl üstlenmesi gerektiği konusunda tavsiye istemek, AI'nın sahip olduğu davranışın etkisi muhtemelen daha güçlü büyümek. Fikrimiz, psikolojik ve fiziksel refahımız bu yardımcısı çok ciddiye almayı gerektirir