Yeni Gözetim Çağı: Teknoloji Gülümsemelerimizi Nasıl Takip Etmemizi Sağlayacak?

Her inadvertent yüz ifadesi ailenizi besleme yeteneğinizi etkileyen bir dünya düşünün, Ellen Cushing İyi haber, en azından benim için, bilgisayar güzel bir insan olduğumu düşünüyor. MorphCast uygulamasına göre, son zamanlarda patronumla yapılan bir toplantıda, genel olarak “fun” ve “ilişlev” idim, ancak beni yargılayabilirsin, bazen “hasta” MorphCast, insan duygularının derinliği ve değişkenliği hakkında bilgi almak için yapay zeka kullanmayı iddia ediyorsunuz. Duygularımın "pozitif" ve "aktif" olduğunu buldu. Dikkatim oldukça yüksekti. Ayrıca, AI bana gözlük giydiğimi bildirdi - bu bir vahiy! Kötü haber şu ki, insan duygularının derinliği ve değişkenliği hakkında bilgi sahibi olabileceğini iddia eden yazılım sizi izliyor olacak. Eğer durum bu değilse, Morphcast teknolojiyi zihinsel sağlık uygulamalarına lisansı aldı, öğrencilerin dikkatini çeken bir program ve McDonald's, kullanıcıların yüzlerini tarayarak ve onlara kişiselleştirilmiş kuponlar teklif etti. Bu, benzer birçok şirketten sadece biri – endüstride duygusal AI veya bazen etkileyici bir hesaplama olarak adlandırılır Bazı ürünler toplantılar, röportajlar veya odaklanma gruplarının video kayıtlarını analiz eder; diğerleri ses kayıtlarını dinler, tonasyon analiz eder ve kelime seçimi; hala diğerleri sohbet transkriptlerini veya e-postalarını tarayabilir ve çalışanların duygusal durumu hakkında bir rapor verebilir. Bazen, duygu-analiz yapay zeka, iş için tasarlanmış pahalı bir analitik paketin parçası olarak özel zengin bir yazılım olarak inşa edilir. Ama aynı zamanda bir standalone ürünü olarak da kullanılabilir ve giriş eşi çok yüksektir: MorphCast'i ücretsiz olarak kullandım, bir deneme sürümünü kullanarak ve özel bir yazılım olmadan kullandım. Hiçbir noktada, bu tür bir analiz için kabul ettikleri takdirde geçicilerime sormak zorunda kaldım Herhangi bir başarılı teknoloji, insanların çözülmesi için para ödemeye istekli olduğu bir problem bulmalıdır. Duygusal tabanlı yapay zeka durumunda, verimlilik özellikle müşteri hizmetleri ve işçilerde önemli bir endişe gibi görünüyor. Eğer çağrınızın “ hizmet kalitesini sağlamak için optimize edilmiş” olduğu konusunda uyarılsaydınız, telin diğer ucundaki kişinin duygu temelli yapay zeka tarafından değerlendirilmesi gerekir: sigorta dev MetLife, diğer birçok şirket gibi, merkezi operatörleri takip etmek için yazılım kullanır. Ulaşım şirketleri, sürücülerde stres veya yorgunluk belirtileri tespit etmek için göz izleme cihazları, son derece hassas kayıt ekipmanları ve beyin dalga tarayıcılarını kullanırlar. Burger King, çalışanların arkadaşları için etkileşimlerini değerlendirecekleri yapay bir istihbarat sohbetbotunu test ediyor. chatbot'un adı Patty 2022'de yazar Corey Doktorow, “teknoloji verimsiz eğri” olarak adlandırdığı şeyin bir teorisini öne çıkardı: madencilik teknolojileri ilk olarak düşük ücretli işler gibi - daha önce mükemmelleşti, kabul edildi ve daha yüksek güç pozisyonlarında insanlar arasında uygulandı. “Her disiplin teknolojisi,” daha sonra yazdı, “Bir merdivende çok düşük olan insanlarla başlayın ve sonra adım atarak.” Duyguların analizine dayanan yapay zekanın geliştirilmesindeki bir sonraki adım ofis çalışmasıdır. Aware's Slack integration touts its ability to sürekli olarak "emotional ruh ve toksisite" için mesajları izleme yeteneği; Azure, Microsoft'un bulut yazılımı, aynı zamanda işverenlere, teoriye, AI'yı topluca çalışan sohbet mesajlarına kullanma imkanı sağlar. MorphCast'in Zoom'a genişlemesi, toplantı katılımcılarının gerçek zamanlı olarak dikkat, coşku ve pozitif ruh halini izler. Yapay zeka şirketi Imentiv, röportaj sürecinde duygu analizinin uygulanmasında müşterilere tavsiye eder i̇şverenlere, duygusal katılımın ayrıntılı bir analizi, adayların amacı, kişilik tipinin yanı sıra. Bir dizi HR şirketi AI'ya dönüyor, bu da çalışan anketlere duygusal analiz uygular. Telefonlar için ses geçirmez kapsüller üreten ve onları Microsoft ve L'Oreal gibi şirketlere satıyor, kalp oranını, solunum oranını ve sinir seviyelerini ölçebilecek biyosensorlarla donatmayı test etti Geçen yıl, Avrupa Birliği, tıbbi veya güvenlik sebepleri dışında iş yerlerinde duyguları tanımayı yasakladı. (Bu düzenleme MorphCast, bir Floransa merkezli bir şirket, San Francisco Körfezi Bölgesi'ne taşınmaya yol açtı.) Duygu tanıması için yapay zeka için küresel pazar, 2030 yılına kadar üç katına çıkması bekleniyor, teknoloji daha gelişmiş ve uygun hale geliyor. Tüm endüstrilerdeki işçilerin sadece daha zor ve daha zor değil, aynı zamanda büyük bir zevkle ve daha büyük ölçüde çalışmak zorunda kalacağı yakın bir geleceği hayal etmek zor değil. Bu, çalışan gözetiminin yeni bir çağıdır: yapay zeka tarafından geliştirilen görünmez, sürekli geri döndü Çalışma, belirli miktarda para için bazı özgürlük değişimidir. “Yönetmenlerin veya şirketlerin ne yaptıklarını izlemek istediği fikri yeni değil,” diyor Karen Levy, Cornell Üniversitesi'nde bir asistan profesörü. İnsanların rızası olmadan duygularını takip etmek için yeni teknolojileri kullanmak da yeni değil. Genel olarak çalışan mahremiyet korumalarının eksikliği gibi: Kurallar devlete göre değişirken, ABD federal kanunu, çalışanın çalışma saatleri boyunca ne yaptığını izlemek için işverenlere geniş bir yetki verir, şirket gerekçesiyle ve cihazları kullanarak -scan yazışmaları ve kayıt video ve ses iş yerinde olmasa bile On yıllar boyunca işçiler yasa tarafından değil gerçek tarafından korunuyorlar: bilgileri derlenmiş olabilir, ancak bu tür bir verilerin analizi neredeyse imkansızdır. Ama şimdi işler değişti. Son birkaç yılda, çalışanların zamanlarını nasıl harcadığı konusunda sofistike ve ayrıntılı bilgi edinmek isteyen şirketlerin bir dalgası vardı, bazen dakikaya, konum takip cihazları, anahtarstroke kayıtları, kameralar ve mikrofonlar gibi teknolojileri kullanarak. (İşçiler, sırayla, fare hareketlerini ve anahtarstroke simülatörünü simüle etmek için cihazlar gibi bazı işler buldular.) Ancak ürün, verinin kendisini anlamlı bir resim haline getirme yeteneği kadar değil: “AI tabanlı sistemler artık etkileşimlerin% 100'ünü analiz edebilir, örneğin geleneksel yaklaşımlarla, hiçbir şeyin göz ardı edilmediği gibi, tipik 1-3% örneği olarak, izleme çağrı merkezlerinde yer alan şirketlerin web sitesindeki ad metni okur Çalışanların büyük ölçekli gözetimi için teknolojik koşullar geliştikçe, bu yüzden kültürel ve ekonomik koşullar var. salgın, uzak çalışmaya geçişten önce işçilerden daha fazla zorla evlendi, patronlarının gözünden. İşverenler ve çalışanlar arasındaki güven azalır. Yıllardır bir durgunluk söz konusu oldu ve beklerken, AI iş pazarını artırıyor: Şu anda merkez işçileri çağıran teknolojiler yakında onları tamamen değiştirebiliyordu, ancak şirketler on binlerce insanı kapatıyor ve onları makinelerle değiştirmek için başka yollar arıyorlar. Bu bilgiyi analiz etmek için veri ve araçların kullanılabilirliği HR'yi bir kez kaliteli bir disipline dönüştürdü, “kişisel analizlere” dönüştürdü. Hedeflenen reklamlar ve haberlerle bombalanma yıllar sonra, birçok kişi gizlilik nihilizm durumuna atladı: tüm verilerimizin toplandığını ve kullanıldığını biliyoruz, bunun hakkında fazla düşünmemeyi tercih etsek bile Dijital gözetim sistemleri satıyor şirketler çeşitli uygulamalar: Mesleki güvenlik, zihinsel sağlık, organizasyon verimliliğini artırmak, ilaç ve ulaşım gibi kritik alanlarda yanmayı azaltmak. İlk Ufuk Bank'ta, yapay i̇stihbarat, merkez çalışanları için stres seviyelerini izler ve stres seviyelerinin çok yüksek hale geldiği zaman ailelerin fotoğraflarını gösterir. Pratikte, bu şirketler ayrıca birkaç dakika içinde iş verimliliğinin ampirik tahminlerini satıyor gibi görünüyor. 2022 New York Times soruşturması, ABD'deki ilk on özel işverenin bireysel çalışan verimliliğini takip ettiğini buldu. Bir ankette, işverenlerin yüzde 37'si bir çalışan ateş etmek için kayıtları kullandıklarını söyledi Bununla birlikte, bu araçların birçoğuyla ilgili sorun, ne yapabileceğini iddia ettikleri konusunda çok iyi yapmalarıdır. Bir anahtarstroke izleme programı her zaman anlamsız eylemden ayırt edemez; tanımın uygulama kullanımını analiz etmek, bir kişinin uygulama içinde yaptığı çalışma türü ve kalitesi hakkında az şey söylüyor. UnitedHealth Group'ta, performansı izlemek için kullanılan program (ve maaşları belirlemek) klavyedeki inaktivite puanlarını azaltır, iyi bir nedenden dolayı ağdan kopmuş olsalar bile: hastalara danışırlar. (UnitedHealth, personeli takip ettiğini kabul etti, ancak performans değerlendirmesinde birçok faktörün dikkate alındığını belirtti.) Bilgisayarlar sadece üretkenliğin mükemmel bir analistiyse, aynı teknolojinin insan duygularının toplamı kadar karmaşık bir şeye uygulanabileceğini hayal edin. Numerous çalışmalar, AI'nın eğitildiği verilerin tarafını yeniden ürettiğini gösteriyor. (2018 yılında Lauren Rue, Wake Forest University'de bilgi sistemleri ve analitik profesörü, NBA oyuncu fotoğraflarını ve duygu tanıma yapay zekayı inceledi; o teknolojinin beyaz takım arkadaşlarından daha öfkeli olduğunu buldu - bazı durumlarda gülümsediler.) AI'yı duygu tanıma için kullanan birçok ürün, klinik psikolog Paul Ekman'ın temel duygu teorisine ilişkin kriterlerini, tüm insanların aynı altı temel duyguyu deneyimlediklerine göre; öfke, iğrenç, korku, mutluluk, üzüntü ve sürpriz. Bu teori, ilk yayınından bu yana onlarca yıldır aşırı derecede kusurlu ve metodolojik olarak eleştirildi Vücut dili bir klişe haline gelen bir metafordur, ancak diğer insanlarla herhangi bir etkileşime sahip olan herkes herkesin kendi lehçelerini konuştuğunu anlar. “Hareketleriniz,” nöroscientist ve psikolog Lisa Feldman Barrett bana şöyle dedi: “Bu yüz ifadeleri, vücut hareketleri veya hoşgörüsüzlüğü, duygusal bir anlamı yok.” Onlarla ilgili bir anlam vardır.” Konuşma bağlamında, onları yapan kişinin yüzü, kültür, odadaki sıcaklık, genel atmosfer Araştırma gösteriyor, Barrett, ABD'de insanların kızgınken, zamanın yaklaşık yüzde 35'i kızdığını söyledi. Bu, bağıl olasılık ile çelişmenin bir öfke ifadesi olduğu anlamına gelir. Aynı zamanda sadece bir fown arıyorsanız, bir kişinin kızgın olduğu zamanlardan yaklaşık yüzde 65'inde eksiksiniz. Yarı zaman insanlar birbirine kızmıyorlar. “Bir görüşmede bulunduğunuz bir durumu hayal edin,” dedi. Çok dikkatli dinliyorsun çünkü onu çok, çok yakın bir dikkat ve yapay zeka sizi kötü bir insan olarak tanımlıyor. Bu işi almayacaksınız Bir hastane çağrısı merkezi çalışanı tarafından üzüntünün bir ifadesi, durumu hakkında bir hastayla konuşurken, sıcaklık veya iyimserliğin uygunsuz eksikliği olarak algılanabilir. Bir kişinin emrine dikkatle kulak veren hızlı bir gıda çalışanı, üzgün olarak algılanabilir. MorphCast uygulaması beni takdir etmesine rağmen, 2026'daki haber odasında çalışıyorum - kişisel iyi niyetimle hiçbir ilgisi olmayan nedenlerden dolayı olumsuz dörtlüyü hayal etmek kolay KiralamaVue, müşterileri Ikea, farmasötik şirket Regeneron ve Children's Hospital of Philadelphia gibi şirketler içeren bir iş seçimi platformu, röportajları yürütmek ve iş adayları ve çalışanlar promosyonlarını analiz etmek için yapay zeka kullanır. 2025 yılında Amerikan Sivil Liberties Birliği (ACLU), Kiracı platformunun finansal yazılım şirketi Intuit'te sağır bir erişilebilirlik ekibi üyesi için bir promosyon görüşmesi sırasında yeterli alt unvanı sağlamadığı bir dava açtı. Çalışan bir promosyonu reddetti; kararı açıklayan bir e-postada, "pratik aktif dinleme" tavsiye edildi. (HireVue ve Intuit bu iddiaları reddetti.) Barrett uzun yıllar boyunca duyguların psikolojisini inceledi. Konuşmamızın sonunda, duygusal zeka hakkında daha fazla bilgi sahibi olup olmadığını sordum. İlk başta, yemin etmesine izin verildiği sorulduğunda sordu. "Ben lanet on yıldır onunla ilgili konuşuyordum," dedi. Gerçekten de binlerce ve binlerce insanı içeren yüzlerce çalışma vardır ki, duygulara gelince, variability normdur. Başka bir deyişle, duyguların objektif olarak ölçülmesi veya analiz edilmesi fikri fantastik Şirketler bu teknolojiyi ve satın alan diğer şirketleri güçlü bir dava haline getiriyor. İnsanlar da önyargılı, diyorlar. Görüşmelerde, bazı şirketler algoritmalarının yalnızca izlenimlerle tespit edilemeyen kalıpları tespit etme yeteneği hakkında bana söyledi. Teknoloji geliştirilecek - bu, geleceğin AI’dan sözdür: hatalarından öğrenir Ama işler daha iyi olursa, ne? Çoğu zaman, duygu analizi ve benzer araçlar için yapay zeka tartışması neyin yanlış gidebileceğine odaklanır: yanlış sinyaller, kusurlu analizler, sempati ifadeleri ve sahte bilimlerin yangın çalışanları için kullanımı. MorphCast'i daha çok kullandım, diğer durum hakkında endişelenmeye başladım: Gelen kutumda bir robotun bulunduğu bir dünya ve Zoom hesabım duygusal durumum hakkında anlamlı ve doğru bir şey söyleyebilirdi. Ana işime ek olarak, bir robotun yeterince eğlendiğini düşünmesi gerekiyor. Her istenmeyen ifadenin bulunduğu bir dünya, ailemi besleme yeteneğimi etkiler. İşyerimin benim üzerimde muazzam bir güce sahip olduğunu her zaman biliyordum, ama sınırlamaya itilmesine gerek yok. “Yani orada birçok bilim kurgu hikayesi var,” diyor Levy, Cornell Üniversitesi'nde bir bilgi teknoloji uzmanı Levy, mobil ve dağıtılmış işgücü nedeniyle uzun zamandır gözlemlenen bir alan, biyometrik gözetimin diğer biçimlerine dair bir kitap yazdı. Ancak 2016 yılında federal hükümet, kongestasyon azaltmak ve kazaları önlemek için zorunlu elektronik çalışma zaman loglarının tanıtılmasına başladı. Ancak, sürekli gözetim kaza sayısını azaltmadan stresi ekledi. “Tarihsel olarak, kamyoncular büyük bir gurura sahipti,” Levy notları, “ve uygun gördükleri gibi işin yapılmasında çok fazla özerklik.” Bu gurur, bilgisayarların onları takip etmeye başladığını söyledi. Sanırım oldukça güçlü bir endişe var ki oldukça kişisel bir şekilde ya da oldukça ayrıntılı olarak izledim. Bu insanlar ve onların kişisel alanı için geçerlidir.” Bilgisayarın beni sevdiğini öğrendim, ama hepsini bilmiyordum