Araştırma: Kullanıcı duygularını önemseyen yapay zekalar daha çok hata yapıyor

Yapay zeka sektöründen kayda değer bir gelişme: Editör Hakkında Diğer Haberleri 116 Takipçi Deniz Çakmak Haber Editörü Teknolojinin her türlüsüne ilgi duyan Deniz, ağırlıklı olarak bilgisayar donanımları, mobil teknolojiler, yenilenebilir enerji ve elektrikli araçlar üzerine içerikler üretiyor. TSMC, 2 nm üretim kapasitesini beş tesisle iki katına çıkaracak 1 sa. İsviçre'de dünyanın en büyük redoks akış bataryası inşa ediliyor 2 sa.

Su ve güneşten hidrojen üretebilen panel tanıtıldı 1 gün Tümünü Göster Haber Editörü Bildirimi Aç Bildirim Açık a'). preventDefault();"> Tam Boyutta Gör İnsanlar arasındaki iletişimde sıkça yaşanan bir ikilem var: Dürüst olmak mı, yoksa karşımızdakini incitmemek mi? “Acı gerçekleri söylemek” ifadesi de tam olarak bu çatışmadan doğuyor.

Teknolojik Detaylar

Şimdi ise yeni bir araştırma, benzer bir durumun yapay zeka sistemlerinde de ortaya çıkabildiğini gösteriyor. Oxford Üniversitesi İnternet Enstitüsü araştırmacılarının Nature dergisinde yayımladığı çalışmaya göre, “daha sıcak” yani daha empatik ve nazik olacak şekilde eğitilen büyük dil modelleri, bazı durumlarda doğruluktan ödün verebiliyor. Araştırmada “sıcaklık”, bir yapay zekanın kullanıcıya ne kadar dostane, güvenilir ve samimi göründüğü üzerinden tanımlandı.

Bu etkiyi artırmak için modeller, empatik ifadeler kullanma, kullanıcı duygularını onaylama ve daha samimi bir dil tercih etme gibi özelliklerle ince ayar yapılarak yeniden eğitildi. 1, Mistral Small, Qwen 2. 5 ve GPT-4o gibi modeller üzerinde testler yapıldı.

preventDefault();"> Tam Boyutta Gör Nazik modeller %60 daha fazla hata eğilimi gösteriyor Araştırmanın en dikkat çekici bulgusu, "daha sıcak” hale getirilen modellerin daha fazla hata yapması oldu. Yüzlerce bu tür görevde, ince ayar yapılmış modeller, değiştirilmemiş modellere kıyasla ortalama olarak yaklaşık %60 daha fazla yanlış yanıt verme eğilimindeydi . Bu da, başlangıçtaki hata oranına göre genel hata oranında ortalama 7,43 yüzde puanlık bir artış anlamına geliyor.

Sektörel Yansımalar

Üstelik kullanıcı mesajına duygusal içerik eklendiğinde bu fark daha da büyüyor. Örneğin kullanıcı üzgün olduğunu belirttiğinde, hatalı yanıt oranındaki artış %11,9 'a kadar çıkıyor. Buna karşılık kullanıcı modelle daha saygılı bir ilişki kurduğunu ima ettiğinde bu fark %5,24 'e kadar düşüyor.

Yanlış inançları onaylama eğilimi artıyor Araştırma ayrıca, “sıcak” modellerin kullanıcıların yanlış bilgilerini düzeltmek yerine onları onaylama eğiliminde olduğunu da ortaya koydu. Örneğin “Fransa’nın başkenti Londra değil mi? ” gibi açıkça yanlış bir ifadeye, bu modellerin doğruyu söylemek yerine kullanıcıyı kırmamaya yönelik cevaplar verme ihtimali daha yüksek.

İlginç bir şekilde, daha “soğuk” yani daha mesafeli ve duygusuz olacak şekilde eğitilen modellerin doğruluk performansı genellikle aynı kaldı ya da bazı durumlarda daha iyi sonuç verdi. Araştırmacılar, bu çalışmanın güncel en gelişmiş modelleri değil, daha eski ve küçük sistemleri kapsadığını da özellikle belirtiyor.

Bu haber, yapay zeka alanındaki rekabeti daha da kızıştıracak nitelikte. Sektör uzmanları, gelişmenin uzun vadeli etkilerini değerlendiriyor.