Geçen hafta çıkan bir araştırma ilgimi çekti: Amerikalıların %76'sı AI araçlarını artık düzenli kullanıyor, ama aynı kullanıcıların çoğunluğu bu araçların ürettiği sonuçlara güvenmediğini söylüyor.
Yani insanlar AI kullanıyor. Ve sonra elle kontrol ediyor.
Bu bir paradoks gibi görünüyor ama aslında tam tersi — çok rasyonel bir davranış. Ama ürün tarafında düşününce garip bir yerde bitiyor: kullanıcı hem zaman kazanmak için aracı kullanıyor, hem de çıktıyı doğrulamak için ekstra zaman harcıyor. Net tasarruf ne?
Güven meselesi bir pazarlama problemi değil.
Pek çok AI ürünü güven sorununa şöyle yaklaşıyor: Disclaimer ekle, "AI hatalar yapabilir" yaz, bir yasal metin koy. Bitirdin.
Ama bu, problemi gerçekten çözmüyor. Kullanıcı zaten biliyor AI hata yapabilir. Mesele şu: ne zaman hata yapıyor? Bunu bilmeden, her cevabı şüpheyle karşılıyor.
Sağlık yazılımlarında bu çok daha belirgin. Bir klinisyen ekranda bir tanı önerisi gördüğünde, o öneriye inanıp inanmaması gerektiğini nasıl anlayacak? Bir disclaimer mı okuyacak? Hayır. Modelin o spesifik bağlamda ne kadar güvenilir olduğunu görmek istiyor.
Ve çoğu ürün bunu göstermiyor.
Kalibre edilmiş güven
Bence AI ürünlerindeki gerçek tasarım mücadelesi şu: Sistemin neyi bilip neyi bilmediğini, kullanıcıya doğru seviyede iletmek.
Bu "güven skoru" göstermek değil. Çoğu durumda kullanıcı bir yüzde değeri istemez — o da ne demek bilerek baksın.
Daha çok şunlar:
- "Bu öneri, benzer 400 vakadan türetildi" vs. "Bu öneri, sadece 3 benzer vakaya dayanıyor"
- "Bu bilgi geçen ay güncellendi" vs. "Bu bilgi 2 yıl öncesine ait"
- Modelin belirsiz olduğu durumlarda seçenek sunmak yerine doğrudan "Bu konuda emin değilim" demek
Claude bazen tam da bunu yapıyor: "Bu konuda bilgim sınırlı, şunu kontrol etmeni öneririm" diyor. Ve garip bir şekilde, bu beni daha çok güvendiriyor, daha az değil.
PM olarak bakınca
Kullanıcı araştırması yaptığınızda, insanlar size "AI çıktısına güvenmiyorum" demez genellikle. "Biraz kontrol ediyorum" der, ya da "bazen yanlış yapıyor" der. Ama arkasındaki davranış aynı: Her çıktıyı sıfırdan değerlendiriyor.
Bu bir UX sorunu. Ve ürün ekiplerinin çözmesi gereken bir şey.
Çünkü güven eksikliği, benimseme engelinden daha sinsi bir etki yaratıyor. Ürünü kullanan ama değer görmediğini düşünen kullanıcı, bir süre sonra sessizce bırakıyor. Churn görünüyor ama gerçek neden görünmüyor.
İki yıl sonra en çok büyüyecek AI ürünleri, en doğru tahminleri yapanlar değil. En dürüstleri.