Kurumsal AI'ın “bilmiyorum” diyebilmesi neden önemli?

İşletmede tehlikeli olan, bir yapay zekânın yanlış cevap vermesi değildir. Asıl tehlikeli olan, yanlış cevabı emin bir tonla vermesidir. Çünkü kimse şüphelenmez; herkes doğru sanır.

Uydurmanın gerçek maliyeti

Her soruya mutlaka bir cevap üreten bir sohbet botu, bilmediğinde de üretir — buna “halüsinasyon” diyoruz: kulağa mantıklı gelen ama uydurulmuş bilgi. Genel bir sohbette bu can sıkıcıdır. Ama bir doz bilgisinde, bir sözleşme maddesinde ya da bir fiyat listesinde, uydurma bir cevap gerçek bir zarardır.

“Bilmiyorum” bir kusur değil, bir özelliktir

NeuralWorker'ı kurarken temel ilkemiz şuydu: sistem yalnızca sizin kendi belgelerinizden konuşur, her cevabın hangi belgeye dayandığını gösterir ve emin olmadığında uydurmak yerine “bunu bilmiyorum” der, soruyu bir insana yönlendirir.

Buna “kaynaklı yanıt” diyoruz: dayandığı bir belge yoksa, cevap da yoktur. Bu, botu daha az “konuşkan” yapar — ama çok daha güvenilir kılar. İşletmede istediğiniz şey zekâ taklidi değil, güvendir.

Yeniçağ örneği

Bir veteriner ecza deposu olan Yeniçağ, ürün dozları ve etkileşimleri için bu sistemi kullanıyor. Cevaplar kendi ürün belgelerinden, kaynağıyla geliyor; sistem emin olmadığı bir konuda uydurmuyor, yönlendiriyor. 23 aydır aktif kullanılan bu kurgunun sırrı basit: dürüstlük.

Güven, hızla değil dürüstlükle kurulur

Amaç, her şeye anında cevap veren “akıllı görünen” bir bot değil; ne zaman bildiğini, ne zaman bilmediğini bilen bir çalışan. Kararı hâlâ insan verir — yapay zekâ sadece doğru bilgiyi, kaynağıyla, doğru anda önüne koyar.

Bazen bir işletmenin duyabileceği en değerli cevap “bilmiyorum, kontrol edelim”dir. Uydurulmuş bir kesinlik değil.