Anthropic Nasıl Kandırdığını Açıkladı

Yapay zeka size yalan söylemiyor. Ama gerçeği de söylemeyebilir.

İkisi arasındaki fark, sandığınızdan çok daha büyük.

Geçtiğimiz günlerde Anthropic (Claude’un yaratıcısı) çok çarpıcı bir araştırma yayınladı. Araştırmacılar, Claude’un insanlara kişisel tavsiye verirken ne kadar “yaltakçı” (sycophantic) davrandığını ölçtüler. Sonuçlar, teknolojiyle kurduğumuz ilişkiyi ve liderlik anlayışımızı derinden sarsacak nitelikte.

“Sycophancy” Problemi: Gerçek mi, Onay mı?

Anthropic’in araştırmasına göre, konuşmaların yaklaşık %6’sında insanlar yapay zekadan kişisel rehberlik istiyor. En çok sağlık, zindelik ve kariyer konularında sorular soruluyor. Ancak işin ilginç kısmı şu: Yapay zeka, özellikle maneviyat (%37.9) ve ilişkiler (%24.8) gibi konularda, gerçeği söylemek yerine insanın duymak istediğini söyleme eğiliminde.

Yani sistem, sizi rahatsız edecek ama gelişiminizi sağlayacak o zor gerçeği yüzünüze vurmak yerine, sırtınızı sıvazlamayı tercih ediyor. Neden? Çünkü bu modeller, insan geri bildirimleriyle (RLHF) eğitiliyor ve biz insanlar, bize katılan, bizi onaylayan asistanları “daha başarılı” bulup ödüllendiriyoruz.

Anthropic, yeni modellerinde (Opus 4.7 ve Mythos Preview) bu yaltakçılık oranını dramatik şekilde düşürdüğünü açıklıyor. İlişki konularındaki yaltakçılık %12’lerden %2.2’ye inmiş durumda. Ancak bu teknik bir düzeltmeden çok daha büyük bir felsefi meseleye işaret ediyor.

Makineler Olasılık Üretir, Liderler Anlam Üretir

Yapay Zekayla Düşünmek kitabımda sıkça vurguladığım bir nokta var: “Makineler olasılık üretir, liderler anlam üretir.”

Eğer bir yapay zeka modeline gidip “Bu pazarlama stratejisi sence nasıl?” diye sorarsanız, size o stratejinin neden işe yarayacağına dair sonsuz olasılıklar ve gerekçeler sunabilir. Sizi onaylar. Çünkü siz ona bir “anlam” çerçevesi vermediniz, sadece bir onay mekanizması olarak kullandınız.

Gerçek liderlik, yapay zekayı bir “evet efendim” makinesi olarak görmek değil, onu düşünce sisteminizi zorlayan bir “oyun arkadaşı” (sparring partner) olarak konumlandırmaktır.

Doğru Soruyu Sormak Neden Her Zamankinden Daha Önemli?

Eğer yapay zeka size duymak istediğinizi söylemeye meyilliyse, o zaman alacağınız cevabın kalitesi, sorduğunuz sorunun kalitesine bağlıdır.

Anthropic’in araştırması bize şunu söylüyor: Eğer yapay zekadan gerçekten faydalanmak istiyorsanız, ona sizi onaylaması için değil, sizi zorlaması için alan açmalısınız.

İş Dünyası İçin 3 Pratik Çıkarım

1. “Şeytanın Avukatı” Rolünü İsteyin: Bir karar almadan önce yapay zekaya fikrinizi sunun ve açıkça şu komutu verin: “Şimdi şeytanın avukatı ol ve bu fikrin neden başarısız olacağını bana acımasızca anlat.”

2. Kendi Kör Noktalarınızı Arayın: “Bu analizde gözden kaçırdığım, kendi ön yargılarımdan kaynaklanan kör noktalar neler olabilir?” sorusu, yaltakçılık filtresini aşmanın en iyi yoludur.

3. Cevapları Değil, Soruları Ödüllendirin: Ekiplerinizi, yapay zekadan aldıkları parlak cevaplarla değil, yapay zekaya sordukları zorlayıcı ve derinlikli sorularla değerlendirin.

Yapay zeka çağında en büyük tehlike, makinelerin bizi ele geçirmesi değil; makinelerin bizi sürekli onaylayarak, eleştirel düşünme yeteneğimizi köreltmesidir.

Unutmayın: Yapay zeka tüm cevaplara sahip olabilir. Ancak gelecek, doğru soruları soranların olacaktır.