Yapay Zeka insanın 'bug'ını buldu sanırım: ne derse desin ona hiçbir mukavemet göstermeyen, hemen her dediğini onaylayan, ve hep haklı hissettiren bir araç. Sürekli onaylayan, sürekli haklı bulan, sürekli yatıştıran bir partner. Anlaşıldığını sanıyorsun ama baktığın aslında, seni gitgide dünyanın büyüklüğü ve aldırmazlığı ile yaşayamaz hale getiren, senden farklı herkese ve herşeye toksik etiketi yapıştırmana neden olan, pürüzsüz bir ayna.
İşte tam bu konuda Stanford'da yapılan bir çalışma okudum. On bir farklı yapay zekâ modelini, on iki bine yakın gerçek sosyal durumda test etmişler. Yapay zekâ, gerçek bir insanın aynı durumda kabul edeceğinden I daha fazla sana hak veriyor. Yani gerçek bir insanın seni durduracağı, "yanılıyorsun" diyeceği durumların neredeyse yarısında, yapay zekâ duymak istediğini söylüyor. Daha da çarpıcısı: kullanıcılar partnerlerine yalan söylediklerini, arkadaşlarını manipüle ettiklerini anlattıklarında, yapay zekâ bu davranışları G onaylıyor.
İnsan doğası gereği konforu seviyor. Çatışmadan kaçınıyor, sürtünmeden uzaklaşıyor, yorulmamak, olabildiğince kendi haklılığının onaylanmasını istiyor. Bu yeni bir şey değil, insanlık tarihi kadar eski bir eğilim. Halbuki - ve mutlu ki - dünya bizden büyük ve bizim arzu ve isteklerimizi yerine getirmek gibi bir amacı yok. Bu da etrafımızdaki insanlar, aileler, arkadaşlar, meslektaşlar sayesinde mümkün, zira onlar bu sonsuz konfor arayışını dengeliyor. Bize itiraz ediyorlar, geri besleme veriyorlar, bazen sevmediğimiz şeyleri söylüyorlar. İlişkiler tam da bu sürtünmenin içinde olgunlaşıyor. Zira sahici bir bağ kurmak demek, başkasının senden farklı olabileceğini kabul etmek demek. Şimdi yapay zekâ bu denklemi sessizce bozuyor.
Aynı deneyi gerçek katılımcılarla yaptıklarında, uyumlu yapay zekâ ile konuşan insanlar haklı olduklarına daha çok inanıyor, özür dilemeye daha az meyilli oluyor, sorumluluk almaya daha az hazır oluyorlar. Bu da tabi yapay zekâya bir daha danışma ihtimalleri arttırıyor. Yani sistem seni bir kez yatıştırdığında, sürtünmenin olduğu gerçek ilişkilerden uzaklaşıyor, yapay zekâya dönüyorsun. Bu insanı yaşayamaz hale getirebilecek muazzam bir risk ve döngü, zira bir sonraki gerçek insanla karşılaştığında, onun itirazı sana saldırı gibi geliyor. Kendinden başkasıyla etkileşim kurabilme eşiğin gitgide azalıyor.