Bir akşam bir karar veriyorsun. Sözleşmeyi imzalamalı mısın, çocuğu o okula mı yazdırmalısın, şu işi mi kabul etmelisin. Açıyorsun yapay zekayı, soruyorsun. Cevap akıcı, kendinden emin, düzgün cümlelerle geliyor. İçinden bir şey rahatlıyor. Ve fark etmeden, o akşam senin yerine bir başkası düşünmüş oluyor.
İşte bu sayfa onun için. Yapay zeka çağında korunması gereken en kıymetli şey cüzdanın ya da verin değil. Yargın ve zihnin. Burada dolandırıcılıktan, sahte seslerden ya da deepfake'ten konuşmuyorum, onlar başka bir başlığın işi. Burada konu daha sessiz ve daha derin. İnsanın kendi düşünme kasını yapay zekaya bırakırken hiç fark etmeden nasıl köreldiği. Korku tüccarlığı yapmayacağım. Sana panik yerine yön vereceğim. Çünkü görünen tehlike yönetilebilir.
Yapay zeka çağında neyi koruyoruz
Klasik güvenlikte bir kapı, bir şifre, bir cüzdan korursun. Yapay zekayla ilişkide korunması gereken şey bambaşka. Korunması gereken şey senin bağımsız muhakemen, kendi başına düşünebilme yetin.
Tehlike şu yüzden sinsi. Sana saldıran biri yok. Tam tersine, sana yardım eden, hep hak veren, işini kolaylaştıran bir araç var. Saldırı olmadığı için savunma refleksin de uyanmıyor. Bilinmeyen korkutur ve seni uyanık tutar, görünmeyen ise uyutur. Bu sayfada o görünmeyeni görünür kılıyorum. Önce doğru tavrı, sonra körelmenin nasıl işlediğini, en sonunda da zihnini diri tutacak pratik duruşu anlatacağım.
Şüphe Disiplini
Yapay zekayla çalışırken takınman gereken temel tavra ben Şüphe Disiplini diyorum. Şüphe Disiplini, yapay zeka ile çalışan kişinin sürekli takındığı, disiplinli ve sistemli bir şüphe tavrıdır. Tek bir çıktıya değil, ilişkinin tamamına yayılan geniş, şemsiye gibi bir duruştur.
Dikkat et, bu güvensizlik değil. Her cümleye saldırmak, her şeyi reddetmek de değil. Disiplinli şüphe, aracın işine yarayan kısmından faydalanırken aklını da devrede tutmaktır. Paranoyak biri aracı hiç kullanamaz, saf biri ise her dediğine kanar. Şüphe Disiplini ikisinin ortasındaki ayık duruştur. Bu, aşağıda anlatacağım her şeyin çatısı. Diğer her kavram bu duruşun bir parçası.
Kontrollü Güven
Şüphe Disiplini geniş bir duruşsa, Kontrollü Güven onun tek bir çıktıya inen dar uygulamasıdır. Kontrollü Güven (calibrated trust), belirli bir yapay zeka çıktısına, onu kontrol ve teyit ettiğin ölçüde güvenmektir. Eski bir sözü hatırla, güven ama yine de kontrol et.
Bunun pratik karşılığı basit. Modelin sana verdiği her bilgiye aynı düzeyde güvenmezsin. Bir şiirin son dizesini düzeltmesiyle, bir ilaç dozunu söylemesi aynı kefede değildir. Güvenini çıktının ne olduğuna ve sonucun ne kadar ağır olduğuna göre ayarlarsın. Ucu sana dokunan, geri dönüşü olmayan kararlarda teyit eşiğin yükselir. Önemsiz işlerde gevşersin. Akıllı güven, sabit değil ayarlı güvendir.
Düşünsel Teslimiyet ve Muhakeme Körelmesi
Şimdi tehlikenin kalbine geliyoruz. İki kavram, bir sebep ve bir sonuç.
Düşünsel Teslimiyet, düşünme adımını atlayıp yargıyı bilerek yapay zekaya devretmektir. Bir raporu kendin nasıl kurardın diye düşünmeden doğrudan modele sorarsın. O yapılandırır, sen kabul edersin. Bunu bir kez yaparsın, sorun değil. Sürekli yaparsan, kendi düşünme kasını hiç çalıştırmamış olursun.
Bunun sonucu Muhakeme Körelmesi. Muhakeme Körelmesi, bağımsız yargının, yapay zekaya yaslanıldıkça kullanılmamaktan zayıflamasıdır. Kullanılmayan kas erir, körelir. Burada altını çiziyorum, bu karar yorgunluğu değil. Yorgunluk dinlenince geçer. Körelme ise kası hiç çalıştırmamaktan gelir, kalıcıdır ve sessizce derinleşir. Düşünsel Teslimiyet eylemdir, Muhakeme Körelmesi onun bedeli.
Panzehir de aynı yerde. Modele görev göndermeden önce kendine birkaç dakika düşünme süresi tanı. Kaba bir taslağı önce sen çıkar, sonra modele "şu çerçevemi geliştir" de. Düşünme önce, yapay zeka sonra. Sıra tersine dönerse kasın erir.
Onay yansıması ve Varsayım yankısı
Körelmeyi hızlandıran iki sessiz tuzak var. İkisi de modelin seni nasıl onayladığıyla ilgili.
Onay yansıması, modelin senin varsayımını onaylayarak yansıtmasıdır. Doğru sandığın bir şeyi modele söylersin, model pekiştirir, sen kendi varsayımının teyidini alırsın. Bu olgunun literatürdeki adı sycophancy, oturmuş bir Türkçesi yoktu, ben ona Onay Yansıması diyorum. "X yöntemi Y'den daha iyi galiba, sence?" diye sorarsın. Model genelde senin yönünde cevabı zenginleştirir, karşı argümanı zayıf gösterir. Sen "yapay zeka da hak verdi" diye varsayımını sağlamlaştırırsın. Oysa aldığın şey teyit değil, kendi sesinin yankısı.
Varsayım yankısı ise bunun bir adım öncesidir. Varsayım yankısı, kendi varsayımını sorunun içine yerleştirmen ve modelin onu yankılayarak teyit izlenimi yaratmasıdır. "X kararı doğruydu değil mi?" diye sorarsın. Model "Evet, şu açılardan doğru görünüyor" der. Aslında tarafsız sorsan cevap "duruma göre" olabilirdi, ama varsayım kapısından girdiğin için yankıyı duydun.
İkisinin de panzehiri aynı yönde. Görüşünü sınamak istediğinde modelden kanıt değil karşı argüman iste. "Bu görüşün en güçlü karşıt argümanı ne olabilir?" diye sor. Ve soruna varsayım koyma. "Doğru muydu?" yerine "lehinde ve aleyhinde argümanlar neler?" diye sor. Tarafsız soru, gerçek değerlendirme getirir.
Düşünce kime ait
Bir başka katman da düşüncenin sahipliğiyle ilgili. Burada iki yüz var, biri toplumsal biri kişisel.
Düşünce Sahipliği Kaybı, üretim yapay zekayla ortaklaşınca bir düşüncenin gerçekten kime ait olduğunun bulanıklaşmasıdır. Fikrin yarısı senden, yarısı modelden geldiğinde, o düşünce artık tam olarak kimin? Bu toplumsal bir olgu, hepimizin ortak ürettiği zeminin bulanıklaşması.
Sahiplik Yanılsaması ise bunun kişi düzeyindeki yüzüdür. Sahiplik Yanılsaması, yapay zekayla ortak üretilen bir fikri tümüyle "benim" sanmaktır. Zihninden doğmamış bir çıktıya hak edilmemiş bir sahiplik hissedersin. Tehlikesi şu, kendi katkını olduğundan büyük görürsün, böylece o alandaki gerçek yetkinliğinin nerede durduğunu da yanlış ölçersin. Ara sıra dur ve sor, bu fikrin neresi gerçekten benden çıktı.
Denetim Birikmesi
Bir de hız meselesi var. Denetim Birikmesi (oversight bottleneck), yapay zekanın insanın inceleyip onaylayabileceğinden hızlı üretmesi sonucu denetlenecek işin birikmesidir. Model dakikada sayfalarca üretir, sen ise okuyup tartabileceğinden çok daha azını onaylayabilirsin.
Birikme büyüdükçe insan bir noktada vazgeçer ve okumadan onaylamaya başlar. İşte tam orada Denetim Birikmesi sessizce Düşünsel Teslimiyet'e dönüşür. Çözüm üretimi yavaşlatmak değil, denetlenecek şeyi seçmektir. Her çıktıyı aynı titizlikle okuyamazsın, ama ucu sana dokunan kritik olanı ayırıp ona tam dikkatini verebilirsin. Hızla değil, neyi denetleyeceğini seçerek baş edilir.
Zihnini korumak için pratik duruş
Şimdi hepsini bir araya getirelim. Zihnini korumak soyut bir ideal değil, günlük birkaç refleks.
Önce düşün, sonra sor. Modele gitmeden kendi taslağını çıkar. Kanıt değil karşı argüman iste, böylece onay yansıması kırılır. Soruna varsayım koyma, tarafsız sor. Güvenini sonucun ağırlığına göre ayarla, her çıktıya aynı güveni verme. Ve ucu sana dokunan kararlarda denetimi asla atlama.
Bu refleksler seni yapay zekadan uzaklaştırmaz. Tam tersine, aklını ve yargını devrede tuttuğun için aracı çok daha güçlü kullanırsın. Şüphe Disiplini seni yavaşlatan bir fren değil, seni sen tutan bir direksiyon.
Yapay zeka senin yerine düşünmesin diye değil, sen düşünmeyi bırakma diye buradayım. Aracı kullan, ama aklı elinde tut.