Bir rapor istedin. Yapay zeka otuz saniyede önüne koydu. Düzgün, akıcı, ikna edici. Cümleler yerli yerinde, başlıklar temiz, sonuç bölümü bile hazır. Bir an, onu olduğu gibi kabul edip göndermeye neredeyse hazırdın. Sonra durdun. Çünkü o metnin söylediği şeye sen inanıyor muydun, bunu henüz sormamıştın.
İşte o duraklama, bu sayfanın konusu. O an üreten taraf yapay zekaydı. Ama karar veren taraf sendin. Ben buna Karar Veren İnsan diyorum. Bu sayfada bu kavramı baştan sona tanımlıyorum, neden insanın devredilemez işlevinin karar olduğunu, bu işlevi nasıl koruyacağını ve nerede kaybetme riski taşıdığını anlatıyorum.
Karar Veren İnsan nedir
Karar Veren İnsan, yapay zeka çağında insanın asla devredemeyeceği işlevi adlandıran kavramdır. O işlev, karar vermektir.
Yapay zeka iki şey yapar. Önerir ve uygular. Sana seçenek sunar, taslak üretir, hesap yapar, metin yazar, kod döker. Sonra istersen onu hayata geçirir. Ama bu zincirin hiçbir halkasında karar yoktur. Karar başka bir şeydir. Ne isteneceğine karar vermek. Önüne gelen çıktının kabul mü, ret mi, yoksa revize mi edileceğine karar vermek. Ve en önemlisi, bütün bu işin nereye varacağına karar vermek. Bunların hepsi insanda kalır.
İngilizcesini the Deciding Human koyuyorum, çünkü bu sadece Türkçe bir mesele değil. Dünyanın her yerinde aynı sınır çiziliyor. Makine üretir, insan karar verir. Bu cümle bir slogan değil, bir iş bölümü.
Dikkat et, bu kavram yapay zekaya karşı bir duruş değil. Tam tersi. Yapay zekayı sonuna kadar kullan, üretsin, hızlandırsın, kolaylaştırsın. Karar Veren İnsan, makineyi reddeden değil, makineyle çalışırken kendi yerini bilen insandır. Aradaki fark, kimin kime hizmet ettiğidir. Sen yapay zekayı kullanıyorsan Karar Veren İnsan'sın. Yapay zeka seni yönlendiriyorsa, o sırayı kaybetmişsin demektir.
İnsan üreten değil, yön veren olduğu için yerini korur
Çoğu kişi yapay zeka karşısında yanlış soruyu soruyor. "Bu makine benim yaptığım işi yapabilir mi?" diye soruyor. Çoğu zaman cevap evet, hem de senden hızlı. Ama bu yanlış soru.
Doğru soru şu. "Bu işin hangi parçası karardır?" Çünkü üretim devredilebilir, karar devredilemez. Bir mimar düşün. Yapay zeka ona elli farklı cephe çizimi sunabilir. Ama hangi çizimin o sokağa, o iklime, o aileye yakışacağına mimar karar verir. Üretim makineye geçti, ama mimarın yeri orada, kararda duruyor.
Ben bunu bir önceki kavramla bağlıyorum. "İnsanın Yeri", yapay zeka çağında insanın nerede durduğunu soran çatı kavramdır. Karar Veren İnsan, o sorunun işlevsel cevabıdır. İnsan nerede durur? Kararda durur. Üretimi bıraktığın yerde değil, yön verdiğin yerde durursun.
AI önerir ve uygular, karar senindir
Bu kavramın kalbinde basit bir sıralama var. Yapay zeka önerir. Sen kararı verirsin. Yapay zeka uygular. Bu sıra hiç bozulmaz.
Pratikte üç ayrı karar noktası vardır ve üçü de senindir.
Birincisi, ne isteneceği. Yapay zekaya ne soracağına, hangi problemi çözmek istediğine, neyin önemli neyin önemsiz olduğuna sen karar verirsin. Yanlış soruya en mükemmel cevap bile işe yaramaz. Niyet senden çıkar.
İkincisi, çıktının kaderi. Önüne gelen her sonuç için üç kapın vardır. Kabul edersin, reddedersin ya da revize edersin. Bu üç kapıyı açık tutmak, kararın elinde olduğunun kanıtıdır. Gelen her şeyi kabul ediyorsan, aslında karar vermiyorsun, sadece onaylıyorsun. Onaylamak karar değildir.
Üçüncüsü, varış noktası. Bütün bu çabanın nereye gittiğine, hangi sonucun "iyi" sayılacağına sen karar verirsin. Yapay zekanın hedefi yoktur, senin hedefin vardır. Yönü belirleyen sensin.
Bu üç noktayı bir görüntüyle akılda tut. Yapay zeka kürekleri çeken kuvvetli bir kürekçidir. Hızlıdır, yorulmaz, güçlüdür. Ama dümeni tutan sensin. Kürekçi tekneyi ileri götürür, dümen tekneyi doğru yere götürür. İkisi farklı işlerdir. Karar Veren İnsan, kürekleri bırakıp dümeni tutmayı bilen insandır. Kürekleri çekmeye devam etmek isteyen, makineyle yarışmaya çalışır ve kaybeder. Dümene geçen ise kazanır.
Saha örneği: bir rapor, üç farklı insan
Aynı raporu üç ayrı insanın yapay zekayla nasıl hazırladığına bak, farkı net göreceksin.
Birincisi raporu yapay zekaya yazdırdı, okudu, "güzel olmuş" deyip gönderdi. Bu kişi karar vermedi, onayladı. Çıktının söylediği şeye katılıyor mu, bilmiyor. Sadece düzgün göründüğü için kabul etti. Bir hata varsa, o hata artık onun imzasını taşıyor ama onun aklından geçmedi.
İkincisi raporu yapay zekaya yazdırmadan önce ne anlatmak istediğine karar verdi. Sonra çıktıyı okudu, üç paragrafı revize etti, bir bölümü tümden attı, bir iddiayı "buna ben katılmıyorum" diyerek değiştirdi. Bu kişi Karar Veren İnsan'dır. Yapay zeka ona zaman kazandırdı, ama rapor onun raporu oldu.
Üçüncüsü ise hiç yapay zeka kullanmadı, her kelimeyi kendi yazdı. Yavaş oldu, yoruldu, belki de daha kötü bir metin çıkardı. Bu kişi karar veriyor ama üretimi gereksiz yere kendine yükledi. Otonomi Eşiği'ni yanlış yere koydu, devredebileceği bir işi devretmedi.
Doğru yer ikincisidir. Üretimi makineye devret, kararı kendinde tut. Ne her şeyi onaylayan ol, ne de hiçbir şeyi bırakmayan. Aradaki dengeli yer, Karar Veren İnsan'ın durduğu yerdir.
Karar vermekle onaylamak aynı şey değildir
Burada en sinsi tuzak şu. İnsan, karar verdiğini sanırken aslında sadece onaylıyor olabilir.
Onaylamak, önüne gelene "tamam" demektir. Karar vermek ise o şeyi başka türlü de olabilirdi diye tartmaktır. Aradaki fark, içinden geçen sorudur. Eğer yapay zekanın çıktısına bakıp "evet, doğru görünüyor" diyorsan, bu onaydır. Eğer "bunun yerine şu da olabilirdi, neden bu değil de bu?" diye soruyorsan, bu karardır.
Tehlike şu ki, yapay zeka çıktıları çok düzgün geldiği için onaylamak çok kolaylaşır. Akıcı bir metni reddetmek, ona itiraz edecek bir gerekçe bulmak yorucudur. İnsan yorulunca onaylar. Ve her onayda, karar kası biraz daha zayıflar. Bu yüzden karar vermek bir alışkanlık, hatta bir disiplindir. Kolay geldiği için değil, doğru olduğu için her çıktıyı tartmak gerekir.
Otonomi Eşiği: kararın ne kadarı devredilir
Karar Veren İnsan demek, hiçbir şeyi yapay zekaya bırakma demek değildir. Bu mümkün de değil, akıllıca da değil. Mesele, neyi bırakıp neyi tuttuğunu bilmektir. İşte bu sınırı çizen kavrama Otonomi Eşiği diyorum.
Otonomi Eşiği, kararın ne kadarının yapay zekaya devredileceğini belirleyen kişisel ve etik çizgidir. Bir spektrum üzerinde durur. Bir uçta hiçbir şey devretmezsin, her virgülü kendin koyarsın, bu yavaş ve yorucudur. Öbür uçta her şeyi devredersin, hızlısındır ama artık karar veren sen değilsin. Eşik, bu ikisi arasında senin çektiğin çizgidir.
Bu çizgi her iş için aynı yerde durmaz. Bir e-postanın taslağını tümüyle yapay zekaya bırakabilirsin, çünkü hata maliyeti düşüktür ve çıktıyı zaten okuyacaksın. Ama bir işe alım kararını, bir hastanın tedavi seçimini, bir hukuki sonucu asla o eşiğin öbür tarafına geçirmezsin. Risk büyüdükçe eşik yükselir, yani daha çok kararı kendinde tutarsın.
Otonomi Eşiği'ni bilinçli çizmek, Karar Veren İnsan olmanın pratiğidir. Eşiği çizmiyorsan, eşik kendiliğinden kayar ve genelde devretme yönüne kayar, çünkü devretmek kolaydır.
Bu işlevi nasıl korursun
Karar Veren İnsan kalmak, niyet değil pratiktir. Birkaç sade alışkanlık bu işlevi diri tutar.
Önce niyetini netleştir. Yapay zekaya gitmeden önce ne istediğini bir cümleyle söyleyebiliyor musun, buna bak. Niyet bulanıksa, gelen çıktı senin değil, makinenin yönlendirdiği bir şey olur.
Sonra üç kapıyı her seferinde aç. Gelen her çıktı için kendine sor. Bunu kabul mü ediyorum, reddediyor muyum, yoksa revize mi ediyorum? Eğer cevap her zaman "kabul" çıkıyorsa, karar vermiyorsun demektir.
Tek öneriyle yetinme. Yapay zeka sana tek bir cevap verdiğinde, "başka türlü nasıl olabilirdi?" diye sor. Alternatifi görmeden verilen karar, karar değil, teslimiyettir. Stratejik kararlarda ben hep üç doğrultu ve bir öneri isterim, böylece seçim bana kalır.
Ve eşiğini önceden çiz. Hangi kararı asla devretmeyeceğini, işe başlamadan kendine söyle. Anın sıcağında değil, soğukkanlıyken çizilen çizgi tutar.
Yapay zeka karar veremez mi
Burada bir itiraz yükselir. "Yapay zeka da karar veriyor, işte seçenekler arasından seçiyor" diye. Bu doğru görünür ama yanıltıcıdır.
Yapay zekanın yaptığı seçim, bir hesaptır. Verdiğin ölçütlere göre en olası, en uygun çıktıyı bulur. Ama o ölçütleri kim koydu? Sen koydun. "İyi" neyse onu kim tanımladı? Sen tanımladın. Yapay zekanın bir tercihi, bir niyeti, bir sorumluluğu yoktur. O sadece senin tanımladığın hedefe doğru optimize eder.
Karar ise sorumluluk taşır. Bir kararın arkasında, "bunu ben istedim, sonucuna ben katlanırım" diyen biri vardır. Yapay zeka katlanmaz, hesabını vermez, pişman olmaz. Bu yüzden karar, doğası gereği insana aittir. Devredilemez olmasının sebebi teknik değil, sorumluluğun kendisidir.
Bir gün yapay zeka çok daha güçlü hale gelse bile bu sınır değişmez. Çünkü mesele yapay zekanın yetersizliği değil. Yapay zeka senden iyi yazabilir, senden hızlı hesap yapabilir, çoğu işte seni geçebilir. Ama bir kararın sonucuna katlanacak olan hâlâ sensin. Sorumluluğu makineye yıkamazsın. "Yapay zeka böyle dedi" demek, bir mazeret değildir, çünkü o çıktıyı kabul eden sendin. Karar Veren İnsan'ın ağırlığı buradan gelir. Yetkiyi devredebilirsin ama sorumluluğu asla.
Sık yapılan yanlış anlamalar
Bu kavram etrafında üç yaygın yanlış var, üçünü de açıkça düzeltmek isterim.
Birincisi, "Karar Veren İnsan, yapay zekaya güvenmeyen insandır" sanılır. Yanlış. Karar Veren İnsan yapay zekaya işini yaptırır, çıktısını kullanır, ondan faydalanır. Sadece son sözü kendinde tutar. Güvensizlik değil, sorumluluk meselesidir bu.
İkincisi, "Önemli kararları zaten ben veriyorum, küçükleri makine versin" denir. Sorun şu ki, sınır o kadar net değil. Küçük kararları otomatik kabul etmeye alıştıkça, büyük karar geldiğinde de aynı refleksle "tamam" deme riskin artar. Karar kası kullanılmazsa körelir. Bu yüzden eşiği bilinçli çizmek gerekir, kendiliğinden oluşmasına bırakmak değil.
Üçüncüsü, "Bu kavram sadece yöneticiler, liderler için" sanılır. Hayır. Bir öğrenci ödevini yapay zekayla yazarken de Karar Veren İnsan'dır ya da değildir. Bir esnaf, bir öğretmen, bir ev hanımı, yapay zekayla her temasında karar veren mi yoksa onaylayan mı olduğuna kendi karar verir. Bu kavram bir mevki değil, bir duruştur. Yapay zekaya dokunan herkesi ilgilendirir.
Karar verebilen insanlar kıt ve değerli hale geliyor
Bu kavramın bir de geleceğe bakan yüzü var. Ben buna "Karar Veren İnsan Kıtlığı" diyorum, ama bunu burada sadece anıyorum, ayrı bir yazıda derinleştiriyorum.
Kısaca şu. Yapay zekayı etkin kullananlarla kullanamayanlar arasında bir makas açılıyor. Üretim ucuzladıkça, gerçek değer üretende değil, üretileni doğru tartabilen, doğru kararı verebilen insanda toplanıyor. Herkes çıktı üretebildiği bir dünyada, neyin işe yaradığına karar verebilen insan kıt ve değerli hale geliyor.
Bu yüzden Karar Veren İnsan olmak sadece bir savunma duruşu değil. Aynı zamanda yarının en aranan yetkinliği. Karar kasını bugün diri tutan, yarın öndedir.
Üretmeyi makineye bırakabilirsin. Kararı bırakma. Yönü veren her zaman sen ol.