“Oyun büyük yeğenim, bize çip takacaklar. Benden söylemesi…” Türkiye’deki komplocu dostlardan duymaya alıştığımız yaygın bir cümle. Anlayamadığım bir şekilde, çip Anadolu distopya senaryolarında önemli yeri olan bir nesne. Ancak bu iddianın doğruluk payı var elbette; çipi bize taktılar. Büyük çoğunluğumuz yanımızdan ayırmadığımız, nereye gidersek gidelim yanımızda taşıdığımız akıllı telefonlara sahibiz. Sizi bilmem ama benim gün boyunca en çok ilişkide olduğum nesne tartışılmaz bir şekilde cep telefonum. Telefon beni en çok tanıyan nesne; nereye gittiğimi, neler okuduğumu, nelerle ilgilendiğimi “biliyor.” Çip vücuduma girse ne olacak, telefon o “distopik çip”ten beklediğimiz her şeyi ve daha fazlasını yerine getiriyor. Hem de “dış güçler” tek kuruş ödemek zorunda değiller, çipin parasını biz ödeyip ara ara günceli ile değiştiriyoruz. Ben şahsen halimden memnunum. Hanımın bildiklerini kuldan gizleyecek değilim. Ancak bu yazıda beni gerçekten endişelendiren yeni bir tehditten konuşmak istiyorum. Toplanın yeğenler, bize yapay zekâ takacaklar!
Zihin beyin dışına taşabilir mi?
Ne demek istediğimi anlamak için biraz felsefeye dönmemiz lazım. Ben dediğimiz zaman çoğumuz aslında bedenimizi değil zihnimizi, yani bilincimizi kast ederiz. İyi ama zihnimiz nerede? Çok radikal bir zihin felsefesi teorisine inanmıyorsanız, zihninizin “beynin içinde” olduğunu iddia edeceksiniz muhtemelen. Şöyle de sorabiliriz soruyu, düşünceniz nerede gerçekleşir? Çoğu yine beynin içi diyecektir. Peki, zihnimiz beynimizin dışına sızabilir mi? Yani diğer bir deyişle beyin dışına uzanabilir mi? İki önemli zihin felsefecisi Andy Clark ve David Chalmers 1998 tarihli The Extended Mind adlı makalelerinde, zihnin ve düşünce süreçlerinin beynin dışına yayılabileceğini, yani dış dünyaya çıkabileceğini iddia ettiler. Bu garip fikre nereden vardılar? Gelin, önerdikleri basit düşünce deneyi ile bu fikri anlamaya çalışalım.
Alper ve Ayşe adında iki arkadaş düşünün. Ayşe sağlıklı bir hafızaya sahip ve daha önce gittiği yerler hakkındaki bilgileri hatırlayabiliyor. Alper ise Alzheimer hastası ve hafıza kaybıyla mücadele ediyor. Bununla başa çıkmak için adresler, isimler ve randevular gibi unutabileceği önemli ayrıntıları yazdığı bir defter tutuyor. Defteri güvenilir yoldaşı.
Bir gün ikisi de Modern Sanat Müzesi’ni ziyaret etmeye karar verir. Ayşe sadece nerede olduğunu hatırlarken, Alper defterini kontrol eder. Bu farklılığa rağmen, her ikisi de kendi yöntemlerini kullanarak aynı yere varırlar. Ayşe’nin beyni bilgiyi içsel olarak depolarken, Alper dışsal bir yardım olarak not defterine güvenir.
Felsefeciler Clark ve Chalmers, Alper’in (ya da onların verdiği isimle Otto’nun) not defterinin tıpkı Ayşe’nin hafızası gibi işlediğini savunarak ilginç bir soruyu gündeme getiriyor: Ayşe’nin hafızasını zihninin bir parçası olarak kabul edersek, Alper’in not defterini de zihninin bir parçası olarak mı kabul etmeliyiz? Daha teknik bir ifade ile, Ayşe’nin müze hakkında uzun süreli hafızasından geri getirebildiği bilgiler zihinsel sayılır, zihninin bir parçası olarak sayılır. Bunlar felsefecilerin tabiri ile eğilimsel inançlardır; sahip olduğu, ancak hafızasından geri getirene kadar gerçekte dikkate almadığı inançlar. Alper’in defterinden edindiği bilginin de eğilimsel bir inanç olduğunu söyleyebilir miyiz? Söylersek, o zaman defterin Alper’in zihninin bir parçası olduğunu söyleyebiliriz. “Genişletilmiş zihin” teorisi olarak bilinen bu fikir, zihnimizin beynimizle sınırlı kalmayıp çevremizdeki araç ve kaynakları da kapsayabileceğini öne sürüyor.
Buna göre, güvendiğimiz araç ve teknolojiler (akıllı telefonlar veya dizüstü bilgisayarlar gibi) belirli kriterleri karşıladıkları sürece zihnimizin ayrılmaz parçası haline gelir. Clark ve Chalmers üç kriter sayar:
- Kullanılabilirlik: Araç kolayca erişilebilir olmalıdır.
- Güvenilirlik: Kişi araca güvenmelidir.
- Entegrasyon: Araç, bilişsel süreçlerin bir parçası olarak tutarlı bir şekilde kullanılmalıdır.
Tabii bu üç kritere bakmadan önce, Clark ve Chalmers, harici bir aracın zihnin bir parçası olarak kabul edilebilmesi için hafıza, muhakeme ve problem çözme gibi dahili zihinsel süreçlerle aynı bilişsel işlevlere hizmet etmesi gerektiğini savunmaktadır. Peki, ChatGPT gibi yapay zekâ sistemler bu şartları sağlıyor mu?
Neden “Yapay Zekâ bize takılabilir”?
ChatGPT gibi YZ sistemleri ana kriteri çeşitli şekillerde karşılamaktadır. İnsan hafızasına çok benzer şekilde bilgi depolayabilir ve geri çağırabilir, çözümler üreterek ve muhakeme sunarak problem çözmeye yardımcı olabilir ve beyin içindeki müzakereye işlevsel olarak birebir benzer şekilde dili işleyebilir.
ChatGPT kullanılabilirlik rolüne de uymaktadır, çünkü telefonlar, bilgisayarlar ve diğer cihazlar aracılığıyla her zaman erişilebilir durumdadır. Pek çok insan doğru bilgi ve karar verme konusunda ChatGPT’ye güveniyor ve tıpkı Alper’in not defterine bağlı olması gibi, ChatGPT’yi bilişsel araç setlerinin alışılmış bir parçası haline getiriyor.
Entegrasyonun ötesinde, YZ bilişsel yetenekleri insan sınırlarının ötesine taşır. İnsan beyninin erişemeyeceği hızlarda büyük miktarda veriyi işler, kullanıcıların kendi başlarına uzmanlaşmalarını gerektirmeden özel bilgilere erişim sağlar ve hattâ fikirler üreterek yaratıcılığa yardımcı olur. Bu anlamda, YZ sadece bir araç olarak değil, düşüncede bir işbirlikçi olarak işlev görmektedir.
YZ’ye olan güven arttıkça, insanların bir zamanlar kendi başlarına gerçekleştirdikleri bilişsel görevleri giderek daha fazla devralıyor. Artık pek çok kişi e-posta taslağı hazırlamak, kod oluşturmak, karmaşık konuları özetlemek ve bilinçli kararlar almak için ChatGPT kullanıyor. Tabii ödev yaptırıp biz akademisyenleri kandırmada da kullanıyor. Bu artan bağımlılık, tıpkı Alper’in not defteri gibi, YZ’nin de insan düşüncesi ile dış teknoloji arasındaki geleneksel sınırları zorlayan zihnin bir uzantısı olarak görülebileceğini göstermektedir.
YZ ile Alper’in defteri arasında analojik bir fark var. Buradan hareketle bazılarınız buradaki analizime itiraz edebilirsiniz. Alper’in içine yazdığı ve doğrudan manipüle ettiği not defterinin aksine, YZ otonom olarak çalışır. Ancak bu, kullanıcının bilişinden kopuk olduğu anlamına gelmez. Kullanıcılar, YZ çıktılarını yönlendirmeleri aracılığıyla aktif olarak şekillendirir ve işlevini kendi düşünme süreçlerine entegre edecek şekilde yönlendirir. Zaten beynimizin tüm süreçleri de kontrolümüz altında değildir, dolayısı ile bu analojideki fark sonucu değiştirmez.
Peki bu neden endişe verici olabilir? Neden telefon ile “çip takılmasından” rahatsız olmayan ben, ChatGPT gibi YZ’ların takılması üstüne kafa yoruyorum? Şimdi biraz bu soru üstüne düşünelim.
Oyun büyük: Otantikliğini kaybeden insan
ChatGPT gibi YZ sistemleri düşünme, yazma ve karar verme süreçlerine giderek daha fazla yardımcı olurken şu kritik soru gündeme geliyor: Zihinlerimiz tam olarak kontrol edemediğimiz bir şey tarafından şekillendirildiğinde ya da onunla entegre olduğunda ne olur? Kanaatimce bu sorunun birkaç ürkütücü olası cevabı var.
Heidegger ve Sartre gibi varoluşçu filozoflar otantikliğin (dış etkilere uymak yerine kendi gerçek değerlerimize göre yaşamanın) önemi üstünde dururlar. Eğer yapay zekâ zihnimizin bir uzantısı haline gelirse, sadece hafızamızı değil, aynı zamanda muhakeme ve yaratıcılığımızı da kaybetme riskiyle karşı karşıya kalırız. Zamanla, düşüncelerimiz artık gerçekten bize ait olmaktan çıkıp, büyük miktarda veri üzerinde eğitilmiş harici bir sistem tarafından şekillendirilebilir. Bu durumda insanlar otantikliğini kaybedip makineleşir. Bir akademisyen olarak ben gittikçe öğrencilerimden çok yapay zekanın metinlerini okur hale geldim. Yazılarda çoğu zaman öğrencilerimin hiç kendi sesi yok. Şirketlerde bazen maili atan da cevap veren de YZ oluyor. İki otantik insan değil, iki makineleşen insan konuşuyor yani. Örnekler çoğaltılabilir.
YZ karşıtı değilim, yanlış anlaşılmasın. Bence güzel bir buluş. Ama YZ benim kendi fikirlerimi ve kanaatlerimi oluşturmada yardımcı rolde kalmalı. Yaratıcılığımı konuşturmak için rutin işlerimi devralmalı. Eğer yaratıcı o olur, kanaatleri o oluşturursa o zaman sorunlu bir icat haline gelir. O yüzden YZ gibi araçlar bilinçli kullanılmalı.
Bir akademisyen olarak beni telaşlandıran buna yakın bir başka konu, insanlarda oluşabilecek bilişsel yetenek kayıpları. Hesap makinelerine bağımlılığın zihinsel aritmetiği zayıflatması gibi, YZ’ye aşırı bağımlılık da eleştirel düşünme ve etkili yazma yeteneğimizi aşındırabilir. Düşünmek pratik gerektiren bir beceridir; bunu YZ’ye devretmek, bizi entelektüel açıdan pasif, karmaşık düşünceleri dışarıdan yardım almadan ifade edemez hale getirme riski taşır. Yazma da öyledir, yüzme gibidir. Yazmazsanız bu yeteneği kazanamazsınız. Yeni nesiller bu yeteneklerini geliştirememe riski ile karşı karşıya.
Endişelerim burada bitse keşke. YZ sistemleri, büyük bir kısmı Batı’nın egemen olduğu kaynaklardan gelen çok miktarda veri üzerinde eğitilmektedir. Bu, düşünmemize veya yazmamıza yardımcı olması için YZ kullandığımızda, eğitim verilerinde gömülü olan önyargıları bilinçsizce özümsediğimiz anlamına gelir. Eğer etik çerçeveler, tarihsel yorumlar veya felsefi bakış açıları üstüne düşünme işini YZ’ye bırakırsak, düşüncemiz baskın kültürel paradigmalarla özdeşleşir. Hele akademisyenlerin ve entelektüellerin bunu yapması düşünsel bir intihar olur. Bu distopik senaryoda zamanla, Batılı ya da Ortodoks olmayan düşünme biçimleri marjinalleşebilir ve entelektüel çeşitlilik, YZ tarafından üretilen “tarafsızlık” yanılsaması altında daralabilir.
Ancak oyun bundan daha büyük yeğenler. Çok daha büyük. Bir araç bilişsel sistemimizin bir parçası haline geldiğinde, bu aracı kontrol eden kişi nasıl düşündüğümüz üzerinde muazzam bir etki kazanır. Eğer YZ şirketleri belirli perspektifleri vurgulamak ya da diğerlerini bastırmak için modelleri değiştirirse, genişletilmiş zihinlerimiz biz farkına varmadan manipüle edilebilir. Aşırı durumlarda, YZ bağımlılığı “bilişsel kırılganlığa” yol açabilir. Diğer bir deyişle, YZ’ye erişim kısıtlanır veya manipüle edilirse, kendimizi bağımsız düşünürler olarak işlev göremez halde bulabiliriz. “Aşılar bizi kısırlaştırmadı, ama YZ korkarım zihnimizi kısırlaştırma potansiyeli taşıyor yeğen.”
Peki bu YZ’ye düşman olmamız gerektiği anlamına mı geliyor? Cevabım hayır. Mesajım kesinlikle bu değil. Mesajım, algoritmik çıktıların sadece tüketicisi olmak yerine kendi düşüncelerimizin üreticisi olarak kalmamızı sağlamamız gerektiği, bunun bilincinde olmamız gerektiğidir. Zira bilişimizin çok büyük bir kısmını YZ’ye teslim edersek, daha az otantik, daha az yetenekli ve ideolojik olarak daha homojen hale gelme riskiyle karşı karşıya kalırız. Bana yetki verilse YZ’lerin üstüne “Sorumlu Tüketin” ibaresi düşerdim. Yapay Zekâ kullanışlı ve yararlıdır, ama siz siz olun yine de otantik kalın, zihninize yapay zekâ taktırmayın.