ABD’nin Kaliforniya eyaletindeki Berkeley kentinde, eski bir otel bugün yapay zekâ çağının en sıra dışı merkezlerinden biri haline geldi. Lighthaven adı verilen bu kampüs, kendilerine “Rasyonalistler” diyen ve yapay zekânın insanlığın geleceğini belirleyeceğine inanan düşünce hareketinin fiili merkezi olarak görülüyor.
The New York Times’ın kapsamlı araştırmasına göre, matematikten genetiğe, felsefeden bilgisayar bilimine uzanan alanlardan insanların oluşturduğu bu topluluk, Silikon Vadisi’nde yapay zekâ sektörünü şekillendiren en etkili entelektüel akımlardan biri haline geldi. Hareketin önde gelen isimleri kendilerini dini bir topluluk olarak tanımlamasa da; ortak metinleri, düzenli ritüelleri, sembolleri ve adeta bir hac merkezi işlevi gören kampüsleri nedeniyle birçok akademisyen tarafından modern çağın yeni bir “seküler dini” olarak değerlendiriliyor.
Eski otelden “tapınağa
”Berkeley şehir merkezinde bir şehir bloğunun önemli bölümünü kaplayan Lighthaven, beş binadan ve gül bahçeleri, taş çeşmeler ile neoklasik heykellerin bulunduğu bir parktan oluşuyor.
Kompleksteki binaların isimleri de hareketin zihniyetini yansıtıyor. En üst kattaki Bayes House, adını olasılık teorisinin öncülerinden 18. yüzyıl filozofu Thomas Bayes’ten alıyor. Ana bina Aumann Hall, Nobel ödüllü İsrailli oyun teorisyeni Robert Aumann’ın adını taşıyor. “Eigenspace” adı verilen diğer bina ise doğrusal cebirdeki matematiksel bir kavramdan ismini alıyor.
Ana binada yedi yatak odası, konferans ve toplantı salonları bulunurken, diğer yapılarda spor salonları, ortak çalışma alanları ve yaklaşık 200 kişinin bir araya gelebildiği açık alanlar yer alıyor.
Topluluğun eski üyelerinden Alex K. Chen, burayı “tesadüflerin yaşanabileceği bir yer” diye tanımlıyor ve MIT Media Lab benzeri bir araştırma kampüsüne benzetiyor.
Yapay zekâ çağının “kutsal metni”
Rasyonalist hareketin temelini, internet filozofu Eliezer Yudkowsky oluşturuyor.
Yudkowsky’nin 2000’li yılların sonunda kaleme aldığı “The Sequences (Diziler)” adlı deneme dizisi, topluluğun temel metni haline geldi. Bu yazılar insan zihninin önyargılarını aşmayı, olasılık teorisi ve istatistik yardımıyla daha doğru düşünmeyi ve karar almayı öğretiyor.
Ancak zamanla bu metinler yalnızca bir düşünce rehberi olmaktan çıktı.
Lighthaven’da her salı akşamı saat 18.30’da insanlar bir araya gelerek “The Sequences” okumaları yapıyor ve metinleri tartışıyor. New York Times’ın görüştüğü kişiler bu toplantıları, dini toplulukların İncil okumalarına benzetiyor.
Villanova Üniversitesi’nden ilahiyat profesörü Rahibe Ilia Delio, “Din temelde bir metin, bir hikâye ve ritüellerden oluşur. Burada bunların hepsi mevcut” değerlendirmesinde bulunuyor.
OpenAI’den Anthropic’e uzanan etki
Rasyonalist hareket, ChatGPT’nin ortaya çıkmasından yıllar önce yapay zekânın insanlık için oluşturabileceği riskleri tartışıyordu.
Bugün yapay zekâ dünyasının en önemli isimlerinden bazıları bu düşünce okulundan etkilenmiş durumda.
Bunlar arasında: Google DeepMind’ın kurucu ortağı Shane Legg, Anthropic CEO’su Dario Amodei, Eski OpenAI araştırmacısı ve bugün ABD Yapay Zekâ Standartları ve İnovasyon Merkezi’nde çalışan Paul Christiano yer alıyor.
Elon Musk da topluluğun birçok fikrinin kendi görüşleriyle örtüştüğünü söylüyor.
Musk’ın, eski partneri Grimes ile tanışmasının bile Rasyonalist çevrelerde ünlü olan “Roko’nun Basiliski” isimli düşünce deneyine yaptıkları esprili göndermeyle başladığı anlatılıyor.
Bu düşünce deneyine göre gelecekte ortaya çıkacak süper zekâ bir yapay zekâ, kendisinin yaratılmasına yardım etmeyen herkesi cezalandırabilir.
Bununla birlikte birçok teknoloji yöneticisi kamuoyu önünde kendisini “Rasyonalist” olarak tanımlamaktan kaçınıyor; çünkü hareket zaman zaman alay konusu oldu ve çeşitli tartışmaların odağına yerleşti.
Etkin Fedakârlık hareketiyle iç içe
Rasyonalistler, Etkin Fedakârlık (Effective Altruism-EA) hareketiyle de büyük ölçüde örtüşüyor.
Etkin Fedakârlık savunucuları, yardım faaliyetlerinin mümkün olan en fazla insana fayda sağlamasını amaçlayan faydacı bir yaklaşımı benimsiyor. Ancak hareket zamanla yalnızca bugün yaşayan insanlara değil, gelecekte yaşayacak milyarlarca insana da odaklanmaya başladı.
Bu nedenle birçok EA savunucusu, insanlığa yapılacak en büyük iyiliğin yapay zekânın kontrolden çıkmasını önlemek olduğuna inanıyor.
İki hareket birlikte yapay zekâ güvenliği üzerine çalışan şirketlere, laboratuvarlara ve düşünce kuruluşlarına yüz milyonlarca dolarlık yatırım yapılmasını sağladı.
Başlıca finansörler arasında Skype’ın kurucularından Jaan Tallinn ile Facebook’un kurucu ortaklarından Dustin Moskovitz bulunuyor.
Antropolog Mollie Gleiberman, “İdeolojilerini yaymak, güçlendirmek ve doğrulamak için son derece iyi finanse edilen geniş bir ekosistem kurdular” diyor.
OpenAI krizinde de etkili oldular
2023 sonunda OpenAI CEO’su Sam Altman’ın kısa süreli görevden alınmasının arkasındaki yönetim kurulu üyelerinin önemli bölümünün de Rasyonalist ve Etkin Fedakârlık çevreleriyle bağlantılı olduğu belirtiliyor.
Bu isimler, Altman’ın yapay zekâyı güvenli biçimde geliştirme konusunda yeterince güvenilir olmadığı görüşünü savunuyordu.
Bir yaşam tarzına dönüştü
Rasyonalistlik yalnızca yapay zekâ üzerine bir düşünce sistemi değil, aynı zamanda kapsamlı bir yaşam biçimi sunuyor.
Topluluk üyeleri kariyer planlarından arkadaşlık ilişkilerine, çocuk yetiştirmeden yatırım kararlarına kadar birçok konuda ortak prensipleri benimsiyor.
Aynı zamanda çok eşlilik, zekânın genetik temelleri gibi tartışmalı konular da topluluk içinde uzun yıllardır konuşuluyor.
Yapay zekâ alanında kariyer yapmak isteyen genç araştırmacılar için Lighthaven’daki etkinlikler ise önemli bir ağ oluşturma merkezi haline gelmiş durumda.
McGill Üniversitesi ve Meta araştırmacısı Sonia Joseph, yaz aylarında düzenlenen Makine Öğrenimi Uyum ve Teori Bursiyerleri (MATS) programının, yapay zekâ güvenliği alanına girmek isteyenler için artık birçok üniversiteden daha önemli hale geldiğini söylüyor.
Harry Potter’dan DeepMind’a
Yudkowsky’nin etkisi yalnızca fikirleriyle sınırlı kalmadı.2010 yılında DeepMind’ın kurucularını yatırımcı Peter Thiel ile tanıştırarak şirketin kurulmasına katkıda bulundu. DeepMind, dört yıl sonra Google tarafından 650 milyon dolara satın alındı ve bugün Google’ın yapay zekâ çalışmalarının merkezini oluşturuyor.
Yudkowsky ayrıca Berkeley’de Yapay Zekâ Güvenliği Araştırma Enstitüsü’nü yönetti.
Hareket zamanla New York, Boston, İngiltere, Hollanda ve Avustralya’ya yayıldı.
Genç kuşak üzerinde ise Yudkowsky’nin yazdığı “Harry Potter and the Methods of Rationality” adlı roman büyük etki yarattı.
Bu alternatif evrende Harry Potter, büyüyü sorgusuz kabul etmek yerine bilimsel yöntem ve rasyonel düşünceyle açıklamaya çalışıyor.
Meta araştırmacısı Sonia Joseph de topluluğu 14 yaşında bu roman sayesinde keşfettiğini anlatıyor.
“Kansas’ta yaşayan ve kendisini dışlanmış hisseden eşcinsel bir gençseniz, bu kitabı okuyup gerçekten kabul edildiğiniz bir topluluk bulabiliyorsunuz” diyor.
Tartışmalar ve eleştiriler
Hareket yıllar içinde çeşitli eleştirilerin hedefi oldu.
Grup evlerinde cinsel taciz iddiaları, bazı üyelerin öjeni ve zekâ-genetik ilişkisine yönelik tartışmalı ilgileri kamuoyunda tepki çekti.
En büyük darbe ise Etkin Fedakârlık hareketinin en önemli bağışçılarından biri olan FTX kurucusu Sam Bankman-Fried’ın milyarlarca dolarlık dolandırıcılık nedeniyle mahkûm edilmesiyle geldi.
Bankman-Fried, müşterilerinin yaklaşık 8 milyar dolarını zimmetine geçirmekten suçlu bulundu.
Harvard Üniversitesi’nde görev yapan papaz ve “Tech Agnostic” kitabının yazarı Greg M. Epstein, bu hareketi “tarikatvari” özellikler taşımakla eleştiriyor.
Epstein’a göre bu tür hareketler insanların dikkatini bugünün sorunlarından uzaklaştırıp hayali bir geleceğe yöneltiyor.
Kış gündönümü ayini
Her aralık ayında yüzlerce Rasyonalist, Oakland’daki Chabot Planetaryumu veya Berkeley’deki Freight and Salvage konser salonunda bir araya gelerek Kış Gündönümü’nü kutluyor.
Şarkılar söyleniyor, hikâyeler anlatılıyor ve insanlığın geleceği üzerine konuşmalar yapılıyor.
Son kutlamalardan biri, insanlığın teknolojik ilerlemesini öven “Uplift” adlı şarkıyla başladı.
Gecenin sunucusu Ozy Brennan ise yapay zekâ, biyomühendislik ürünü salgınlar ve nükleer savaş gibi varoluşsal tehditlere dikkat çekerek şu uyarıyı yaptı:
“Eğer başarısız olursak – ki başarısız olma ihtimalimiz çok yüksek – çocukların yüzde 100’ü ve herkes ölecek.”
16,5 milyon dolarlık merkez
Lighthaven’ın bulunduğu bina 1905’te inşa edildi ve uzun yıllar Rose Garden Inn adlı bir otel olarak hizmet verdi.
Yaklaşık üç yıl önce ise LessWrong platformunu işleten Lightcone Infrastructure tarafından 16,5 milyon dolara satın alındı.
“Işık konisi” anlamına gelen Lightcone, fizikten alınan ve Rasyonalistlerin bugünden etkileyebilecekleri geleceği tanımlamak için kullandıkları bir kavram.
Satın alma finansmanında Jaan Tallinn ile daha sonra dolandırıcılıktan mahkûm edilen Sam Bankman-Fried’in fonlarının da kullanıldığı belirtiliyor. Bankman-Fried’in depozito olarak kullanılan parası ise daha sonra mahkeme sürecinin parçası olarak geri ödendi.
Bugün Lighthaven, yalnızca bir araştırma merkezi değil; yapay zekânın geleceğini şekillendiren fikirlerin üretildiği, yeni araştırmacıların yetiştirildiği ve Silikon Vadisi’nin en etkili entelektüel ağlarından birinin buluşma noktası olarak faaliyet gösteriyor.
Yazıyı beğendiysen, patronumuz olur musun?
Evet, çok ciddi bir teklif bu. Patronumuz yok. Sahibimiz kar amacı gütmeyen bir dernek. Bizi okuyorsan, memnunsan ve devam etmesini istiyorsan, artık boş olan patron koltuğuna geçmen lazım.
Serbestiyet; Türkiye'nin gri alanı. Siyah ve beyazlar içinde bu gri alanı korumalıyız. Herkese bir gün gri alanlar lazım olur.
