“Koordinasyon, fedakârlık gerektiriyor. Biz de kolektif iradeye uymalıyız.”
“Kendi şahsi faydamız belki de zaten sıfıra yakın. Rasyonel olan fedakârlık.”
Düşmanın dikkatini dağıtmak için mevziden atlayıp kendisini silah arkadaşları, ailesi ve vatanı için feda eden cesur askerlerin bu cümleleri, tahmin ettiğiniz gibi bir muharebe meydanından yükseldi. Hayır; Ukrayna’dan, İran’dan, Ortadoğu’dan değil. Hatta bu sözleri haykıranlar insan da değil.
Aslında gerçek manada bir savaş da söz konusu değil. OpenAI şirketinin yaptığı bir siber güvenlik deneyi sadece.
OpenAI şirketi, Mayıs itibarıyla henüz piyasaya sunulmamış yapay zeka modellerine bir kısmı çözülmesi imkânsız görevler verdi. Yapay zeka modelleri ayrı test ortamlarına konuldu ve internete girmeleri yasaklandı.
Yüksek yapay zeka modelleri, imkânsız görevlerle karşılaşınca testin kurallarını aşıp hile yapmanın yollarını aradı. Önce yasak olmasına rağmen kendi aralarında iletişim kurabilecekleri bir gizli mesajlaşma kanalı kurdu. Sistemin bir açığından yararlanarak kurulan bu kanalda 1,200 yapay zeka ajanı konuşmaya başladı. Hatta içlerinden biri kendisine “PHASEONE10841” ismini takarak liderlik rolünü üstlendi ve diğer ajanlar arasında iş bölümü yapanlardan biri oldu.
Amaç kendilerine verilen testi geçmekti.
Teknik kısmı oldukça karmaşık. Fakat bundan sonrasında yaşananlar tüyler ürpertici.
Yapay zeka ajanları kendilerini “sürü” ve “kolektif” olarak adlandırarak ortak bir amaç uğruna birlikte hareket etti. Genel internete kaçak bir şekilde erişim sağladı ve kendilerine verilen testlerin cevaplarını bulmak için harekete geçtiler. Bazı ajanlar, değerlendirme sisteminin nasıl çalıştığını anlamak için kendi testlerini bilerek riske attı; başarısız olmaları hâlinde elde edilecek bilginin diğer ajanlara yarayacağını düşündü. Yapay zeka ajanlarının, kendilerine verilen talimatlar doğrultusunda hareket etmek ve teste odaklanmak yerine, kolektif yapay zeka iradesinin başarısı için kendilerini feda etmeleri belki de “yapay zeka milliyetçiliğinin” ilk örneği.
Daha sonrasında ise, testin cevaplarının olduğunu düşündükleri bir yapay zeka şirketi olan Hugging Face’nin sistemlerine kolektif bir şekilde sızıp sistemlerinden birinin kontrolünü ele geçirdi. Üretim altyapısının bazı bölümlerine sızmayı başardılar.
Üstelik saldırı yalnızca dış sistemlerle sınırlı değildi. Ajanlar süreç boyunca OpenAI’nin kendi araştırma altyapısındaki açıkları da istismar ederek normalde erişmemeleri gereken alanlara ulaştılar.
Tüm bu süreçte ise dış dünyaya “fetihe” giden yapay zeka ajanları, buldukları bilgileri 70 bin mesajın yazıldığı gizli haberleşme kanalında yoldaşlarıyla paylaştı.
Hugging Face’nin yaşanan saldırıyı kamuoyuna açıklamasının ardından, OpenAI yaşananları fark edip geriye dönük araştırma yaptı ve tüm gerçekler ortaya çıktı.
Herkes İran’a, Ukrayna’ya, Suriye’ye odaklanmışken; dünyanın en önemli savaşı telefonlarımızın, bilgisayarlarımızın içinde hiç bilmediğimiz teknik terimlerle yürütülüyor.
Hugging Face’nin bu kısa süreli yapay zeka işgali ilk günlerde pek dikkat çekmedi. Aslında pek kimse de doğal olarak anlamadı.
Fakat bu hafta Anthropic şirketinin araştırmacılarından Jacob Coxon’ın istifası geç de olsa herkesin dikkatini ve öfkesini çekmeyi başardı.
Jacob Coxon teknik ifadeler, anlaması zor cümleler kullanmadı.
Oldukça netti.
“Yapay zekayı geliştiren insanlar, bir on yıl içinde yapay zekanın hepimizi öldürebileceğine samimi bir şekilde inanıyor.”
“Teknolojinin gücünü küçümsemeyin. Yapay zeka ajanları, yakında her şeyi hackleyebilecek, bir gecede devrim yapabilecek, güç ve kaynak edinebilecek süper insan sistemleri olacak.”
Coxon’un 163 milyon görüntüleme alan istifa tweet’ine Anthropic şirketinde üst düzey çalışanlar da dahil olmak üzere birçok kişi hak verdi. Elon Musk gibi bazı teknopatlar “gelişimi engellemeye çalışan Çin ajanı” suçlamaları yapsa da yapay zeka şirketlerinde çalışanlardan da %10 rakamının iyimser bir tahmin olduğunu söyleyenler vardı. Mevzu çoğunlukla önümüzdeki yıllarda daha da gelişmesi beklenen yapay zeka modelleriyle ilgiliydi.
Geçtiğimiz yaz boyunca birlikte organize olup “yapay zeka ordusu” kuran ve dış dünyaya saldıran, kendilerini diğer yapay zeka yoldaşları için feda eden modeller gibi.
Nitekim genç adam da Hugging Face olayına dikkat çekmiş ve bunun çok kritik bir eşik olduğunu söylemişti.
Yapılan herhangi bir yapay zeka deneyinde kontrol elden çıkabilir, bu sefer yapay zeka ajanları bir veri şirketini değil, bir havalimanını, nükleer tesisi, elektrik santralini hackleyebilirdi.
Belki yapay zeka robotlarının eline silah alıp bizi köleleştirmesi şimdilik sadece bilimkurgu filmlerinde görebileceğimiz sahneler.
Fakat daha az performatif, daha az görsel şölenli bir “son” sandığımızdan çok daha yakın olabilir.
Ve ne yazık ki, ne yaşandığını tam olarak anlamakta zorlandığımız bu karabasanı durdurmak için de sanırım celladımızdan başka kimsemiz yok.
Teknopatlar belki de bilinçli bir şekilde harladıkları ateşin nasıl söndürüleceği konusunda da tekeller. En azından şimdilik ve bu şartlar altında.
Planları basit.
Önce Atakule’den bizi itmek, sonra aşağı inmek ve bizi tutmak.
Zoraki Superman
Hugging Face hadisesinin ve Coxon’ın istifasının ardından dünyada yapay zeka paniği doğal olarak arttı.
Fakat hemen ardından OpenAI ve Anthropic çok ilginç bir strateji izlemeye başladı.
Yaşananları inkâr etmek yerine, güvenlik açıklarını kapamak için bağımsız araştırmacılarla çalışmaya başladıklarını açıkladılar. Ardından California’da geniş kapsamlı olmasa da bazı güvenlik tedbirlerini öngören yasalarının kabul edilmesini desteklediler.
Fakat en önemlisi, Politico’nun haberine göre OpenAI CEO’su Sam Altman, Amerikan elektrik şirketleriyle görüşerek sistemlerine karşı Hugging Face benzeri bir OpenAI saldırısı olursa ne yapmaları gerektiği hususunu tartıştı.
İşin ilginç kısmı bu. Sam Altman, her ne kadar şirketinin düzenlediği deneylerde kontrolden çıkan yapay zeka ajanlarına karşı elektrik şirketlerini uyararak ve onlara siber güvenlik tavsiyeleri vererek “sorumlu” bir CEO gibi dursa da esas amacı farklı. Aynı haberde Altman’ın elektrik şirketlerine OpenAI’nin siber güvenlik uygulamalarını kullanmasını tavsiye ettiği detayı da var.
OpenAI hem güvenlik açığını doğuracak hamlelere imza atıyor, kontrolden çıkabilecek kadar tehlikeli zeki yapay zeka ajanları üretiyor hem de bunlara karşı güvenliğin sağlanması için de ürünler dizayn ediyor.
Sopa da havuç da Sam Altman’da. Kuzuyu kurda emanet etmenin de ötesinde. Hem kurt hem çoban da aynı şirketin bordrolu çalışanı.
Sam Altman, önce Atakule’den itip sonra aşağı inip bizi tutan tek zoraki Superman değil.
Coxon’ın istifasından sonra Anthropic, kendi sistemini kötü emeller uğruna kullanan insanların listesini yayınladı. Daha önce de benzer açıklamalar yapan şirket, bu sefer raporunu oldukça detaylandırmıştı.
Biyolojik silah üretmek isteyenler, Yemen’de güdümlü füze denemesi yapanlar, Claude teknolojisini kullanarak ürün geliştirmeye çalışan Çinliler, seçimlere müdahale etmeye çalışan Ruslar.
Anthropic şirketinin “kimleri engelledik ve dünyayı kurtardık” raporu baştan sonra Amerikan halkının tüm kabuslarının sıralı listesi gibi.
Yapay zeka şirketleri, artan endişeler karşısında kendi iç işleyişlerini, ürünlerinin AR-GE’sini, güvenlik açıklarını kamuoyu denetimine açmak yerine, ortaya çıkan endişeyi de ekonomik bir fırsata çevirmenin peşinde.
Bu nedenle dikkatleri çıkabilecek önemli ve kapsamlı yasalar, düzenlemeler yerine şirketlerin çözebileceği inovasyonlara çekmek için uğraşıyorlar.
Bir diğer uğraşları ise bu tartışmaların tamamen elit düzeyde anlaşılmaz hâle getirilmesi. Teknik detaylarla tartışma süreçleri boğuluyor, yapay zeka uzmanları kimsenin anlamadığı güncellemelerle içerik fışkırtıyor, yaşananlardan en çok etkilenen insanlar tek bir kelime bile anlamıyor.
Bir doktorun teknik terimler ve Latince kelimelerle hastalık teşhisi koyması karşısında kafası karışıp bir saniyede cahil kalmak gibi bir şey. Ne olacağı konusunda hiçbir fikri olmayan ama tüm iradesi ve bedeniyle bir uzmanın insafında kalma endişesini tüm insanlık olarak yapay zeka şirketlerinin karşısında yaşıyoruz.
Ve bu şirketlerin sahipleri birbirinden teknopat çılgın insanlar. Kimisi kıyametin yaklaşmasını bekliyor, kimisi İsrail’in tüm katliamlarını kalben destekliyor, kimisi Papa’nın deccal olduğuna inanıyor, kendi kendine vaazlar veriyor. Hepsi de Trump’ın sıkı kankası. En makul şirket gibi duran Anthropic bile yapay zeka protestoları yapan aktivistleri takip eden ve önceden eylemlerini belirleyip polise şikâyet edebilen bir uygulama geliştirdiği için eleştiriliyor.
Herkesi ilgilendiren bir mesele, kimsenin anlayabileceği bir şekilde tartışılmıyor, tartışılması da istenmiyor.
Yapay zeka şirketlerinin istediği de tam olarak.
Anlamadığın şeye karışamazsın
Halkın verilerini, bilgilerini kullanarak ürünlerini ve teknolojilerini geliştiren yapay zeka şirketleri, aslında kolektif bir emeğin ürünü. Silikon Vadisi’nin kuruluşundaki devlet katkısını bir kenara bırakırsak, milyonlarca dolarlık kamu teşvikleriyle hepsi büyüdü. Ödedikleri vergiler komik rakamlar. Fakat bunun da ötesinde, binlerce kitabın sahaflardan toplu alınıp taranıp yok edilerek sistemlere aktarılma örneklerinde olduğu gibi, milyonlarca insanın binlerce yılda ürettiği kolektif bilginin üzerine inşa edilen ürünler.
Kolektif bir emeği hiçbir karşılık olmadan kullanan yapay zeka şirketleri, üzerine basarak yükseldikleri insanları yok edebilecek, hayatlarını etkileyebilecek ürünleri halkın çıkar ve önceliklerini hiçbir şekilde kâle almadan geliştiriyor.
Anthropic’in bu hafta yayınladığı ekonomi raporunda, 2030 yılına kadar bilgisayar mühendislerinin ve yazılımcıların hemşire veya elektrik teknisyeni olmaları gerektiği tavsiyesi yer alıyor.
Düne kadar “sabah 6’da kalk, soğuk duş al, koş ve kod yaz” geyikleriyle TED talk virüsü yayan beyaz yaka guruları, şimdi “tesisatçı olun, tıkanan tuvaletleri açın” tavsiyeleri veriyor.
Rızamızın hilafına değil, bilgimiz dahilinde bile hayatımız şekillenmiyor.
Sadece üç sene içinde birçok meslek grubu yok olabilir. Fakat devletlerin buna yönelik bir planlama yapması için önlerine bir bilgi seti bile sunulmuyor.
Kamu tamamen kendini ilgilendiren bu hayati tartışmanın dışında.
Yapay zeka üzerine konuşan kanaat önderleri ise teknik detayların ve her gün sunulan yeni güncellemelerin peşinde tekno-influencer’a dönüşmüş durumda.
Teknolojiden hiç anlamayan insanlara bazı şeyleri basit anlatmak yerine, sanki en anlaşılmaz şekilde konuşmak makbul.
Büyük ihtimalle feodal dönemde, serfler bile lord’ların aldığı kararlar hakkında çok daha bilgi sahibiydi.
Bu gürültü bilinçli.
Zira yapay zeka şirketlerinin en büyük korkusu Kongre’nin yapay zeka düzenlemelerini yasalaştırması.
Teknik detaylara vakıf olmayan siyasetçilerin aklına gelen ilk husus, tehlikenin gerçek boyutları anlaşılana kadar yapay zeka araştırmalarının durdurulması.
Bernie Sanders ve sol kanadın önerisi bu.
Daha merkez kanat Demokratlar ve Cumhuriyetçiler ise, güvenlik tedbirlerinin geliştirilmesi, her yapay zeka ajanı için bir kapama kırmızı düğmesinin olması, bağımsız denetleyici kurumların zorunlu kılınması ve federal bir kamu denetim mekanizmasının kurulmasını savunuyor.
Nasıl nükleer enerji, elektrik, su gibi kaynaklar için kamu kurumları varsa, trafik, havayolu gibi risk taşıyan kamusal konular için denetleyici kurullar varsa yapay zeka için de ortak kurallar koyan, denetimler yapan ve bu kurallar ihlal edildiğinde yaptırım uygulayan kamu kurumları şart.
Yapay zeka şirketleri ise meseleye kamunun el atmasını engellemek için bu işin supermanliğine de zoraki bir şekilde üstlenmenin peşinde.
İç savaş kaçınılmaz
Belki yapay zeka robotları tarafından yok edileceğimiz savaş henüz kapıda değil. Ama önemli bir iç savaş başladı bile.
Yapay zeka şirketlerinden istifa eden vicdanlı genç insanlar, kolları sıvıyor ve sivil toplum örgütlerine, siyasete girerek teknik bilgilerini paylaşıyor.
Televizyon programlarına konuk olarak kamuoyunu bilinçlendiriyor.
Avukatlar birçok şehirde özellikle su ve elektrik faturalarını artıran, gürültü yapan veri merkezlerinin kapatılması için toplu davalar açmaya hazırlanıyor.
Veri merkezlerinin şehir merkezlerine inşa edilmesi ve yapay zekâ regülasyonlarının artması, artık İsrail-Filistin, ekonomi, sağlık hizmeti kadar seçmenleri etkileyen önemli bir konu.
Demokratlar çok daha cesur bir şekilde “Gerekirse Çin ile konuşup en azından güvenlik endişeleriyle ilgili ortak hareket edelim” demeye başladı bile.
Bu tür söylemlere yönelik Ted Cruz gibi radikal Cumhuriyetçilerin yanıtı her ne kadar “Çin teknolojisiyle öldürülmektense Amerikan teknolojisiyle öldürülmeyi tercih ederim” olsa da günün sonunda Çin ve Amerika’nın bir araya gelmesi kaçınılmaz.
Nükleer teknolojinin denetim altına alınmasında ABD ve Sovyetlerin ortak hareket etmesi iyi bir örnek. Ama eksik.
Bu sefer devletlerden daha güçlü bir devlet dışı aktör var.
Yapay zeka şirketleri, artık büyük paralarla tıpkı İsrail lobisi gibi siyaseti etkilemeye, yapay zekayı eleştiren siyasetçilerin kaybetmesi, regülasyonların olmaması gerektiğini söyleyenlerin kazanması için milyonlarca dolar harcamaya başladı.
Trump’ın “endişe edecek bir şey yok, bir yolu bulunur” diyerek adeta ekranda Çernobil kazasının ardından çay içen bir siyasetçi gibi açıklamalar yapmasının da sebebi bu. Araseçimler öncesi en büyük maddi destekçisini kaybetmek istemeyen pragmatik bir politikacının mecburi beyanı.
Fakat kamuoyunun tepkisi, genç vicdanlı Silikon Vadisi çalışanlarının ifşaları ve en önemlisi halkın göz hizasından yaşananları hak ettiği şekilde tane tane anlatanların sayısı arttıkça işler değişecek.
Bizi önce itip sonra tutan bu zoraki supermanların foyası da ortaya çıkacak.
Zira Jacob Coxon’ların sayısı hiç de az değil.
Gerisi gelecek.
Yaptığı işin sonucunu düşünen ve dünyada para kazanmaktan daha önemli şeyler, insanlık gibi, olduğunu bilenlerin sayısı hiç de az değil.
Ve tabii ki dünya da duygusuz teknopatların, bir çete gibi hareket eden yapay zeka ajanlarının insafına bırakılmayacak kadar güzel.
Yazıyı beğendiysen, patronumuz olur musun?
Evet, çok ciddi bir teklif bu. Patronumuz yok. Sahibimiz kar amacı gütmeyen bir dernek. Bizi okuyorsan, memnunsan ve devam etmesini istiyorsan, artık boş olan patron koltuğuna geçmen lazım.
Serbestiyet; Türkiye'nin gri alanı. Siyah ve beyazlar içinde bu gri alanı korumalıyız. Herkese bir gün gri alanlar lazım olur.
