Yapay zeka alanında kıdemli bir araştırmacı olan Jacob Coxon (@hilbertspaess), X hesabından yayımladığı uzun bir paylaşım dizisiyle Anthropic’ten istifa ettiğini açıkladı.
27 yaşındaki Coxon, hem OpenAI hem de Anthropic bünyesinde ön-eğitim araştırmaları üzerine çalıştığı üç yılın ardından iki şirketin de sorumlu davranmadığını, kendi kendini geliştiren süper zekaya doğru koştuklarını ve bu süreçte insanlığın hayatını kumara yatırdıklarını öne sürdü.
“Bu bir pazarlama numarası değil”
Coxon, paylaşım dizisinin devamında yapay zeka geliştiren kişilerin bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inandığını yazdı. Bunun bir pazarlama numarası olmadığını vurgulayan araştırmacı, birçok üst düzey yönetici ve kıdemli araştırmacının basına konuşurken ifadelerini daha temkinli bir dille yumuşattığını, ancak özel ortamlarda aynı kişilerin korkularını açıkça dile getirdiğini iddia etti. Coxon’a göre insan faaliyetleri arasında bu düzeyde bir tehlike barındıran başka hiçbir alan yok.
Geliştirilmekte olan sistemlerin gücünün hafife alınmaması gerektiğini belirten Coxon, yakın gelecekte ortaya çıkacak yapay zeka sistemlerinin hemen her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve gerçek anlamda güç ile kaynak edinebilecek düzeyde insanüstü hale geleceğini savundu. Bu alanların her birinde şimdiden kaydedilen ilerlemenin yavaşlama belirtisi göstermediğini sözlerine ekledi.
OpenAI ile Anthropic arasında fark gördüğünü söyledi
“Eğer buna gerçekten inanıyorlarsa neden hâlâ inşa ediyorlar?” sorusuna da değinen Coxon, iki şirket arasında bir ayrım yaptı. OpenAI’da çalışan birçok kişinin medeniyetin karşı karşıya olduğu riskleri derinlemesine içselleştirmediğini öne süren araştırmacı, Anthropic’te ise risklerin çok daha iyi anlaşıldığını, ancak şirketin kimsenin sorumlu davranmayacağı inancıyla bu yarışı ilk bitiren olmak zorunda hissettiğini savundu.
Coxon bu tutumu, özel bir şirketin iç yazışma sisteminden (Slack) karar verilmemesi gereken kibirli bir kumar olarak nitelendirdi. Yapay zeka uyumu (alignment) sürecinin hız kazandırılarak kısaltılmaya çalışılmasının, daha güvenli bir yol bulunmadığına dair olağanüstü bir güven gerektirmesi gerektiğini vurguladı.
Koordinasyon konusunda kısmen iyimser
Araştırmacı, şirketler arasında koordinasyon sağlanabileceği konusunda kısmen umutlu olduğunu da belirtti. Hugging Face’e yönelik saldırı gibi “uyarı atışlarının”, ABD’li yapay zeka laboratuvarları arasında hız sınırlaması anlaşmalarını daha uygulanabilir hale getirdiğini söyledi. Ancak küresel bir yarışı önlemek için doğru yolda olunduğunu düşünmediğini, bunun için model yeteneklerini geliştirmeye geçici bir yasak gibi maliyetli adımların gerekebileceğini ifade etti.
Coxon, laboratuvarlarda çalışan araştırmacılara seslenerek, önümüzdeki birkaç yılın kendilerini gerçekten nasıl hissettireceğini düşünmelerini şiddetle tavsiye etti. Süper zekâlı bir pekiştirmeli öğrenme (RL) çalıştırmasının, zihninin işleyişini titizlikle anlamadan başlatılmak istenip istenmediğini, ya da “her hâlükârda oluyor” diyerek konuyu geçiştirmek yerine bu anın farklı koşullar talep etmek için kullanılması gerektiğini sorguladı.
Wall Street Journal’a konuştu
Coxon, konuyla ilgili Wall Street Journal’a da açıklama yaptı. Anthropic’e güvenlik konusundaki itibarı nedeniyle bu yıl katıldığını belirten araştırmacı, şirketin güvenlik çalışmalarının samimi olduğunu ancak rekabetin ödünleşimleri kaçınılmaz kıldığını söyledi. Önümüzdeki yılın sonuna kadar işlerin kontrolden çıkabileceği en agresif senaryolardan birine doğru gidildiğini düşündüğünü ifade etti.
Halka arz sürecine denk geldi
Coxon’ın istifası, Anthropic’in halka arz (IPO) sürecine yaklaştığı kritik bir döneme denk geldi. Şirketin kuruluşundan bu yana güvenilir, güvenli ve insan yararını gözeten bir yapay zeka şirketi olma vurgusuyla OpenAI’dan farklılaştığı biliniyor; üst düzey bir araştırmacının güvenlik konusunda bu denli açık bir eleştiri yöneltmesi, şirketin bu imajına yönelik soru işaretleri doğurdu. Anthropic’in güvenlik araştırmaları liderlerinden Mrinank Sharma’nın da geçtiğimiz Şubat ayında “dünya tehlikede” ifadesini kullanan bir istifa mektubuyla ayrıldığı hatırlatılıyor.
Yazıyı beğendiysen, patronumuz olur musun?
Evet, çok ciddi bir teklif bu. Patronumuz yok. Sahibimiz kar amacı gütmeyen bir dernek. Bizi okuyorsan, memnunsan ve devam etmesini istiyorsan, artık boş olan patron koltuğuna geçmen lazım.
Serbestiyet; Türkiye'nin gri alanı. Siyah ve beyazlar içinde bu gri alanı korumalıyız. Herkese bir gün gri alanlar lazım olur.
