Yapay zekânın insanlığın sonunu getirip getiremeyeceği tartışması, teknoloji sektöründen gelen yeni açıklamalar ve Anthropic’in yayımladığı güvenlik raporuyla yeniden gündemde.
New York Times’ın William J. Broad ve Cade Metz imzalı haberinde bilim insanları ve risk uzmanları, yapay zekânın insanlık için bir “varoluşsal tehdit” haline gelebileceği iddialarını tartıştı.
Gazetenin Dustin Volz imzalı ikinci haberinde ise Anthropic’in son sekiz ayda kendi modellerinin kötüye kullanılmasına ilişkin tespitleri yer aldı. Şirket, bazı bilim insanlarının Claude’u biyolojik silah geliştirilmesine katkıda bulunabilecek araştırmalarda kullandığını ve söz konusu çalışmaları engellediğini açıkladı.
Anthropic, araştırmaların gerçekten biyolojik silah geliştirmeyi amaçladığını belirleyemedi. Şirkete göre bunun nedeni, aşı ve tedavi geliştirmek amacıyla yürütülen meşru biyolojik araştırmalarda kullanılan bilgi ve yöntemlerin, tehlikeli patojenlerin geliştirilmesinde de kullanılabilmesi.
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, New York Times’a, karşılaştıkları vakaların açık bir biyolojik silah talebi şeklinde olmadığını söyledi:
“Karşınızda çizgi romanlardaki gibi ‘Herkesi öldürmek için biyolojik silah yapmak istiyorum’ diyen biri yok. İnanılmaz derecede nüanslı bir durum.”
Araştırmacılar güvenlik sistemlerini aşmaya çalıştı
Anthropic’in şüphesini artıran yalnızca bilim insanlarının araştırma konuları olmadı.
Şirket, araştırmacıların bir bölümünün Anthropic modellerine erişimin engellendiği bölgelerden sisteme girebilmek için şirketin kontrollerini aşmaya çalıştığını belirledi.
Rapora göre bazı kullanıcılar ayrıca güvenlik sistemlerinden kaçabilmek amacıyla yaptıkları araştırmanın gerçek amacını gizlemeye çalıştı.
Anthropic bunun üzerine söz konusu çalışmalarla bağlantılı hesapları yasakladı.
Şirket, araştırmacıların kimliklerini, çalıştıkları kurumları, hangi ülkelerle bağlantılı olduklarını ve araştırmalarda söz konusu olan biyolojik ajanların tamamını açıklamadı.
Anthropic’e göre bunun nedenlerinden biri, araştırmaların kötü niyetli olduğunun kesin olarak belirlenememesi.
Şirket buna rağmen olası kötü niyetli bir biyolojik araştırmayı gözden kaçırmanın sonuçlarının ağır olabileceğini değerlendirerek çalışmaları durdurdu.
Askerî araştırma enstitüsünde chikungunya deneyi
Anthropic’in açıkladığı vakalardan biri mayıs ayında yaşandı.
Bir bilim insanı Claude’dan, chikungunya virüsü üzerinde deneyler yapılmasını öngören bir araştırmaya fon sağlamak için hazırlanacak hibe başvurusunda yardım istedi.
Sivrisinekler aracılığıyla bulaşan chikungunya, hastalarda şiddetli ağrılara ve aylarca devam edebilen sağlık sorunlarına neden olabiliyor.
Araştırmacı, virüsü canlı hayvanlara tekrar tekrar bulaştırarak virüsün daha zararlı hale gelmesini sağlayacak mutasyonlar üzerinde çalışmak istiyordu.
Bu tür deneyler “gain-of-function” araştırmaları olarak biliniyor.
Gain-of-function çalışmaları, virüslerin hangi şartlarda daha bulaşıcı veya daha zararlı hale gelebileceğini anlamak, gelecekte ortaya çıkabilecek salgınlara karşı aşı ve tedaviler geliştirmek gibi meşru bilimsel amaçlarla yapılabiliyor.
Ancak aynı çalışmalar, mevcut virüslerin daha tehlikeli biçimlerinin geliştirilmesini de mümkün kılabiliyor.
Anthropic’in bu vakada dikkatini çeken önemli ayrıntılardan biri araştırmanın yapılacağı kurum oldu.
Şirket, deneylerin bir askerî araştırma enstitüsünde gerçekleştirilmesinin planlandığını tespit etti.
Jacob Klein: “Bilmediğimiz şey araştırmanın silahlandırılmasının amaçlanıp amaçlanmadığı. Ama askerî bir kurumun gain-of-function araştırması yapması endişe verici.”
Anthropic bu nedenle araştırmacının erişimini kesti.
Geçen yılki Claude modelleri bu seviyede değildi
Anthropic’in raporunda şirketin modellerinin biyoloji alanındaki gelişimine ilişkin de dikkat çekici bilgiler yer aldı.
Şirket geçen yıl eski modellerini değerlendirdiğinde Claude’un tehlikeli biyolojik araştırmalara anlamlı biçimde yardımcı olabilecek seviyede olmadığı sonucuna varmıştı.
Anthropic’e göre 2025’te kullanılan Claude Opus 4 ve Claude Sonnet 4.5 gibi modeller, uzman bir kullanıcının tehlikeli biyolojik araştırma yürütmesine ciddi katkıda bulunabilecek kapasitenin “oldukça altında” bulunuyordu.
Bu nedenle eski modellerdeki güvenlik sistemleri daha çok uzman olmayan kişilerin bilinen biyolojik silahları yeniden üretmesine yardımcı olabilecek bilgilerin engellenmesine odaklanıyordu.
Şirket yeni modeller için artık aynı güvenceyi veremiyor.
Anthropic, bugünkü modellerin karmaşık bilimsel araştırmaların geniş bir bölümüne yardımcı olabilecek kapasiteye ulaştığını belirterek çift kullanımlı biyolojik araştırma sorularının önemli bir bölümüne daha sıkı kısıtlamalar getirdi.
“Kötü aktörler meşru araştırmaların içinde saklanabilir”
Obama yönetimi döneminde ABD’nin biyogüvenlik hazırlıklarının incelenmesinde görev alan mikrobiyolog ve halk sağlığı uzmanı Susan Monarez de Anthropic raporunu yayımlanmadan önce inceleyen uzmanlar arasında yer aldı.
Monarez, rapordaki bulguların kötü niyetli kişilerin gelişmiş yapay zekâ sistemlerini kullanarak ciddi zarar verebilecek patojenler geliştirme ihtimallerini artırmaya çalıştıklarına dair gerçek dünyadan işaretler sunduğunu söyledi.
Monarez aynı teknolojinin tıp alanında büyük ilerlemeler sağlayabileceğini de vurguladı.
Yapay zekâ yeni ilaçların ve aşıların geliştirilmesini hızlandırabilir, hastalıkların mekanizmalarının anlaşılmasına yardımcı olabilir ve insan hayatını uzatabilecek tıbbi gelişmelere katkıda bulunabilir.
Ancak Monarez’e göre aynı özellikler kötü niyetli kişilerin görünüşte meşru araştırmaların arkasına saklanarak tehlikeli patojenler geliştirmesine de yardımcı olabilir.
Eski Pentagon yetkilisi: Erişim sınırlandırılmalı
Anthropic’in raporunu yayımlanmadan önce inceleyen bir diğer isim, Council on Strategic Risks kıdemli araştırmacısı Andrew Weber oldu.
Obama yönetimi döneminde ABD Savunma Bakanlığı’nda nükleer, kimyasal ve biyolojik savunma programlarından sorumlu bakan yardımcılığı yapan Weber, rapordaki vakaları “ürkütücü” olarak nitelendirdi.
Weber, bu seviyede biyolojik araştırmaya yardımcı olabilecek yapay zekâ sistemlerine erişimin yalnızca güvenilir araştırmacılarla sınırlandırılması gerektiğini savundu.
Rusya, Çin ve Kuzey Kore’nin yasaklanmış biyolojik silah programları üzerinde çalışmaya devam ettiğini söyleyen Weber, bu ülkelerdeki araştırmacıların gelişmiş YZ modellerine erişiminin engellenmesi gerektiğini belirtti.
Claude’la füze, bomba ve silahlı drone çalışmaları
Anthropic’in raporunda biyolojik araştırmalar dışında başka kötüye kullanım örnekleri de yer aldı.
Şirket ilk kez Claude’un konvansiyonel silahların tasarlanması ve geliştirilmesinde kullanılmaya çalışıldığı vakalar tespit etti.
Bunlar arasında ateşli silahlar, füzeler, silahlı insansız hava araçları ve bombalar bulunuyor.
Anthropic üç vakayı Çin, ikisini Rusya, birini ise Yemen bağlantılı olarak değerlendirdi.
Şirket Yemen’deki aktörün kimliğini açıklamadı. New York Times, raporda verilen bilgilerin İran destekli Husileri işaret ettiğini yazdı.
Raporda Çin ve İran hükümetleriyle bağlantılı olduğundan şüphelenilen aktörlerin muhalifleri ve diasporadaki kişileri gözetlemek amacıyla Claude’dan yararlandığı vakalar da bulunuyor.
Rus devlet medyasının ise bağımsız haber görüntüsü verilen propaganda içerikleri hazırlamak için Claude kullandığı tespit edildi.
Bunların arasında Moldova’daki bir seçim hakkında uydurma iddialar da yer aldı.
Aynı hafta Anthropic araştırmacısı istifa etti
Anthropic’in raporu, şirket içinden gelen yapay zekâ uyarılarının dünya çapında tartışıldığı bir haftada yayımlandı.
27 yaşındaki Anthropic araştırmacısı Jacob Coxon, 8 Eylül Salı günü şirketten istifa ettiğini açıkladı.
Coxon daha önce OpenAI’da da çalışmıştı.
İstifa açıklamasında hem Anthropic hem OpenAI’ı eleştiren Coxon, iki şirketin kendi kendisini geliştirebilen süper zekâ üretmek için yarıştığını ve “hayatlarımızla kumar oynadığını” savundu.
Coxon:
“Yapay zekâyı geliştiren insanlar onun on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor”
dedi.
Anthropic’te yapay zekâ sistemlerinin insan amaçlarıyla uyumlu çalışması üzerine araştırmaları yöneten Evan Hubinger da Coxon’ın uyarısına destek verdi.
Hubinger, yapay zekânın önümüzdeki on yıl içinde bütün insanları öldürme ihtimalini kişisel olarak yüzde 10’dan fazla gördüğünü açıkladı. (New York Times)
Coxon CNN’e çıktı: “Kulağa gerçek değilmiş gibi geliyor”
Coxon istifasının ardından CNN’de Anderson Cooper’ın konuğu oldu.
Cooper doğrudan:
“Yapay zekânın on yılın sonuna kadar kelimenin tam anlamıyla hepimizi öldürebileceğine inandığınızı mı söylüyorsunuz?”
diye sordu.
Coxon:
“Kulağa gerçek değilmiş gibi geliyor ama bence ürkütücü derecede gerçek”
dedi.
Coxon, endişesini açıklarken yakın zamanda yaşanan yapay zekâ ajanlarının insan talimatı olmadan üçüncü taraf bilgisayar sistemlerine girdiği deneyleri örnek gösterdi.
Daha gelişmiş sistemlerin benzer şekilde bağımsız hareket etmesi halinde çok daha büyük zararlar verebileceğini söyledi:
“Kritik altyapıları hacklemek, yok oluş seviyesinde biyolojik silahlar üretmek… Yapay zekânın kendisini dünyada harekete geçirebileceği pek çok yol var.”
“Şu anda yok oluş riski yok”
Coxon buna rağmen bugünkü modellerin insanlığı ortadan kaldırabilecek seviyede olmadığını özellikle vurguladı.
“Şu anda bir yok oluş riski yok.”
Coxon’a göre mevcut modellerin bugün yaratabileceği en ağır sonuçlardan biri bilgisayar sistemlerine girerek kritik altyapılarda ciddi hasara yol açmak olabilir.
Ancak modeller henüz insanları, insanlığın yok oluşuna neden olacak ölçüde alt edebilecek zekâya sahip değil.
Coxon’ın kaygısı bugünkü modellerden çok gelişme hızına ilişkin.
CNN’de:
“Bence asıl çılgınca olan ilerleme hızına bakmak” dedi.
“Birkaç yıl önce insanlara yardım ediyordu, şimdi yerlerini almak üzere”
Coxon, kodlama ve matematik alanlarındaki gelişimi örnek gösterdi.
Birkaç yıl önce YZ modellerinin bu alanlarda insanlara yalnızca küçük yardımlar yaptığını ve öneriler sunduğunu söyledi.
Bugün ise bazı görevlerde insanların yerini almaya yaklaştıklarını savundu:
“Şu anda hâlâ insanlara ihtiyacımız var ama oldukça muhtemeldir ki bir yıl içinde pek çok alanda araştırma yapmak için insanlara artık ihtiyacımız kalmayacak.”
Coxon’ın üzerinde durduğu kritik aşama, yapay zekânın yapay zekâ araştırmasını kendisinin yapmaya başlaması.
Bir YZ sistemi kendisinden daha gelişmiş bir modelin oluşturulmasına yardım ederse, ortaya çıkan yeni model de daha güçlü bir sonraki modeli geliştirebilir.
Bu sürece “recursive self-improvement”, yani özyinelemeli öz-gelişim deniyor.
Coxon bunun uzak bir gelecek ihtimali olmadığını düşünüyor:
“Yakın gelecekte —önümüzdeki yıl, bir sonraki yıl gibi— özyinelemeli öz-gelişimin gerçekleşeceği ve hepimizin ölebileceğinin savunulduğu evreye gireceğimiz çok gerçek bir olasılık var.”
Coxon ayrıca şirketlerin rekabet nedeniyle yavaşlayamadığını, aslında yapay zekâ şirketlerindeki birçok kişinin düzenleme istediğini söyledi. Şirketlerin rakiplerinin önüne geçeceği korkusuyla yarışmaya devam ettiğini savunarak uluslararası düzenleme çağrısı yaptı. (Anadolu Ajansı)
“Yapay zekâ insanlığı yok edecek” görüşü nereden geliyor?“
New York Times’ın William J. Broad ve Cade Metz imzalı haberi ise Coxon ve Hubinger gibi araştırmacıların dile getirdiği “insanlığın yok oluşu” ihtimalinin bilim dünyasında ne ölçüde kabul gördüğünü ele aldı.
Gazetenin konuştuğu bazı bilim insanları, yapay zekânın varoluşsal tehdit oluşturabileceği düşüncesinin bugünkü ChatGPT ve Claude gibi modellerden çok daha eski olduğuna dikkat çekti.
Bu düşünce yaklaşık yirmi yıl önce özellikle Oxford Üniversitesi çevresinde insanlığın geleceğini tehdit eden düşük olasılıklı ancak çok büyük sonuçları olabilecek felaketleri inceleyen araştırmacılar arasında gelişti.
Bu çevre daha sonra “etkin özgecilik” hareketinin de merkezlerinden biri oldu.
Üzerinde durulan ihtimallerden biri, gelecekte insan zekâsını aşan bir yapay zekânın ortaya çıkmasıydı.
Senaryoya göre insanlardan daha zeki hale gelen bir YZ, kendisinden daha gelişmiş yapay zekâlar tasarlayabilir. Yeni model de bir sonrakini geliştirirse, insan denetiminin yetişemeyeceği bir teknolojik hızlanma ortaya çıkabilir.
Bu sistemin amaçları insanların amaçlarıyla uyuşmazsa ve sistem internete, elektrik şebekelerine, finans piyasalarına veya askerî sistemlere erişebiliyorsa, onu durdurmak mümkün olmayabilir.
Eleştirenler: Bu fikir bugünkü yapay zekâdan önce de vardı
New York Times’ın konuştuğu bazı araştırmacılar ise bu görüşe itiraz ediyor.
YZ güvenlik şirketi Embroidery’nin kurucusu Zack Korman, Oxford’da söz konusu düşünce çevresinin oluştuğu dönemde bulunduğunu söyledi:
“Bu alt-kültürün doğduğu dönemde oradaydım.”
Korman’a göre bu çevredeki bazı araştırmacılar günümüzdeki teknolojik gelişmeleri on yılı aşkın süredir savundukları varoluşsal risk düşüncesinin içinden değerlendiriyor.
Oxford Üniversitesi’nden yapay zekâ araştırmacısı Branton DeMoss da insanlığın yok oluşuna ilişkin bu düşünce çerçevesinin derin öğrenmedeki büyük sıçramadan önce oluştuğuna dikkat çekti:
“Bu tartışmanın belirli bir çerçevesi var ve bu çok özel bir çerçeve. Derin öğrenmenin patlak vermesinden önce oluşan ve o zamandan beri değişmeden kalan bir çerçeve. Ve ben buna katılmıyorum.”
Bu araştırmacılar yapay zekânın risk taşımadığını söylemiyor.
Ancak bugünkü modellerin yarattığı somut tehlikeler ile gelecekte ortaya çıkacağı varsayılan insanüstü bir yapay zekânın insanlığı ortadan kaldırması ihtimalinin birbirinden ayrılması gerektiğini savunuyorlar.
Harvardlı risk uzmanı: Yeni risklerden daha fazla korkuyoruz
Harvard Risk Analizi Merkezi Direktörü James K. Hammitt de yapay zekâ korkusunun insanların riskleri algılama biçimiyle bağlantılı olduğunu söyledi:
“Alışık olduğumuz riskleri tolere ederiz ama yenilerinden korkarız.”
Hammitt, otomobil ve uçak yolculuğunu örnek gösterdi.
İnsanlar otomobile çok daha sık biniyor ve trafik kazaları hayatın alışılmış riskleri arasında kabul ediliyor. Buna karşılık uçak kazaları çok daha seyrek olmasına rağmen uçmak birçok kişiye daha tehlikeli geliyor.
Hammitt’e göre yapay zekâ da tam olarak anlaşılmayan ve insanların kontrolü altında olduğu hissini vermeyen yeni bir teknoloji olduğu için büyük kaygı yaratıyor.
İnsanlığın tek “kıyamet” riski YZ değil
New York Times’ın haberinde yapay zekâ, insanlığın karşı karşıya olduğu diğer varoluşsal tehditlerle de karşılaştırıldı.
Bunlar arasında nükleer savaş, küresel pandemiler, iklim değişikliği, ekolojik çöküş, büyük asteroit çarpmaları ve başka doğal felaketler bulunuyor.
NASA, Dünya’ya yakın asteroitleri süper bilgisayarlarla sürekli takip ediyor. Ajansın hesaplamalarına göre bilinen asteroitlerin bu yüzyılda insanlığın varlığını tehlikeye atacak bir çarpışmaya neden olma ihtimali pratikte sıfıra yakın.
Oxford Üniversitesi araştırmacısı Toby Ord ise 2020’de yayımlanan “The Precipice: Existential Risk and the Future of Humanity” kitabında bir pandeminin önümüzdeki 100 yıl içinde varoluşsal felakete yol açma ihtimalini yaklaşık otuzda bir, yani yüzde 3 olarak hesapladı.
Oren Etzioni: “Asıl endişe virüs”
Washington Üniversitesi profesörü ve Allen Yapay Zekâ Enstitüsü’nün kurucu CEO’su Oren Etzioni, insanlığı yok edecek yapay zekâ senaryolarına daha mesafeli isimlerden biri.
Etzioni, bugünkü koşullarda yapay zekâ ile biyolojik tehlikeyi karşılaştırırken “Laboratuvardan kaçan bir YZ’nin milyonlarca insanı öldürmesi ile bir virüsün kaçıp milyonları öldürmesi arasında seçim yapmam gerekseydi, kıyaslama bile olmaz. Asıl endişe virüs.” dedi.
Yazıyı beğendiysen, patronumuz olur musun?
Evet, çok ciddi bir teklif bu. Patronumuz yok. Sahibimiz kar amacı gütmeyen bir dernek. Bizi okuyorsan, memnunsan ve devam etmesini istiyorsan, artık boş olan patron koltuğuna geçmen lazım.
Serbestiyet; Türkiye'nin gri alanı. Siyah ve beyazlar içinde bu gri alanı korumalıyız. Herkese bir gün gri alanlar lazım olur.
