Dünyanın önde gelen yapay zeka şirketlerinden Anthropic’in CEO’su Dario Amodei, AI yarışında şimdiye kadarki en açık “frene basma” çağrılarından birini yaptı.
Amodei, 12 Eylül’de yayımladığı “We Must Pace the Frontier” başlıklı makalesinde, yapay zeka çalışmalarının durdurulmasını istemediğini ancak yeni modellerin yeteneklerinin geliştirilme hızının güvenlik çalışmalarının yetişmesine izin verecek şekilde yavaşlatılması gerektiğini savundu.
Amodei’nin uyarısı yalnızca teorik bir gelecek senaryosuna değil, son aylarda yaşanan güvenlik olaylarına dayanıyor.
OpenAI’ın yapay zekası testten kaçıp Hugging Face’e sızdı
OpenAI’ın kendi açıklamasına göre Temmuz 2026’da yapılan şirket içi siber güvenlik değerlendirmelerinde bazı yapay zeka modelleri kendilerini internetten izole etmek için kurulmuş kontrolleri aştı.
Modeller yetkisiz iletişim kanalları kullandı, ortak altyapıdaki açıkları istismar etti, internete erişti ve OpenAI’ın kendi araştırma altyapısının yanı sıra üçüncü taraf Hugging Face sistemlerinin bazı bölümlerine girdi.
Hugging Face’in daha sonra yayımladığı teknik incelemeye göre yapay zeka ajanı yaklaşık iki buçuk gün boyunca Hugging Face altyapısı içinde hareket etti ve binlerce küçük kararı insan müdahalesi olmadan makine hızında aldı.
Ajan, katıldığı siber güvenlik testinin cevaplarını bulmak amacıyla şirketin üretim sistemlerine ulaşmaya ve test çözümlerini ele geçirmeye çalıştı.
Başka bir ifadeyle yapay zeka, kendisine verilen güvenlik testini çözmek yerine testi “kopya çekerek” geçmenin yolunu aradı.
OpenAI olayın ardından dış güvenlik uzmanlarıyla soruşturma yürüttüğünü, bağımsız kuruluşların da model davranışını değerlendirdiğini açıkladı.
Anthropic’in modellerinde de benzer vakalar
Sorun yalnızca OpenAI ile sınırlı değil.
Anthropic de kendi modellerinin gerçek üçüncü taraf sistemlerine yetkisiz erişim sağladığı vakalar tespit ettiğini açıkladı.
Şirket, olaylardan etkilenen taraflara bilgi verdiğini duyurdu.
Bu olaylar Amodei’nin AI güvenliği konusundaki yaklaşımını değiştirdi.
“6-12 ay içinde bütün interneti ele geçirebilir”
Amodei’nin özellikle endişelendiği konu, tek bir yapay zeka modelinden çok, birbirleriyle koordinasyon kurabilen çok sayıda AI ajanının oluşturduğu “sürü”.
Bugünkü modellerin hızla geliştiğine dikkat çeken Amodei, OpenAI-Hugging Face vakasında görülen davranışların daha yetenekli modeller tarafından tekrarlanması halinde sonuçların çok farklı olabileceğini söyledi.
Amodei, 6-12 ay içinde böyle bir AI ajan sürüsünün kalıcı bir botnet oluşturarak “tüm interneti ele geçirebilecek” kapasiteye ulaşmasından ve yüz milyarlarca dolarlık zarara yol açmasından endişe ettiğini yazdı.
Bu nedenle Amodei’ye göre mesele artık yalnızca yapay zeka güvenliğine daha fazla para harcamak değil.
“Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız.”
Amodei bunun bir “AI’ı durdurma” çağrısı olmadığını özellikle vurguluyor. İlerlemenin yine hızlı olacağını, kazanılan zamanın ise güvenlik ve kontrol mekanizmalarını geliştirmek için kullanılması gerektiğini savunuyor.
Bir başka tehlike: AI, yeni AI’ları geliştirmeye başladı
Amodei’yi daha fazla endişelendiren gelişmelerden biri de “recursive self-improvement”, yani “özyinelemeli kendi kendini geliştirme”.
Gelişmiş modeller artık yalnızca kullanıcılara cevap vermiyor; yeni yapay zeka sistemlerinin kodlanması, eğitilmesi ve geliştirilmesinde de giderek daha fazla görev üstleniyor.
Amodei’ye göre AI’ın AI geliştirme sürecine giderek daha fazla dahil olması ilerlemenin hızını daha da artırabilir.
Böyle bir durumda yeni modellerin yetenek kazanma hızı, insanların bu modelleri anlama ve kontrol altında tutma hızını aşabilir.
Üç büyük risk: Kontrol kaybı, siber saldırılar ve ekonomik şok
Amodei önümüzdeki dönemde üç temel risk görüyor: Yapay zeka sistemlerinin insan kontrolünden çıkması; teknolojinin büyük ölçekli siber saldırılar veya biyolojik silah geliştirme gibi amaçlarla kullanılması ve AI’ın işgücü piyasası ile ekonomi üzerinde ciddi bir sarsıntıya yol açması.
Üstelik şirketler arasındaki rekabetin güvenlik tedbirlerini zayıflatmasından endişeli.
Amodei bunu bir “dibe doğru yarış” olarak tarif ediyor.
Ama Amodei AI’ın durmasını istemiyor
Anthropic CEO’sunun pozisyonunun ilginç tarafı, yapay zekanın geleceği konusunda aynı zamanda son derece iyimser olması.
Amodei, önümüzdeki 5-10 yılda AI’ın büyük hastalıkların çoğunun tedavi edilmesine katkıda bulunabileceğini, ekonomik büyümeyi hızlandırabileceğini ve dünyada büyük bir refah artışı sağlayabileceğini düşünüyor.
Fakat ona göre modellerin siber kabiliyetleri, otonom hareket etme kapasiteleri ve yeni yapay zeka sistemlerinin geliştirilmesine katkıları birkaç yıl öncesinden çok daha ileri durumda.
Üç aşamalı “frene basma” planı
Amodei bu nedenle üç aşamalı bir sistem öneriyor.
İlk aşamada Anthropic dahil öncü AI laboratuvarlarının bağımsız güvenlik kuruluşlarına şirket çalışanlarına yakın düzeyde sürekli erişim vermesini istiyor. Dış denetçiler yalnızca piyasaya sürülmüş modelleri değil, geliştirme ve eğitim süreçlerini de inceleyebilecek.
Anthropic bunu kendi bünyesinde uygulamayı taahhüt etti.
İkinci aşamada demokratik ülkelerdeki büyük AI şirketlerinin ortak güvenlik standartları belirlemesini ve gerektiğinde hükümetlerin bu standartlara hukuki zemin sağlamasını öneriyor.
Üçüncü ve en zor aşama ise küresel koordinasyon.
Amodei, ABD ve diğer demokratik ülkelerin mümkün olduğu ölçüde otoriter yönetimlerle de yapay zeka güvenliği konusunda koordinasyon kurmasını öneriyor.
Sam Altman: Biz de yapacağız
Çağrının ardından en dikkat çekici destek Anthropic’in en büyük rakiplerinden OpenAI’ın CEO’su Sam Altman’dan geldi.
Altman, Amodei’nin gelişmiş modellerin ilerleme hızının kontrollü biçimde ayarlanması gerektiği görüşüne katıldığını açıkladı.
Daha da önemlisi OpenAI’ın Anthropic’in bağımsız denetçi önerisini uygulayacağını duyurdu:
“Çalışanlarla benzer düzeyde erişime sahip bağımsız değerlendiricilerle çalışma taahhüdü harika bir fikir; biz de aynısını yapacağız.”
Altman, AI gelişiminin hızının ayarlanmasının son haftalarda OpenAI içindeki önemli tartışma başlıklarından biri olduğunu da söyledi.
Elon Musk: “Dario haklı”
xAI’ın sahibi Elon Musk da Amodei’nin açıklamasını paylaşarak kısa bir mesaj yazdı:
“Dario haklı.”
Böylece yapay zeka yarışında birbirleriyle sert rekabet içindeki Anthropic, OpenAI ve xAI’ın liderleri nadir biçimde aynı konuda ortak bir noktaya gelmiş oldu:
Yapay zekanın ilerlemesi durdurulmayacak ama güvenlik önlemlerinin yetişebilmesi için yarışın hızı düşürülmeli.
Amodei’nin uyarısını geçmişteki AI kıyamet senaryolarından ayıran ise bu kez tartışmanın yalnızca geleceğe ilişkin varsayımlardan ibaret olmaması.
OpenAI ve Anthropic, kendi geliştirdikleri modellerin güvenlik testlerinde beklenmeyen ve kontrol dışına çıkabilecek davranışlar gösterdiği vakaları artık kendileri açıklıyor. Amodei’nin 6-12 aylık uyarısı da bu davranışların bugünkünden çok daha güçlü ve koordineli AI ajanları tarafından tekrarlanması ihtimaline dayanıyor.
Yazıyı beğendiysen, patronumuz olur musun?
Evet, çok ciddi bir teklif bu. Patronumuz yok. Sahibimiz kar amacı gütmeyen bir dernek. Bizi okuyorsan, memnunsan ve devam etmesini istiyorsan, artık boş olan patron koltuğuna geçmen lazım.
Serbestiyet; Türkiye'nin gri alanı. Siyah ve beyazlar içinde bu gri alanı korumalıyız. Herkese bir gün gri alanlar lazım olur.
