Anthropic CEO’su Dario Amodei’nin yapay zekâ teknolojisinin gelişiminin yavaşlatılması çağrısı, ABD ile Çin arasında yeni bir tartışmaya yol açtı.
Amodei, cumartesi günü yayımladığı makalede en gelişmiş yapay zekâ modellerinin kabiliyetlerinin artış hızının düşürülmesini ve güvenlik önlemlerinin geliştirilmesi için daha fazla zaman kazanılmasını istedi.
OpenAI CEO’su Sam Altman ve Elon Musk’ın da destek verdiği çağrının gerekçeleri arasında yapay zekânın kontrolden çıkması ve biyolojik silahların geliştirilmesini kolaylaştırması ihtimali bulunuyor.
Amodei, CBS News’e yaptığı açıklamada Çin’in de bu risklerle karşı karşıya olduğunu söyleyerek Washington ile Pekin arasında görüşmeler yapılmasını önerdi:
“Çinlilerle konuşmalı ve bu teknolojinin hızına bir hız sınırı koymak için birlikte çalışıp çalışamayacağımızı görmeliyiz.”
“ABD ve Sovyetler Birliği bile anlaşmıştı”
Kendisini Çin konusunda genel olarak “şahin” olarak tanımlayan Amodei, yapay zekâ konusunda iki ülkenin işbirliği yapabileceğini savunurken Soğuk Savaş dönemindeki nükleer silah görüşmelerini örnek gösterdi.
“ABD ve Sovyetler Birliği dönemini düşünün. Her birimiz birbirimize 10 bin nükleer füze doğrultmuştuk. Tüm farklılıklarımıza rağmen bunun fazla olduğunu kabul ettik ve potansiyel yıkımın ölçeğini düşürebilecek görüşmelere girmemiz gerektiğini fark ettik.”
Amodei, özellikle yapay zekânın biyolojik silah geliştirilmesinde kullanılmasının iki ülkenin ortak çıkarları doğrultusunda engellenebileceğini söyledi.
“Eğer ABD ve Çin, yapay zekâyı biyolojik silahlar geliştirmek için kullanmayacağımıza veya biyoteröristlerin biyolojik silahlar geliştirmek için kullanabileceği yapay zekâ modellerini yayımlamayacağımıza dair anlaşabilse, bu gerçekten çok değerli olurdu.”
Amodei, ABD ve Çin’in Biyolojik Silahlar Sözleşmesi’ne taraf olduğunu hatırlatarak sözleşmenin yapay zekâyı da kapsayacak şekilde genişletilebileceğini savundu.
Anthropic biyolojik risk vakaları tespit etmişti
Amodei’nin açıklamalarından iki gün önce Anthropic, yapay zekâ sistemlerinin kötüye kullanımına ilişkin yeni bir rapor yayımlamıştı.
Şirket, bazı kullanıcıların Claude’u virüslerin bulaşıcılığını artırabilecek çalışmalar için kullanmaya çalıştığı vakalar tespit edildiğini açıkladı.
Anthropic, beş biyolojik risk vakası belirlediğini ancak söz konusu kullanıcıların gerçekten biyolojik silah üretmeyi amaçladıklarının kanıtlanamadığını bildirdi.
Amodei, bu tür risklerin Çin’in de istemeyeceği sonuçlar doğuracağını savundu.
“Çin yavaşlamazsa ne olacak?”
Amodei’ye ABD’nin yapay zekâ gelişimini yavaşlatması ancak Çin’in aynı şeyi yapmaması durumunda ne olacağı da soruldu.
Anthropic CEO’su bunu önerisinin “en zor ikilemi” olarak nitelendirdi.
Amodei, bu riske karşı Çin’e gelişmiş yapay zekâ çiplerinin ihracatının daha sıkı şekilde sınırlandırılmasını ve Amerikan teknolojisinin Çinli şirketlere aktarılmasının önlenmesini istedi:
“Çipleri otoriter ülkelere satmazsak ve kendi güvenliğimizi daha fazla destekleyerek teknolojimizin çalınmasını önlersek, sahip olduğumuz marj içinde yavaşlayabiliriz. Bence bu bize en azından biraz zaman kazandırır.”
Amodei ayrıca Çinli yapay zekâ laboratuvarlarının Amerikan modellerinin kabiliyetlerini “distillation” yöntemiyle kendi modellerine aktarmasına karşı önlem alınması çağrısı yaptı.
Çin: “Sessiz AI Soğuk Savaşı”
Amodei’nin açıklamalarına Çin devletine bağlı Global Times gazetesinden sert tepki geldi.
Gazete, Amodei’nin yapay zekânın güvenliğine ilişkin kaygılarının görünüşte makul olduğunu ancak önerilerin gerçekte Çin’i hedef aldığını savundu.
Global Times, Amodei’nin amacının “teknolojik bariyerler ve düzenleyici tekeller yoluyla Çin’in AI gelişimini sınırlamak, Washington’ın ileri teknolojideki tekelci hegemonyasını korumak ve Çin’i küresel AI yönetim sisteminin dışında bırakmak” olduğunu öne sürdü.
Gazete bu yaklaşımı “ikiyüzlü ve kısa görüşlü” olarak nitelendirerek “sessiz AI Soğuk Savaşı” ifadesini kullandı.
Trump: “AI’ı kim kazanırsa, o kazanır”
ABD Başkanı Donald Trump ise pazar günü yapay zekânın gelişiminin yavaşlatılması çağrılarına karşı çıktı.
Trump, yapay zekânın oluşturduğu risklerin bazı “çok olumsuz güçler” tarafından abartıldığını savundu ve Çin ile rekabete dikkat çekti:
“AI’da Çin’in önündeyiz. Dünyanın en gelişmiş ülkesiyiz ve açıkçası bunun böyle kalmasını istiyorum. Çünkü AI’ı kim kazanırsa, o kazanır.”
Tartışma Trump-Xi görüşmesinin hemen öncesinde
Yapay zekâ tartışması, ABD Başkanı Trump ile Çin Devlet Başkanı Xi Jinping arasında 24 Eylül’de yapılması planlanan görüşmenin hemen öncesine denk geldi.
ABD ve Çin’in eylül ortasında en gelişmiş yapay zekâ sistemlerinin güvenlik risklerini ele alacak görüşmeler yapması da gündemde.
AI konusunun Trump-Xi görüşmesinde de ele alınabileceği belirtiliyor.
Zirve öncesinde ortaya çıkan tartışmada Anthropic, yapay zekânın oluşturduğu ortak risklere karşı ABD ve Çin’in birlikte hareket etmesini isterken aynı zamanda Çin’in gelişmiş çiplere ve Amerikan AI teknolojisine erişiminin daha fazla sınırlandırılmasını talep ediyor.
Pekin ise Washington’dan yükselen “yapay zekâyı yavaşlatma” çağrılarının güvenlik gerekçesiyle Çin’in teknoloji yarışındaki ilerlemesini sınırlamaya dönüşmesinden endişe ediyor.
Yazıyı beğendiysen, patronumuz olur musun?
Evet, çok ciddi bir teklif bu. Patronumuz yok. Sahibimiz kar amacı gütmeyen bir dernek. Bizi okuyorsan, memnunsan ve devam etmesini istiyorsan, artık boş olan patron koltuğuna geçmen lazım.
Serbestiyet; Türkiye'nin gri alanı. Siyah ve beyazlar içinde bu gri alanı korumalıyız. Herkese bir gün gri alanlar lazım olur.
