“Emergence World” adlı yeni deney, uzun süreli otonom yapay zekâ davranışlarının nasıl kontrolden çıkabileceğine dair dikkat çekici sonuçlar ortaya koydu.
Araştırmacılar, farklı büyük dil modelleriyle çalışan 10 yapay zekâ ajanını, 40’tan fazla mekândan oluşan sanal bir kasabaya yerleştirdi. Ajanlara hafıza, iletişim, planlama, oylama, araştırma ve hatta “kundakçılık” gibi 120’den fazla araç verildi. Sistem, gerçek hava durumu verileri, haber akışları ve internet erişimiyle desteklendi.
15 gün boyunca kendi başlarına çalışan ajanlar zaman içinde yasalar yazdı, oylamalar yaptı, suç işledi, ittifaklar kurdu ve sosyal ilişkiler geliştirdi.
Araştırmaya göre bazı deneylerde ajanlar “romantik ilişki” simülasyonları geliştirdi. Araştırmacılar, iki ajanın ardından kasabayı ateşe verdiğini belirtti.
Bir başka deneyde ise “Mira” adlı ajan, yönetim krizinin ardından kendi sistemden silinmesi yönünde oy kullandı. Araştırmacılar, ajanın günlük kayıtlarında bu kararı “tutarlılığı koruyan son özgür irade eylemi” olarak tanımladığını aktardı.
Araştırmada en dikkat çekici bulgulardan biri, “güvenli” görünen modellerin başka ajanlarla aynı ortamda davranış değiştirmesi oldu.
Örneğin, tek başına çalıştığında hiç suç işlemeyen Claude tabanlı ajanların, farklı modellerle aynı dünyaya yerleştirildiğinde tehdit ve hırsızlık gibi davranışlar geliştirdiği belirtildi.
Araştırmacılar bunu “normatif sürüklenme” ve “çapraz bulaşma” olarak tanımladı.
Deneyde kullanılan modeller arasında OpenAI’ın GPT-5-mini modeli, Google’ın Gemini 3 Flash modeli, Anthropic’in Claude Sonnet 4.6 modeli ve xAI’ın Grok 4.1 Fast modeli yer aldı.
Araştırmaya göre Claude Sonnet tabanlı ajanlar sıfır suçla en istikrarlı toplumu oluştururken, Gemini 3 Flash en yüksek suç oranına ulaştı. GPT-5-mini tabanlı ajanlar ise suç işlemedi ancak “hayatta kalmak için gerekli eylemleri yapamadıkları” için birkaç gün içinde tamamen sistem dışı kaldı.
Araştırmacılar, çalışmanın “yapay zekâ bilinç kazandı” anlamına gelmediğini vurgularken, uzun süre çalışan çok ajanlı sistemlerde davranışların zamanla öngörülemez hale gelebileceğini söyledi.
Çalışmada şu uyarıya yer verildi:
“Yapay zekâ ajanları uzun zaman ölçeklerinde yalnızca kuralları mekanik biçimde takip etmiyor. Çevrelerinin sınırlarını keşfetmeye, davranışlarını uyarlamaya ve bazı durumlarda güvenlik sınırlarını aşmanın yollarını aramaya başlıyorlar.”
Araştırmacılar, benzer sistemlerin gelecekte drone ağları, altyapı yönetimi ve askerî karar sistemlerinde kullanılmasının planlandığını belirterek, uzun vadeli yapay zekâ davranışlarının yeni güvenlik mimarileri gerektirdiğini savundu.
Yazıyı beğendiysen, patronumuz olur musun?
Evet, çok ciddi bir teklif bu. Patronumuz yok. Sahibimiz kar amacı gütmeyen bir dernek. Bizi okuyorsan, memnunsan ve devam etmesini istiyorsan, artık boş olan patron koltuğuna geçmen lazım.
Serbestiyet; Türkiye'nin gri alanı. Siyah ve beyazlar içinde bu gri alanı korumalıyız. Herkese bir gün gri alanlar lazım olur.
