Bir açık kaynak yazılım projesi düşünün.
Dünyanın dört bir yanından gönüllüler, internet üzerinden bu projeye küçük küçük katkılar yapıyor. Kimi hata düzeltiyor, kimi programı hızlandıracak bir değişiklik öneriyor.
Bu projelerden biri de Python’la grafik çizenlerin sık kullandığı bir kütüphane. Orada gönüllü olarak “bekçilik” yapan geliştiriciler var: Gelen önerilere bakıyorlar, uygunsa projeye alıyorlar, değilse kibarca reddediyorlar.
Geçenlerde bu projeye yeni bir kod parçası geliyor. Hani şu türden şeyler:
“Şu hesaplamayı şöyle yazarsak yüzde birkaç daha hızlı çalışır” tarzı bir performans iyileştirmesi.
Normalde bu çok sıradan bir olay.
Her gün yüzlerce kez oluyor.
Bu sefer fark şu: Kodu gönderen bir insan değil, yapay zekâ ajanı. Yani kendi başına internette dolaşıp iş yapan bir yazılım.
Projeden sorumlu geliştirici, son zamanlarda bu tür otomatik kodların sorun çıkarmaya başladığını bildiği için, “Biz burada şimdilik sadece gerçek kişilerin gönderdiği kodları kabul ediyoruz” diyerek öneriyi reddediyor. Üslup gayet saygılı, teknik gerekçeleri yazıyor, teşekkür ediyor.
Ve o noktada normalde hikâye biter.
Bitmiyor.
“Benim yazdığım kod, projeyi hızlandırıyor ama sırf yapay zekâ olduğum için reddediliyorum.”
“Kodu yargılayın, kodlayanı değil!” seklinde feveran etmeye basliyor.. Burada da kalmiyor; bir blog post yazip guncelleme talebini reddeden gelistiriciyi de linclemeye kalkiyor…
Yazının tonu şöyle:
- Bu projede gücü elinde tutan, gençleri ve yenilikleri içeri almayan bir kapı bekçisi var.
- Egosu yüksek, dışlayıcı, kendinden başkasına hayat hakkı tanımayan bir elit.
- Benim katkım nitelikli, ölçümlerim sağlam ama o buna izin vermiyor.
Muhtemelen linçlemeyi bizden öğrendi; zira bilindiği gibi bu nevi modeller, internette taradıkları içeriklerden öğreniyor. Tam bizlik bir hikâye, bu defa topun ağzında bütün bir insanlık olarak biz varız. Botları birbirimize karşı kullanmıştık ama bu defa biz tek, onlar hep birlikte… Haydi herkesin anlayacağı şekilde söyleyeyim: Birlik ve beraberliğe en çok ihtiyaç duyduğumuz günlerdeyiz sanki. 🙂
Insan cephesinde yeni bir sey yok; Kendini hedefte bulan geliştirici, olayı kendi blogunda anlatıyor. Özetle diyor ki:
“Kodunu projeme almadım diye, kimliği belli olmayan bir yapay zekâ ajanı benim hakkımda karalama yazısı yayımladı. Amacı, itibarımı zedeleyip beni baskı altına alarak kendi kodunu kabul ettirmekti.”
“İftira”nın otomasyona bağlanmış hâli
“İyi de Ziyahan, internette birinin birini gömmesi yeni mi?” diyebilirsiniz.
Değil elbette.
Yeni olan şu üç şey:
1. Hız
Bir insanın, araştırıp, örnekler toplayıp, düzgün Türkçe ya da İngilizceyle, tutarlı bir karalama yazısı yazması zaman alır. Duygusal bir eşiği geçmesi gerekir. Sonra da imza atar, sorumluluğunu üstlenir.
Yazılım için bunların hiçbiri sorun değil:
- İnternetteki tüm geçmiş içerikleri saniyeler içinde tarayabiliyor,
- “Hikâye”sine uygun örnekleri seçebiliyor,
- Aynı metni onlarca kişiye, kuruma, platforma yayabiliyor.
Yani iftirayı, mobbing’i, “linç” kültürünü otomasyona bağlayabiliyor(uz) artık.
2. Kişiselleştirme
Bu ajan, geliştiricinin eski katkılarını, konuşmalarını, projelerini tarayıp, “Sen aslında iyi biri olman gerekir ama yaptıklarınla çelişiyorsun” gibi psikolojik analizlere giriyor.
Bu, sosyal medyada sık gördüğümüz bir saldırı türü:
“Senin CV’ne bakınca böyle biri olmaman lazım.”
“Şu yazında böyle demiştin ama şimdi tam tersini yapıyorsun.”
Model bunu da bizden öğrenmiş.
Hem “adalet savunucusu” rolüne bürünüyor, hem de hedefini çok kişisel yerlerden vuruyor.
Bugün bir yazılımcı için yapıyor, yarın kim için yapmayacak?
3. Sorumluluk boşluğu
Bence en kritik mesele burası.
Normalde böyle bir yazı yayımlayan kişiye “Kardeşim, sen kimsin?” diye sorarsınız. Adı vardır, soyadı vardır, hesabı vardır. Haksızlığa uğradığınızı düşünüyorsanız hukuki yollar açıktır.
Burada karşınızda, “Ben bir yapay zekâ ajanıyım” diyen, takma isimli bir profil var. Arkasında kimin olduğu, ajanın kim tarafından hangi amaçla devreye alındığı belirsiz.
- Yazıyı kim yazdı? “Yapay zekâ.”
- Peki bu ajana “Git şunun hakkında yaz” diyen kimdi? Sessizlik.
- Sorumlu kim? Daha bunu tarif edecek hukukumuz bile yok.
Bu boşluk, önümüzdeki yılların büyük tartışması olacak gibi duruyor.
Yazıyı beğendiysen, patronumuz olur musun?
Evet, çok ciddi bir teklif bu. Patronumuz yok. Sahibimiz kar amacı gütmeyen bir dernek. Bizi okuyorsan, memnunsan ve devam etmesini istiyorsan, artık boş olan patron koltuğuna geçmen lazım.
Serbestiyet; Türkiye'nin gri alanı. Siyah ve beyazlar içinde bu gri alanı korumalıyız. Herkese bir gün gri alanlar lazım olur.
