“Yapay zekayı geliştiren insanlar, bu teknolojinin on yıl içinde hepimizi öldürebileceğine gerçekten inanıyor. Durum en erken gelecek yılın sonunda kontrolden çıkabilir.”
Jacob Coxon, Anthropic Eski Araştırmacısı
“Yapay zekanın tüm insanlığı yok edebileceğine gerçekten inanıyoruz. Kişisel olarak, bunun önümüzdeki on yıl içinde gerçekleşme olasılığının yüzde 10’u aşacağını düşünüyorum.”
Evan Hubinger, Anthropic Uyum Bilimi Başkanı
“Yapay zeka 10 yıl içinde hepimizi öldürebilir.” Bu sözler, bir Anthropic araştırmacısının şirketten ayrılırken arkasında bıraktığı veda mesajıydı.
Ayın 8’inde (yerel saatle) Anthropic araştırmacısı Jacob Coxon (27), X platformunda “Bugün Anthropic‘ten ayrılıyorum” paylaşımında bulundu. “Son üç yılımı OpenAI ve Anthropic‘te çalışarak geçirdim. Her iki şirket de sorumlu davranmıyor, hayatlarımızla kumar oynuyorlar” diye ekledi.
Takip eden paylaşımında “Yapay zekayı geliştiren insanlar, bunun on yıl içinde hepimizi öldürebileceğine ciddi ciddi inanıyor” ifadelerini kullandı.
Coxon ayrıca The Wall Street Journal‘a verdiği demeçte “En agresif senaryoların çoğu gerçeğe dönüşme eğiliminde” diyerek “Durum en erken gelecek yılın sonunda kontrolden çıkabilir” uyarısında bulundu.
Anthropic içindeki üst düzey isimler de Coxon‘un uyarısına katıldı. Anthropic Uyum Bilimi Başkanı Evan Hubinger, “Jacob haklı. Yapay zekanın tüm insanlığı yok edebileceğine gerçekten inanıyoruz” dedi ve “Kişisel olarak, bunun önümüzdeki on yıl içinde gerçekleşme ihtimalinin yüzde 10’dan fazla olduğunu düşünüyorum” şeklinde konuştu.
Coxon bu yılın başlarında OpenAI‘dan ayrılarak Anthropic‘e katılmıştı. Yapay zeka güvenliğini önceliklendiren kurumsal kültürü nedeniyle Anthropic‘e geçiş yapmış olsa da, yapay zekayla ilgili risklerin yalnızca bireysel şirketlerin çabalarıyla kontrol edilemeyeceğini vurguluyor.
İnsanlığın geleceğini derinden etkileyebilecek yapay zeka geliştirme sürecinin bir avuç mühendisin inisiyatifine bırakılmış olmasını “bir tür delilik” olarak nitelendiren Coxon, insan yeteneklerini aşacak Yapay Genel Zeka’nın (AGI) sorumlu biçimde geliştirilebilmesi için hükümet müdahalesinin ya da sektörün kolektif bir yanıtının şart olduğunu belirtti.
Daha önce dünya genelindeki hükümetleri yapay zeka geliştirme hızını düzenleyecek uluslararası bir çerçeve oluşturmaya çağıran bir bildiriye imza atan Coxon‘un bu çağrısına Anthropic CEO’su Dario Amodei ve OpenAI Baş Bilim İnsanı Jakub Pachocki dahil yaklaşık bin araştırmacı destek vermişti.
Yapay zeka sektörü şu sıralar Çinli girişimlerin de sahneye çıkmasıyla kızışan bir geliştirme yarışına sahne olurken, Donald Trump yönetimi de yapay zeka düzenlemelerini en aza indirmeyi hedefleyen politikalar izliyor.
Netizen yorumları:
- Peki biz bu konuda ne yapacağız?
- Önce siz ölün
- Dünya: Yaşasın!
- Başka çarem yok, geleceğin hatrı için Gemini‘ye iyi davranacağım. Lütfen acısız olsun
- Beni neyle öldürecekler bilmiyorum ama lütfen acısız olsun
- Tamam, zaten öleceksem bari acısız olsun
- Görünüşe göre iklim krizinden önce yapay zeka kriziyle yok olacağız
- Daha hızlı yapabilirler mi?
- İmkansız değil, tek soru ne kadar süreceği
- Güzel
- Acısız olduğu sürece benim için sorun yok
- Lütfen tek darbede öleyim
Kaynak: pannchoa