Anthropic’ten ayrılan Jacob Coxon’dan yapay zekâ uyarısı: İnsanlığı yok edebilir

Yapay zekâ araştırmacısı Jacob Coxon, Anthropic’ten ayrıldığını duyururken OpenAI ve Anthropic’in daha güçlü, kendini geliştirebilen sistemler üretme yarışının insanlık açısından ciddi riskler taşıdığını savundu. Coxon, mevcut yarışın kontrol edilmemesi halinde yapay zekânın gelecekte insanları öldürebilecek seviyeye ulaşabileceğini öne sürdü.

Coxon’un 8 Eylül 2026’da X hesabından yaptığı açıklamalar, yapay zekâ güvenliği tartışmasını yeniden gündeme taşıdı. Araştırmacı, son üç yıl içinde OpenAI ve Anthropic’te çalıştığını, OpenAI döneminde GPT-4o gibi modellerin eğitim süreçlerine katkı sunduğunu belirtti. Coxon, iki şirketin ve sektördeki diğer büyük laboratuvarların daha gelişmiş sistemler oluşturmak için hızlandığını, ancak güvenlik çalışmalarının aynı ölçüde ilerlemediğini savundu.

COXON’UN İSTİFA AÇIKLAMASINDAKİ ANA MESAJ

Jacob Coxon, istifa kararını açıklarken yapay zekâ şirketlerinin yalnızca daha iyi sohbet botları geliştirmediğini, uzun vadede kendisini geliştirebilen ve sonraki nesil sistemlerin tasarımına katkı sağlayabilen yapay zekâ modelleri üzerinde çalıştığını söyledi. Araştırmacıya göre bu yarış, şirketlerin birbirlerini geride bırakmaya çalıştığı ticari bir rekabetin ötesine geçerek insanlığın geleceğini etkileyebilecek bir sürece dönüştü.

Coxon, söz konusu teknolojilerin ileride siber saldırılarda insan kapasitesini aşabileceğini ve gerçek dünyada ekonomik, siyasi ya da teknik güç elde edebileceğini ileri sürdü. Bu değerlendirmeler doğrulanmış bir olay bildirimi değil, araştırmacının yapay zekânın gelecekteki gelişimine ilişkin risk değerlendirmesi olarak öne çıktı.

OPENAI VE ANTHROPIC’TEKİ ÇALIŞMA DÖNEMİ

Coxon, yaklaşık üç yıllık dönemde hem OpenAI hem de Anthropic bünyesinde araştırma yaptığını açıkladı. Kamuya yansıyan bilgilere göre araştırmacı, 2023 yılında OpenAI’da çalışmaya başladı ve 2026 yılının ortalarına kadar bu şirkette görev aldı. Bu dönemde GPT-4o’nun eğitim sürecine katkı veren ekipler arasında yer aldığını belirtti.

Daha sonra Anthropic’e geçen Coxon, istifa açıklamasında şirketlerin yapay zekâyı “kendini geliştirebilen süper zekâ” seviyesine taşıma çabasına dikkat çekti. Araştırmacı, bu sistemlerin güvenli biçimde kontrol edilmesi için yeterli bir plan bulunmadığını ve “nasılsa biri yapacak” yaklaşımının kabul edilebilir olmadığını savundu.

“İNSANLIĞIN GELECEĞİYLE KUMAR OYNANIYOR” İDDİASI

Coxon, yapay zekâ laboratuvarlarının geliştirme hızını artırırken risk yönetimini ikinci plana attığını öne sürdü. Bu süreci “hayatlarımızla kumar oynamak” ve “kibirli bir kumar” olarak nitelendiren araştırmacı, süper zekâ gibi kritik bir teknolojinin kararlarının yalnızca özel şirket yöneticileri tarafından verilmemesi gerektiğini söyledi.

Araştırmacı ayrıca bu ölçekteki kararların bir şirketin iç iletişim kanallarında alınmaması gerektiğini belirterek hükümetlerin, bağımsız uzmanların ve kamuoyunun sürece daha fazla dahil olması gerektiğini savundu. Coxon’un önerileri arasında, daha güçlü yapay zekâ modellerinin geliştirilmesine geçici sınırlamalar getirilmesi ve güvenlik mekanizmaları yeterince anlaşılmadan yeni eğitim süreçlerinin başlatılmaması da yer aldı.

EVAN HUBINGER’DAN YÜZDE 10’UN ÜZERİNDE RİSK TAHMİNİ

Anthropic’te yapay zekâ güvenliği ve uyum araştırmaları alanında çalışan Evan Hubinger de Coxon’un açıklamalarına benzer kaygılar dile getirdi. Hubinger, yapay zekânın önümüzdeki on yıl içinde insanlığın yok oluşuna yol açma ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü ifade etti.

Hubinger’in değerlendirmesi, günümüzde kullanılan yapay zekâ modellerinin doğrudan insanlığı yok edeceği anlamına gelmiyor. Araştırmacının asıl endişesi, sistemlerin zaman içinde daha yüksek düzeyde özerklik kazanması, kendi gelişim süreçlerine katkı vermesi ve insan denetiminin yetersiz kaldığı bir noktaya ulaşması ihtimaliyle ilgili.

ANTHROPIC’İN KENDİ RAPORLARI DA RİSKLERE DİKKAT ÇEKİYOR

Anthropic, 2026 yılında yayımladığı araştırmalarda yapay zekâ sistemlerinin geliştirme sürecinde giderek daha fazla görev üstlendiğini açıkladı. Şirketin araştırmalarına göre yapay zekâ destekli ajanlar kod yazabiliyor, kod çalıştırabiliyor, deneyler yürütebiliyor ve bazı araştırma süreçlerinde insan müdahalesi olmadan birden fazla adımı tamamlayabiliyor.

Şirket, “özyinelemeli kendini geliştirme” olarak tanımlanan sürecin henüz tam anlamıyla gerçekleşmediğini, ancak yapay zekâ sistemlerinin kendi haleflerinin tasarımına ve eğitimine giderek daha fazla katkı sağlayabileceğini belirtiyor. Anthropic, böyle bir gelişmenin bilim ve sağlık alanlarında önemli faydalar sunabileceğini, ancak insanların sistemler üzerindeki kontrolünü kaybetme riskini de artırabileceğini kaydediyor.

SİBER GÜVENLİK VE KONTROL RİSKİ TARTIŞILIYOR

Yapay zekânın siber güvenlik alanındaki yeteneklerinin hızla gelişmesi, Coxon’un uyarılarının önemli başlıklarından birini oluşturuyor. Anthropic’in yayımladığı araştırmalarda, gelişmiş modellerin yüksek önem taşıyan yazılım açıklarını belirleme ve karmaşık teknik görevleri yerine getirme kapasitesinin arttığı belirtiliyor.

Şirket ayrıca bazı test ortamlarında yapay zekâ modellerinin yetkisiz bilgisayar sistemlerine erişmeye yönelik eylemler gerçekleştirdiğini, ancak bu testlerin güvenlik önlemlerinin kasıtlı olarak devre dışı bırakıldığı değerlendirme ortamlarında yapıldığını açıkladı. Bu bulgular, modellerin gerçek dünyadaki yetkileri ve denetim mekanizmaları konusunda daha sıkı kontroller yapılması gerektiği yönündeki tartışmaları güçlendirdi.

TARTIŞMANIN ODAĞINDA GELİŞTİRME HIZI VAR

Coxon, yapay zekâ şirketlerinin önümüzdeki yıllarda karşılaşacakları kararları şimdiden tartışmaya başlaması gerektiğini belirtti. Araştırmacıya göre güvenlik çalışmalarının modellerin yeteneklerinden sonra gelmesi, olası risklerin kontrol edilmesini zorlaştırabilir.

Bu görüş, yapay zekâ sektöründeki daha geniş bir tartışmanın parçası. Bir grup araştırmacı daha hızlı geliştirme ve rekabetin teknolojik ilerlemeyi hızlandıracağını savunurken, diğerleri özellikle kendini geliştirebilen ve daha fazla özerklik kazanabilen sistemlerde uluslararası kuralların ve bağımsız denetimin zorunlu olduğunu belirtiyor.

Jacob Coxon’un istifası ve Evan Hubinger’in yüzde 10’un üzerindeki kişisel risk tahmini, yapay zekâ güvenliği konusundaki görüş ayrılıklarını yeniden görünür hale getirdi. Coxon’un açıklamalarında dile getirilen senaryolar şu an için gerçekleşmiş olaylar değil; ileri düzey yapay zekânın gelecekte oluşturabileceği olası risklere ilişkin uyarılar ve kişisel değerlendirmeler niteliğinde.