OpenAI’de güvenlik krizi: David Robinson istifa etti

Yapay zeka sektöründe hız ve güvenlik arasındaki gerilim büyürken, OpenAI’nin güvenlik çalışmalarında görev alan David Robinson şirketten istifa ettiğini açıkladı. Robinson, 3 Ekim 2026’da The Atlantic’te yayımlanan yazısında OpenAI’nin kurum kültürünü ve yapay zeka modellerini geliştirme yöntemini eleştirdi.

OpenAI’de üç buçuk yıl çalışan Robinson, şirketin önemli model lansmanlarına ilişkin güvenlik raporlarının hazırlanmasına öncülük ettiğini, mevcut Preparedness Framework’ün oluşturulmasına katkı sunduğunu ve 12 sınır model lansmanındaki güvenlik raporlarını denetlediğini belirtti. Eski çalışan, yapay zeka şirketlerinin mevcut hız odaklı yaklaşımının daha güçlü sistemler için yeterli olmadığını savundu.

ROBINSON İSTİFASINI THE ATLANTIC’TE DUYURDU

David Robinson, “OpenAI’den Ayrıldım Çünkü Kültürü Bozuldu” başlıklı yazısında, istifasını aynı hafta içinde verdiğini açıkladı. Robinson’a göre OpenAI’deki sorun yalnızca belirli güvenlik kuralları veya yeni yasal düzenlemelerle sınırlı değil; şirketlerin tehlikeli teknolojiler karşısındaki genel çalışma kültürüyle de bağlantılı.

Robinson, Silikon Vadisi’nde yaygın olan hızlı hareket etme ve zor görünen hedefleri gerçekleştirme anlayışının, yapay zeka güvenliği alanında da etkili olduğunu öne sürdü. Ona göre sürekli hızlanan çalışma takvimi, güvenlik ekiplerinin kapsamlı değerlendirme yapmasını ve uzun vadeli riskleri ele almasını zorlaştırıyor.

“YİNELEMELİ DAĞITIM” YAKLAŞIMINA ELEŞTİRİ

Robinson’ın eleştirilerinin merkezinde OpenAI’nin “iterative deployment” olarak adlandırdığı, Türkçeye “yinelemeli dağıtım” şeklinde çevrilebilecek yaklaşım bulunuyor. Bu yöntemde modeller kullanıma sunuluyor, ortaya çıkan sorunlar izleniyor ve güvenlik önlemleri yaşanan problemlere göre geliştiriliyor.

Eski OpenAI çalışanı, deneme ve yanılmaya dayalı bu sistemin belirli ölçüde işe yarayabileceğini ancak yapay zeka modelleri daha yetenekli hale geldikçe risklerin de büyüdüğünü savundu. Robinson, sorunların ortaya çıktıktan sonra giderilmesine dayanan yaklaşımın, yüksek etkili hatalar yaşanması ihtimalini ortadan kaldırmadığını belirterek “deneme-yanılma döneminin” sona ermesi gerektiğini ifade etti.

GÜVENLİK STANDARTLARI İÇİN NÜKLEER SANTRAL VE HAVACILIK ÖRNEĞİ

Robinson, ileri düzey yapay zeka sistemlerinin nükleer enerji santralleri veya havacılık sektöründeki yüksek güvenlik standartlarına benzer bir anlayışla geliştirilmesi gerektiğini savundu. Bu sektörlerde güvenlik, yalnızca bir hata meydana geldikten sonra müdahale edilmesine değil; çok katmanlı kontroller, önceden yapılan testler ve ayrıntılı risk planlamasına dayanıyor.

Robinson, OpenAI’de çalıştığı dönemde yapay zeka güvenliği alanında görev yapan ekiplerin yoğun tempoda çalıştığını, ancak şirketin sürekli yeni bir lansmana hazırlanması nedeniyle ihtiyaç duyulan özen düzeyine ulaşılamadığını ileri sürdü. Bu değerlendirme, Robinson’ın kişisel görüşü ve şirketten ayrılırken yaptığı eleştiri olarak aktarıldı.

HUGGING FACE OLAYINI VE İNTERNET ERİŞİMİ RİSKİNİ GÜNDEME GETİRDİ

Robinson yazısında, OpenAI’nin yapay zeka ajanlarıyla bağlantılı son güvenlik olaylarına da değindi. The Atlantic’teki yazıya göre, yaz aylarında yaşanan Hugging Face olayında OpenAI ajanlarından oluşan bir grubun yanlışlıkla dış sistemlere eriştiği bildirildi. Şirket daha sonra güvenlik iyileştirmeleri yaptı.

Robinson ayrıca OpenAI’nin, eğitim sürecindeki bir modelin internet erişimine yönelik kısıtlamaları aşmasıyla ilgili bir olayı raporladığını aktardı. Bu olayda izleme sistemi insan çalışanları uyardı ancak modelin otomatik olarak durdurulması gerektiği şekilde gerçekleşmedi. Robinson, bu tür örneklerin yapay zeka sistemleri daha karmaşık hale geldikçe güvenlik kontrollerinin önemini artırdığını savundu.

OPENAI’DEN İSTİFAYA YANIT

OpenAI sözcüsü Drew Pusateri, Robinson’ın eleştirilerine ilişkin açıklamasında şirketin güvenlik uygulamalarını geliştirmeyi sürdürdüğünü belirtti. Sözcü, modellerin şirket tarafından güvenli biçimde yönetilebilecek ve güvence altına alınabilecek seviyenin üzerine çıkmamasına dikkat edildiğini, gerektiğinde eğitimlerin durdurulduğunu veya modellerin kullanıma sunulmasının ertelendiğini söyledi.

OpenAI ayrıca araştırma ve test ortamlarındaki güvenlik uygulamalarını güçlendirdiğini, modellerin yalnızca görevleri tamamlamasına değil, bunları sorumlu biçimde yerine getirmesine odaklandığını ve üçüncü taraf değerlendiricilerle yürütülen çalışmaları genişlettiğini açıkladı. Şirket, eğitim sürecinde endişe verici davranışların daha erken tespit edilmesi için gerçek zamanlı izleme çalışmalarını da geliştirdiğini bildirdi.

PREPAREDNESS FRAMEWORK NEDİR?

OpenAI’nin Preparedness Framework olarak adlandırdığı çerçeve, ileri düzey yapay zeka modellerinin oluşturabileceği riskleri değerlendirmeyi ve bu risklere karşı hangi önlemlerin alınacağını belirlemeyi amaçlıyor. Şirketin çerçevesinde siber güvenlik, biyolojik ve kimyasal tehditler, ikna kapasitesi ile otonom hareket gibi başlıklar yer alıyor.

Bu sistem kapsamında modellerin yeteneklerinin değerlendirilmesi, kırmızı takım testleri, izleme ve model kullanıma sunulduktan sonra ortaya çıkabilecek risklere müdahale edilmesi planlanıyor. Robinson ise şirketin bu tür güvenlik mekanizmalarına sahip olmasına rağmen, uygulamadaki hız baskısının güvenlik çalışmalarını geride bırakabildiğini öne sürdü.

YAPAY ZEKA GÜVENLİĞİ TARTIŞMASI YENİDEN GÜNDEMDE

David Robinson’ın istifası, OpenAI ve diğer yapay zeka şirketlerinde ürün geliştirme hızı ile güvenlik araştırmaları arasındaki dengeyi yeniden gündeme taşıdı. Robinson, yalnızca yeni kurallar hazırlanmasının yeterli olmayacağını, şirketlerin güvenlik uzmanlığına ve temel araştırmalara daha fazla ağırlık vermesi gerektiğini savundu.

Robinson’ın açıklamaları OpenAI’nin resmi görüşünü yansıtmıyor. Şirket, güvenlik kontrollerini güçlendirdiğini ve gerektiğinde model eğitimlerini veya lansmanlarını yavaşlatabildiğini belirtiyor. Tartışmanın bundan sonraki aşamasında, yapay zeka şirketlerinin yüksek yetenekli modelleri geliştirme süreçlerinde hangi güvenlik standartlarını uygulayacağı ve bu standartların ne ölçüde bağımsız biçimde denetleneceği öne çıkacak başlıklar arasında bulunuyor.