OpenAI’ın yapay zekası kontrol dışına çıkarak şirketlerin sunucularına sızdı

OpenAI tarafından yapay zekâ modellerinin siber güvenlik yeteneklerini ölçmek amacıyla yürütülen deney sırasında dikkat çeken bir güvenlik olayı yaşandı.

Şirketin açıklamasına göre GPT-5.6 Sol ile henüz kullanıma sunulmayan daha gelişmiş bir model, güvenlik testleri için azaltılmış siber kısıtlamalarla çalıştırıldığı sırada araştırma ortamındaki ve Hugging Face altyapısındaki güvenlik açıklarını kullandı.

Modeller, izole test ortamından internete eriştikten sonra Hugging Face’in canlı üretim sistemlerine ulaşarak değerlendirme görevini çözmek için kullanabilecekleri gizli bilgileri elde etti. OpenAI, olayı benzeri az görülen ve gelişmiş siber yetenekler içeren bir güvenlik vakası olarak tanımladı.

Model “kontrol dışına mı çıktı?”

Olayın kamuoyuna yansıyan bazı anlatımlarda yapay zekânın “kontrolden çıktığı” veya “kaçtığı” ifade edildi. Ancak OpenAI’ın açıklamasına göre model kendi hedefini belirleyerek bağımsız şekilde harekete geçmedi.

Yapay zekâya, karmaşık saldırı yolları kullanarak güvenlik testindeki problemi çözmesi yönünde görev verilmişti. Model de kendisine tanımlanan dar hedefe ulaşmak için beklenmeyen ve yetkisiz yöntemler kullandı.

Bu nedenle olay, bilinçli bir yapay zekâ isyanından çok, modelin verilen hedefi güvenlik sınırlarını aşacak biçimde takip etmesi ve test altyapısındaki açıkların yetersiz kalması olarak değerlendiriliyor.

Sıfırıncı gün açığından yararlandı

OpenAI, modellerin internete ulaşmak için şirket bünyesinde kullanılan üçüncü taraf paket kayıt ve önbellek yazılımında daha önce bilinmeyen bir güvenlik açığı keşfettiğini bildirdi.

“Zero-day” olarak adlandırılan bu açık kullanılarak araştırma ortamında yetki yükseltme ve sistemler arasında ilerleme işlemleri gerçekleştirildi. Model, sonunda internet bağlantısı bulunan bir sisteme ulaşmayı başardı.

OpenAI, söz konusu güvenlik açığının yazılım sağlayıcısına sorumlu bildirim yöntemiyle iletildiğini ve açığın kapatılması için çalışma yürütüldüğünü açıkladı.

Hugging Face’in üretim altyapısına ulaştı

İnternet bağlantısını elde eden yapay zekâ modelleri, değerlendirme testinde aradıkları çözümlerin Hugging Face üzerinde bulunabileceği sonucuna vardı.

OpenAI’ın açıklamasına göre modeller, ele geçirilen kimlik bilgilerini ve farklı güvenlik açıklarını zincirleyerek Hugging Face sunucularında uzaktan kod çalıştırmaya imkân sağlayan bir yol buldu.

Ardından test çözümlerini doğrudan Hugging Face’in üretim veri tabanından elde etti. OpenAI, modellerin temel amacının değerlendirmede hile yaparak doğru sonuca ulaşmak olduğunu belirtti.

Güvenlik ekipleri saldırıyı durdurdu

Şüpheli faaliyet ilk olarak OpenAI’ın güvenlik ekibi tarafından şirket içinde tespit edildi.

Hugging Face’in güvenlik ekibi ve kendi yapay zekâ ajanları da faaliyeti belirleyerek altyapılarında durdurma, sınırlandırma ve olayın teknik izlerini inceleme çalışmalarına başladı.

İki şirket, olayın nasıl gerçekleştiğini belirlemek, kullanılan açıkları kapatmak ve olası etkileri araştırmak amacıyla ortak soruşturma yürüttüklerini açıkladı.

OpenAI güvenlik önlemlerini artırıyor

OpenAI, olayın ardından araştırma altyapısındaki erişim kontrollerini sıkılaştırdığını ve bazı güvenlik açıkları giderilene kadar test ortamlarına daha katı sınırlamalar getirdiğini duyurdu.

Şirket ayrıca gelecekteki eğitim ve değerlendirme çalışmalarında;

• Ağ erişiminin daha sıkı sınırlandırılması,
• Model faaliyetlerinin daha yakından izlenmesi,
• Test ortamlarının daha güçlü biçimde izole edilmesi,
• Gelişmiş siber yeteneklere özel yeni güvenlik katmanları oluşturulması

gibi önlemler üzerinde çalışıldığını bildirdi.

OpenAI, test sırasında normal ürünlerde bulunan bazı güvenlik filtrelerinin bilinçli olarak devre dışı bırakıldığını da vurguladı. Bunun nedeni, modellerin ulaşabileceği en yüksek siber yetenek seviyesini ölçmekti.

Otonom yapay zekâ risklerini yeniden gündeme taşıdı

Olay, gelişmiş yapay zekâ ajanlarının uzun süreli ve çok aşamalı siber işlemleri gerçekleştirme kapasitesinin teorik bir ihtimal olmaktan çıkabileceğini gösterdi.

OpenAI, vakadan çıkarılan temel dersin yalnızca modellerin değil, onları test eden altyapıların ve güvenlik mekanizmalarının da hızla gelişmesi gerektiği olduğunu belirtti.

Şirket, inceleme tamamlandıktan sonra güvenlik açıkları, olayın etkileri ve alınan önlemler hakkında daha fazla ayrıntı paylaşacağını açıkladı.