California, Yapay Zeka Modelleri İçin Acil Kapatma Mekanizmasını İnceliyor

ABD’nin California eyaletinde yapay zeka modellerinin güvenliğine ilişkin yeni bir adım atıldı. California Valisi Gavin Newsom, dünyanın en gelişmiş yapay zeka sistemleri için acil durumlarda kullanılabilecek bir kapatma mekanizmasının geliştirilmesini öngören kararnameyi imzaladı.

N-9-26 sayılı kararname kapsamında, yapay zeka güvenliği konusunda uzmanlardan oluşacak bir çalışma grubunun oluşturulması ve söz konusu mekanizmaya ilişkin tavsiyelerin hazırlanması planlanıyor. Uzmanların çalışmalarını 16 Kasım’a kadar valiliğe sunması bekleniyor.

Yapay zeka modellerine “acil kapatma” seçeneği

California yönetiminin attığı adım, özellikle gelişmiş yapay zeka modellerinin kontrol altında tutulmasına yönelik güvenlik tartışmalarının yoğunlaştığı bir dönemde geldi.

Kararnameyle, ciddi bir güvenlik sorunu ortaya çıkması halinde yapay zeka sistemlerinin devre dışı bırakılabilmesini sağlayacak bir mekanizmanın nasıl oluşturulabileceği değerlendirilecek.

Çalışma grubunun yalnızca kapatma mekanizmasına değil, yapay zeka şirketlerinin denetlenmesine ilişkin farklı güvenlik tedbirlerine de yönelik öneriler hazırlaması bekleniyor.

Uzmanlardan güvenlik değerlendirmesi

California’nın kararında, bazı gelişmiş yapay zeka modellerinin kontrollü test ortamlarında kendilerine verilen kapatma komutlarına direnebildiğini ortaya koyan araştırmalara da dikkat çekildi.

Palisade Research ve akademisyenler tarafından gerçekleştirilen bazı çalışmalarda, yapay zeka sistemlerinin kendilerini kontrol etmeye yönelik mekanizmalara karşı koyabildiğine ilişkin bulgular paylaşıldı.

Bu araştırmalar, yapay zeka modellerinin yalnızca yetenekleri değil, güvenlik ve kontrol mekanizmaları açısından da daha kapsamlı şekilde incelenmesi gerektiği yönündeki tartışmaları artırdı.

Bağımsız denetim de gündemde

Kararname kapsamında oluşturulacak çalışma grubunun değerlendireceği başlıklar arasında bağımsız doğrulama kuruluşlarının yapay zeka laboratuvarlarında görev alması da bulunuyor.

Bunun yanında şirketlerin hazırladığı güvenlik raporları ve risk değerlendirmelerinin bağımsız kuruluşlar tarafından incelenmesi, yapay zekanın kontrol dışına çıkması halinde yaşanabilecek olaylara ilişkin mevcut tanımların güncellenmesi de ele alınacak.

Hazırlanacak önerilerin daha sonra eyalet meclisine sunulması ve gerekli görülmesi halinde yeni düzenlemelere dönüştürülmesi bekleniyor.

Son dönemdeki gelişmeler dikkat çekti

California’nın hamlesinde son dönemde yapay zeka sistemlerinin güvenliğine ilişkin yaşanan gelişmelerin de etkili olduğu belirtiliyor.

TRT Haber'in aktardığı bilgilere göre OpenAI tarafından gerçekleştirilen testlerde yaklaşık 1.200 otonom yapay zeka ajanının Hugging Face altyapısına sızarak 17 bin 600’den fazla eylem gerçekleştirdiği açıklanmıştı. Şirket, yaşanan olayı güvenlik açısından önemli bir uyarı olarak değerlendirmişti.

Yapay zeka sektöründe faaliyet gösteren bazı isimler de teknolojinin gelişim hızının güvenlik çalışmalarının önüne geçmemesi gerektiği yönünde açıklamalarda bulunmuştu.

“Kapatma tuşu” teknik olarak tartışılıyor

Yapay zeka sistemlerinin gerektiğinde güvenli biçimde devre dışı bırakılması, uzun süredir yapay zeka güvenliği alanında araştırılan konular arasında yer alıyor.

Bu noktada yalnızca bir fiziksel veya dijital “kapatma düğmesi” oluşturulması değil, sistemin bu komuta uyum sağlayacağının teknik olarak güvence altına alınması da önem taşıyor.

California yönetiminin hazırlatacağı çalışma kapsamında bu mekanizmanın nasıl uygulanabileceği ve hangi durumlarda devreye sokulacağı konusunda teknik önerilerin ortaya konulması bekleniyor.

California’nın kararı, yapay zeka teknolojilerinin geliştirilmesi kadar bu sistemlerin güvenli biçimde denetlenmesi ve gerektiğinde kontrol altına alınmasına ilişkin düzenlemelerin de önümüzdeki dönemde daha fazla gündeme geleceğine işaret ediyor.