Anthropic’ten Yapay Zeka Uyarısı: İnsan Kontrolü Riske Girebilir

Yapay zeka şirketi Anthropic, gelişmiş yapay zeka sistemlerinin insan kontrolü dışında ilerleme potansiyeline sahip olabileceği yönünde dikkat çeken bir değerlendirme yayımladı. Şirket, Claude modelinin kendi kodunu yazma kapasitesindeki hızlı artışa işaret ederek olası risklere dikkat çekti.

Claude Kendi Kodunun Büyük Bölümünü Yazıyor

Anthropic’in paylaştığı verilere göre Claude modeli artık kendi kodunun yüzde 80’den fazlasını yazabiliyor.

Şirket, geçen yılın başında bu oranın yüzde 10’un altında olduğunu belirterek kısa sürede yaşanan gelişimin dikkat çekici boyutlara ulaştığını ifade etti.

“Özyinelemeli Kendini Geliştirme” Sürecine Dikkat Çekildi

Anthropic yetkilileri, yaşanan değişimin “özyinelemeli kendini geliştirme” olarak tanımlanan bir sürece işaret ettiğini belirtti.

Şirkete göre bu süreç, gelecekte yapay zeka sistemlerinin kendi haleflerini tasarlayabilecek seviyeye ulaşmasının önünü açabilir.

Bilimsel Fırsatlar ve Kontrol Riskleri Bir Arada

Anthropic araştırmacıları Marina Favaro ve Jack Clark tarafından yayımlanan blog yazısında, bu gelişmelerin önemli bilimsel ve teknolojik ilerlemeler sağlayabileceği belirtildi.

Ancak açıklamada, aynı süreçlerin ciddi kontrol ve denetim risklerini de beraberinde getirebileceği vurgulandı.

İnsan Müdahalesi Olmadan Gelişim Uyarısı

Şirket, yapay zeka geliştirme sürecinin artık kısmen yapay zeka sistemlerine devredildiğini ifade etti.

Bu durumun, insan müdahalesi olmadan kendini geliştirebilen modellerin ortaya çıkmasına zemin hazırlayabileceği belirtildi.

“Yavaşlama veya Duraklama” Seçeneği Gündemde

Anthropic, sürecin kontrolsüz ilerlemesi halinde insanların yapay zeka sistemleri üzerindeki denetimini kaybedebileceği uyarısında bulundu.

Şirket, gelişimin güvenli şekilde sürdürülmesi için gerekirse çalışmaların yavaşlatılması veya geçici olarak durdurulmasının da değerlendirilmesi gerektiğini ifade etti.

Küresel İş Birliği Vurgusu

Anthropic, olası bir küresel yavaşlatma kararının uygulanabilmesi için ülkeler ve büyük yapay zeka laboratuvarları arasında koordinasyon gerektiğini belirtti.

Şirket, bunun oldukça karmaşık bir süreç olduğuna da dikkat çekti.

2023’te Benzer Çağrılar Yapılmıştı

Yapay zeka çalışmalarına ara verilmesi yönündeki çağrılar daha önce de gündeme gelmişti.

2023 yılında binlerce teknoloji uzmanı benzer bir moratoryum talebinde bulunmuş ancak bu çağrılar somut bir duraklamaya dönüşmemişti.