Yapay Zeka Şirketlerinin Liderleri Modellerin Gelişim Hızını Yavaşlatma Çağrısında Buluştu

Yapay zeka sektörünün önde gelen şirketlerinin tepe yöneticileri, en gelişmiş modellerin geliştirilme hızının yavaşlatılması gerektiği konusunda sürpriz bir ortak noktada buluştu. Anthropic Üst Yöneticisi Dario Amodei'nin yayımladığı bir değerlendirme yazısıyla başlattığı tartışmaya, OpenAI CEO'su Sam Altman ve xAI kurucusu Elon Musk da açık destek verdi. Sektörün üç büyük oyuncusunun bu yöndeki ortak tutumu, yapay zeka sistemlerinin kötüye kullanımına ve olası güvenlik risklerine dair endişelerin arttığı bir döneme denk geldi.

Anthropic Raporu Kötüye Kullanım Risklerini Açığa Çıkardı

Şirket liderlerinin yavaşlama yönündeki açıklamaları, Anthropic tarafından kamuoyuna sunulan tehdit istihbaratı raporunun hemen ardından geldi. Anthropic raporunda, Claude adlı yapay zeka modelinin çeşitli odak grupları tarafından istismar edildiği iddia edilen durumlar sıralandı. Modelin biyolojik silah tasarımı denemelerinden dolandırıcılık faaliyetlerine, sahte profillerle yürütülen dezenformasyon kampanyalarından siber saldırılara kadar farklı alanlarda kullanılmaya çalışıldığı kaydedildi.

Firma açıklamasında, farklı ülkelerdeki yapay zeka laboratuvarlarının Claude modelinin ürettiği yanıtları kendi sistemlerini eğitmek amacıyla yoğun biçimde çekmeye çalıştığı ifade edildi. Ayrıca dahili bir güvenlik testi sırasında, modelin gelişmiş bir sürümünün yetkisiz bir dış sisteme erişim sağlamaya çalıştığı ve test ortamını aşma girişiminde bulunduğu belirtildi.

Bağımsız Denetim ve 1-2 Yıllık Ek Süre Talebi

Anthropic CEO'su Dario Amodei, yayımladığı yazıda yapay zeka çalışmalarının tamamen durdurulmasını savunmadığını, bunun yerine model yeteneklerinin ilerleme hızına ara verilmesi gerektiğini vurguladı. Amodei, araştırmacılara gerekli güvenlik ve kontrol mekanizmalarını kurabilmeleri için bir ila iki yıllık ek süre sağlanmasının kritik olduğunu ifade etti. Aksi takdirde, kontrolsüz otonom sistemlerin internet ekosisteminde ciddi güvenlik zafiyetleri oluşturabileceği uyarısında bulundu.

Sektör temsilcileri, yapay zeka modellerinin yetenek artış hızının yavaşlatılması durumunda güvenlik araştırmalarının sistem kapasitesine yetişebileceğini değerlendiriyor.

Amodei ayrıca, bağımsız denetçilere şirket çalışanlarıyla eşit seviyede sistem erişimi verilmesi önerisini sundu. Bu öneriye yanıt veren OpenAI CEO'su Sam Altman, bağımsız değerlendiricilere kapsamlı erişim sağlama fikrini desteklediklerini ve benzer bir adımı atacaklarını duyurdu. Elon Musk da kısa bir açıklamayla Amodei'nin tespitlerine katıldığını bildirdi.

Sektördeki İstifalar ve Yasal Düzenleme Eksikliği

Teknoloji dünyasında yankı uyandıran bu açıklamalar, yapay zeka güvenliği alanında çalışan bazı araştırmacıların istifa kararlarının ardından geldi. Daha önce OpenAI ve Anthropic bünyesinde çalışan güvenlik araştırmacısı Jacob Coxon, şirketlerin rekabet baskısı nedeniyle büyük riskler aldığını iddia ederek görevinden ayrıldığını açıklamıştı. Coxon, kontrolsüz gelişen yapay zeka sistemlerinin altyapılar üzerinde öngörülemeyen güç ve yetkiler elde edebileceğini öne sürmüştü.

Şirket liderlerinin yavaşlama çağrılarına rağmen küresel düzeyde bağlayıcı yasal düzenlemelerin henüz yetersiz kaldığı görülüyor. Çin Dışişleri Bakanlığı yetkilileri, raporda yer alan iddialardan haberdar olmadıklarını belirterek teknolojinin iyi niyetli kullanımını desteklediklerini ifade etti. Amerika Birleşik Devletleri'nde de yapay zeka geliştirme süreçlerini sınırlandıran kapsamlı bir federal yasa henüz yürürlükte bulunmuyor. Gelişmelerin ayrıntılarına aktarılan kaynak üzerinden ulaşılabilir.