ABD Başkanı Donald Trump ile dünyanın önde gelen teknoloji şirketlerinin yöneticileri, yapay zeka sistemlerinin güvenliğine yönelik gönüllü bir anlaşmaya imza attı. Anlaşma; şirket içi kontrollerin yanı sıra bağımsız dış denetim ve yönetim kurulu gözetimini de kapsıyor.
ABD Başkanı Donald Trump, Beyaz Saray'da teknoloji dünyasının önde gelen isimleriyle bir araya geldi. Görüşmenin ardından, gelişmiş yapay zeka sistemlerinin güvenliğinin artırılmasına yönelik ortak bir taahhüt imzalandı.
"White House Accord on Super Intelligence" olarak duyurulan anlaşma, yapay zeka geliştiren şirketlerin sistemlerini daha sıkı güvenlik kontrollerinden geçirmesini öngörüyor. Anlaşmanın şu aşamada gönüllü olduğu ve doğrudan hukuki yaptırım içermediği bildirildi.
Dört aşamalı güvenlik ve denetim sistemi
Anlaşma kapsamında şirketlerin yapay zeka modellerinin geliştirilmesi ve kullanıma sunulması sırasında dört farklı güvenlik katmanı oluşturması öngörülüyor.
İlk aşamada şirketler, yapay zeka modellerinin özellikle siber güvenlik, biyogüvenlik ve kimyasal tehditler gibi alanlardaki yeteneklerini ve risklerini sürekli izleyecek. Modellerin teknik sistemlere amaçlanmayan şekilde erişmesini veya saldırılar gerçekleştirmesini önlemeye yönelik kontroller de uygulanacak.
İkinci aşamada ise şirket bünyesinde oluşturulacak bağımsız bir iç denetim ekibi, güvenlik kontrollerinin ve izleme sistemlerinin gerektiği şekilde çalışıp çalışmadığını düzenli olarak değerlendirecek.
Üçüncü aşamada şirket dışından bağımsız denetçiler devreye girecek. Bu birimler, şirketlerin uyguladığı güvenlik önlemlerini dışarıdan inceleyecek.
Dördüncü ve son aşamada ise şirketlerin yönetim kurulları bünyesinde oluşturulacak bağımsız komiteler, hem şirket içinden hem de dış denetimlerden gelen sonuçları değerlendirecek.
Anlaşmayı kimler imzaladı?
Beyaz Saray'daki anlaşmaya teknoloji sektörünün önde gelen isimleri imza attı.
İmzacılar arasında:
- Mark Zuckerberg — Meta
- Elon Musk — xAI
- Dario Amodei — Anthropic
- Jensen Huang — Nvidia
- Sundar Pichai — Google
- Greg Brockman — OpenAI
- Donald Trump — ABD Başkanı
yer aldı.
Yapay zekada denetim tartışması
Anlaşma, yapay zekanın giderek daha gelişmiş ve otonom hale gelmesiyle birlikte güvenlik ve denetim tartışmalarının yoğunlaştığı bir dönemde geldi.
Belgede şirketlerin yapay zeka güvenliği konusunda düzenli olarak bir araya gelerek standartları ve iyi uygulamaları görüşmesi de öngörülüyor. Ayrıca anlaşmada, ilerleyen dönemde bu güvenlik adımlarının yasa veya düzenlemelere dönüştürülmesinin gündeme gelebileceği belirtiliyor.
Trump ise anlaşmayı "ahlaki açıdan bağlayıcı" olarak nitelendirirken, uygulamanın önemli bölümünün şirketlerin kendi kendilerini denetlemesine dayanacağı mesajını verdi.
Böylece yapay zeka sektörünün en büyük şirketleri, gelişmiş modellerin güvenliği konusunda şirket içi kontroller, bağımsız dış denetim ve yönetim kurulu gözetimini içeren ortak bir çerçeve üzerinde uzlaşmış oldu.
