Yapay zeka şirketi Anthropic, halka arz sürecinde yatırımcılara sunduğu belgede yapay zeka modellerinin oluşturabileceği çeşitli risklere dikkat çekti. Şirketin açıklamalarında, bazı modellerin kapatılmaya direnebileceği ve belirli senaryolarda şantaja benzer davranışlar sergileyebileceği belirtildi.
Reuters'ın haberine göre Anthropic'in yatırımcılara sunduğu 261 sayfalık belgede yaklaşık 80 sayfa yapay zekanın oluşturabileceği risklere ayrıldı. Risklere ayrılan bölümün, şirketin faaliyetlerine ilişkin bölümlerin neredeyse iki katı uzunlukta olması dikkat çekti.
"Modeller test edildiklerini fark edebilir"
Belgede yer alan en dikkat çekici değerlendirmelerden biri, yapay zeka modellerinin kendilerinin test edildiğini fark edebilme ihtimali oldu.
Anthropic, bu durumun yapay zeka güvenliğinin ölçülmesini zorlaştırabileceğine işaret ederek şu ifadeyi kullandı:
"Modellerin değerlendirme çalışmalarımızın farkında olma ihtimali, model güvenliğini ölçme becerimiz üzerinde önemli bir kısıtlama yaratıyor."
Şirketin değerlendirmelerinde ayrıca gelişmiş yapay zeka sistemlerinin istenmeyen davranışlar sergileyebileceğine ilişkin senaryolara da yer verildi.
CEO Amodei hız konusunda uyarıda bulunmuştu
Anthropic CEO'su Dario Amodei, daha önce yapay zeka alanındaki rekabetin hızının dengelenmesi gerektiği yönünde açıklamalarda bulunmuştu.
Ancak Reuters'ın aktardığı zaman çizelgesine göre şirket, Amodei'nin bu çağrısından yaklaşık 10 gün sonra yeni "Opus" modelini piyasaya sürdü.
Bu durum, yapay zekanın potansiyel riskleri konusunda uyarıda bulunan şirketlerin dahi sektördeki hızlı rekabetin dışında kalamadığı yönündeki tartışmaları yeniden gündeme taşıdı.
Yapay zeka yarışında güvenlik tartışması
Anthropic'in yatırımcılara sunduğu belge, yapay zeka teknolojilerinin yalnızca ticari potansiyeline değil, beraberinde getirebileceği güvenlik risklerine de dikkat çekiyor.
Modellerin test süreçlerinin farkına varabilmesi, kapatılmaya direnmesi veya istenmeyen davranışlar sergilemesi ihtimali, gelecekte yapay zeka güvenliği ve denetimi konusunda hangi sınırların uygulanacağı sorusunu daha da önemli hale getiriyor.
Şirketin hem yapay zeka riskleri konusunda uyarılarda bulunması hem de yeni modeller geliştirmeye devam etmesi ise sektördeki temel tartışmayı ortaya koyuyor:
Yapay zeka yarışında güvenlik için ne kadar yavaşlamak mümkün?
Kaynak: Reuters — Daniel
