Yapay zekâ sistemlerine insan ahlakının nasıl aktarılacağı ve bu sistemlere ne ölçüde güvenilmesi gerektiği, teknoloji dünyasında yeni bir tartışmayı beraberinde getirdi. OpenAI CEO’su Sam Altman, insanların yapay zekâ modellerine gereğinden fazla anlam yüklemesinin ve karar verme süreçlerini bu sistemlere bırakmasının ciddi güvenlik riskleri doğurabileceği uyarısında bulundu.
ChatGPT’nin geliştiricisi OpenAI’ın CEO’su Sam Altman, sosyal medya platformu X üzerinden yaptığı değerlendirmede, yapay zekâ modellerine dini veya manevi bir otorite atfedilmesinden duyduğu rahatsızlığı dile getirdi. Altman, insanların kendi muhakemelerini yapay zekâ sistemlerine teslim etmeye başlamasının yalnızca felsefi bir tartışma olmadığını, aynı zamanda gerçek bir güvenlik sorunu olarak görülmesi gerektiğini belirtti. (Axios)
Anthropic’in çalışmaları tartışmayı büyüttü
Tartışmaların odağında, Claude adlı yapay zekâ modelini geliştiren Anthropic şirketinin çalışmaları da bulunuyor. Şirketin, yapay zekâ sistemlerinin ahlaki karar verme biçimleri üzerinde çalışırken farklı inanç ve düşünce geleneklerinden isimlerle görüşmeler yaptığı öne sürüldü.
New York Times tarafından gündeme getirilen bilgilere göre Anthropic’in kurucu ortaklarından Christopher Olah, Katolik, Yahudi, Sih ve Evanjelik Hristiyanların yanı sıra Afrika felsefesindeki Ubuntu geleneğini temsil eden düşünürlerle temas kurdu. Görüşmelerde yapay zekâ sistemlerinin farklı dini ve seküler yaklaşımları dikkate alan çoğulcu bir ahlaki çerçeveye sahip olup olamayacağı tartışıldı. (ByProtokol)
Şirketin üzerinde çalıştığı yaklaşımın yalnızca yapay zekâya birtakım kurallar vermek yerine, modelin davranış biçimini ve “karakterini” şekillendirmeyi hedeflediği belirtiliyor. Bu çalışmalar, yapay zekâ modellerinin ilerleyen dönemde insanlarla kurduğu ilişkinin hangi etik ilkeler çerçevesinde yürütüleceği sorusunu da gündeme taşıyor.
“Bilinçli yapay zekâ” tartışması
Yapay zekâ sistemlerinin insanlara benzer duygulara veya bir çeşit bilince sahip olup olamayacağı konusu da tartışmanın önemli başlıklarından biri haline geldi. Anthropic tarafında yürütülen bazı çalışmaların, gelişmiş yapay zekâ modellerinin davranışlarını yalnızca teknik performans açısından değil, “refah” ve “bilinç” ihtimali açısından da ele aldığı aktarılıyor. (Business Insider)
Microsoft AI CEO’su Mustafa Süleyman da daha önce yapay zekâ sistemlerine bilinç sahibi varlıklarmış gibi yaklaşılmasının önemli riskler doğurabileceği uyarısında bulunmuştu. Süleyman’ın yaklaşımı ile Altman’ın açıklamaları, teknoloji sektörünün önde gelen isimlerinin yapay zekâyı insan benzeri veya manevi bir otorite olarak görme eğilimine mesafeli yaklaştığını gösteriyor. (ByProtokol)
İnsan muhakemesinin yerini almalı mı?
Tartışmanın merkezindeki temel soru ise yapay zekânın insanlara yalnızca bilgi sağlayan ve karar süreçlerine yardımcı olan bir araç mı olması gerektiği, yoksa ahlaki ve toplumsal konularda karar verici bir konuma gelip gelemeyeceği.
Sam Altman’ın açıklamaları, yapay zekânın teknik kapasitesi ne kadar gelişirse gelişsin insan muhakemesinin tamamen bu sistemlere devredilmesinin sakıncalı olabileceğine işaret ediyor. Uzmanlar ve teknoloji şirketleri arasındaki tartışmalar da önümüzdeki dönemde yapay zekâ güvenliğinin yalnızca teknik tehditler üzerinden değil; etik, bilinç, insan iradesi ve toplumsal değerler üzerinden de ele alınacağını gösteriyor.
Kaynak: NTV Teknoloji
