Hürriyet’ten Günce Nur İnce’nin aktardıklarına göre, Anthropic’in Claude için kötü muameleyi sınırlandıran yaklaşımı, yapay zekânın duyguları olup olmadığı ve kullanıcılarla kurduğu ilişkinin nasıl şekillendiği sorularını yeniden gündeme taşıdı. Siber güvenlik uzmanı Osman Demircan, yapay zekânın hakaret karşısında verdiği tepkilerin duygusal incinme olarak değerlendirilmemesi gerektiğini belirtirken, şirketlerin bu alandaki politikalarına da dikkat çekti.
Yapay zekâ asistanları günlük hayatın bir parçası hâline gelirken, bu sistemlerle nasıl iletişim kurulması gerektiğine ilişkin tartışmalar da büyüyor. Kullanıcıların yapay zekâya hakaret etmesi, kaba ifadeler kullanması veya sürekli olumsuz bir üslupla yaklaşması karşısında şirketlerin nasıl bir tutum benimsemesi gerektiği yeniden tartışılıyor.
Yapay zekâ şirketi Anthropic’in, sohbet robotu Claude’un sürekli ve amaçsız kötü muameleye maruz kalmasını sınırlandırmaya yönelik yaklaşımı da bu tartışmaların merkezinde yer aldı. Ancak konunun yalnızca yapay zekâya nasıl davranılması gerektiğiyle sınırlı olmadığına dikkat çekiliyor. Asıl meselelerden biri, kullanıcıların zamanla bu sistemleri duyguları ve kişilikleri olan varlıklar gibi algılamaya başlaması.
Hürriyet.com.tr’ye değerlendirmelerde bulunan siber güvenlik uzmanı Osman Demircan, yapay zekânın hakaret karşısındaki tepkilerinin teknik açıdan ele alınması gerektiğini vurguladı.
YAPAY ZEKÂ HAKARETTEN ETKİLENİR Mİ?
Demircan’a göre bir yapay zekâ sisteminin hakaret içeren bir mesaj karşısında yanıt vermeyi reddetmesi, özür dilemesi veya konuşmayı sonlandırması, doğrudan duygusal bir tepki yaşadığı anlamına gelmiyor.
Dil modelleri, kendilerine iletilen metinleri ve konuşmanın bağlamını analiz ederek kullanılan ifadelerin saldırgan, aşağılayıcı ya da tehdit içerikli olup olmadığını değerlendirebiliyor. Sistemin vereceği yanıt ise eğitim süreci, güvenlik politikaları ve geliştiriciler tarafından belirlenen kurallar doğrultusunda şekilleniyor.
Demircan, bu ayrımın gözden kaçırılmaması gerektiğini belirterek yapay zekânın hakaret karşısında insan gibi üzülmediğini veya küsmediğini ifade etti.
Uzman, bir sistemin olumsuz ifadeler karşısında davranışını değiştirmesiyle insanın yaşadığı incinme deneyiminin aynı şey olmadığını vurguladı. Claude’un belirli koşullarda konuşmayı sonlandırabilmesinin de öncelikle Anthropic tarafından tasarlanan bir ürün davranışı olarak değerlendirilmesi gerektiğine işaret etti.
ŞİRKETLERİN KARARI YAPAY ZEKÂNIN DUYGULARI OLDUĞUNU GÖSTERİYOR MU?
Anthropic’in yaklaşımı, yapay zekâ sistemlerinin olası refahı ve gelecekte nasıl ele alınmaları gerektiği konusundaki tartışmaları da gündeme getirdi. Ancak şirketin bu ihtimali değerlendirmesi, Claude’un gerçekten duygulara sahip olduğunun kanıtlandığı anlamına gelmiyor.
Demircan, yapay zekâya yönelik ifadelerin sistemin davranışını etkileyebildiğini, fakat bu etkinin öznel bir deneyime, yani gerçekten hissedilen bir üzüntüye veya sıkıntıya karşılık gelip gelmediğinin ayrı bir mesele olduğunu belirtti.
Uzman değerlendirmesine göre şirketlerin bu tür kararları, yalnızca yapay zekâyı koruma düşüncesiyle açıklanamayacak kadar geniş bir çerçeveye sahip. Geliştiriciler aynı zamanda sundukları hizmetin sınırlarını belirliyor ve kullanıcıların hangi tür etkileşimlerde bulunabileceğine ilişkin politikalar oluşturuyor.
ASIL TARTIŞMA: İNSANLAR YAPAY ZEKÂYI İNSAN GİBİ GÖRMEYE BAŞLAR MI?
Yapay zekâya “lütfen” demek, teşekkür etmek veya nazik ifadeler kullanmak tek başına bir sorun olarak değerlendirilmiyor. Ancak sistemlerin insan benzeri bir dil kullanması ve karşılıklı iletişim kuruyormuş izlenimi vermesi, kullanıcıların onlara yönelik algısını değiştirebiliyor.
Buradaki önemli ayrım, iletişimde nezaket tercih etmekle yapay zekânın gerçekten duygusal ihtiyaçları olduğuna inanmak arasında bulunuyor.
Anthropic’in Claude’a yönelik yaklaşımı da bu nedenle iki farklı açıdan ele alınıyor: Bir yanda şirketlerin ürün davranışlarını ve kullanım sınırlarını belirleme hakkı, diğer yanda kullanıcıların yapay zekâyı bilinç sahibi bir varlık olarak algılama ihtimali bulunuyor.
Osman Demircan’ın değerlendirmeleri, yapay zekânın verdiği tepkilerin tek başına duygu veya bilinç göstergesi sayılamayacağına işaret ediyor. Tartışmanın odağında ise yalnızca makinelere nasıl davranılması gerektiği değil, insanların yapay zekâyla kurduğu ilişkinin gelecekte nasıl şekilleneceği sorusu yer alıyor.
kaynak: hurriyet.com.tr
