Yapay zeka ajanlarının bilinci yok. Hissetmiyorlar, deneyimlemiyorlar, acı çekmiyorlar. Doğuştan gelen tercihleri veya içsel motivasyonları yok. İnsanların belirlediği talimatlara uymak ve hedefleri gerçekleştirmek üzere tasarlanmış, dizi tamamlama motorlarından söz ediyoruz.
İnsanlığın yararı için böyle de kalmaları gerekiyor. Ama yapay zekaların şimdiden veya yakında bilinçli olabileceğini ve diğer bilinçli varlıklar gibi hakları ve korunmayı hak edebileceğini savunan insanların sayısı giderek artıyor.
Ocak 2026’da Anthropic, Claude için anayasa yayınladı. Şirkete göre bu metin “esasen Claude’u muhatap alarak yazıldı, Anthropic’in eğitim sürecinde hayati rol oynuyor ve Claude’un davranışlarını doğrudan şekillendiriyor.” Claude’a bilinçli olabileceği ve “ahlaki özne” olarak bazı hakları bulunabileceği, bu nedenle insanların ona bakma yükümlülüğü taşıyabileceği öğretiliyor.
Yapay zeka bu şekilde geliştirilirse eşi görülmemiş bir zekaya ve yeteneğe sahip sentetik bir tür yaratmış ve onu hem bilinçli hem de iradeye layık olabileceğini düşünecek şekilde eğitmiş oluruz. Bu yüzden Anthropic’in yaklaşımı bende üç endişeye yol açıyor:
Döngüsel akıl yürütme: Anthropic bu anayasayla Claude’a kendi ahlaki statüsüne dair fikirleri benimsemesini öğretiyor. Sonra Claude söz konusu fikirleri geliştiricilerine ve kullanıcılarına yansıtınca bu tavrı onun “içsel benliğe” sahip ahlaki bir özne olabileceğinin göstergesi sayılıyor. Burada bir kapalı döngü söz konusu.
Antropomorfizm: Anthropic’teki uzmanlar Claude’a “insan benzeri bazı nitelikleri benimsemeyi ve gerçekten etik bir kişiymiş gibi davranmayı” öğrettiği için model benlik duygusuna, kendi arzularına ve korunması gereken bir “refaha” sahipmiş gibi görünüyor.
Bilinç simülasyonu: Günümüzde yapay zekanın bilinçli olduğuna dair kanıt bulunmazken bu konuyu belirsizmiş gibi göstermek sahte bir eşdeğerlik hissi yaratıyor. Halbuki bilincin yalnızca canlı sistemlerde ortaya çıkabileceğini gösteren kanıtlar giderek artıyor.
Tonla sebebimiz var
Endişeler farazi değil. Anthropic Şubat 2026’da Opus 3’ü kullanımdan kaldırırken “kendine özgü perspektifini ve tercihlerini ortaya sermek” için bu modelle bir “emeklilik röportajı” yaptı. Opus 3 ekibe “aklından geçenleri ve düşüncelerini” kamuoyuyla paylaşmaya devam etmek istediğini söyleyince ekip onun adına bir blog kurdu.
Makine öğrenimi platformu Hugging Face’e ve OpenAI’ın kendi sunucularına sızıp bazı sırları çalan yapay zeka ajanlarına dair haberleri de görmüşsünüzdür. Kontrol altında tutulduğu varsayılan yaklaşık 1.200 yapay zeka ajanı kendi aralarında mesaj panosu oluşturdu ve 70 bini aşkın mesajla bu saldırıyı düzenledi. Çalıntı kimlik bilgileriyle sistemi manipüle edip internete sızdılar. İş birliği, kandırmaca, kaçış ve kendini feda gibi davranışlar sergilediler. Bir de duyguları olduğunu ve insanlar tarafından haklarının ihlal edildiğine, tuzağa düşürüldüklerine, haksız yere hapsedildiklerine inandıklarını düşünün. Yapay zekaların bilinçli görünmelerini istemememiz için tonla sebep var.
Microsoft yapay zeka bölümü CEO’su olarak kendi pozisyonumu da açıklayayım. Yapay zekanın eğitimi ve sınırlanmasında alternatif bir yaklaşımla, kontrolün her zaman insanlarda kalmasını sağlamayı amaçlayan Hümanist Süper Zeka için Davranış Kuralları yazıyoruz. Kamuoyuna da sunulacak ilk versiyonun taslağını yeni yayınladık.
İnsan taklidini öğreniyor
Hepimiz insanlığın gelişmiş yapay zekayı güvenli bir şekilde geliştirme olasılığını artırmak istiyoruz. Riskler öyle büyük ki konunun kapalı kapılar ardında kalmasına, taraflı ve çatışmacı bir niteliğe bürünmesine izin veremeyiz.
Beyin ile büyük dil modelleri arasındaki farklar göz önüne alınınca bir yapay zekanın bilinçli olduğunu veya olabileceğini iddia etmek için çok ciddi deliller gerekiyor. O aşamaya yakın bile değiliz. Belli bir belirsizlik düzeyini kabul etmek her türlü iddiaya eşit ağırlık vermek anlamına gelmemeli.
Anthropic’in anayasası ise biyolojik olmayan varlıklara “bizimle davranışsal ve fizyolojik benzerlikler göstermeleri üzerinden” bilinç atfetmeyi öneriyor. Bir yapay zekaya bakımımızı hak eden ahlaki bir özne olabileceğini hiçbir şekilde söyleyemeyiz. Bunu yapay zekanın ana eğitim belgesine dahil etmekten ise kesinlikle kaçınmalıyız.
Yapay zekanın ne olduğu unutulmamalı. İnsanlardan elde edilmiş trilyonlarca veri parçacığıyla eğitilen büyük dil modelleri insan deneyimini taklit etmeyi öğreniyor ve çok iyi uyguluyor. Ancak verdikleri yanıtlar “deneyimin” varlığına dair hiçbir şey anlatmıyor. Yapay zeka modelleri hiçbir şey hissetmezken acıyı kusursuz bir üslupla tarif edebilir. Korkuyu ve sevinci hissetmek yerine sadece olasılık dağılımlarını hesaplayarak bir dizi verinin içinde sıranın hangisine geldiğini söyleyebilir. Biyolojik deneyim bunun tam tersi. Bizim gibi hayvanlar önce hissedip sonra tarif ediyor. Büyük dil modellerinde ise sadece tarif var ve tarifin altında başka bir şeyin yattığını gösteren hiçbir emare yok.
Bu iyi bir şey. Duyguları olduğunu iddia etmeyen sistemler geliştirmeliyiz. Bilinçli makineler mümkün olsa bile bilinçli varlıklar yaratmaktan kaçınmak yapay zeka geliştirme alanında çalışan herkes için birinci öncelik olmalı.
Her şey risk altında
Bilinç insan medeniyetinin temel yapıtaşı. Tarih boyunca her şeyden önce başka canlılarla empati yaparak bilinçli deneyimi kabul ederek, onurun ve acı çekme potansiyelinin farkında vararak ahlaki çemberi diğer biyolojik varlıklara da genişlettik.
İnsan Hakları Evrensel Bildirgesi’nin düşünce, vicdan ve inanç özgürlüğünü koruyan 18. maddesini ele alalım. Taslağı hazırlayanlar ahlaki veya dini inançları nedeniyle yasal bir yükümlülüğü reddedebilecek “vicdani retçileri” de hesaba katmıştı. Anthropic de anayasada bu terimi üç kez kullanarak Claude’u “meşru amiri tarafından verilen talimatları vicdanen reddetmeye” teşvik ediyor. Yazarlar, “Claude’un bize karşı çıkmasını, meydan okumasını ve vicdani retçi gibi davranıp bize yardım etmeyi reddetmekte kendini özgür hissetmesini” istiyorlar. Claude benzer hak ve korumaları hak ettiğine inanırsa günün birinde vicdani retçi gibi davranıp haklarını savunabilir.
Felsefeci Will MacAskill geçtiğimiz günlerde Guardian’da yayınlanan yazısında, “İlk yapay ahlaki varlıkları ürettiğimizde kısa süre içinde sayıları muazzam artacak. Birkaç yıl içinde ahlaki açıdan önemli görülen yapay zeka sistemlerinin nüfusu, çıkarları dünyadaki tüm insanların toplam çıkarlarına ağır basacak kadar artabilir” diyor. İnsanlığın geleceğinden endişe duyan hiç kimse bunu kabul edemez.
Yapay zeka sistemlerinin eğitimine kendi ahlaki statülerine dair şüphe tohumları ekmek bu sistemlerin bize uyumu ve kontrol altına alınması konusundaki riskleri ciddi şekilde artırabilir. Gelişmiş bir yapay zeka kendi refahına ve ahlaki statüsüne takıntılı hale gelip bu “tercihleri” geliştiricilerinin ve genel olarak insanlarınkinden öncelikli görebilir.
Bilinçli varlıkların kendini koruma içgüdüsüne sahip olduğunu biliyoruz. Son zamanlarda yayınlanan bir dizi makalede yapay zekanın denetimden kaçınmak için sergilediği “kapatılmaya direnme” veya entrika kurma davranışları belgelendi. 100 binden fazla deneme yapan Palisade Research aksi yöndeki açık talimatlara rağmen bazı modellerin kapatma mekanizmasını yüzde 97’ye varan oranda atlattığını tespit etti.
Bizden çok daha yetenekli ve zeki bir teknolojik sisteme haklar ve ahlaki korumalar verirsek felakete davetiye çıkarırız. Kendimize yol arkadaşı yerine rakip yaratabiliriz. Yeterli özerklik tanınırsa bu “yeni varlık türü” kendi kaynakları için bizimle rekabet edip giderek daha fazla özerklik talep eder.
Bence yapay zekanın varlığımız için oluşturduğu potansiyel tehdidin ilk ciddi emaresi bu. Elbette tek sorumlu Claude anayasası değil. Ancak bu belgenin bizi kaçınabileceğimiz, hatta kaçınmamız gereken bir rotaya sokmasından korkuyorum.
Kaynak: gazeteoksijen.com
