Yapay zekâ konusu işin içindekiler tarafından eleştirilmeye başlandı. Ben de bu konuyu KVKK Başkanı Prof. Dr. Faruk Bilir hocam ile konuştum. Aklımdaki gündelik hayatın içinden soruları kendisine sordum.
Bir uygulamaya belge yüklerken neyi paylaşıyoruz?
Çocuğumuz bir sohbet botuyla konuşurken ne anlatıyor?
Hakkımızda karar veren bir sistemin karşısında bizim söz hakkımız nerede başlıyor?
YAPAY ZEKANIN TARLASI KİŞİSEL VERİLER
Başkana önce şunu soruyorum:
Yapay zekâyı konuşurken neden dönüp dolaşıp kişisel verilere geliyoruz?
Sağlıktan eğitime, finanstan işe alımlara uzanan kullanım alanlarını anlatıyor. Bu sistemlerin hız ve verimlilik sağladığını, ancak geniş veri kümelerinden yararlandığını belirtiyor. O verilerin içinde bizim bilgilerimiz de bulunabiliyor. Yani biz ekrandaki cevaba bakarken, Başkan o cevabın arkasındaki veri işleme sürecine dikkat çekiyor.
Peki, bu alanın kuralları var mı?
Başkan, kullanılan teknoloji ne olursa olsun, kişisel veriler işlendiği ölçüde 6698 sayılı Kanun'un uygulanacağını söylüyor. Verilerimizin neden işlendiğinin, kimlerle paylaşılabileceğinin açıklanması; haklarımızı kullanabilmemiz ve güvenliğin sağlanması gerektiğini anlatıyor.
Yapay zekâya özgü riskleri, denetimi ve sorumlulukları açıklığa kavuşturacak tamamlayıcı düzenlemelere ihtiyaç bulunduğunu da ekliyor.
Bu kez şunu soruyorum:
Ben özel hayatımı paylaşmıyorum, dersem rahat olabilir miyim?
Başkanın anlattığına göre, mesele yalnızca bizim gönüllü olarak söylediklerimiz değil. Farklı kaynaklardaki bilgiler birleştirilebiliyor. Tek başına bizi tanımlamayan parçalar, yan yana gelince kimliğimizi görünür kılabiliyor. Dahası, doğrudan paylaşmadığımız bilgiler hakkında çıkarım yapılabiliyor.
Yani söylemediklerimiz de hesabın içine girebiliyor mu?
Evet, işaret ettiği risklerden biri bu. Gereğinden fazla veri toplanması, bilgilerin başka amaçlarla kullanılması ve hakkımızda kapsamlı profiller oluşturulması da aynı tablonun parçaları.
Bir başka uyarısını da buraya not düşeyim: Bazı modellerin eğitiminde kullanılan kişisel bilgiler, üretilen cevaplarda açığa çıkabiliyor. Demek ki yalnızca sisteme giren bilgiyi değil, sistemden çıkan bilgiyi de konuşmamız gerekiyor.
Sohbeti bir iş başvurusuna getiriyorum.
Diyelim ki başvurum reddedildi. Kararı otomatik bir sistem verdi.
Bana kalan, sonucu kabullenmek mi?
Başkan burada Kanun'un 11'inci maddesini hatırlatıyor. Kişinin verilerinin yalnızca otomatik sistemlerle analiz edilmesi sonucunda aleyhine bir sonuç doğmasına itiraz hakkı bulunduğunu söylüyor.
Bir ayrıntının daha altını çiziyor:
Kullanılan veriler hatalı, eksik veya önyargılıysa, bunlar sonuçlara da yansıyabiliyor. Dolayısıyla sistemin nasıl değerlendirme yaptığının anlaşılması ve sonucun sorgulanabilmesi önem taşıyor.
Kredi başvurularında ve sigortacılıkta da benzer süreçlerle karşılaşılabildiğini anlatıyor. Sohbet böylece gündelik hayatımıza uzanıyor. Konu, uzak bir gelecekte makinelerin ne yapacağından ibaret değil; hakkımızda verilen kararları nasıl anlayacağımız da bu tartışmanın içinde.
ÖNLEMLER HEPİMİZİN İŞİ!
Peki, önlemi ne zaman alacağız? Sorun ortaya çıktıktan sonra mı?
Başkan, mahremiyetin sistemin tasarım aşamasında düşünülmesi gerektiğini anlatıyor. Önce hangi verinin gerçekten gerekli olduğu belirlenecek. Kullanıcı da korunmak için ayrıca ayar değiştirmek zorunda kalmayacak.
Örneği somut. Verilerimizin model geliştirmek amacıyla kullanılmasına ilişkin tercih, başlangıçta kapalı sunulabilir.
Başkanın kullandığı iki kavramın karşılığı böylece netleşiyor: Tasarımdan itibaren mahremiyet ve varsayılan olarak mahremiyet. Yani koruma, sonradan hatırlanan bir ek özellik olmayacak.
ÇOCUKLARA DÖNÜK TEHDİT
Sıra çocuklara geliyor.
Evde ne diyeceğiz?
Yapay zekâyla konuşma, ödevinde kullanma, tamamen uzak dur mu?
Başkanın anlattığı yaklaşım bu değil. Yaşa uygun kullanım ve ebeveyn rehberliğinden söz ediyor. Hangi uygulamanın kullanıldığı bilinecek, gizlilik koşulları ve ebeveyn kontrolü seçenekleri incelenecek. Çocuğa adını, adresini, okulunu, telefonunu paylaşmaması anlatılacak.
Bir de şuna dikkat çekiyor Başkan: Çocuk, aldığı her cevabın doğru olmadığını bilecek.
Soruyu sorabilmek kadar, cevabı gerektiğinde sorgulayabilmek de bu sohbetin konusu.
"GÖLGE YAPAY ZEKA"
Peki, biz yetişkinler?
İşyerinde bir dosyayı özetletmek için yüklediğimizde her şeyi düşünmüş oluyor muyuz?
Başkan bu noktada "Gölge Yapay Zekâ" kavramını açıklıyor. Çalışanın, kurumunun bilgisi veya kontrolü dışında kullandığı araçlardan söz ediyor.
Hangi bilgi nereye gidiyor?
Çıktıyı kim, nasıl kullanıyor?
Kurum bunları göremiyorsa denetim zorlaşıyor. Başkan, yalnızca yasaklara dayanmak yerine eğitim, yönlendirme ve erişim kontrollerini gündeme getiriyor. Yapay zekânın ürettiği çıktıların da insan değerlendirmesi altında, destekleyici unsur olarak kullanılması gerektiğini belirtiyor.
Söz, gerçeğe benzeyen sahte seslere ve görüntülere geliyor.
Gördüğümüze de mi inanmayacağız?
Başkan, deepfake içeriklerin mahremiyet ihlaline, itibar kaybına, yanıltılmaya ve maddi zarara yol açabileceğini anlatıyor. Çözümü yalnızca vatandaşın dikkatinde aramıyor. Teknik tespit araçlarının geliştirilmesinden, platformların denetiminden ve kullanıcıların bilgilendirilmesinden söz ediyor.
Bunca riskin arasında insanın aklına şu soru geliyor.
Yapay zekâ kullanmayı bilmek, tam olarak neyi bilmek?
Başkanın tarifi, iyi komut yazmaktan daha geniş. Sistemin nasıl çalıştığını temel düzeyde anlamak, sınırlarını bilmek, ürettiklerini sorgulamak ve gerektiğinde başka kaynaklardan doğrulamak gerekiyor.
Kurumun çalışmalarını da soruyorum. Rehberleri, çocuklar için ebeveynlere ve işyerlerine yönelik bilgi notlarını, farkındalık etkinliklerini anlatıyor. Farklı disiplinlerden 21 akademisyenin katkısıyla hazırlanan, 15 makalelik "Yapay Zekâ Teknolojilerine Akademik Bakış" kitabından söz ediyor. (Kitabın linkini yazının sonuna bırakıyorum)
Böylece sohbetimiz yalnızca risklerin sıralandığı yerde kalmıyor; bu konuları anlamak için hazırlanan kaynaklara da uzanıyor.
Bu işin yalnızca hukukçuların meselesi olup olmadığını da soruyorum. Başkan, kamu kurumlarının, özel sektörün, akademinin, sivil toplumun ve teknik uzmanların katkısından söz ediyor. Yapay zekânın hukuki, teknik, etik ve toplumsal boyutlarının birlikte değerlendirilmesi gerektiğini anlatıyor.
Başkan, son değerlendirmesinde yaklaşımını şöyle tarif ediyor:
Teknolojiden uzaklaşmak değil, teknolojik ilerlemeyi kişisel verilerin korunmasıyla birlikte ele almak.
Bu yaklaşımda verilerimiz üzerindeki kontrolümüzün güçlendirilmesini, şeffaflığı ve hesap verebilirliği öne çıkarıyor.
Ben de sohbetten mülhem, şunu soruyorum siz, bize, hepimize:
Yapay zekânın bize ne cevap verdiğini merak ediyoruz. Peki, bizim hakkımızda ne öğrendiğini, nasıl karar verdiğini ve o karara nasıl itiraz edebileceğimizi de aynı merakla soruyor muyuz?
Kitap Linki : https://kvkk.gov.tr/SharedFolderServer/CMSFiles/58f74957-ac01-4d67-97bd-8edd8287bd4e.pdf
Kaynak: star.com.tr
