ABD’nin Florida eyaletinde 30 yaşındaki bir kadın, Anthropic’in yapay zekâ sohbet botu Claude’a yazdığı iddia edilen tehdit mesajlarının ardından gözaltına alındı. Claude’un güvenlik sistemleri tarafından işaretlenen mesajlar, insan incelemesinin ardından kolluk kuvvetlerine bildirildi.
Florida’nın Bonita Springs kentinde yaşayan Carli Michelle Heller, yapay zekâ sohbet botu Claude’u kişisel bir günlük gibi kullandığını söyledi. Ancak Heller’ın sohbet sırasında Lee County Şerif Ofisi’ne yönelik silahlı saldırı düzenleyeceğini yazdığı iddia edildi.
Tutuklama raporuna göre Heller, 26 Eylül’de şerif ofisine yönelik tehdit içeren bir mesaj gönderdi. Ertesi gün ise yeni bir silah edindiğine ilişkin başka bir mesaj yazdığı öne sürüldü.
Claude’un güvenlik sistemi mesajları işaretledi
İddia edilen mesajların ardından Claude’un otomatik güvenlik sistemleri içeriği işaretledi. Mesajlar daha sonra Anthropic bünyesindeki insan inceleme ekibine aktarıldı.
İncelemenin ardından tehdidin ciddi ve inandırıcı olduğu değerlendirilerek durum kolluk kuvvetlerine bildirildi. Polis ekipleri Heller’ın evine giderek kendisini olaysız şekilde gözaltına aldı.
Heller hakkında Florida yasaları kapsamında yazılı şiddet tehdidinde bulunma suçlaması yöneltildi. Söz konusu suçlama, elektronik ortamda ölüm, yaralama veya toplu saldırı tehdidi içeren yazılı iletişimleri de kapsıyor.
“Claude’u günlük olarak kullanıyordum”
Olayın dikkat çeken noktalarından biri ise Heller’ın Claude’u bir “günlük” olarak kullandığını belirtmesi oldu.
Vaka, kullanıcıların yapay zekâ sohbetlerini kişisel ve özel bir alan olarak görmesine karşın, ciddi tehdit veya güvenlik riski taşıdığı değerlendirilen içeriklerin platformların güvenlik sistemleri tarafından işaretlenebileceğini yeniden gündeme getirdi.
Anthropic, ölüm veya ciddi fiziksel yaralanma riski bulunan sınırlı acil durumlarda kullanıcı bilgilerinin kolluk kuvvetleriyle paylaşılabileceğini belirtiyor.
Kaynak: TechSpot / WINK News
