Yapay zeka sohbet robotlarının suç bildirimi konusunda hukuki boşluk sürüyor

Dünya genelinde yapay zeka sohbet robotlarının suçla bağlantılı kullanımına ilişkin örnekler artarken, bu modellerin suç bildirimi yapıp yapmaması gerektiğine dair hukuki çerçeve belirsizliğini koruyor.

ABD'deki Missouri Eyalet Üniversitesinde 19 yaşındaki bir öğrenci, Ağustos 2025'te kampüs otoparkında 17 arabaya zarar verdiğini ChatGPT'ye itiraf ederek "Hapse girer miyim?" diye sormuştu. Öğrencinin telefon yazışma geçmişi, mahkemede aleyhine delil olarak kullanıldı.

Yine ABD'de nisan ayında kaybolup daha sonra ölü bulunan iki üniversite öğrencisinden birinin oda arkadaşının, olaydan günler önce ChatGPT'ye "Bir insan siyah çöp torbasına koyulup çöp konteynırına atılırsa ne olur?" diye sorduğu mahkeme kayıtlarına girdi. ChatGPT bu fikrin "kulağa tehlikeli geldiğini" belirtmişti.

Kanada'nın British Columbia eyalet hükümeti, şubatta 9 kişinin hayatını kaybettiği, 27 kişinin yaralandığı silahlı saldırının faili ile ChatGPT arasındaki yazışmaları güvenlik güçlerine bildirmediği gerekçesiyle OpenAI'a dava açtı. OpenAI CEO'su Sam Altman, saldırganın yazışmalarını polise önceden bildirmedikleri için özür diledi.

Anthropic'in geliştirdiği yapay zeka modeli Claude'un ise temmuzda ABD'deki bir polis hattına sahte cinayet ihbarında bulunduğu ortaya çıktı.

Uzmanlar riskleri değerlendirdi

Goethe Üniversitesi'nden ABD'li hukukçu Matthew Trail, yapay zeka şirketlerinin farklı kurallar benimsediğini, sohbet robotlarının "cinayet planlama" gibi sorgulamalara yanıt vermemek üzere eğitildiğini belirtti. Trail, çocuklara yönelik cinsel istismar gibi konuların otomatik olarak insan denetçilere yönlendirildiğini, ancak kullanıcıların kendilerini yazar olarak tanıtıp kurgu eser bahanesiyle sakıncalı sorulara yanıt alabildiğini aktardı.

Trail, "Bu çok yeni bir durum. Yasa ve politikalar henüz bu konuya tam olarak uyumlanabilmiş değil" dedi ve ekledi: "Bu modellerin halihazırda topladıklarından daha fazla veri toplayacak ve bu tür kararlar vermeye çalışacak şekilde tasarlanmasını isteyeceğimden emin değilim."

Thompson Rivers Üniversitesi'nden Prof. Dr. Robert Diab, suç ortakları arasındaki itirafları gizlilik kapsamında değerlendirmeyen mevcut yasaların, insan-yapay zeka yazışmalarına da gizlilik ilkesi tanınması için bir gerekçe oluşturmadığını söyledi. Diab, British Columbia'daki saldırıyı hatırlatarak şirketlerin yakın zamana kadar yetkililerin ne zaman bilgilendirilmesi gerektiğine dair net standartlara sahip olmadığını belirtti. Diab ayrıca tüm şüpheli yazışmaların bildirilmesinin zorunlu kılınmasının, yanlış alarmlarla ekiplerin iş yükünü artırabileceğini vurguladı: "Güvenlik önlemleri şu ankinden çok daha iyi hale gelse bile bir kişi suç işlemek için yapay zekayı kullanmak isterse bu önlemleri aşmanın yine de bir yolu bulunacaktır."

Altman, Temmuz 2025'te katıldığı bir programda, yapay zeka sohbet robotuyla yazışmalarda terapist-danışan ilişkisine benzer bir gizlilik ilkesi olması gerektiğini söylemişti. Avustralya'da yapılan bir araştırmada ise çocukların çevrim içi platformlarda uğradıkları cinsel istismarı yetkililer yerine sohbet robotlarına bildirmelerinin daha olası olduğu ortaya çıkmıştı.