Brezilya'da ChatGPT'ye anlattığı cinayet planı çiftçiyi tutuklattı

Brezilya'da 36 yaşındaki bir çiftçi, yapay zeka sohbet uygulaması ChatGPT'ye yaklaşık iki ay boyunca 8 yaşındaki oğlunu öldürme, kamu alanlarına saldırma ve intihar etme planlarını anlattığı gerekçesiyle gözaltına alındı.

OpenAI, sohbet sırasında hayati risk tespit ederek durumu ABD Federal Soruşturma Bürosu'na (FBI) bildirdi. FBI'ın Brezilya makamlarıyla iletişime geçmesi ve Adalet Bakanlığı Siber Suçlar Birimi'nin yönlendirmesiyle şüpheli 19 Haziran'da São Gabriel da Palha kentinde gözaltına alındı. Evde yapılan aramada tanımlanamayan maddeler içeren şişeler ve düğümlenmiş bir ip ele geçirildi.

Nafaka öfkesiyle planlama

Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, şüphelinin nafaka ödemelerinden kaynaklanan öfkeyle oğlunu öldürmeyi planladığını ve risin zehri dahil tehlikeli maddeleri araştırdığını belirtti. Şüphelinin yapay zekaya "Bir uyuşturucu satış noktasına gidip dört suçluyu öldürürsem şehirde ünlü olurum" gibi ifadeler yazdığı aktarıldı.

Şüphelinin avukatı Pedro Paulo Pessi, müvekkilinin herhangi bir eyleme geçmediğini, yapay zekaya yalnızca "saçma sapan şeyler" söylediğini belirterek suçlamaları reddetti. Şüpheli 54 gün gözaltında kaldıktan sonra serbest bırakıldı; hakkında elektronik kelepçe ve koruma tedbirleri uygulandı.

Delil ve gözetim tartışması

Ceza avukatı Maíra Fernandes, OpenAI'ın şüphelinin mesajlarını iletmesine rağmen ChatGPT'nin verdiği yanıtları polise sunmamasının bir delil sorunu yarattığını söyledi. Fernandes, konuşmanın tamamı görülmeden yapay zekanın kullanıcıyı kışkırtıp kışkırtmadığının anlaşılamayacağını ifade etti.

Dijital hukuk uzmanı Prof. Patricia Peck ise sistemlerin artık yalnızca bir içerik aracı olmaktan çıkıp tehlikeli davranış kalıplarını tespit eden bir yapıya büründüğünü belirtti. Peck, aşırı gözetim riskine işaret ederek müdahalenin yalnızca "somut ve yakın risk" durumlarında yapılması gerektiğini vurguladı.