Yapay zeka teknolojilerinin güvenlik ve hukuk alanındaki etkileri tartışılırken, Brezilya'da dikkat çekici bir olay yaşandı. Yaklaşık iki ay boyunca ChatGPT'ye 8 yaşındaki oğlunu öldürme, kamu alanlarına saldırı ve intihar planlarını aktaran 36 yaşındaki bir çiftçi, yapay zeka sistemi tarafından tespit edilerek polise bildirildi.
OpenAI'ın, sohbet sırasında tespit ettiği hayati risk nedeniyle durumu ABD Federal Soruşturma Bürosu'na (FBI) iletmesi üzerine harekete geçildi. FBI'ın Brezilya makamlarıyla iletişime geçmesinin ardından, Espírito Santo Siber Suçlar Polis Merkezi'nin yönlendirmesiyle 19 Haziran'da São Gabriel da Palha'da şüpheli gözaltına alındı. Yapılan ev aramasında tanımlanamayan maddeler içeren şişeler ve düğümlenmiş bir ip bulundu.
Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, babanın nafaka ödemelerinden kaynaklanan öfkeyle oğlunu öldürmeyi planladığını ve risin zehri gibi tehlikeli maddeler araştırdığını belirtti. Şüphelinin, yapay zekaya, “Bir uyuşturucu satış noktasına gidip dört suçluyu öldürürsem şehirde ünlü olurum” gibi ifadeler yazdığı aktarıldı. Şüpheli avukatı Pedro Paulo Pessi ise müvekkilinin herhangi bir eyleme geçmediğini ve yapay zekaya sadece “saçma sapan şeyler” söylediğini savunarak suçlamaları reddetti. 54 gün gözaltında kalan şüpheli, elektronik kelepçe ve koruma tedbirleri uygulanarak serbest bırakıldı.
Bu olay, yapay zeka şirketlerinin kullanıcı verilerini polis ile paylaşma yetkisini ve bunun hukuki boyutunu yeniden gündeme getirdi. Ceza avukatı Maíra Fernandes, OpenAI'ın şüphelinin mesajlarını paylaşmasına rağmen ChatGPT'nin verdiği yanıtları polise sunmamasının delil sorununa yol açtığını belirtti. Fernandes, konuşmanın tamamı görülmeden yapay zekanın kullanıcıyı kışkırtıp kışkırtmadığının anlaşılamayacağını savundu. Dijital hukuk uzmanı Prof. Patricia Peck ise sistemlerin, tehlikeli davranış kalıplarını tespit eden bir yapıya büründüğünü söyledi. Peck, aşırı gözetim riskine dikkat çekerek müdahalenin yalnızca somut ve yakın risk durumlarında yapılması gerektiğini vurguladı.
