Seorang wanita asal Florida berhadapan dengan hukum setelah menggunakan chatbot kecerdasan buatan Claude untuk curhat. Dia mengungkapkan rencana untuk menyerang kantor polisi lokal melalui platform tersebut. Penangkapan terjadi setelah tim keamanan AI melaporkan ancaman ini kepada pihak berwenang.
Carli Michelle Heller, warga Bonita Springs, mengunggah tulisannya pada 26 September. Dalam tulisan itu, ia menyatakan niatnya untuk menyerang Lee County Sheriff’s Office (LCSO). Heller kemudian mengaku kepada penyidik bahwa ia memanfaatkan chatbot sebagai buku harian pribadi.
Sistem keamanan internal Claude segera mendeteksi konten berbahaya yang diunggah Heller. Konten tersebut ditandai sebagai ancaman serius dan diteruskan ke peninjau manusia di Anthropic. Setelah penilaian, ancaman tersebut dianggap kredibel dan dilaporkan ke aparat penegak hukum.
Anthropic menerapkan kebijakan untuk berbagi informasi pengguna dengan pihak berwenang dalam keadaan darurat. Kebijakan ini bertujuan untuk mencegah risiko kematian atau cedera fisik yang serius. Petugas LCSO langsung menuju kediaman Heller dan menangkapnya tanpa perlawanan.
Heller dikenakan pasal ancaman kekerasan tertulis berdasarkan undang-undang Florida Statute 836.10. Aturan ini mengkategorikan tindakan mengirim atau mengunggah ancaman keselamatan sebagai kejahatan tingkat dua.
Insiden ini menjadi pengingat penting bagi pengguna bahwa percakapan dengan chatbot AI tidak sepenuhnya privat. Tindakan cepat Anthropic dalam melaporkan ancaman menunjukkan tanggung jawab pengembang AI terhadap keamanan publik.[]
Sumber: detikInet
