Kasus ini bermula dari rekaman kamera pengawas di McDonald's Jacksonville Beach yang merekam seorang pria yang diduga mencoba membujuk anak di bawah 12 tahun. Polisi memasukkan cuplikan tersebut ke sistem pengenalan wajah dan mendapatkan hasil "93 persen cocok" dengan foto Robert Dillon. Padahal, gambar yang digunakan adalah foto hasil jepretan layar komputer yang menampilkan rekaman CCTV berkualitas rendah.
Jarak 300 Mil dan Data LPR yang Diabaikan
Dillon tinggal lebih dari 300 mil (sekitar 483 kilometer) dari Jacksonville Beach. Pemeriksaan database kamera pelat nomor kendaraan (LPR) oleh polisi sendiri pun tidak menemukan bukti bahwa mobilnya pernah melintas di area TKP pada saat kejadian.
Namun, alih-alih menguji hasil algoritma dengan bukti yang ada, gugatan menyebut petugas justru membangun narasi untuk menguatkan kesimpulan mesin. "Mereka menahan dan menuntut Tuan Dillon atas salah satu tuduhan paling stigmatis yang bisa dialami seseorang," demikian bunyi dokumen gugatan.
AI sebagai "Kambing Hitam" atau Polisi yang Lalai?
Gugatan ini menyoroti praktik kepolisian yang terlalu bergantung pada teknologi tanpa verifikasi lapangan yang memadai. "Ini adalah kisah tentang apa yang terjadi ketika polisi membiarkan sistem kecerdasan buatan yang rawan kesalahan menggantikan penyelidikan," tulis pengacara Dillon dalam berkas pengadilan.
Kasus serupa bukan pertama kali terjadi di Amerika Serikat. Sejumlah penelitian menunjukkan bahwa sistem pengenalan wajah memiliki tingkat kesalahan lebih tinggi pada orang dengan warna kulit gelap dan dalam kondisi pencahayaan buruk. Di Indonesia, penggunaan teknologi serupa oleh aparat mulai diuji coba di beberapa titik keramaian, namun regulasi penggunaannya belum seketat di Uni Eropa yang mewajibkan pengawasan manusia dalam setiap keputusan berbasis AI.
Nasib Dillon dan Masa Depan Teknologi Biometrik
Dillon akhirnya dibebaskan setelah jaksa meninjau ulang bukti dan mencabut tuntutan. Namun, ia telah menghabiskan waktu di sel dan harus menanggung stigma sosial akibat tuduhan tersebut. Lewat gugatan ini, ia menuntut ganti rugi dan mendesak reformasi prosedur kepolisian dalam menggunakan AI.
Kasus ini menjadi pengingat bahwa teknologi secanggih apa pun tetap membutuhkan validasi manusia. Di tengah gencarnya adopsi AI untuk keamanan publik, insiden seperti ini bisa menjadi preseden hukum yang menentukan batas tanggung jawab algoritma versus aparat penegak hukum.
