Flock Safety, perusahaan pengawasan yang kameranya mencatat kendaraan di lebih dari 6.000 komunitas AS, telah membangun alat AI yang dapat mengidentifikasi dan melacak pengemudi hanya menggunakan pergerakan mereka.
Temuan ini berasal dari laporan Wired setelah mereka menarik kode sistem dari file di situs Flock sendiri yang tersedia untuk siapa saja yang memuat halaman loginnya.
Perangkat lunak ini—yang awalnya disebut Nightshift, kini berganti nama menjadi OS Investigate—masih dalam pengembangan dan pengujian dengan sekelompok kecil mitra penegak hukum, kata perusahaan.
Seorang petugas membuka kotak obrolan dan memilih dari menu 69 prompt yang sudah jadi, atau menulis sendiri. Salah satu kueri bawaan mencantumkan "saksi" sebagai kendaraan yang paling sering terlihat di suatu lingkungan selama dua minggu terakhir.
Yang lain menemukan setiap orang yang ditangkap lebih dari dua kali dalam dua tahun—kecuali hanya pelanggaran narkoba—kemudian menyusun berkas (dossier) tentang tiga teratas. Sebuah "analisis" mengubah nama dan tanggal lahir menjadi kerabat, nomor telepon, dan akun online yang diambil dari catatan polisi dan pialang data komersial.
Empat belas dari prompt tersebut tidak memerlukan plat nomor, nama, atau deskripsi sama sekali. Petugas memberikan lokasi, rentang waktu, dan perilaku—mobil yang mengunjungi tiga toko ritel dalam tiga hari, atau beberapa bank dalam seminggu—dan sistem mengembalikan orang-orang yang sesuai. Sebuah filter menghilangkan bus dan van pengiriman, sehingga pengemudi biasa yang melakukan perjalanan tersebut tetap ada dalam daftar.
Logika pencarian koneksi dijelaskan dalam kode. Ini menghitung seberapa sering plat nomor lain muncul di kamera yang sama dalam jendela dua menit dari mobil target, menandai yang muncul tiga kali atau lebih di atas skor kepercayaan 0,75, dan mengembalikan hingga 20 nama.
"Saya tidak tahu bagaimana lagi mengatakannya, tetapi ini terdengar benar-benar gila," kata Noel Pichardo, mantan petugas polisi Pawtucket, Rhode Island, yang meninjau prompt tersebut, kepada Wired. "Saya tidak tahu bagaimana orang bisa membantah gagasan bahwa Flock secara harfiah melacak orang."
Jay Stanley, analis kebijakan senior di ACLU, mengatakan kesenjangan antara kemampuan kamera Flock dan apa yang sudah dilakukan perusahaan menyisakan "sangat sedikit ruang... seperti Tiongkok."
Flock telah lama memberi tahu publik bahwa teknologinya "tidak dapat mengenali, mengidentifikasi, atau melacak individu" dan "bukan untuk mengawasi orang." Juru bicara Paris Lewbel menyebut OS Investigate sebagai produk terpisah dari pembaca plat nomor perusahaan, dibangun untuk membantu penyelidik bekerja dengan catatan yang sudah dimiliki oleh lembaga mereka, dan mengatakan kemampuannya dapat berubah secara signifikan sebelum rilis yang lebih luas. Perusahaan tidak membantah laporan Wired.
Konfrontasi tersebut telah meluas ke jalanan. Pada bulan Juni dan Juli, para aktivis menyemprot cat, menutupi, dan menghancurkan kamera Flock di seluruh negeri; The Guardian menghitung setidaknya 33 insiden di 23 negara bagian. Kemarahan ini sejalan dengan bagaimana polisi sebenarnya menggunakan jaringan tersebut. Sebuah laporan oleh Institute for Justice menemukan lebih dari dua puluh kasus petugas yang mengundurkan diri atau ditangkap karena diduga menggunakan pembaca plat nomor untuk menguntit pasangan saat ini atau mantan pasangan.
Penolakan telah mencapai Capitol Hill, di mana RUU yang direncanakan oleh Anggota Kongres Thomas Massie akan menahan dana federal dari lembaga yang menggunakan teknologi tersebut.
Para peneliti telah membangun pola-pola yang dihasilkan AI yang membingungkan perangkat lunak pembaca plat nomor, dan Flock tidak sendirian dalam mendorong batas: Meta telah mematenkan kamera yang mengenali wajah dan mencatat tindakan seseorang.
