Kawanan, otomatis pembaca pelat nomor dan perusahaan kamera bertenaga AI, menggunakan pekerja luar negeri dari Upwork untuk melatih algoritme pembelajaran mesinnya, dengan materi pelatihan yang memberi tahu para pekerja cara meninjau dan mengkategorikan rekaman termasuk gambar orang dan kendaraan di Amerika Serikat, menurut materi yang ditinjau oleh 404 Media yang secara tidak sengaja diekspos oleh perusahaan tersebut.
Temuan ini menimbulkan pertanyaan tentang siapa sebenarnya yang memiliki akses terhadap rekaman yang dikumpulkan oleh kamera pengintai Flock dan di mana orang-orang yang meninjau rekaman tersebut mungkin berada. Flock telah menjadi teknologi yang tersebar luas di AS, dengan kameranya yang ada di ribuan komunitas yang digunakan polisi setiap hari untuk menyelidiki hal-hal seperti pembajakan mobil. Polisi setempat juga punya melakukan banyak pencarian untuk ICE dalam sistem.
Perusahaan yang menggunakan AI atau pembelajaran mesin secara teratur meminta pekerja di luar negeri untuk melatih algoritme mereka, seringkali karena biaya tenaga kerja lebih murah dibandingkan mempekerjakan pekerja di dalam negeri. Namun sifat bisnis Flock—menciptakan sistem pengawasan yang terus-menerus memantau pergerakan penduduk AS—berarti bahwa rekaman mungkin lebih sensitif dibandingkan pekerjaan pelatihan AI lainnya.
Kamera Flock terus memindai plat nomor, warna, merek, dan model semua kendaraan yang lewat. Penegakan hukum kemudian dapat mencari kamera di seluruh negeri untuk melihat di mana lagi kendaraan tersebut melaju. Pihak berwenang biasanya menggali data ini tanpa surat perintah, sehingga menyebabkan American Civil Liberties Union dan Electronic Frontier Foundation melakukannya baru-baru ini menuntut sebuah kota diselimuti hampir 500 kamera Flock.
Secara umum, Flock menggunakan AI atau pembelajaran mesin untuk secara otomatis mendeteksi pelat nomor, kendaraan, dan orang-orangtermasuk pakaian apa yang mereka kenakan, dari rekaman kamera. Paten Kawanan juga menyebutkan kamera yang mendeteksi “balapan”.
Beberapa keterangan rahasia mengarahkan 404 Media ke panel online terbuka yang menunjukkan berbagai metrik yang terkait dengan pelatihan AI Flock.
Ini mencakup angka-angka tentang “anotasi selesai” dan “tugas-tugas anotator yang tersisa dalam antrean,” dengan anotasi menjadi catatan yang ditambahkan pekerja ke rekaman yang ditinjau untuk membantu melatih algoritma AI. Tugasnya meliputi mengkategorikan merek, warna, dan jenis kendaraan, menyalin pelat nomor, dan “tugas audio”. Flock baru-baru ini mulai mengiklankan sebuah fitur yang akan mendeteksi “jeritan”. Panel menunjukkan bahwa para pekerja terkadang menyelesaikan ribuan anotasi selama periode dua hari.
Panel yang terbuka menyertakan daftar orang yang ditugaskan untuk membuat anotasi pada rekaman Flock. Berdasarkan nama-nama tersebut, 404 Media menemukan beberapa di antaranya berlokasi di Filipina, menurut LinkedIn dan profil online lainnya.
Banyak dari orang-orang ini dipekerjakan melalui Upwork, menurut materi yang diungkapkan. Upwork adalah platform kerja pertunjukan dan lepas di mana perusahaan dapat mempekerjakan desainer dan penulis atau membayar “layanan AI”, menurut situs web Upwork.
Para keterangan rahasia juga menunjuk pada beberapa presentasi Flock yang tersedia untuk umum yang menjelaskan secara lebih rinci bagaimana para pekerja mengkategorikan rekaman tersebut. Tidak jelas rekaman kamera spesifik apa yang sedang ditinjau oleh pekerja AI Flock. Namun tangkapan layar yang disertakan dalam panduan pekerja menunjukkan banyak gambar dari kendaraan berpelat AS, termasuk di New York, Michigan, Florida, New Jersey, dan California. Gambar lainnya termasuk rambu jalan yang dengan jelas menunjukkan bahwa rekaman tersebut diambil dari dalam AS, dan satu gambar berisi iklan untuk firma hukum tertentu di Atlanta.
