Ketika Pengenalan Wajah Tidak Mengetahui Wajah Kamu Adalah Wajah

“Jika Kamu tidak menyertakan penyandang disabilitas atau orang dengan perbedaan wajah dalam perkembangan proses ini, tidak ada yang akan memikirkan masalah ini,” kata Kathleen Bogart, profesor psikologi di Oregon State University yang berspesialisasi dalam penelitian disabilitas dan hidup dengan perbedaan wajah. “AI telah memperburuk masalah ini, namun hal ini berakar pada kurangnya representasi dan prasangka yang sudah berlangsung lama terhadap orang-orang dengan perbedaan wajah yang terjadi jauh sebelum AI ada.”

Terlalu Sedikit, Terlambat

Ketika sistem verifikasi wajah gagal, seringkali sulit untuk mendapatkan bantuan sehingga menambah tekanan pada situasi yang membuat stres. Selama berbulan-bulan, warga Maryland, Noor Al-Khaled, berjuang untuk membuat akun online dengan Administrasi Jaminan Sosial. Al-Khaled, yang hidup dengan kondisi kraniofasial yang langka Makrostomia Ablepheronmengatakan memiliki akun online akan memungkinkannya mengakses catatan SSA dengan mudah dan dengan cepat mengirim dokumen ke agensi.

“Saya tidak mengemudi karena visi saya; saya harus bisa mengandalkan lokasi,” kata Al-Khaled. “Kamu harus mengambil selfie, dan gambarnya harus cocok,” kata Al-Khaled. “Karena perbedaan wajah, saya tidak tahu apakah itu tidak mengenali ID atau selfie, tapi selalu dikatakan gambarnya tidak cocok.”

Tidak memiliki akses tersebut membuat hidup lebih sulit. “Secara emosional, hal ini membuat saya merasa dikucilkan dari masyarakat,” jelasnya. Al-Khaled mengatakan bahwa semua layanan harus menyediakan cara alternatif bagi masyarakat untuk mengakses sistem online. “Kurangnya pilihan pengganti lainnya menyebabkan terkadang orang terjebak dalam labirin sistem teknologi,” kata Byrum dari Present Moment Enterprises.

Seorang juru bicara SSA mengatakan opsi alternatif untuk verifikasi wajah telah tersedia, dan pihaknya “berkomitmen” untuk membuat layanannya dapat diakses oleh semua orang. Badan tersebut, kata juru bicaranya, tidak menjalankan sistem pengenalan wajah itu sendiri tetapi menggunakan Login.gov dan ID.me untuk layanan verifikasi. Administrasi Layanan Umum, yang menjalankan Login.gov, tidak menanggapi permintaan komentar WIRED. “Aksesibilitas adalah inti prioritas untuk ID.me,” kata juru bicara ID.me, menambahkan bahwa pihaknya sebelumnya telah membantu orang-orang dengan perbedaan wajah dan menawarkan untuk membantu Al-Khaled secara langsung setelah WIRED menghubungi.

“Ada beberapa hal yang lebih tidak manusiawi daripada diberitahu oleh mesin bahwa Kamu tidak nyata karena wajah Kamu,” katanya Corey R.Taylorseorang aktor dan pembicara motivasi yang tinggal di New York yang hidup dengan anomali kraniofasial. Tahun lalu, kata Taylor, dia menggunakan aplikasi keuangan untuk mengakses sejumlah kecil uang; saat dia mencoba menyelesaikan proses pembayaran, dia menemukan bahwa sistem verifikasi wajah tidak dapat mencocokkan selfie-nya dengan gambar di tanda pengenalnya. Agar sistemnya berfungsi, dia harus pindah ke posisi yang berbeda. “Saya harus benar-benar mengangkat mata dan mengubah wajah saya,” kata Taylor. Ketika dia mengirim email ke perusahaan tersebut, dia mendapat tanggapan yang tampaknya biasa saja.