Detroit Polis Departmanı, departman aleyhine açılan bir davaya nazaran, yüz tanıma yazılımı kullanılarak yapılan yanlış bir eşleşmeye dayanarak üç çocuk annesi bir bayanı ezkaza tutukladı.
Altı Detroit polisi 16 Şubat sabahı erken saatlerde 32 yaşındaki Porcha Woodruff’un meskeninin kapısına geldi.
32 yaşındaki Bayan Woodruff o sırada sekiz aylık gebeydi ve iki çocuğunun okula hazırlanmasına yardım ediyordu.
Polis, siyahi olan anneye Ocak ayındaki bir otomobil kaçırma ve soygun olayından ötürü tutuklu olduğunu bildirdi.
YAPAY ZEKA BAYANI OTOMOBİL HIRSIZLIĞIYLA SUÇLADI
Şaşkına uğrayan gebe bayan “Şaka mı yapıyorsunuz, otomobil hırsızlığı mı? dedi ve geçen hafta açılan federal bir davaya nazaran memurlara Sekiz aylık gebe olduğunu görüp görmediklerini sorarak reaksiyonunu ortaya koydu.
Daha sonra polisin, güvenlik manzaralarını departmanın yüz tanıma yazılımından geçirdikten sonra, 2015’te tutuklanan bir kişinin sabıka fotoğrafını, otomobil hırsızlığı kurbanının Bayan Woodruff’u saldırgan olarak seçtiği bir fotoğraf dizisine koyduktan sonra onu kuşkulu olarak tanımladığını öğrendi.
Yetkililer daha sonra davayı geri çekse de, Bayan Woodruff davada, gerilime, susuzluğa ve gerilim kaynaklı kasılmalara maruz kalmasına neden olduğu tez edilen tüm olayın, önyargılı yüz tanıma yazılımının tehlikelerinin bir örneği olduğunu savunuyor.
Şikayette, “Potansiyeline karşın, kolluk kuvvetlerinin yüz tanımaya güvenmesi, bu olayda da görüldüğü üzere, aşağılanma, utanç ve fizikî yaralanmalara neden olarak haksız tutuklamalara yol açmıştır” deniliyor.
BU OLAY ALTINCI SEFER GERÇEKLEŞMİŞ OLDU
Amerikan Sivil Özgürlükler Birliği’ne nazaran bu yanlış tutuklamanın ABD’de bu tipten en az altıncı olay olduğuna inanılıyor.
Örgüte nazaran bunlardan üçü, 2018 yılında yüz tanıma teknolojisini kullanmaya başlayan DPD’de meydana geldi ve ABD genelinde kazara tutuklanan altı kişinin tamamı Siyahtı.
25 Yaşındaki siyahi genç ailesinin önünde tutuklanmıştı
2019 yılında, Michael Oliver isimli 25 yaşındaki siyahi bir adam, bir öğretmenin cep telefonunu çalmak ve kırmakla haksız yere suçlandı.
Yüz tanıma yazılımı, görünür dövmeleri ve tez edilen hırsızlığa karışan bireyden farklı bir beden tipi, cilt tonu ve saç tarzı olmasına karşın, polisi fotoğrafını sıraya koymaya ikna etti.
Ertesi yıl Robert Julian-Borchak, Detroit’teki üst seviye bir Shinola butiğinden hırsızlık yaptığı savıyla ailesinin önünde tutuklandı.
Borchak’ın ismi, bir güvenlik müteahhidinin DPD’ye güvenlik kamerası imgelerini göndermesi ve DPD’nin de bu imajları Michigan Eyalet Polisi’ne iletmesi ve polisin de yüz tanıma aracı kullanarak Borchak’ın ismini eşleştirmesi üzerine polise verildi.
“BÜTÜN SİYAH ERKEKLERİN BİRBİRİNE BENZEDİĞİNİ Mİ SANIYORSUNUZ?”
Bu cins yanlışların yalnızca siyahi vatandaşlar üzerinde meydana gelmesi insanları sinirlendirdi. The New York Times’a nazaran Robert Julian-Borchak Williams soruşturma sırasında polise “Bu ben değilim, bütün Siyah erkeklerin birbirine benzediğini mi sanıyorsunuz?” dedi.
Yapay zeka ön yargılı beşerler tarafından manipüle edilebilir!
Yüz tanıma araçları, algoritmik önyargı olarak bilinen, önyargılı beşerler tarafından yaratılmaları nedeniyle görünüşte tarafsız teknolojilere yerleştirilen makul tercihlerden muzdarip olabilir.
Örneğin, yüz tanıma araçları ekseriyetle büyük manzara bilgi setleri üzerinde eğitilir ve çeşitlilik içermeyen bir bilgi setinin kullanılması, renkli insanları hakikat bir halde tanımlayamayan teknolojilerin ortaya çıkmasına neden olabilir.
