Amazon’un yüz tanıma sistemi 100’den fazla siyasetçiyi tutuklu suçlularla eşleştirdi

Havadis Kıbrıs

 

Amazon’un yüz tanıma sistemi 100’den fazla siyasetçiyi tutuklu suçlularla eşleştirdi

Yeni yapılan testler, Amazon’un tartışmalı yüz tanıma teknolojisinin hatalı biçimde Birleşik Krallık (BK) ve ABD’den 100’ün üzerinde siyasetçiyle, polisin sabıka kaydı fotoğraflarını eşleştirdiği ortaya çıktı.

Yeni yapılan testler, Amazon’un tartışmalı yüz tanıma teknolojisinin hatalı biçimde Birleşik Krallık (BK) ve ABD’den 100’ün üzerinde siyasetçiyle, polisin sabıka kaydı fotoğraflarını eşleştirdiği ortaya çıktı.

Amazon Rekognition, kişileri yüz yapısından tanımlayabilmek için yapay zeka yazılımı kullanıyor. Sistemin müşterileri arasında kolluk kuvvetleri ve Göçmenlik ve Gümrük Muhafaza (ICE) gibi ABD devlet kurumları yer alıyor.

Yazılımın tutarlılığı ilk kez sorgulanmıyor. Amerikan Sivil Özgürlükler Birliği (ACLU), Temmuz 2018’de ABD Kongresi üyeleriyle, suçlamalar sonucu tutuklanan insanların fotoğrafları arasında 28 hatalı eşleşme tespit etmişti.

Teknoloji araştırmaları ve karşılaştırma firması Comparitech, ACLU’nun çalışmasını Britanyalı siyasetçileri de ekleyerek geliştirdi ve test edilen bin 959 fotoğrafta 105 hatalı sonuç tespit etti.

Amazon Rekognition, güvenirlik seviyesi standart seviye olan ve ACLU’nun yaptığı çalışmada da kullanılan yüzde 80’e ayarlandığında, teste tabi tutulan ABD’li meclis üyelerinin yüzde 32’sini hatalı biçimde sabıka fotoğraflarıyla eşleştirdi.

Comparitech tarafından bulguların detaylarının ele alındığı blog paylaşımında “Bu standartlara göre, Amazon’un yüz tanıma sistemi iyileştirilmediği gibi, ACLU’nun iki yıl önce tespit ettiğinden de kötü bir performans sergiledi. Polisin yüz tanımlamayı kullanmasına ister katılın ister katılmayın, kesin olan bir şey var: Bu, insan gözetimi olmaksızın kimlik tespiti kullanımına hazır değil” dendi.

Amazon, The Independent’in konuyla ilgili yorum talebine henüz yanıt vermedi.

2018’de yapılan çalışma sonrası Amazon, kolluk kuvvetleri kullanımında yazılımın güvenlik seviyesinin ACLU’nun kullandığı şekilde yüzde 80 değil, yüzde 95 düzeyinde ayarlanması gerektiğini açıklamıştı.

Bulut servis sağlayıcısı Amazon Web Service’ın yapay zekadan sorumlu Başkan Yardımcısı Matt Wood, o dönem kaleme aldığı bir blog yazısında şunları kaydetmişti:

 

 

 Haber Kıbrıs

Buradan Haber Kaynağına Ulaşabilirsiniz

 

 

Yorum bırakın