Yüz tanıma teknolojisindeki gelişmelerden endişelenmeliyiz.Neden?

Yüz tanıma teknolojisi hızla yayılıyor. Çin’de zaten yaygın olan kişilerin, yüzlerinin görüntülerini bir kayıt veritabanına göre karşılaştırarak tanımlayan bir yazılım şimdi dünyanın geri kalanı boyunca benimsenmiştir. Polis güçleri arasında yaygındır, ancak havaalanlarında , tren istasyonlarında ve alışveriş merkezlerinde de kullanılmıştır .

Bu teknolojinin hızlı büyümesi, çok ihtiyaç duyulan bir tartışmayı tetikledi. Aktivistler , politikacılar , akademisyenler ve hatta polis güçleri , yüz tanımanın, haklar ve demokrasiye dayanan bir politik kültür üzerindeki etkileri konusunda ciddi endişelerini dile getiriyor.

İnsan hakları kaygıları

İnsan haklarının geleceğini araştıran biri olarak bu endişeleri paylaşıyorum. İşte yüz tanıma teknolojisinin kamusal alanlarda kullanımı konusunda endişelenmemiz için 10 neden

1) Otomatik battaniye gözetleme yolunda bizi bir yola sokuyor

CCTV zaten dünya çapında yaygın, ancak hükümetlerin size karşı çekimi kullanması için kanıt olarak iddia edebileceği bir şey yaptığınıza dair özel klipler bulmaları gerekiyor. Yüz tanıma teknolojisi, izlemeyi yeni seviyelere taşıyor. Günlük işlerine devam ederken, insanların otomatik ve ayırt edici olmayan canlı gözetimini mümkün kılar ve yetkililere her hareketinizi takip etme şansı verir.

2) Net bir yasal veya düzenleyici çerçeve olmadan çalışır

Bazı milletvekilleri bunu değiştirmeye çalışsa da , çoğu ülkede yüz tanıma teknolojisinin kullanımını düzenleyen özel bir mevzuat yoktur . Bu yasal limbo, resimlerimizi bilgimiz olmadan veya rızamız olmadan elde etme ve onaylamadığımız şekillerde kullanma gibi kötüye kullanımın kapısını açar .

3) Gereklilik ve orantılılık ilkelerini ihlal ediyor

BM tarafından Londra Polislik Etik Paneli’ne kadar örgütler tarafından tanınan, yaygın olarak belirtilen bir insan hakları ilkesi, sürveyansın gerekli ve orantılı olması gerektiğidir. Bu, sürveyansın özgürlüğümüze ve temel haklarımıza yapılan haksız müdahaleyi sağlamak yerine, ciddi suçların peşinde koşmasıyla sınırlandırılması gerektiği anlamına gelir. Yüz tanıma teknolojisi bu prensiplerle çelişmektedir. Devletin vatandaşlarına duyduğu güvensizliğin belirtisi olan bir kontrol teknolojisidir.

4) Gizlilik hakkımızı ihlal ediyor

Gizlilik hakkı, kamusal alanlarda bile önemlidir. Devletten ya da özel şirketlerden izinsiz girmeden kimliğimizin ifadesini korur. Yüz tanıma teknolojisinin ayırt edici olmayan ve geniş çaplı kaydı, görüntülerimizin saklanması ve analizi bu hakkı baltalıyor, çünkü devlet hakkında bir şey bilmeden artık hiçbir şey yapamayacağımız anlamına geliyor.

5) Demokratik politik kültürümüz üzerinde ürpertici bir etkisi var.

Battaniyenin sürveyansı, kişileri halka açık etkinliklere katılmaktan caydırabilir. Siyasi protestolara ve değişim kampanyalarına katılımı engelleyebilir. Ve uyumsuz davranışları engelleyebilir. Bu ürpertici etki, toplanma, örgütlenme ve ifade özgürlüğü hakkı üzerinde ciddi bir ihlaldir.

6) Vatandaşlara rıza fırsatını vermez

Yüz tanımanın gerçekte nasıl kullanıldığı ile ilgili ayrıntılı ve özel bilgi eksikliği vardır. Bu , görüntülerimizin veritabanlarında kaydedilmesi, analiz edilmesi ve saklanması için bize izin verilmediği anlamına gelir . Bize rıza gösterme olanağını reddederek , kendi imajlarımızın kullanımı üzerinde seçim ve kontrol reddedilir.

7) Genellikle yanlış

Yüz tanıma teknolojisi, doğru tanımlama sözü veriyor. Ancak sayısız araştırma , ırksal olarak önyargılı veri setlerinde eğitim alan algoritmaların renk insanlarını, özellikle de renk kadınlarını nasıl yanlış tanıttığını vurgulamıştır. Bu tür algoritmik önyargılar , yasadışı tutuklamalarla sonuçlandığında ya da kamu kurumlarının ve özel şirketlerin azınlık etnik kökene sahip kadınlara ve insanlara karşı ayrımcılık yapmasına yol açması konusunda özellikle endişe vericidir.

8) Otomasyon yanlılığına yol açabilir

Yüz tanıma yazılımı kullanan kişiler yanlışlıkla teknolojinin yanılmaz olduğuna inanıyorsa, kötü kararlara yol açabilir . Bu “ otomasyon yanlılığı ” önlenmelidir. Makine tarafından oluşturulan sonuçlar, devlet kurumlarının veya özel kuruluşların bireylere nasıl davrandığını belirlememelidir. Eğitimli insan operatörleri anlamlı kontrol uygulamalı ve kanuna dayalı kararlar almalıdır.

9) Gizli hükümet gözlem listeleri olduğunu ima eder.

Yüz görüntülerimizi içeren veritabanları alarm zillerini çalmalıdır. Özel şirketler ve kanun uygulayıcı kurumların, bilgimiz veya iznimiz olmadan olası şüphelilerin izleme listeleri oluşturmak için resimlerimizi paylaştığını ima ediyorlar. Bu, bireysel haklarımız ve medeni özgürlüklerimiz için ciddi bir tehdittir. Bu veritabanlarının güvenliği ve bilgisayar korsanlarının etkilerine karşı kırılganlıkları da endişe vericidir.

10) Zaten savunmasız grupları hedeflemek için kullanılabilir

Battaniye gözetimi için yüz tanıma teknolojisi kullanılabilir. Ancak, örneğin göçmenleri ve mültecileri tanımlamak için seçmeli olarak da dağıtılabilir. Yüz tanıma yazılımına satışı böyle olmuştur tartışmalı ABD Göçmenlik ve Gümrük Muhafaza (ICE) gibi kurumlara ağır eleştirdi  Göçmen başa çıkma konusunda taktik, insan haklarına umurunda kimse endişe edilmelidir. Polis güçleri tarafından yüz tanıma uygulamasıyla elde taşınır mobil cihazların kullanımı , sokak düzeyinde gelişmiş ırksal profilleme hayaletini arttırıyor .

Şiddetli bir tartışma gerekli

Yüz tanıma teknolojisi hakkındaki bu kadar çok endişeyle, haklarımız ve sivil özgürlüklerimiz üzerindeki etkisi konusunda umutsuzca daha belirgin bir sohbete ihtiyacımız var. Bu sistemlerin uygun şekilde düzenlenmesi olmadan, bir zamanlar özgür, demokratik olan ülkelerde distopyacı polis devletleri oluşturma riski taşıyoruz.

Birgit Schippers , Araştırma Görevlisi, Senatör George J Mitchell Küresel Barış, Güvenlik ve Adalet Enstitüsü, Queen’s University Belfast

Bu makale, bir Creative Commons lisansı altında Konuşma’dan yayınlanmaktadır . Orijinal makaleyi okuyun .