Çin dünyanın ilk yapay zeka savcısını yarattı

Orwellci cihaz, devlete karşı ‘muhalefeti’ zaten tespit edebilir ve sözde suçlular için cezalar önerebilir, insanları kovuşturma sürecinden ve insan gözetiminden uzaklaştırabilir.

Sistemi geliştiren Çin Bilim Akademisi ekibi, programın %97 doğrulukla yazılı bir vaka açıklamasına dayalı olarak bir suçlamada bulunabileceğini, ancak çoğu kişinin bunu potansiyel olarak kötü amaçlar için kullanılabilecek bir cihaz olarak gördüğünü belirtiyor.

Robotun kovuşturabileceği davalar arasında, “Devletin siyasi gücünü altüst etme” ve “ulusal birliği sabote etme” gibi adi suçlar – genellikle muhaliflere karşı isnat edilen ve BM’nin “düşüncelerin iletilmesine” karşı kullanılabileceğine inandığı belirsiz suçlar yer alıyor. veya fikirler’. Bir yapay zekanın görüşlerdeki veya alışılmışın dışında inançlardaki bir farklılığı kovuşturabilmesi gerçeği, bu terimlerin neyi oluşturduğu ve devletin yasal tanımlarını genişletmek için sistemi kullanıp kullanamayacağı konusunda endişelere neden oluyor – kimse filizlenen medeni sınırlamaların sorumluluğunu üstlenmiyor.

İnsan karar sürecini hukuk sisteminden çıkarmak

Robot, ülkenin en kapsamlı ve en yoğun bölge savcılığı olan Şanghay Pudong Halk Savcılığı’nda inşa edildi ve test edildi – burada ekip daha fazla suç ve daha yüksek dava yükü içerecek şekilde genişletecek.

Çin Bilimler Akademisi’nin büyük veri ve bilgi yönetimi laboratuvarında direktör olan Profesör Shi Yong’a göre, teknoloji savcıların günlük iş yükünü azaltarak daha zorlu görevlere odaklanmalarını sağlayabilir. Burada adeta otomatikleştirilmiş bir doktrini ima ediyor: “Sistem bir dereceye kadar karar verme sürecinde savcıların yerini alabilir.”

South China Morning Post  , yapay zekayı oluşturan benzersiz bir matematiksel formül olan algoritmanın standart bir masaüstü bilgisayarda çalışabileceğini ve insan kaynaklı vaka açıklamasından toplanan 1000 yasa dışı veya uyumsuz özelliğe dayalı suçlamalarda bulunabileceğini bildirdi.

Mühendisler , 2015’ten 2020’ye kadar 17.000’den fazla vaka kullanarak makineyi geliştirdi . Şu anda, Şanghay’ın en yaygın sekiz suçunu tespit edip suçlayabilir: kredi kartı sahtekarlığı, kumar, tehlikeli sürüş, hırsızlık, dolandırıcılık, kasten yaralama, resmi görevleri engelleme, ve ‘kavgaları toplamak ve sorun çıkarmak’ – uyumsuzları yumuşatmak için kullanılan bir terim. Ancak şimdilik sistemin karar verme sürecinde hiçbir rolü yok ve hapis cezalarının süresini önermiyor.

Buna rağmen, değişen sosyal standartlara ayak uyduramayacağından ve ilerici ‘özgür düşünenleri’ bastırmak için kullanılabileceğinden korkuluyor.

Kolluk kuvvetlerinde yapay zeka yaygınlaşıyor

AI teknolojisi kolluk kuvvetlerinde zaten var, ancak bu ilk kez suçlamada bulunacak.

Örneğin, görüntü tanıma ve dijital adli tıp, Almanya’daki vaka yüklerine yardımcı olur; Aynı zamanda Çin, kanıtları, tutuklama koşullarını ve şüphelinin halk için herhangi bir tehlike oluşturup oluşturmadığını değerlendirmek için 2016’dan beri System 206 olarak bilinen bir araç kullanıyor.

Küresel AI yarışında ilerlemeye devam eden Çinli yetkililer, 2017 yılında ülkenin ilk siber mahkemesini kurarak e-ticaret gibi siber bağlantılı davalardaki tarafların video aracılığıyla AI tabanlı hakimlerin önünde görünmesine izin verdi. Buradaki fikir, sistemin daha büyük dava yükleriyle başa çıkmasına yardımcı olmak olsa da, insan yargıçlar bir karar vermeden önce her adımı izlemeye devam ediyor.

ünkü bu tür kararlar vermek için bir makinenin karmaşık, insan dilini tanımlaması ve bilgisayarın anlayabileceği bir biçime çevirmesi gerekir. İnsanlar tarafından oluşturulan veya yüklenen metinleri, kayıtları veya görüntüleri analiz etmek için doğal dil işleme (NLP) olarak bilinen bir programa ihtiyaç vardır ve savcıların erişemeyeceği süper bilgisayarlar gerektirir.

Temel bir bilgisayarda bir NLP sistemine doğru bir adımda, ekip, daha az yaygın suçları tanımak ve tek bir şüpheliye karşı birden fazla suçlamada bulunmak için makinelerini yükseltmeyi planlıyor.

AI ayrıca hükümet yetkililerini izlemek için kullanılıyor

Bu arada Çin, verimliliği artırmak, yolsuzluğu azaltmak ve kontrolü güçlendirmek için neredeyse her hükümet sektöründe yapay zekayı agresif bir şekilde kullanıyor. Araştırmacılara göre, bazı şehirler yolsuzluğu tespit etmek için devlet çalışanlarının sosyal çevrelerini ve faaliyetlerini izlemek için makineler kullandı; Devletin sistemi, memurlarda veya akranlarında ‘kavgacı’ özellikleri yakalamak için kullanıp kullanmadığına dair hiçbir bilgi yok.

Bu arada, ülkedeki mahkemeler de bu teknolojiyi yargıçların yasal belgeleri işlemelerine ve temyizi kabul etme veya reddetme gibi kararlar almalarına yardımcı olmak için kullanıyor. Ve çoğu Çin hapishanesi, şiddeti azaltmak amacıyla mahkumların fiziksel ve zihinsel durumlarını izlemek için yapay zekayı benimsedi. Bu, yetkililerin mahkumları boyun eğdirmek için işkence, cinsel saldırı ve ağır çalışma kullandığı, dini ve etnik azınlıklar için birçok ‘yeniden eğitim’ kampının artık yasal yargı yetkisi dışında faaliyet gösterdiği bir zamanda geliyor.

Adının açıklanmasını istemeyen Guangzhou’da bir savcı, yeni bilgisayarlı yargıç ve jüriyle ilgili endişelerini dile getirdi: “Yüzde 97’lik doğruluk, teknolojik açıdan yüksek olabilir, ancak her zaman bir hata olasılığı olacaktır. Bu olduğunda sorumluluğu kim üstlenecek? Savcı mı, makine mi yoksa algoritmanın tasarımcısı mı?” Pek çok insan savcının işlerine bilgisayarların müdahale etmesini istemeyeceğini de sözlerine ekledi: “AI bir hatayı tespit etmeye yardımcı olabilir, ancak karar vermede insanların yerini alamaz.”

Özetlemek gerekirse, hukuk sisteminden hafifletici nedenler kaldırıldığında ve her şeye uyan tek bir programla değiştirildiğinde ne olduğunu görmek ilginç olacaktır.