Ministarstvo za unutrašnju bezbednost SAD vodilo je program koji je imao za cilj da automatizuje označavanje korisnika društvenih medija kao „proterorističkih“ na osnovu njihove upotrebe određenih ključnih reči i interakcije sa drugim ciljanim korisnicima, prema dokumentima do kojih je došao Brenan centar za pravdu, objavljeno u utorak.
Projekt Night Furi(„Noćna furija“), partnerstvo između DHS-a i Univerziteta Alabama u Birmingemu, nastojalo je da potencijalno „proterorističkim“ nalozima dodeli „ocenu rizika“ koja bi potom uticala na druge naloge sa kojima su oni komunicirali.
Univerzitet je pristao da razvije automatizovane metode za utvrđivanje da li je nalog povezan sa nalogom koji je već pod nadzorom i sam po sebi „proteroristički“, koristeći kriterijume poput „poređenja skupova ključnih reči“.
Algoritam, a ne čovek, bi odredio da li se korisnik može označiti kao „proterorista“ zato što jednostavno klikne „sviđa mi se“ na Facebook objavu ili ponovo tvituje sa naloga koji je već dobio tu oznaku.
Uprkos poznatim granicama veštačke inteligencije kada je ovaj sistem formulisan 2018. godine, ceo proces bi, prema dokumentima, bio automatizovan.
Univerzitet je dobio zadatak da izgradi modele za „identifikovanje ključnih uticajnih proterorističkih misli“ i kreira automatizovani sistem za otkrivanje botova „programski generisanih da vrše uticaj“ za širenje „terorističke propagande“ i „kampanje stranog uticaja“.
Zatim bi sastavili listu sumnjivih naloga i predali ih DHS-u, zajedno sa njihovim imenima, imejlovima, brojevima telefona, slikama i objavama.
U ugovorima su nedostajale definicije za važne koncepte kao šta „proteroristički“ zapravo znači, ili šta će meriti „ocena rizika“, da li je to rizik da postanete terorista ili samo podržava to mišljenje, ili bilo koje objašnjenje kako automatizovani proces pravi razlike, bez jasnih definicija.
Takođe nije jasno kako program pravi razliku između sadržaja povezanog sa terorizmom i materijala u vezi sa trgovinom drogom i „dezinformacijama“, koje je takođe nastojao da prati.
Pročitajte još:
- Pušilin: Potrebno je osloboditi celu Ukrajinu
- Volstrit džurnal – Instagram povezuje pedofile putem Metinog algoritma
- Biotehnološka kompanija greškom obavestila da na stotine klijenata imaju rak
Do datuma ugovora koje je pregledao Brenan centar, DHS nije shvatio kako da kvantifikuje terorističke simpatije i tražio je pomoć od univerzitetskih istraživača da „identifikuje relevantne atribute“.
Generalni inspektor DHS je obavešten o potencijalnim kršenjima privatnosti na projektu Night Furi 2018. godine, a dok nije ispunjen zahtev FOIA, sve što se znalo o projektu dolazilo je iz izveštaja OIG-a iz 2019. godine, koji je otkrio agente uključene u projekat koji nisu poštovali politiku odeljenja koja reguliše privatnost i zaštitu osetljivih informacija.
Iako je DHS navodno prekinuo rad na Night Furi-u 2019. godine, nije poznato koliko je projekat bio daleko, niti da li je njegova imovina prebačena na drugo mesto u okviru organa za sprovođenje zakona.
Nedavno je otkriveno da Carina i granična zaštita SAD-a koristi sličan program koji pokreće veštačka inteligencija pod nazivom Babel X da bi njuškali preko naloga na društvenim mrežama putnika na američkoj granici.
Pratite Portal Dnevni Puls na Telegramu, Fejsbuku, Tviteru, Gab-u i Viberu!
Dnevni Puls/Mediji