Iako su regulatorna tijela i dalje skeptična prema uvođenju alata za nadzor umjetne inteligencije u policiji i tvrtkama, nedavno izvješće sugerira da se umjetna inteligencija vojne razine sada koristi za špijuniranje američkih civila.
Portal Wired piše da se alati za nadzor umjetne inteligencije, koje su razvili obrambeni izvođači u obavještajne svrhe, sada prodaju poslodavcima. Tvrtke koje nude usluge poput “otvorenog izvornog obavještavanja”, “upravljanja ugledom” i “procjene insajderskih prijetnji”, mogle bi potencijalno ugroziti privatnost i sigurnost građana.
Sve veća zabrinutost zbog špijuniranja običnih civila
Izvješće Wireda izaziva zabrinutost u vezi s korištenjem vojnih alata za nadzor uz pomoć umjetne inteligencije za špijuniranje običnih civila, bez njihova znanja. U članku se navodi da se tehnike nadzora koje su prije bile povezane s autoritarnim režimima sada prenamjenjuju kako bi ciljale na američke radnike. Ovi napredni AI alati za nadzor omogućuju poslodavcima korištenje analitike podataka za prepoznavanje kritičara, internih osoba koje cure informacije i organizatora rada.
Wired naglašava slučajeve u kojima velike tvrtke poput Amazona nadziru napore sindikalnog organiziranja. AI alati za nadzor, koji su prvotno dizajnirani za identifikaciju terorističkih skupina, sada se mogu koristiti za identificiranje organizatora rada, što potencijalno može dovesti do nezakonitih otkaza, prije nego što se primjerice uspostavi sindikat radnika. Nadalje, poslodavci mogu u potpunosti izbjeći angažiranje ovih organizatora ako ih identificiraju još tijekom procesa zapošljavanja.
Nužnost zaštitnih mjera za obične građane
Ove primjene AI vojnih alata za nadzor, izvorno namijenjenih za ciljanje nacionalnih neprijatelja, zahtijevaju rasprave o reguliranju AI tehnologija nadzora. Moraju se uspostaviti zaštitne mjere kako bi se spriječila njihova zlouporaba protiv građana, ističe portal Interesting Engineering te ističu da bi široka mogućnost primjene ovih sustava trebala biti briga za sve.
Globalno se poduzimaju napori da se regulira korištenje AI alata za nadzor. Europski parlament nedavno je odobrio Zakon o umjetnoj inteligenciji za reguliranje upotrebe umjetne inteligencije u Europi. U međuvremenu, američka Savezna komisija za trgovinu (FTC) aktivno se bavi nepoštenom upotrebom umjetne inteligencije i komercijalnim nadzorom, posebno u vezi s online praćenjem i zaštitom javnosti, posebno tinejdžera, od prijevarnih aktivnosti i kršenja privatnosti.
FTC razmatra nove propise koji bi regulirali prikupljanje osobnih podataka i umjetnu inteligenciju koja se pokreće takvim podacima. Traže mišljenje javnosti o proširenju definicije diskriminacije izvan rase i spola kako bi obuhvatila komercijalni nadzor i regulaciju umjetne inteligencije.
Potreban je i angažman javnosti
Brzi porast tvrtki koje prodaju AI alate za nadzor vojne razine, razlog je za zabrinutost. Neke tvrtke čak reklamiraju integraciju AI tehnologija sljedeće generacije u svoje alate za nadzor, nudeći značajke koje pojednostavljuju istraživanje podataka putem jednostavnog odziva.
Kako se upotreba alata za nadzor umjetne inteligencije širi, ključno je osigurati odgovarajuću regulativu i zaštitne mjere za zaštitu privatnosti, sprječavanje zlouporabe i rješavanje potencijalnih diskriminatorskih praksi. Očigledna je i potreba za angažmanom javnosti i regulatornim djelovanjem, kako bi se održala etička i odgovorna primjena umjetne inteligencije u kontekstu nadzora.
