EU donosi zakon o regulaciji umjetne inteligencije i zabrani sustava za prepoznavanje lica na daljinu

Parlament i Vijeće Europske unije napravili su novi korak prema reguliranju umjetne inteligencije, donošenjem nacrta zakona poznatog kao AI Act. New York Times navodi da se radi tek o jednom dijelu sveobuhvatnog procesa, dok bi konačan prijedlog zakona trebao biti donesen krajem ove godine.

Međutim, ako se zakon počne provoditi u sadašnjem obliku, tada će Europska unija zabraniti korištenje biometrijskih sustava u stvarnom vremenu i onih koji rade na daljinu, poput sustava za skeniranje i prepoznavanje lica.

Povezano: Kazna od 1,2 milijarde eura Facebooku je velika, ali pitanje je hoće li EU njome postići cilj. Evo zašto

U prijedlogu zakona traži se zabrana prodaje uređaja koji pokazuju kognitivnu manipulaciju ponašanjem. Na primjer, igračaka s glasovnom aktivacijom za koje se smatra da potiču opasno ponašanje kod djece. Bit će zabranjene i tehnologije koje klasificiraju ljude na temelju njihovog društveno-ekonomskog statusa ili osobnih karakteristika.

U međuvremenu će se tehnologije koje se smatraju "visokorizičnim" morati registrirati u posebnoj bazi podataka, a to uključuje sustave umjetne inteligencije za biometrijsku identifikaciju.

Europska komisija je prvi put predložila Zakon o umjetnoj inteligenciji još u travnju 2021. godine, što je bilo davno prije strelovitog porasta popularnosti generativnih AI sustava, poput ChatGPT-a, što je dovelo do sve češćih zahtjeva da se umjetna inteligencija regulira.

Povezano: Američke tajne službe priznale da putem mobitela i interneta nadziru vlastite građane

Verzija prijedloga zakona o kojoj se glasovalo uključivala je pravila za generativne AI sustave, poput onih koje koristi OpenAI, uključujući obveza da transparentnosti bilo kakvog sadržaja kojeg je generirala umjetna inteligencija. Od tih će se kompanija također tražiti da osiguraju da njihovi veliki Ai alati ne mogu generirati ilegalni sadržaj. Također, morat će objaviti sažetke zaštićenih podataka koji se koriste za obuku njihovih modela. Na koji način zakonodavci to namjeravaju provesti, za sada nije poznato.

Povezano: Google Bard: Još jedna odgoda lansiranja u EU zbog nepoštivanja regulacije o zaštiti podataka

Zastupnici Europskog parlamenta, Europske komisije i Vijeća Europske unije još trebaju poraditi na detaljima za konačnu verziju zakona. Mogli bi odlučiti promijeniti neke njegove aspekte i dodati određena izuzeća, poput dopuštanja upotrebe prepoznavanja lica u svrhu nacionalne sigurnosti. Ovdje sada dolazi do mogućnosti manipulacije, budući da je nacionalna sigurnost prilično rastezljiv pojam.

Ovaj zakon će nakon zadnjeg glasanja vjerojatno proći još nekoliko verzija, a dužnosnici se nadaju da će biti spreman do kraja godine.