Razumijevanje EU Zakona o AI: Značajan korak u regulaciji umjetne inteligencije

Brza primjena AI-a u poslovanju ima potencijal otključati velike dobitke u produktivnosti i pružiti vrijednu podršku radnicima. Prema Eurostatu, 42% velikih tvrtki (250+ zaposlenika) već koristi AI, dok je 13% manjih tvrtki (10+ zaposlenika) počelo s njegovom primjenom. Međutim, kako AI tehnologije evoluiraju i šire se, tako rastu i rizici, od zabrinutosti za zaštitu podataka zbog velikih skupova podataka za obuku, do kriminalne zloupotrebe u kibernetičkim napadima, algoritamske pristranosti, kršenja privatnosti i etičkih pitanja poput manipulacije i prijetnji ljudskim pravima.

Kao odgovor, EU je uvela prvi sveobuhvatni zakon o AI-u na svijetu – Europski zakon o umjetnoj inteligenciji (AI Act) – kako bi osigurala odgovoran razvoj i korištenje AI-a uz zaštitu zdravlja, sigurnosti i temeljnih prava građana.

Što je EU AI Act i zašto je važan za poslovanje i društvo? Razjasnimo to.

Što je EU AI Act?  

EU AI Act, uveden 1. kolovoza 2024., a potpuno primjenjiv od 2. kolovoza 2026., regulira AI sustave koji utječu na ljude u EU, čak i ako su razvijeni izvan regije. Cilj je smanjiti rizike poput kršenja privatnosti, pristranosti, manipulacije i fizičke štete kroz provođenje transparentnosti, etičkih zaštitnih mjera i ljudskog nadzora:

• Transparentnost: AI sustavi moraju jasno objasniti kako funkcioniraju i koje rizike predstavljaju. Ako AI sustav izravno komunicira s ljudima (npr. chatbotovi), mora biti jasno da je to AI sustav.
• Etičke zaštitne mjere: Zakon klasificira AI prema razini rizika, zabranjuje najštetnije sustave i nameće stroge obveze za sustave visokog rizika.
• Ljudski nadzor: Aspekt "ljudskog nadzora" posebno je kritičan za AI sustave visokog rizika. Osigurava da ljudi mogu nadzirati, razumjeti i kontrolirati kako ti sustavi rade. AI visokog rizika mora biti dizajniran da omogućuje ljudsku interakciju, omogućujući ljudima da provjere funkcionira li sustav sigurno i interveniraju ako nešto pođe po zlu. Cilj je spriječiti štetu po zdravlje, sigurnost ili temeljna prava pojedinaca. Programeri, pružatelji i operateri odgovorni su za osiguranje kvalitete podataka, provođenje procjena rizika i održavanje transparentnosti u funkcioniranju AI sustava. Sustavi visokog rizika također moraju biti registrirani u javnoj bazi podataka, a incidenti prijavljeni. Usklađenost se provodi kroz procjene sukladnosti, certifikacije i značajne kazne za kršenja.

Potencijalne kazne za neusklađenost mogu biti ozbiljne – do 35 milijuna eura ili do 7% ukupnog godišnjeg prometa tvrtke na svjetskoj razini za prethodnu financijsku godinu, ovisno o tome koji je iznos veći.

Na koga će AI zakon utjecati?  

AI zakon utječe na građane EU i sve organizacije koje djeluju u EU ili pružaju usluge EU. 5 grupa na koje utječe uključuje:

• Razvojne inženjere i pružatelje AI: Moraju se pridržavati propisa ako njihovi sustavi predstavljaju visok rizik ili zahtijevaju transparentnost
• Korisnike visokorizičnog AI: Kada se AI koristi u osjetljivim područjima kao što su zapošljavanje, bankarstvo/kredit, zdravstvo/bolnice ili vladine/javne usluge, moraju se ispuniti strogi zahtjevi nadzora i upravljanja rizicima
• Distributere i uvoznike: Moraju osigurati da sustavi ispunjavaju zahtjeve EU prije prodaje
• Tvrtke izvan EU: Moraju se pridržavati propisa ako njihova AI rješenja utječu na korisnike u EU
• Korisnike: Većina ljudi će, na neki način, biti korisnici, iako nisu izravno regulirani, zakon ima za cilj zaštititi njihova prava i sigurnost

Prilike i izazovi

Iako stvara nove propise koje treba slijediti, AI zakon EU nudi brojne prednosti za tvrtke:

• Uspostavljanjem jasnih standarda, jača povjerenje potrošača i povećava vjerodostojnost kod kupaca, investitora i partnera
• Također pomaže u smanjenju pravnih i reputacijskih rizika koji bi mogli nastati ako korisnici pretrpe štetu zbog korištenja AI
• Tvrtkama pruža jasne smjernice za razvoj i rad AI sustava unutar EU
• AI zakon EU motivira tvrtke da uspostave jasnija pravila za rad s AI i bolje kontroliraju svoje procese. To poboljšava donošenje odluka unutar tvrtke i pouzdanost AI sustava. Također olakšava tvrtkama prilagodbu drugim postojećim ili budućim AI propisima

Međutim, iako AI zakon pojačava zaštitne mjere i upravljanje, može također predstavljati izazove za tvrtke, posebno manje tvrtke i start-upove:

• Visokorizični sustavi suočavaju se s dodatnim troškovima zbog zadataka usklađenosti kao što su procjene rizika i dokumentacija, što može odgoditi razvoj i ulazak na tržište.
• U međuvremenu, tvrtke u regijama s labavijim propisima mogu brže inovirati i potkopati EU konkurente. Različite mjere provedbe među državama članicama EU također bi mogle dovesti do nesigurnosti.

Pristup Konica Minolte etičkoj i usklađenoj AI

Konica Minolta posvećena je etičkoj, transparentnoj AI koja je u skladu s EU AI Aktom, dok potiče inovacije. Provodimo procjene rizika koje pregledava naš Odbor za etiku AI i podržavamo odgovoran razvoj i rad kroz obuku za programere i ključne dionike, uz podršku posvećenih timova poput našeg AI Task Forcea, odjela za zaštitu podataka i internih jedinica za usklađenost. Koristimo tehnologije poput anonimizacije i enkripcije kako bismo ispunili zahtjeve EU AI Akta.

Osim usklađenosti, naš cilj je voditi u odgovornoj AI. Ugradnjom ovih principa u svaku fazu razvoja, ne samo da osiguravamo usklađenost s propisima, već pružamo dodatnu vrijednost kupcima kroz sigurna, pouzdana i vrhunska AI rješenja.

Sljedeća AI rješenja Konica Minolte već su u skladu s odredbama AI Akta:

• Workplace Pure: Platforma u oblaku koja kombinira brojne usluge upravljanja dokumentima. Uključuje AI-baziranu uslugu prevođenja koja se može koristiti putem preglednika ili kontrolne ploče bizhub višenamjenskog pisača (MFP). Omogućuje brzo i jednostavno prevođenje dokumenata s gotovo bilo kojeg izvornog jezika na gotovo bilo koji ciljni jezik – bilo kada, bilo gdje. Hostira se u podatkovnim centrima Open Telekom Clouda sa sjedištem u EU kako bi se osigurala potpuna usklađenost s GDPR-om i koristi naprednu HTTPS enkripciju za zaštitu informacija u prijenosu.
• VSS (Video Solution Services): Video Solution Services (VSS) Konica Minolte integriraju napredne tehnologije snimanja s AI-analitikom kako bi poboljšali sigurnost, učinkovitost i operativnu kontrolu u raznim industrijama. Primjeri primjena uključuju nadzor proizvodnih linija, osiguranje zgrada i poboljšanje zdravstvenih okruženja. Značajke poput prepoznavanja lica ili analitike ponašanja obrađuju se sigurno i u skladu s propisima o zaštiti podataka poput GDPR-a i AI Akta.
• FORXAI Mirror: FORXAI Mirror koristi AI tehnologiju za povećanje sigurnosti na radnom mjestu. Osigurava pristup opasnim proizvodnim područjima i smanjuje rizik od kontaminacije osiguravajući da zaposlenici ulaze u proizvodno područje samo s osobnom zaštitnom opremom (PPE) koju tvrtka zahtjeva. Otkriva odstupanja u korištenju osobne zaštitne opreme (PPE) u stvarnom vremenu. Rješenje se može integrirati u postojeće sustave kontrole pristupa, uz strogo poštivanje načela EU Akta o umjetnoj inteligenciji – s naglaskom na privatnost, transparentnost, procjenu rizika i razumljivost putem enkripcije i rigoroznog testiranja AI modela.