umetna inteligenca

EU AI Act: Prva uredba o umetni inteligenci

DELITI:

objavljeno

Pred 9 meseci

Avgust 11, 2023

Uporabo umetne inteligence v EU bo urejal zakon o umetni inteligenci, prvi celoviti zakon o umetni inteligenci na svetu. Ugotovite, kako vas bo zaščitil, Društvo.

Kot del svojega digitalna strategija, želi EU z regulacijo umetne inteligence (AI) zagotoviti boljše pogoje za razvoj in uporabo te inovativne tehnologije. AI lahko ustvari veliko koristi, kot je boljše zdravstveno varstvo; varnejši in čistejši prevoz; učinkovitejša proizvodnja; ter cenejša in bolj trajnostna energija.

Aprila 2021 je Evropska komisija predlagala prvi regulativni okvir EU za umetno inteligenco. Piše, da so sistemi AI, ki jih je mogoče uporabiti v različnih aplikacijah, analizirani in razvrščeni glede na tveganje, ki ga predstavljajo za uporabnike. Različne stopnje tveganja bodo pomenile večjo ali manjšo regulacijo. Ko bodo odobrena, bodo to prva pravila o umetni inteligenci na svetu.

Več o tem kaj je umetna inteligenca in kako se uporablja.

Kaj želi Parlament od zakonodaje o AI

prednostna naloga parlamenta je zagotoviti, da so sistemi umetne inteligence, ki se uporabljajo v EU, varni, pregledni, sledljivi, nediskriminatorni in okolju prijazni. Sisteme umetne inteligence bi morali nadzorovati ljudje in ne avtomatizacija, da bi preprečili škodljive rezultate.

Parlament želi tudi vzpostaviti tehnološko nevtralno, enotno definicijo umetne inteligence, ki bi jo lahko uporabili za prihodnje sisteme umetne inteligence.

Več o tem Delo Parlamenta na področju umetne inteligence in njegove vizija za prihodnost AI.

oglas

Zakon o AI: različna pravila za različne stopnje tveganja

Nova pravila določajo obveznosti za ponudnike in uporabnike glede na stopnjo tveganja zaradi umetne inteligence. Čeprav številni sistemi umetne inteligence predstavljajo minimalno tveganje, jih je treba oceniti.

Nesprejemljivo tveganje

Sistemi umetne inteligence z nesprejemljivim tveganjem so sistemi, ki veljajo za grožnjo ljudem in bodo prepovedani. Vključujejo:

Kognitivna vedenjska manipulacija ljudi ali posebnih ranljivih skupin: na primer glasovno aktivirane igrače, ki spodbujajo nevarno vedenje otrok
Socialno točkovanje: razvrščanje ljudi na podlagi vedenja, socialno-ekonomskega statusa ali osebnih lastnosti
Sistemi biometrične identifikacije v realnem času in na daljavo, kot je prepoznavanje obraza

Nekatere izjeme so lahko dovoljene: Na primer, sistemi za biometrično identifikacijo na daljavo »naknadno«, kjer do identifikacije pride po precejšnji zamudi, bodo dovoljeni za pregon hudih kaznivih dejanj, vendar le po odobritvi sodišča.

Visoko tveganje

Sistemi umetne inteligence, ki negativno vplivajo na varnost ali temeljne pravice, bodo obravnavani kot visoko tvegani in bodo razdeljeni v dve kategoriji:

1) Sistemi AI, ki se uporabljajo v izdelkih, ki spadajo pod zakonodaja EU o varnosti izdelkov. To vključuje igrače, letalstvo, avtomobile, medicinske pripomočke in dvigala.

2) Sistemi umetne inteligence, ki spadajo v osem posebnih področij, ki jih bo treba registrirati v zbirki podatkov EU:

Biometrična identifikacija in kategorizacija fizičnih oseb
Upravljanje in delovanje kritične infrastrukture
Izobraževanje in poklicno usposabljanje
Zaposlovanje, upravljanje delavcev in dostop do samozaposlitve
Dostop in uživanje bistvenih zasebnih storitev ter javnih storitev in ugodnosti
Kazenski pregon
Upravljanje migracij, azila in mejne kontrole
Pomoč pri pravni razlagi in uporabi prava.

Vsi sistemi umetne inteligence z visokim tveganjem bodo ocenjeni, preden bodo dani na trg in tudi v njihovem življenjskem ciklu.

Generativna AI

Generativni AI, kot je ChatGPT, bi moral izpolnjevati zahteve glede preglednosti:

Razkritje, da je vsebino ustvaril AI
Oblikovanje modela za preprečevanje ustvarjanja nezakonite vsebine
Objavljanje povzetkov avtorsko zaščitenih podatkov, ki se uporabljajo za usposabljanje

Omejeno tveganje

Sistemi umetne inteligence z omejenim tveganjem bi morali izpolnjevati minimalne zahteve glede preglednosti, kar bi uporabnikom omogočilo sprejemanje premišljenih odločitev. Po interakciji z aplikacijami se lahko uporabnik odloči, ali jo želi še naprej uporabljati. Uporabniki morajo biti obveščeni, ko komunicirajo z AI. To vključuje sisteme umetne inteligence, ki ustvarjajo ali manipulirajo s slikovno, zvočno ali video vsebino, na primer globokimi ponaredki.

Naslednji koraki

Evropski poslanci so 14. junija 2023 sprejeli Pogajalsko stališče parlamenta o zakonu o AI. Zdaj se bodo začeli pogovori z državami EU v Svetu o končni obliki zakona.

Cilj je doseči dogovor do konca tega leta.