Po tridnevnih 'maratonskih' pogovorih so predsedstvo Sveta in pogajalci Evropskega parlamenta dosegli začasni dogovor o predlogu usklajenih pravil o umetni inteligenci (AI), tako imenovanem aktu o umetni inteligenci. Namen osnutka uredbe je zagotoviti, da so sistemi umetne inteligence, ki so dani na evropski trg in se uporabljajo v EU, varni ter spoštujejo temeljne pravice in vrednote EU. Namen tega pomembnega predloga je tudi spodbuditi naložbe in inovacije na področju umetne inteligence v Evropi.
To je zgodovinski dosežek in velik mejnik v prihodnost! Današnji sporazum učinkovito obravnava globalni izziv v hitro razvijajočem se tehnološkem okolju na ključnem področju za prihodnost naših družb in gospodarstev. In pri tem prizadevanju nam je uspelo ohraniti izjemno občutljivo ravnotežje: spodbujati inovacije in uveljavitev umetne inteligence po vsej Evropi, hkrati pa v celoti spoštovati temeljne pravice naših državljanov. Carme Artigas, španska državna sekretarka za digitalizacijo in umetno inteligenco
Dejanje AI je a Vodilna zakonodajna pobuda s potencialom za spodbujanje razvoja in uporabe varne in zaupanja vredne umetne inteligence na enotnem trgu EU s strani zasebnih in javnih akterjev. Glavna ideja je urediti umetno inteligenco na podlagi zmožnosti slednje, da povzroči škodo družbi po a 'na podlagi tveganja' pristop: večje kot je tveganje, strožja so pravila. Kot prvi zakonodajni predlog te vrste na svetu lahko določi a svetovni standard za regulacijo umetne inteligence v drugih jurisdikcijah, tako kot je to storila GDPR, s čimer spodbuja evropski pristop k regulaciji tehnologije na svetovnem prizorišču.
Glavni elementi začasne pogodbe
V primerjavi s prvotnim predlogom Komisije je mogoče glavne nove elemente začasnega sporazuma povzeti na naslednji način:
pravila o zmogljivi modeli umetne inteligence za splošno uporabo ki lahko povzročijo sistemsko tveganje v prihodnosti, pa tudi na visoko tveganje AI sistemi
prenovljen sistem upravljanje z nekaterimi izvršilnimi pooblastili na ravni EU
razširitev seznama prepovedi vendar z možnostjo uporabe daljinsko biometrično identifikacijo s strani organov kazenskega pregona v javnih prostorih, ob upoštevanju zaščitnih ukrepov
boljše varstvo pravic z obveznostjo uvajalcev sistemov umetne inteligence z visokim tveganjem, da izvajajo a ocena učinka na temeljne pravice pred dajanjem sistema AI v uporabo.
Natančneje, začasni sporazum zajema naslednje vidike:
Definicije in področje uporabe
Da bi zagotovili, da opredelitev sistema umetne inteligence zagotavlja dovolj jasna merila za razlikovanje umetne inteligence od enostavnejših sistemov programske opreme, kompromisni sporazum usklajuje opredelitev s pristopom, ki ga predlaga OECD.
Začasni dogovor tudi pojasnjuje, da uredba ne velja za področja zunaj področja uporabe prava EU in v nobenem primeru ne bi smela vplivati na pristojnosti držav članic v državna varnost ali kateri koli subjekt, ki mu je zaupana naloga na tem področju. Poleg tega zakon o AI ne bo veljal za sisteme, ki se uporabljajo izključno za vojaško or obramba namene. Podobno sporazum določa, da uredba ne bi veljala za sisteme umetne inteligence, ki se uporabljajo izključno za raziskave in inovacije, ali za ljudi, ki uporabljajo AI iz nepoklicnih razlogov.
oglas
Razvrstitev sistemov umetne inteligence med visoko tvegane in prepovedane prakse umetne inteligence
Kompromisni sporazum predvideva a vodoravni sloj zaščite, vključno z visoko stopnjo tveganja, da se zagotovi, da sistemi umetne inteligence, za katere ni verjetno, da bodo povzročili resne kršitve temeljnih pravic ali druga pomembna tveganja, niso zajeti. Samo predstavitev sistemov AI omejeno tveganje bi bila zelo lahka obveznosti glede preglednosti, na primer z razkritjem, da je bila vsebina ustvarjena z umetno inteligenco, tako da lahko uporabniki sprejemajo informirane odločitve o nadaljnji uporabi.
Široka paleta visoko tveganje Sistemi umetne inteligence bi bili odobreni, vendar ob upoštevanju niza zahtev in obveznosti za dostop do trga EU. Te zahteve sta sozakonodajalca pojasnila in prilagodila tako, da so več tehnično izvedljivo in manj obremenjujoče ki jih morajo upoštevati deležniki, na primer v zvezi s kakovostjo podatkov ali v zvezi s tehnično dokumentacijo, ki bi jo morala pripraviti MSP, da bi dokazala, da njihovi sistemi umetne inteligence z visokim tveganjem izpolnjujejo zahteve.
Ker se sistemi umetne inteligence razvijajo in distribuirajo skozi kompleksne vrednostne verige, kompromisni sporazum vključuje spremembe, ki pojasnjujejo razdelitev odgovornosti in vloge različnih igralcev v teh verigah, zlasti ponudniki in uporabniki sistemov umetne inteligence. Pojasnjuje tudi razmerje med odgovornostmi v skladu z zakonom o AI in odgovornostmi, ki že obstajajo v skladu z drugo zakonodajo, kot je ustrezna zakonodaja EU o varstvu podatkov ali sektorska zakonodaja.
Za nekatere uporabe umetne inteligence velja tveganje nesprejemljivo zato bodo ti sistemi prepovedani v EU. Začasni sporazum prepoveduje na primer kognitivne vedenjska manipulacija, neciljani razrez slik obraza iz interneta ali posnetkov CCTV, prepoznavanje čustev na delovnem mestu in izobraževalnih ustanovah, socialno točkovanje, biometrična kategorizacija za sklepanje občutljivih podatkov, kot je spolna usmerjenost ali versko prepričanje, in nekateri primeri napovedno policijsko delo za posameznike.
Izjeme organov pregona
Upoštevajoč posebnosti organi pregona in potrebe po ohranitvi njihove sposobnosti uporabe umetne inteligence pri njihovem ključnem delu, je bilo dogovorjenih več sprememb predloga Komisije v zvezi z uporabo sistemov umetne inteligence za namene kazenskega pregona. Ob upoštevanju ustreznih varovala, so te spremembe namenjene odražanju potrebe po spoštovanju zaupnosti občutljivih operativnih podatkov v zvezi z njihovimi dejavnostmi. Uveden je bil na primer nujni postopek, ki je organom kazenskega pregona omogočil uporabo visoko tveganega orodja AI, ki ni prestalo ugotavljanje skladnosti postopek v nujnih primerih. Vendar je bil uveden tudi poseben mehanizem, ki to zagotavlja temeljne pravice bodo dovolj zaščiteni pred morebitnimi zlorabami sistemov AI.
Še več, kar zadeva uporabo realnega časa daljinsko biometrično identifikacijo sistemov v javno dostopnih prostorih, začasni sporazum pojasnjuje cilje, kjer je taka uporaba nujno potrebna za namene kazenskega pregona in za katere organe kazenskega pregona bi bilo zato treba izjemoma dovoliti uporabo takih sistemov. Kompromisni sporazum predvideva dodatna varovala in te izjeme omejuje na primere žrtev določenih kaznivih dejanj, preprečevanje resničnih, sedanjih ali predvidljivih groženj, kot so teroristični napadi, in iskanja ljudi, osumljenih najhujših kaznivih dejanj.
Splošni sistemi AI in modeli temeljev
Dodane so bile nove določbe, ki upoštevajo situacije, v katerih se lahko sistemi AI uporabljajo za številne različne namene (AI za splošne namene) in kjer je tehnologija umetne inteligence za splošni namen naknadno integrirana v drug sistem z visokim tveganjem. Začasni sporazum obravnava tudi posebne primere sistemov umetne inteligence za splošne namene (GPAI).
Dogovorjena so bila tudi posebna pravila za modeli temeljev, veliki sistemi, ki so sposobni kompetentno izvajati širok nabor značilnih nalog, kot je generiranje videa, besedila, slik, pogovor v stranskem jeziku, računalništvo ali generiranje računalniške kode. Začasni sporazum določa, da morajo modeli temeljev ustrezati posebnim obveznosti glede preglednosti preden so dani na trg. Uvedli strožji režim za 'visok vpliv' modeli temeljev. To so temeljni modeli, usposobljeni z veliko količino podatkov in z napredno kompleksnostjo, zmogljivostmi in zmogljivostjo, ki je precej nad povprečjem, kar lahko razširja sistemska tveganja po vrednostni verigi.
Nova arhitektura upravljanja
Po novih pravilih o modelih GPAI in očitni potrebi po njihovem uveljavljanju na ravni EU je an Urad za umetno inteligenco znotraj Komisije je ustanovljen za nadzor nad temi najnaprednejšimi modeli umetne inteligence, prispevanje k spodbujanju standardov in praks testiranja ter uveljavljanje skupnih pravil v vseh državah članicah. A znanstveni svet neodvisnih strokovnjakov bo Uradu za AI svetoval o modelih GPAI, tako da bo prispeval k razvoju metodologij za ocenjevanje zmogljivosti modelov temeljev, svetoval pri označevanju in nastanku modelov temeljev z velikim vplivom ter spremljal možna tveganja za varnost materiala, povezana z modeli temeljev.
O AI plošča, ki bi ga sestavljali predstavniki držav članic, bo ostal koordinacijska platforma in svetovalno telo Komisije ter bo dal pomembno vlogo državam članicam pri izvajanju uredbe, vključno z oblikovanjem kodeksov ravnanja za temeljne modele. Končno, an svetovalni forum za deležnike, kot so predstavniki industrije, mala in srednja podjetja, novoustanovljena podjetja, civilna družba in akademski krogi, bo vzpostavljen za zagotavljanje tehničnega strokovnega znanja odboru za umetno inteligenco.
kazni
Globe za kršitve zakona o AI so bile določene kot odstotek globalnega letnega prometa kršitelja v prejšnjem poslovnem letu ali vnaprej določen znesek, kar je višje. To bi bilo 35 milijonov € ali 7 % za kršitve prepovedanih aplikacij AI, 15 milijonov € ali 3 % za kršitve obveznosti zakona o AI in 7,5 milijonov € ali 1,5 % za posredovanje napačnih informacij. Vendar pa začasni sporazum predvideva bolj sorazmerne zgornje meje o upravnih globah za MSP in novoustanovljena podjetja v primeru kršitev določb zakona o AI.
Kompromisni sporazum tudi določa, da se lahko fizična ali pravna oseba pritoži pristojnemu organ za nadzor trga v zvezi z neskladnostjo z zakonom o AI in lahko pričakuje, da bo taka pritožba obravnavana v skladu z namenskimi postopki tega organa.
Preglednost in varstvo temeljnih pravic
Začasni sporazum predvideva a ocena učinka na temeljne pravice preden sistem umetne inteligence z visokim tveganjem dajo na trg njegovi uvajalci. Začasni dogovor predvideva tudi povečano preglednost glede uporabe sistemov umetne inteligence z visokim tveganjem. Zlasti nekatere določbe predloga Komisije so bile spremenjene tako, da navajajo, da se bodo nekateri uporabniki sistema umetne inteligence z visokim tveganjem, ki so javni subjekti, morali prav tako registrirati v baza podatkov EU za sisteme umetne inteligence z visokim tveganjem. Poleg tega novo dodane določbe poudarjajo obveznost uporabnikov oz sistem za prepoznavanje čustev obveščati fizične osebe, ko so izpostavljene takšnemu sistemu.
Ukrepi v podporo inovativnosti
Z namenom oblikovanja pravnega okvira, ki je bolj prijazen do inovacij, in spodbujanja na dokazih temelječega regulativnega učenja so določbe o ukrepi v podporo inovativnosti so bili v primerjavi s predlogom Komisije bistveno spremenjeni.
Predvsem je bilo pojasnjeno, da AI regulativni peskovniki, ki naj bi vzpostavila nadzorovano okolje za razvoj, testiranje in validacijo inovativnih sistemov umetne inteligence, naj bi omogočala tudi testiranje inovativnih sistemov umetne inteligence v realnih razmerah. Poleg tega so bile dodane nove določbe, ki omogočajo Testiranje sistemov umetne inteligence v razmere v resničnem svetu, pod posebnimi pogoji in zaščitnimi ukrepi. Za zmanjšanje upravnega bremena za manjša podjetja začasni sporazum vključuje seznam ukrepov, ki jih je treba sprejeti v podporo takim operaterjem, in predvideva nekatera omejena in jasno določena odstopanja.
Začetek veljavnosti
Začasni sporazum predvideva uporabo zakona o AI 2 leti po začetku veljavnosti, z nekaterimi izjemami za posebne določbe.
Naslednji koraki
Po današnjem začasnem dogovoru se bo delo na tehnični ravni nadaljevalo v prihodnjih tednih, da se dokončno določijo podrobnosti nove uredbe. Predsedstvo bo kompromisno besedilo predložilo predstavnikom držav članic (Coreperju) v potrditev, ko bo to delo zaključeno.
Celotno besedilo bosta morali potrditi obe instituciji in opraviti pravno-jezikovno revizijo, preden ga uradno sprejmeta sozakonodajalca.
Osnovne informacije
Predlog Komisije, predstavljen aprila 2021, je ključni element politike EU za spodbujanje razvoja in uvedbe varne in zakonite umetne inteligence, ki spoštuje temeljne pravice, na enotnem trgu.
Predlog sledi pristopu, ki temelji na tveganju, in določa enoten horizontalni pravni okvir za umetno inteligenco, katerega namen je zagotoviti pravno varnost. Namen osnutka uredbe je spodbujati naložbe in inovacije v umetno inteligenco, okrepiti upravljanje in učinkovito izvrševanje obstoječe zakonodaje o temeljnih pravicah in varnosti ter olajšati razvoj enotnega trga za aplikacije umetne inteligence. Gre z roko v roki z drugimi pobudami, vključno z usklajenim načrtom o umetni inteligenci, katerega namen je pospešiti naložbe v umetno inteligenco v Evropi. Svet je 6. decembra 2022 dosegel dogovor o splošnem pristopu (pogajalski mandat) v zvezi s tem dokumentom in sredi junija 2023 začel medinstitucionalne pogovore z Evropskim parlamentom („trialoge“).
