Na drie dae lange 'marathon'-gesprekke het die Raadspresidentskap en die Europese Parlement se onderhandelaars 'n voorlopige ooreenkoms bereik oor die voorstel oor geharmoniseerde reëls oor kunsmatige intelligensie (KI), die sogenaamde kunsmatige intelligensiewet. Die konsepregulasie het ten doel om te verseker dat KI-stelsels wat op die Europese mark geplaas word en in die EU gebruik word, veilig is en fundamentele regte en EU-waardes respekteer. Hierdie landmerkvoorstel het ook ten doel om belegging en innovasie op KI in Europa te stimuleer.
Dit is 'n historiese prestasie, en 'n groot mylpaal na die toekoms! Vandag se ooreenkoms spreek effektief 'n globale uitdaging in 'n vinnig-ontwikkelende tegnologiese omgewing op 'n sleutelgebied vir die toekoms van ons samelewings en ekonomieë aan. En in hierdie poging het ons daarin geslaag om 'n uiters delikate balans te handhaaf: die bevordering van innovasie en opname van kunsmatige intelligensie regoor Europa, terwyl die fundamentele regte van ons burgers ten volle gerespekteer word. Carme Artigas, Spaanse staatsekretaris vir digitalisering en kunsmatige intelligensie
Die KI-wet is a vlagskip wetgewende inisiatief met die potensiaal om die ontwikkeling en opname van veilige en betroubare KI oor die EU se interne mark deur beide private en openbare rolspelers te bevorder. Die hoofgedagte is om KI te reguleer op grond van laasgenoemde se vermoë om skade aan die samelewing te veroorsaak na a 'risiko-gebaseerde' benadering: hoe hoër die risiko, hoe strenger die reëls. As die eerste wetsvoorstel van sy soort in die wêreld, kan dit 'n stel wêreldwye standaard vir KI-regulering in ander jurisdiksies, net soos die GDPR gedoen het, en sodoende die Europese benadering tot tegnologieregulering in die wêreldverhoog bevorder.
Die hoofelemente van die voorlopige ooreenkoms
In vergelyking met die aanvanklike voorstel van die Kommissie, kan die belangrikste nuwe elemente van die voorlopige ooreenkoms soos volg opgesom word:
reëls oor hoë-impak algemene-doel KI modelle wat sistemiese risiko in die toekoms kan veroorsaak, sowel as op hoë-risiko KI-stelsels
'n hersiene stelsel van bestuur met sekere afdwingingsbevoegdhede op EU-vlak
uitbreiding van die lys van verbodsbepalings maar met die moontlikheid om te gebruik afgeleë biometriese identifikasie deur wetstoepassingsowerhede in openbare ruimtes, onderhewig aan voorsorgmaatreëls
beter beskerming van regte deur die verpligting vir ontplooiers van hoërisiko-KI-stelsels om a fundamentele regte impakbeoordeling voordat 'n KI-stelsel in gebruik geneem word.
In meer konkrete terme dek die voorlopige ooreenkoms die volgende aspekte:
Definisies en omvang
Om te verseker dat die definisie van 'n KI-stelsel voldoende duidelike kriteria verskaf om KI van eenvoudiger sagtewarestelsels te onderskei, bring die kompromieooreenkoms die definisie in lyn met die benadering wat deur die OESO voorgestel word.
Die voorlopige ooreenkoms maak ook duidelik dat die regulasie nie van toepassing is op gebiede buite die omvang van die EU-wetgewing nie en in elk geval nie lidlande se bevoegdhede in nasionale veiligheid of enige entiteit wat met take op hierdie gebied toevertrou is. Verder sal die KI-wet nie van toepassing wees op stelsels waarvoor uitsluitlik gebruik word nie militêre or verdediging doeleindes. Net so bepaal die ooreenkoms dat die regulasie nie van toepassing is op KI-stelsels wat gebruik word vir die uitsluitlike doel van navorsing en innovasie, of vir mense wat KI vir nie-professionele redes gebruik.
advertensie
Klassifikasie van KI-stelsels as hoërisiko- en verbode KI-praktyke
Die kompromie-ooreenkoms maak voorsiening vir a horisontale laag van beskerming, insluitend 'n hoërisiko-klassifikasie, om te verseker dat KI-stelsels wat nie waarskynlik ernstige fundamentele regteskendings of ander beduidende risiko's sal veroorsaak nie, nie vasgelê word nie. KI-stelsels bied slegs aan beperkte risiko sou aan baie lig onderhewig wees deursigtigheid verpligtinge, byvoorbeeld om te openbaar dat die inhoud KI-gegenereer is sodat gebruikers ingeligte besluite oor verdere gebruik kan neem.
'N Wye verskeidenheid van hoë risiko KI-stelsels sal gemagtig word, maar onderhewig aan 'n stel vereistes en verpligtinge om toegang tot die EU-mark te verkry. Hierdie vereistes is sodanig deur die medewetgewers uitgeklaar en aangepas dat dit meer is tegnies uitvoerbaar en minder lastig vir belanghebbendes om aan te voldoen, byvoorbeeld met betrekking tot die kwaliteit van data, of met betrekking tot die tegniese dokumentasie wat deur KMO's opgestel moet word om te demonstreer dat hul hoërisiko-KI-stelsels aan die vereistes voldoen.
Aangesien KI-stelsels deur komplekse waardekettings ontwikkel en versprei word, sluit die kompromieooreenkoms veranderinge in wat die toewysing van verantwoordelikhede en rolle van die verskillende akteurs in daardie kettings, veral verskaffers en gebruikers van KI-stelsels. Dit verduidelik ook die verhouding tussen verantwoordelikhede ingevolge die KI-wet en verantwoordelikhede wat reeds ingevolge ander wetgewing bestaan, soos die relevante EU-databeskerming of sektorale wetgewing.
Vir sommige gebruike van KI word risiko geag onaanvaarbaar en daarom sal hierdie stelsels uit die EU verban word. Die voorlopige ooreenkoms verbied byvoorbeeld kognitiewe gedragsmanipulasie, die ongeteikende sloop van gesigbeelde vanaf die internet of kringtelevisiemateriaal, emosie herkenning in die werkplek en opvoedkundige instellings, sosiale punte, biometriese kategorisering om sensitiewe data af te lei, soos seksuele oriëntasie of godsdiensoortuigings, en sommige gevalle van voorspellende polisiëring vir individue.
Wetstoepassing uitsonderings
Met inagneming van die spesifisiteite van wetstoepassingsowerhede en die behoefte om hul vermoë om KI te gebruik in hul lewensbelangrike werk te bewaar, is verskeie veranderinge aan die Kommissievoorstel ooreengekom met betrekking tot die gebruik van KI-stelsels vir wetstoepassingsdoeleindes. Onderhewig aan toepaslik voorsorgmaatreëls, is hierdie veranderinge bedoel om die behoefte te weerspieël om die vertroulikheid van sensitiewe operasionele data met betrekking tot hul aktiwiteite te respekteer. Byvoorbeeld, 'n noodprosedure is ingestel wat wetstoepassingsagentskappe in staat stel om 'n hoërisiko KI-instrument te ontplooi wat nie die ooreenstemmingsbeoordeling prosedure in geval van dringendheid. 'n Spesifieke meganisme is egter ook ingestel om dit te verseker fundamentele regte sal voldoende beskerm word teen enige moontlike misbruik van KI-stelsels.
Verder, met betrekking tot die gebruik van real-time afgeleë biometriese identifikasie stelsels in publiek toeganklike ruimtes, verduidelik die voorlopige ooreenkoms die doelwitte waar sodanige gebruik streng nodig is vir wetstoepassingsdoeleindes en waarvoor wetstoepassingsowerhede dus by uitsondering toegelaat moet word om sulke stelsels te gebruik. Die kompromie-ooreenkoms maak voorsiening vir bykomende voorsorgmaatreëls en beperk hierdie uitsonderings tot gevalle van slagoffers van sekere misdade, voorkoming van werklike, huidige of voorsienbare bedreigings, soos terreuraanvalle, en soektogte na mense wat van die ernstigste misdade verdink word.
Algemene doel KI-stelsels en grondslagmodelle
Nuwe bepalings is bygevoeg om situasies in ag te neem waar KI-stelsels vir baie verskillende doeleindes gebruik kan word (algemene doel AI), en waar algemene KI-tegnologie daarna in 'n ander hoërisiko-stelsel geïntegreer word. Die voorlopige ooreenkoms spreek ook die spesifieke gevalle van algemene-doel KI (GPAI) stelsels aan.
Daar is ook ooreengekom oor spesifieke reëls fondasie modelle, groot stelsels wat in staat is om 'n wye reeks kenmerkende take op bekwame wyse uit te voer, soos die generering van video, teks, beelde, gesprekke in laterale taal, rekenaars of die generering van rekenaarkode. Die voorlopige ooreenkoms maak voorsiening dat grondslagmodelle moet voldoen aan spesifieke deursigtigheid verpligtinge voordat hulle in die mark geplaas word. ’n Strenger regime is ingestel vir 'hoë impak' fondasie modelle. Dit is grondslagmodelle wat opgelei is met 'n groot hoeveelheid data en met gevorderde kompleksiteit, vermoëns en prestasie ver bo die gemiddelde, wat sistemiese risiko's langs die waardeketting kan versprei.
'n Nuwe bestuursargitektuur
Na aanleiding van die nuwe reëls oor GPAI-modelle en die ooglopende behoefte aan die toepassing daarvan op EU-vlak, is 'n KI-kantoor binne die Kommissie is opgestel om toesig te hou oor hierdie mees gevorderde KI-modelle, by te dra tot die bevordering van standaarde en toetspraktyke, en die gemeenskaplike reëls in alle lidlande af te dwing. A wetenskaplike paneel van onafhanklike kundiges sal die KI-kantoor adviseer oor GPAI-modelle, deur by te dra tot die ontwikkeling van metodologieë vir die evaluering van die vermoëns van fondamentmodelle, advies te gee oor die aanwysing en die opkoms van hoë impak fondamentmodelle, en die monitering van moontlike materiële veiligheidsrisiko's wat met fondamentmodelle verband hou.
Die KI Raad, wat lidlande se verteenwoordigers sou bestaan, sal bly as 'n koördineringsplatform en 'n adviesliggaam vir die Kommissie en sal 'n belangrike rol aan lidlande gee oor die implementering van die regulasie, insluitend die ontwerp van praktykkodes vir grondslagmodelle. Ten slotte, 'n adviesforum vir belanghebbendes, soos bedryfsverteenwoordigers, KMO's, beginnerondernemings, die burgerlike samelewing en die akademie, opgestel sal word om tegniese kundigheid aan die KI-raad te verskaf.
Strawwe
Die boetes vir oortredings van die KI-wet is vasgestel as 'n persentasie van die oortredende maatskappy se wêreldwye jaarlikse omset in die vorige boekjaar of 'n voorafbepaalde bedrag, wat ook al die hoogste is. Dit sal €35 miljoen of 7% wees vir oortredings van die verbode KI-toepassings, €15 miljoen of 3% vir oortredings van die KI-wet se verpligtinge en €7,5 miljoen of 1,5% vir die verskaffing van verkeerde inligting. Die voorlopige ooreenkoms maak egter voorsiening daarvoor meer proporsionele pette op administratiewe boetes vir KMO's en beginners in die geval van oortredings van die bepalings van die KI-wet.
Die kompromie-ooreenkoms maak ook duidelik dat 'n natuurlike of regspersoon 'n klag by die betrokke kan rig marktoesigowerheid oor nie-nakoming van die KI-wet en kan verwag dat so 'n klagte in ooreenstemming met die toegewyde prosedures van daardie owerheid hanteer sal word.
Deursigtigheid en beskerming van fundamentele regte
Die voorlopige ooreenkoms maak voorsiening vir a fundamentele regte impakbeoordeling voordat 'n hoërisiko-KI-stelsel deur sy ontplooiers in die mark geplaas word. Die voorlopige ooreenkoms maak ook voorsiening vir verhoogde deursigtigheid rakende die gebruik van hoërisiko-KI-stelsels. Veral, sommige bepalings van die Kommissievoorstel is gewysig om aan te dui dat sekere gebruikers van 'n hoërisiko-KI-stelsel wat openbare entiteite is, ook verplig sal word om in die EU databasis vir hoërisiko-KI-stelsels. Boonop plaas nuut bygevoegde bepalings klem op 'n verpligting vir gebruikers van 'n emosieherkenningstelsel om natuurlike persone in te lig wanneer hulle aan so 'n stelsel blootgestel word.
Maatreëls ter ondersteuning van innovasie
Met die oog op die skep van 'n wetlike raamwerk wat meer innovasievriendelik is en om bewysgebaseerde regulatoriese leer te bevorder, word die bepalings t.o.v. maatreëls ter ondersteuning van innovasie is aansienlik gewysig in vergelyking met die voorstel van die Kommissie.
Dit is veral duidelik dat KI regulatoriese sandkaste, wat veronderstel is om 'n beheerde omgewing vir die ontwikkeling, toetsing en validering van innoverende KI-stelsels te vestig, moet ook voorsiening maak vir die toetsing van innoverende KI-stelsels in werklike toestande. Verder is nuwe bepalings bygevoeg wat dit toelaat toets van KI-stelsels in werklike wêreld toestande, onder spesifieke voorwaardes en voorsorgmaatreëls. Om die administratiewe las vir kleiner maatskappye te verlig, bevat die voorlopige ooreenkoms 'n lys van aksies wat onderneem moet word om sulke operateurs te ondersteun en maak voorsiening vir 'n paar beperkte en duidelik gespesifiseerde afwykings.
Inwerkingtreding
Die voorlopige ooreenkoms maak voorsiening dat die KI-wet van toepassing moet wees twee jaar na die inwerkingtreding daarvan, met enkele uitsonderings vir spesifieke bepalings.
Volgende stappe
Na vandag se voorlopige ooreenkoms sal daar in die komende weke op tegniese vlak voortgegaan word om die besonderhede van die nuwe regulasie te finaliseer. Die presidensie sal die kompromieteks aan die lidlande se verteenwoordigers (Coreper) voorlê vir bekragtiging sodra hierdie werk afgehandel is.
Die hele teks sal deur beide instellings bevestig moet word en reg-linguistiese hersiening moet ondergaan voor formele aanvaarding deur die medewetgewers.
Agtergrondinligting
Die voorstel van die Kommissie, wat in April 2021 aangebied is, is 'n sleutelelement van die EU se beleid om die ontwikkeling en opname oor die interne mark van veilige en wettige KI wat fundamentele regte respekteer, te bevorder.
Die voorstel volg 'n risiko-gebaseerde benadering en lê 'n eenvormige, horisontale regsraamwerk vir KI neer wat daarop gemik is om regsekerheid te verseker. Die konsepregulasie het ten doel om belegging en innovasie in KI te bevorder, bestuur en effektiewe toepassing van bestaande wetgewing oor fundamentele regte en veiligheid te verbeter, en die ontwikkeling van 'n enkele mark vir KI-toepassings te fasiliteer. Dit gaan hand aan hand met ander inisiatiewe, insluitend die gekoördineerde plan oor kunsmatige intelligensie wat daarop gemik is om belegging in KI in Europa te versnel. Op 6 Desember 2022 het die Raad 'n ooreenkoms bereik vir 'n algemene benadering (onderhandelingsmandaat) oor hierdie lêer en in die middel van Junie 2023 interinstitusionele samesprekings met die Europese Parlement ('trilogues') aangegaan.
EU Reporter publiseer artikels uit 'n verskeidenheid van buite bronne wat 'n wye verskeidenheid van standpunte uitdruk. Die standpunte wat in hierdie artikels ingeneem word, is nie noodwendig dié van EU Reporter nie.
