#ArtificialIntelligence - EU-wetgewing moet veilige grense vir hoërisiko-toepassings stel, sê #EESC

Biometriese herkenning vir die opsporing, toesig en opsporing van emosies behoort geen plek in Europa se mensgesentreerde benadering tot Kunsmatige Intelligensie (KI) te hê nie, sê die Europese Ekonomiese en Sosiale Komitee (EESC) in sy reaksie op die Europese Kommissie se Witskrif oor KI, aangeneem deur die EESC-plenum op Julie.

Die Europese Kommissie het voorgestel dat 'n KI-toepassing as 'n hoërisiko-sektor beskou moet word as dit beide 'n hoërisiko-sektor (gesondheidsorg, vervoer, energie en dele van die openbare sektor) en hoërisiko-gebruik behels, met 'n paar uitsonderings wat moet nog gedefinieer word. Slegs as aan hierdie twee voorwaardes voldoen word, stel die Kommissie voor, moet ons praat oor hoërisiko-KI, wat onder spesifieke regulasies en bestuurstrukture sal val.

Die EESC glo dat hierdie definisie die risiko loop om potensieel gevaarlike skuiwergate te skep. Facebook se politieke advertensies is 'n uitstekende voorbeeld, sê die Komitee.

"Reklame is 'n laerisiko-sektor en Facebook se nuussamevoegingsfunksie kan as 'n laerisiko-gebruik beskou word. Ons het egter tydens verkiesingsveldtogte gesien dat die verspreiding oor Facebook van fopnuus en deepfakes gegenereer het," voer meningsrapporteur Catelijne Muller aan. met die hulp van KI kan baie negatiewe effekte hê en hoe mense stem, met inmenging selfs van buite Europa beïnvloed."

Moet daar vrystellings hiervan wees, en hoeveel moet daar wees? Eerder as om 'n lys van vrystellings te maak, glo die EESC dat dit beter sal wees om 'n lys van gemeenskaplike kenmerke op te stel om as 'n hoërisiko beskou te word, ongeag die sektor.

Baie aansoeke het 'n sterk impak op fundamentele regte, beklemtoon Muller, nie net op mense se privaatheid nie, maar ook op hul reg om byvoorbeeld te demonstreer of om by 'n vakbond aan te sluit.

Die donker kant van biometriese herkenning

advertensie

Gesigs- en biometriese herkenning is een sleutelarea waar KI fundamentele regte aanraak. Die gebruik daarvan kan vir persoonlike identifikasiedoeleindes toegelaat word - en word inderdaad deur die Algemene Databeskermingsregulasie gereguleer.

Maar die wydverspreide gebruik van KI-gedrewe biometriese herkenning vir toesig of om menslike gedrag of emosies op te spoor, te assesseer of te kategoriseer, moet verbied word. Des te meer aangesien daar hoegenaamd geen wetenskaplike bewyse is dat ons 'n persoon se gevoelens op grond van hul biometrie kan onderskei nie, beklemtoon Muller.

COVID-19-opsporing- en opsporingsprogramme

Die EESC waarsku ook teen 'n onbeheerde oplewing van opsporings- en opsporingstegnologie wat baie vinniger en met baie minder ondersoek as voorheen sy weg in ons samelewing vind, in 'n poging om die koronavirus-uitbraak te beveg.

"KI-tegnieke en -benaderings om die pandemie te beveg, moet net so robuust, doeltreffend, deursigtig en verklaarbaar wees soos enige ander KI-tegniek in enige ander situasie," sê die EESC-rapporteur. "Hulle moet menseregte, etiese beginsels en wetgewing handhaaf. Hulle moet ook vrywillig wees, want, of ons daarvan hou of nie, baie tegnieke wat tydens die krisis ingestel is, permanent sal word."

Die EESC hoop dat die Kommissie sy insette sal aanvaar, soos hy gedoen het met die aanbevelings wat die EESC sedert sy baanbrekende mening oor KI in 2017, wat die eerste keer 'n "mens in bevel"-benadering tot KI in Europa verdedig het.

agtergrond

Die  Witskrif oor AI, deel van 'n wye reeks maatreëls oor KI wat aangekondig is in die Europese Kommissie se kommunikasie om Europa se digitale toekoms te vorm, stel voor:

• Maatreëls om navorsing te stroomlyn, samewerking tussen lidlande te bevorder en belegging in KI te bevorder, en;
• beleidsopsies vir 'n toekomstige EU-regulerende raamwerk oor KI, met 'n sterk fokus op hoërisiko-toepassings.

In Februarie 2020 het die Kommissie 'n openbare konsultasie oor die Witskrif van stapel gestuur wat tot 14 Junie geduur het en meer as 1 200 antwoorde op die vraelyste en sowat 700 skriftelike voorleggings getrek het. Die Kommissie is tans besig om daardie insette te verwerk en sal binnekort 'n verslag publiseer.

Die vorming van Europa se digitale toekoms beskryf die aksies wat die Europese Kommissie beplan om te neem om 'n Europa te verseker wat geskik is vir die digitale era, een van Ursula von der Leyen se topprioriteite vir haar tyd as president van Europa se uitvoerende gesag. Dit is gebaseer op drie sleutelpilare:

• Tegnologie wat vir die mense werk;
• 'n regverdige en mededingende digitale ekonomie, en;
• 'n oop, demokratiese en volhoubare samelewing.

Die EESC het sy advies oor "Vorm Europa se digitale toekoms" in 'n , wat ook by die EESC se Julie-plenum aangeneem is, met een sleutelaanbeveling:

"Die blote spoed van die digitale transformasie beteken dat ons nie weet watter nuwe ontwikkelings volgende maand gaan kom nie. Ons moet dus buigsaam en aanpasbaar wees. Dit vereis voortdurende dialoog tussen al die betrokke partye. Die EESC, as die stem van georganiseerde burgerlike samelewing, behoort deel daarvan te wees, en ons vra die Kommissie om so 'n permanente dialoog op die been te bring,” het die meningsrapporteur Ulrich Samm gesê.

Deel hierdie artikel: