Kunsmatige intelligensie: bedreigings en geleenthede

Die groei en welvaart van Europa hang ten nouste saam met die gebruik van data en gekoppelde tegnologieë. KI kan 'n groot verskil maak aan ons lewens en samelewing - ten goede of ten kwade - en die Europese Parlement het 'n komitee om die impak van die tegnologie te ondersoek. Hieronder is 'n paar belangrike geleenthede en bedreigings verbonde aan toekomstige toepassings van AI.

Lees meer oor wat kunsmatige intelligensie is en hoe dit gebruik word.

Voordele van KI

EU-lande is reeds sterk in die digitale industrie en toepassings van besigheid tot besigheid. Met 'n digitale infrastruktuur van hoë gehalte en 'n regulerende raamwerk wat privaatheid en vryheid van spraak beskerm, kan die EU dit doen 'n wêreldleier word in die data-ekonomie en die toepassings daarvan.

Voordele van KI vir mense

KI kan mense help met verbeterde gesondheidsorg, veiliger motors en ander vervoerstelsels, op maat gemaakte, goedkoper en langdurige produkte en dienste. Dit kan ook toegang tot inligting, onderwys en opleiding vergemaklik. Die behoefte aan afstandsonderrig het al hoe belangriker geword as gevolg van die COVID-19 pandemie. KI kan ook werkplek veiliger maak, aangesien robotte vir gevaarlike dele van werk gebruik kan word, en nuwe posisies kan oopstel namate KI-gedrewe bedrywe groei en verander.

advertensie

Geleenthede van kunsmatige intelligensie vir ondernemings

Vir besighede kan AI die ontwikkeling van 'n nuwe generasie produkte en dienste moontlik maak, insluitend in sektore waar Europese maatskappye reeds sterk posisies het: groen en sirkulêre ekonomie, masjinerie, boerdery, gesondheidsorg, mode, toerisme. Dit kan die verkope verhoog, die instandhouding van die masjien verbeter, die produksie en kwaliteit van die produksie verhoog, kliëntediens verbeter, sowel as energie bespaar.

KI-geleenthede in openbare dienste

KI wat in openbare dienste gebruik word, kan koste verlaag en nuwe moontlikhede in openbare vervoer, onderwys, energie en afvalbestuur bied, en kan ook die volhoubaarheid van produkte verbeter. Op hierdie manier kan AI bydra tot die bereiking van die doelstellings van die EU Green Deal.

Versterking van demokrasie

Demokrasie kan versterk word deur data-gebaseerde ondersoek te gebruik om te voorkom disinformasie en kuberaanvalle en om toegang tot gehalte-inligting te verseker. KI kan ook diversiteit en openheid ondersteun, byvoorbeeld deur die moontlikheid van benadeling in die aanstel van besluite te verminder en eerder analitiese data te gebruik.

KI, sekuriteit en veiligheid

Daar word voorspel dat AI meer gebruik sal word in die voorkoming van misdade en in die strafregstelsel, aangesien massiewe datastelle vinniger verwerk kan word, gevangene se vlugrisiko's akkurater beoordeel word, misdaad of selfs terroriste-aanvalle voorspel en voorkom word. Dit word reeds deur aanlynplatforms gebruik om onwettige en onvanpaste aanlyngedrag op te spoor en daarop te reageer.

In militêre aangeleenthede kan KI gebruik word vir verdedigings- en aanvalstrategieë vir inbraak en phishing of om sleutelstelsels in kuberwerke te rig, terwyl die grootste voordeel van outonome wapenstelsels die potensiaal is om gewapende konflik te betree met die verminderde risiko van fisiese skade.

Bedreigings en uitdagings van KI

Die toenemende afhanklikheid van KI-stelsels hou ook potensiële risiko's in.

Onderbenutting en oorbenutting van KI

Onderbenutting van KI word as 'n groot bedreiging beskou: gemiste geleenthede vir die EU kan beteken dat swak implementering van groot programme, soos die EU Green Deal, die mededingende voordeel teenoor ander wêrelddele, ekonomiese stagnasie en swakker moontlikhede vir mense verloor. Onderbenutting kan voortspruit uit die wantroue van openbare en sakelui in KI, swak infrastruktuur, gebrek aan inisiatief, lae beleggings, of omdat gefragmenteerde digitale markte, aangesien AI se masjienleer afhanklik is van data.

Oormatige gebruik kan ook problematies wees: om in AI-toepassings te belê wat nie nuttig is nie, of om KI toe te pas op take waarvoor dit nie geskik is nie, byvoorbeeld om ingewikkelde samelewingskwessies te verklaar.

Aanspreeklikheid: Wie is verantwoordelik vir skade wat deur KI veroorsaak word?

'N Belangrike uitdaging is om vas te stel wie verantwoordelik is vir skade wat veroorsaak word deur 'n toestel of diens wat deur AI bestuur word: in 'n ongeluk met 'n selfbesturende motor. Moet die skade deur die eienaar, die motorvervaardiger of die programmeerder gedek word?

As die produsent absoluut vry van aanspreeklikheid was, sou daar geen aansporing wees om goeie produkte of dienste te lewer nie, en dit kan mense se vertroue in die tegnologie skade berokken; maar regulasies kan ook te streng wees en vernuwing smoor.

Bedreiging van KI vir fundamentele regte en demokrasie

Die resultate wat AI lewer, hang af van hoe dit ontwerp is en watter data dit gebruik. Beide ontwerp en data kan opsetlik of onbedoeld bevooroordeeld wees. Sommige belangrike aspekte van 'n saak kan byvoorbeeld nie in die algoritme geprogrammeer word nie, of geprogrammeer word om strukturele vooroordele te weerspieël en te herhaal. As gevolg hiervan kan die gebruik van getalle om die komplekse sosiale werklikheid voor te stel, die KI feitelik en presies laat lyk as dit nie is nie. Dit word soms wiskundewas genoem.

As dit nie na behore gedoen word nie, kan AI lei tot besluite wat beïnvloed word deur gegewens oor etnisiteit, geslag, ouderdom by die huur of ontslag, die aanbied van lenings of selfs in strafregtelike verrigtinge.

KI kan die reg op privaatheid en databeskerming ernstig beïnvloed. Dit kan byvoorbeeld gebruik word in toerusting vir gesigsherkenning of vir aanlynopsporing en profilering van individue. Daarbenewens maak AI dit moontlik om stukke inligting wat 'n persoon gegee het, saam te voeg in nuwe data, wat kan lei tot resultate wat die persoon nie sou verwag nie.

Dit kan ook 'n bedreiging vir die demokrasie inhou; AI is reeds die skuld gegee vir die skep van aanlyn-eggokamers op grond van die vorige aanlyngedrag van 'n persoon, wat slegs inhoud vertoon wat iemand wil hê, in plaas daarvan om 'n omgewing te skep vir pluralistiese, ewe toeganklike en inklusiewe openbare debatte. Dit kan selfs gebruik word om uiters realistiese vals video, klank en beelde te skep, bekend as deepfakes, wat finansiële risiko's kan inhou, reputasie kan benadeel en besluitneming kan uitdaag. Dit alles kan lei tot skeiding en polarisasie in die openbare sfeer en die verkiesing manipuleer.

KI kan ook 'n rol speel in die benadeling van die vryheid van vergadering en protes omdat dit individue wat met sekere oortuigings of aksies verband hou, kan opspoor en profiel.

KI-impak op werk

Daar word verwag dat die gebruik van KI in die werkplek 'n groot aantal poste sal uitskakel. Alhoewel daar ook van AI verwag word om beter werksgeleenthede te skep en te lewer, sal opleiding en opleiding 'n belangrike rol speel in die voorkoming van langtermynwerkloosheid en 'n bekwame werksmag verseker.

Die versameling van inligting kan ook lei tot verdraaiing van die kompetisie, aangesien maatskappye met meer inligting 'n voordeel kan kry en mededingers effektief kan uitskakel.

Veiligheids- en sekuriteitsrisiko's

KI-toepassings wat in fisiese kontak met mense is of in die menslike liggaam geïntegreer is, kan veiligheidsrisiko's inhou, aangesien dit swak ontwerp, misbruik of gekap kan word. Swak gereguleerde gebruik van KI in wapens kan lei tot die verlies van menslike beheer oor gevaarlike wapens.

Deursigtigheidsuitdagings

Die wanbalanse van toegang tot inligting kan benut word. Op grond van 'n persoon se aanlyngedrag of ander gegewens en sonder hul medewete kan 'n aanlynverkoper byvoorbeeld AI gebruik om te voorspel dat iemand bereid is om te betaal, of 'n politieke veldtog kan hul boodskap aanpas. 'N Ander deursigtigheidskwessie is dat dit soms vir mense onduidelik kan wees of hulle met KI of met iemand omgaan.