Selfs 'n regsgeding van $2.4 miljard sal nie aanlynhaat stop nie - Silicon Valley is doelgerig om dit op te skaal

In Oktober 2021 was professor Meareg Amare doxxed op Facebook. Weke later is hy wreed in sy eie huis vermoor – skryf Courteney Mukoyi . Nou staar Facebook se moedermaatskappy Meta 'n $ 2.4 miljard regsgeding, wat daarvan beskuldig word dat hy geweld in Amare se geboorteland Ethiopië aanhits. Amare se doxxing was geen toeval nie. Sy inligting het nie net in die verkeerde hande geval nie – dit is doelbewus versterk as 'n oproep tot gewelddadige, vigilante geregtigheid. 

In vandag se wêreld is die staat se rol in die ondersoek van oortredings en die beskerming van die onskuldiges vervang deur aanlyn skares wat as regter, jurie en laksman optree.

En nie net in Ethiopië nie. 

In Indië, 20 mense is binne twee maande vermoor nadat hy in 2018 van kinderontvoering oor WhatsApp beskuldig is. 

Kort daarna het Duitsland daarna xenofobiese onluste gesien sosiale media gerugte beweer 'n Duitser is deur asielsoekers vermoor. En net verlede jaar het historiese onluste in die Verenigde Koninkryk uitgebreek ná die tragiese moord op drie jong meisies in Southport - aangevuur deur 'n vlaag van disinformasie oor die identiteit van die vermeende moordenaar.

In elk van hierdie gevalle het die disinformasie minderhede of Moslem-gemeenskappe geteiken, wat reeds in die gesig gestaar word rekordvlakke van haatmisdaad. 

Vanaf die oomblik dat 'n algoritme gebore word, begin dit muteer, en leer hoe - en wie - om te haat op grond van die data en patrone waaruit dit leer. Soos die skoenlapper-effek, word selfs die kleinste spoor van vooroordeel of diskriminasie onmiddellik versterk. 

Van toe af word dit vinnig onherkenbaar. Onbeheerbaar. Selfs aan sy skepper. 

Maar al wou hy, kan Mark Zuckerberg nie die prop uittrek nie. 

Dit is nie net dat die masjien sy vervaardiger ontgroei het nie, dit is ook dat nie een van die betrokke spelers die volledige gereedskapstel het om dit te bevat nie. Tegniese reuse het die tegniese kundigheid, maar het nie die wil of die wetlike vryheid om op te tree nie. Nasionale regerings het wetgewende mag, maar beweeg veels te stadig om tred te hou met innovasie. En burgerlike organisasies kan die skade beter verstaan ​​as enigiemand wat nog nie die infrastruktuur of invloed het om verandering af te dwing nie.

Neem byvoorbeeld die EU s'n Wet op digitale dienste – eers aan die einde van 2020 voorgestel, maar eers in 2024 afgedwing. In die lang tydperk van sy ontwikkeling – ChatGPT is eers in 2022 vrygestel – het die digitale landskap dramaties verskuif, wat sy reëls verouderd gelaat het voordat dit eers ingestel is. 

Sedert die wet se invoering, handhawing – wat insluit maatreëls om aanlyn haatspraak en algoritmiese versterking van ekstremistiese inhoud hok te slaan - het moeilik geblyk. Aanvalle op minderhede, insluitend Moslems en Jode, is op 'n hoogtepunt. Die verregses het selfs gebruik die optree as regverdiging vir hul eie ontmenslikende retoriek. 

By die VN verlede maand, Mohammad Al-Issa, sekretaris-generaal van die Moslem Wêreldliga, beweer Islamofobie is 'n groeiende krisis. Al-Issa het herhaaldelik gewaarsku dat KI sosiale media kan wapen, disinformasie kan versprei en ekstremiste kan werf – dit is presies hoekom hy aanvoer geloofsleiers moet ingesluit word by die ontwikkeling van etiese raamwerke. Sy waarskuwings weerspieël dié van pous Franciscus en die Vatikaan wat beweer dat KI 'n 'skaduwee van boosheid'.

Al-Issa se pogings om haat teë te werk is lank voor vandag se KI-debat. In Januarie 2020 het hy 'n afvaardiging gelei van Moslem-leiers na die Auschwitz-Birkenau-gedenkteken – een van die mees senior Islamitiese besoeke aan die terrein – wat 'n breër verbintenis tot die konfrontasie van die nalatenskap van haat en geweld beklemtoon. Vandag, terwyl oorlog in die Midde-Ooste woed, is daardie verbintenis tot die bevordering van intergeloofsbegrip dringender as ooit.

"As geloofsleiers nie 'n sitplek by [KI]-geleenthede het nie," het Al-Issa gewaarsku in 'n onlangse artikel, "...die ontwikkelende debat oor KI sal belangrike vakkundiges ontbreek wat nodig is om enige moontlikheid van 'n nuwe era van KI-aangedrewe ekstremisme te voorkom."

As enige vordering gemaak wil word, moet tegnologie, beleid en gemeenskap ophou om in isolasie te werk en 'n gedeelde, gekoördineerde reaksie begin bou. 

Eerstens moet ons belê in navorsing en ontwikkeling buite die Silicon Valley-borrel, en terselfdertyd ons afhanklikheid van die toenemend wisselvallige bestuur van president Trump verminder. Vervolgens moet ons nuwe reëls instel, wat vereis dat korporasies en organisasies gemeenskapsbelanghebbendes deur hul bedrywighede moet raadpleeg, en om te verseker dat algoritmes op inklusiewe datastelle opgelei word.

Terselfdertyd moet die EU nuwe instrumente ondersoek om die onvermydelike vooroordeel van KI-stelsels op te spoor en te versag. Ons moet ook universele KI-geletterdheidsprogramme en aanspreeklikheidsplatforms ontplooi, die publiek opvoed oor potensiële bedreigings vir en hulle bemagtig om enige klagtes aan te meld. 

Wat in Ethiopië of Southport gebeur het, is nie 'n anomalie nie, dit is 'n waarskuwing dat vandag se platforms nie meer neutrale ruimtes is nie. Hulle is aktiewe agente in die vorming van openbare sentiment en gedrag – te dikwels op maniere wat geweld aanhits en samelewings polariseer.

Uiteindelik gaan hierdie regsgeding teen Meta nie net oor aanspreeklikheid nie - dit gaan oor voorkoming. Regulerende standaarde sal beslis help, maar beperkings moet deur dPhoto by gebalanseer word Timothy Hales Bennett on Unsplashiversifikasie.

Slegs dan kan ons die voordele van hierdie tegnologieë behou sonder om die idee van geregtigheid aan 'n onbeheerbare algoritmiese skare oor te gee.

Oor die skrywer:

Courteney Mukoyi is die stigter en direkteur van die Justice Code Foundation, wat bestaande en opkomende tegnologieë gebruik om menseregte in Zimbabwiese gemeenskappe te bevorder. Hy is 'n CivicTech-entoesias met 'n Meestersgraad in Regte in Internasionale Handel van die Universiteit van Kaapstad.

Muyoki het verskeie toekennings ontvang, insluitend die 2022 Democracy Innovation Award en die 2023 Wangari Maathai AI Impact Award. In 2023 is hy gekies vir die Mandela Washington Fellowship. Hy dien tans op die UNHRC Youth Advisory Board en die European Union Youth Sounding Board. Hy het saam met verskeie organisasies, insluitend die Accountability Lab en die Afrika-unie, gewerk om die gebruik van tegnologie en kunsmatige intelligensie in menseregte en burgerlike betrokkenheid te bevorder. Hy is 'n reeksentrepreneur wat ook 'n InsurTech-opstartonderneming genaamd TopSure gestig het, wat sy reis begin het om eenhoorn-opstartondernemings in Afrika te skep.

Foto deur Timothy Hales Bennett on Unsplash

Deel hierdie artikel: