Bij ethische AI draait het om de ethiek, niet om de AI
Artificiële intelligentie (AI) kan bedrijfsprocessen versnellen en efficiënter maken, maar kan onze samenleving ook ernstige, onherstelbare schade toebrengen als we er niet voorzichtig mee omgaan.
Onethische AI in de wiskundige modellen van organisaties kan vandaag al minder zichtbare, directe risico's inhouden. Dat roept de vraag op: wat betekent het om AI verantwoord, eerlijk en ethisch te gebruiken?
We spraken met Julien Theys, Managing Partner van Agilytic, over de gevaren van verkeerd AI-gebruik en hoe we AI voor goede doelen kunnen ontwikkelen. Agilytic helpt bedrijven slimmer met hun data om te gaan en bedenkt en ontwikkelt sinds 2015 AI-projecten voor uiteenlopende sectoren.
Wat is ethische AI?
AI automatiseert besluitvorming en zit in de technologie die we dagelijks gebruiken, van Azure tot Amazon, Facebook en Google. Door taken te automatiseren die anders menselijke intelligentie vragen, helpt AI nieuwe inzichten te verkrijgen, patronen te vinden en problemen op te lossen via volledig of gedeeltelijk geautomatiseerde beslissingen.
AI omvat verschillende deeldomeinen waarvan u misschien al hoorde, zoals machine learning, deep learning, neurale netwerken, big data en natuurlijke taalverwerking.
Mede door het beruchte Cambridge Analytica-schandaal bij Facebook krijgt ethische AI jaar na jaar meer aandacht in onze sociale feeds en op conferenties.
Ethiek: de studie van wat moreel goed en fout is, of een geheel van overtuigingen over wat moreel goed en fout is. - Cambridge Dictionary
In dit jonge vakgebied bestaat weinig consensus over de definitie van ethische en betrouwbare AI. "We moeten ethiek bij AI betrekken door naar de menselijke kant te kijken: de mensen die de technologie ontwikkelen. Kwade bedoelingen, waarbij mensen data gebruiken om schade aan te richten, halen de krantenkoppen en spreken tot de verbeelding. Maar ze vormen wellicht een kleiner deel van het probleem. Vaker zien we onkunde en misverstanden achter onethische AI: goede mensen met goede bedoelingen die slechte data gebruiken of data verkeerd inzetten", vertelt Julien.
"Er is die uitspraak: 'Schrijf nooit aan kwaadwilligheid toe wat door domheid te verklaren valt.' Het debat draait vaak om kwaadwilligheid, maar we mogen onze eigen beperkingen niet vergeten en moeten controles in het proces inbouwen."
De oorzaken van onethische AI
Als AI "misloopt", ligt dat meestal aan een slecht doordacht ontwikkelingsproces en een onethische probleemdefinitie, onvoldoende kwaliteitsvolle data om een groep mensen eerlijk te vertegenwoordigen, een discriminerende feedbacklus, verkeerd gebruik van de resultaten na verloop van tijd of een combinatie daarvan. Wie het bredere plaatje achter AI-systemen bekijkt, ziet het antwoord:
"We moeten de inherente vooroordelen van AI-ontwikkelaars beperken, want onethische AI komt vaak voort uit menselijke fouten. Achter het algoritme zit altijd iemand. AI loskoppelen van de mens en de tools de schuld geven, helpt ons niet vooruit", zegt Julien.
"Ook de pers heeft in dit debat een belangrijke educatieve rol. Aandacht trekken is makkelijk met de bewering: 'Een algoritme ontnam 500.000 mensen stromend water.' Correcter zou zijn: 'Mensen die werden ingehuurd om de watertoevoer te verbeteren, maakten kennelijk een fout met dramatische gevolgen.' Het verhaal is hetzelfde, maar de handelende partij en de intentie zijn precies het tegenovergestelde."
Omdat velen van ons hun echte drijfveren en onbewuste vooroordelen niet kennen, mag het debat over ethische AI niet louter technisch zijn. Het moet gaan over wat eerlijk en betrouwbaar is en hoe we eerlijkheid in cijfers vertalen om vooroordelen weg te nemen.
Waar we onethische AI zien
Veel bekende AI-toepassingen bleken onethisch en versterkten de alomtegenwoordige problemen van discriminatie, ongelijkheid en desinformatie.
AI wordt gebruikt voor kredietscores, de verwerking van leningaanvragen en sollicitaties, gezichtsherkenning en andere gevoelige toepassingen. AI wordt ook ingezet om haatdragende chatbotberichten, nepnieuws, stemmen, video's, beelden of 'deepfakes' te verspreiden.
"Vaak zien we technologie met een dubbel gebruik: ze kan goede en slechte resultaten opleveren. Dan ligt het niet aan een slecht ontworpen technologie, maar aan slechte bedoelingen en misbruik. Die technologieën hebben kwetsbaarheden: ontwikkelaars beseffen misschien niet welk beest ze creëren. We wezen ooit een project af vanwege de onethische gevolgen. De prospect besefte aanvankelijk niet dat het onethisch was, want soms is dat niet duidelijk", merkt Julien op.
Het gevaar van AI-modellen beoordelen
Het boek 'Weapons of Math Destruction' van Cathy O'Neil wordt vaak aangehaald om de drie belangrijkste factoren te bepalen die AI-modellen gevaarlijk en gebrekkig maken:
1. Geheimhouding: soms terecht, bijvoorbeeld om te voorkomen dat een algoritme kwetsbaar wordt, met mogelijk rampzalige gevolgen. Maar hoe weten we zonder transparantie dat er geen manipulatie uit eigenbelang plaatsvindt? Hoe onderzoeken we het beslissingsproces achter geautomatiseerde systemen? De regels voor ethische AI van de Europese Commissie moedigen transparantie aan.
2. Schaal: hoeveel mensen kunnen de algoritmes beïnvloeden en kan AI normen vastleggen en vooroordelen versterken? Kan ze opschalen en exponentieel groeien?
3. Potentieel om schade aan te richten: de sociale en maatschappelijke gevolgen moeten zorgvuldig worden afgewogen. Veel modellen bevatten ingebouwde aannames, vaak bevooroordeeld en onrechtvaardig, die grote groepen mensen aanzienlijk kunnen raken.
AI heeft een enorm potentieel voor sociale en maatschappelijke impact. Daarom moeten we voorkomen dat AI-systemen bevooroordeelde data gebruiken om een feedbacklus te versterken die bestaande ongelijkheid vergroot. We kunnen AI-algoritmes en -systemen juist inzetten om ongelijkheid aan te pakken en er kansen van te maken om iets goeds te doen.
Hoe bouwen we AI die we kunnen vertrouwen?
"Een AI-algoritme of -systeem reguleren kan zinloos zijn. We moeten opletten dat we niet zo ver gaan in regulering dat innovatie wordt afgeremd. Maar dat betekent niet dat we geen stappen kunnen zetten naar ethischere AI", merkt Julien op.
Geconfronteerd met de schijnvertoning van zelfregulering vroeg Facebook om duidelijkere overheidsregels voor socialemediareuzen. Na het Cambridge Analytica-schandaal richtte Facebook een Responsible AI-team op om AI-bias aan te pakken en de impact van zijn algoritmes op desinformatie, politieke polarisatie en extremisme te onderzoeken. Joaquin Quiñonero Candela, AI-directeur bij Facebook, beschreef hun moeilijkheden aan Karen Hao van MIT Technology Review.
Karen schreef op LinkedIn: "Het gaat niet om corrupte mensen die corrupte dingen doen. Dat zou eenvoudig zijn. Het gaat om goede mensen die oprecht het juiste proberen te doen. Maar ze zitten vast in een verrot systeem en proberen uit alle macht een onbeweeglijke status quo te veranderen. Dit onderzoek overtuigde me er volledig van dat zelfregulering niet werkt en niet kan werken."
Wat is dan de rol van regelgeving?
In Europa vroegen organisaties om een alomvattend regelgevend kader voor AI en was wetgeving in voorbereiding. Op 21 april 2021 presenteerde de Commissie een horizontaal regelgevingsvoorstel voor AI met concrete uitvoeringsstappen voor alle sectoren. Volgens de website van de Commissie: "Dit initiatief zorgt ervoor dat AI veilig en rechtmatig is en strookt met de grondrechten van de EU. Het algemene doel is de invoering van betrouwbare AI in de EU-economie te stimuleren." Een uniforme aanpak weerspiegelt mogelijk echter niet de specifieke voordelen en risico's van AI in verschillende sectoren.
"Veel van de nodige regelgeving en kaders bestaan al en worden al lang toegepast in de sectoren waarin we werken. De regels voor ethische en eerlijke praktijken blijven grotendeels dezelfde wanneer u AI toepast. Werkt u bijvoorbeeld voor een bank en zou u iemand niet zomaar een lening weigeren omdat zijn vastgoed volgens uw database weinig waard is? Waarom zou u dat dan door een AI-systeem laten doen? Dat is onethisch, omdat het veel mensen kan uitsluiten die al benadeeld zijn. De ethiek van bestaande regelgeving draait altijd om het gebruik, niet om de technologie", legt Julien uit.
Een risicokader voor ethische AI ontwikkelen
Als vertrekpunt moeten organisaties ethische AI-praktijken bevorderen vanaf de eerste ideeënfase van een algoritme.
Daarna bepalen ze interventieniveaus. Die kunnen afhangen van de drie eerder genoemde factoren: geheimhouding, schaal en het potentieel om schade aan te richten. Een voorbeeld is een 'ethiekchecklist' opstellen en volgen die controleert op impliciete vooroordelen rond gender, afkomst, religie, sociale klasse, postcodes en andere ethische risicogebieden, en afwijkingen doorheen de tijd opvolgen.
Julien vertelt: "Om algoritmes te ontwikkelen die ethische beslissingen nemen, moeten we koste wat kost vermijden vooroordelen voort te zetten. We moeten rekening houden met mogelijke kwade bedoelingen en stresstests uitvoeren op ongewenste negatieve gevolgen. Een checklist kan de ethiek bij algoritmeontwikkeling expliciet systematiseren. Door betere waarden in onze algoritmes in te bouwen, wordt duidelijker waarvoor de technologie wordt gebruikt en hoe ze misbruikt kan worden."
Meestal is niet de technologie ontwrichtend, maar de manier waarop organisaties haar gebruiken om bestaande bedrijfsmodellen te veranderen, nieuwe modellen mogelijk te maken en zich al dan niet verbinden tot voortdurende monitoring. Bij AI betekent dat ethiek boven winst stellen.
Tot slot
"We moeten onthouden dat de geschiedenis zich misschien niet herhaalt, maar wel rijmt. We zien al meer dan veertig jaar fouten in machines, sinds de grote opkomst van databases. Destijds werden de bedoelingen achter databaseschema's tijdens de ontwikkeling zelden bevraagd. Het is dus goed dat ethische AI steeds meer aandacht krijgt bij organisaties, technologiebedrijven en instellingen", voegt Julien toe.
Niet alleen ontwikkelaars, maar ook juristen, burgers en andere beslissers aan tafel brengen om ethische AI-kaders in te voeren, is cruciaal. Vandaag is het grijze gebied tussen goed doen en schade veroorzaken met AI nog te groot. We moeten blijven beseffen dat de ethiek van AI uiteindelijk neerkomt op de ethiek van de mensen erachter.