• |
Hannah Fry
Arno Keppens
Non-fictie

Waardering boekreview

28 juni 2019 Algoritmes aan de macht. Hoe blijf je menselijk in een geautomatiseerde wereld?
Wiskundige Hannah Fry is geen onbekende in het Verenigd Koninkrijk. Ook bij ons begint haar naam door te dringen, voornamelijk door haar toegankelijke TED-talks en door haar boek ‘Liefde volgens de wiskunde‘ (2016). In ‘Algoritmes aan de macht‘ onderzoekt ze de invloed die kunstmatige intelligentie (KI) nu al heeft op een aantal aspecten van ons dagelijks leven, waaronder rechtspraak, geneeskunde, autorijden, misdaad(bestrijding) en uiteindelijk zelfs kunst. Beginnen doet Fry echter met een uiteenzetting over wat die ‘KI-macht’ precies inhoudt en welke ‘data’ daarvoor nodig zijn.
De ‘macht’ van KI blijft voorlopig vooral nog een perceptie. Het is eerder de ‘macht’ van informatie algemeen, zoals bijvoorbeeld de ‘macht’ van videobeelden in een moordonderzoek: ze wordt hoofdzakelijk bepaald door interpretatie. Fry benadrukt daarom het belang van onze verwachtingen: “Inzicht in onze eigen tekortkomingen en zwaktes – en ook die van de computer – is de sleutel tot het vermogen de macht in handen te houden.” Want we hebben er geen idee van hoeveel macht we afstaan indien we bepaalde beslissingen toch aan een computer overlaten; denk aan ‘The man who saved the world’ (Stanislav Petrov). Er is een groot verschil tussen videobeelden interpreteren in een rechtbank, en een computer aan de hand van dezelfde beelden laten beslissen tussen schuld en onschuld.
Er blijft dus nood aan de invraagstelling van computergegenereerde resultaten, zoals navigatiesystemen ons wel al eens duidelijk maken. ‘In mijn ervaring hebben algoritmes veel weg van magische illusies. In eerste instantie lijken ze niets minder dan tovenarij, maar zodra je weet hoe de truc werkt, verdampt het mysterie. Vaak schuilt er iets belachelijk simpels (of zorgwekkend roekeloos) achter de façade. (Maar) voorlopig is bezorgdheid over kwaadaardige (KI daarom) net zoiets als bezorgdheid over overbevolking op Mars‘, stelt Fry.
Het probleem is nog lang niet aan de orde. Dit sluit niet uit dat software of robots (inclusief drones) door mensen al kunnen misbruikt worden om anderen schade te berokkenen. Hiervan zijn helaas al legio voorbeelden.
Fry deelt de datataken van computers op in vier hoofdcategorieën: prioritering (een geordende lijst maken), classificatie (indelen in groepen), associatie (verbanden vinden) en filteren. De data bestaan voornamelijk uit persoonsgegevens of meetresultaten. Technologiebedrijven hadden al snel begrepen dat vooral met persoonsgegevens groot geld te verdienen valt. Fry spreekt over de ‘deal’ van de technologiereuzen: Zij bieden “gratis technologie in ruil voor je data en de bevoegdheid die te gebruiken om je te beïnvloeden en van je te profiteren. Het beste en slechtste van kapitalisme in één simpele ruil”.
Ze stelt ons verder echter ook gerust: ‘Als data het nieuwe goud vormen, dan hebben we tot nu toe in het Wilde Westen geleefd. Maar ik heb er alle vertrouwen in dat, voor velen van ons, het ergste binnenkort achter de rug is.‘ Wantoestanden zoals bij Cambridge Analytica, dat deed aan ‘micromanipulatie’ van Amerikaanse kiezers op basis van verwachte politieke voorkeuren, en ‘Sesame Credit’, het puntensysteem voor burgerschap van de Chinese overheid, krijgen er hard van langs, al blijken de werkelijke effecten van dergelijke praktijken vaak overschat.
In de volgende hoofdstukken bespreekt Fry de huidige en verwachte invloed van KI op rechtspraak, geneeskunde, autorijden, misdaad en kunst. Bij elk van deze domeinen introduceert ze ook een toepasselijk type van KI. Deze zijn respectievelijk ‘random forests’ (beslissingsbomen voor computers), beeldherkenning door ‘neurale netwerken’, Bayesiaanse inferentie (wiskundig gissen naar optimale strategieën) en lokalisering en nabootsing van patronen. Bij elk van deze technieken is het voor zowel programmeurs als gebruikers zoeken naar een gulden middenweg tussen ‘gevoeligheid’ (ziet het algoritme wat het moet zien?) en ‘specificiteit’ (ziet het geen dingen die er niet zijn?). Bij het daarbij horende zoeken naar geschikte input-data treedt vaak een gebruikersparadox op: “Geloof je genoeg in algoritmes en hun voordelen om je (data) privacy op te offeren?” Fry bevestigt in ieder geval een eerder gehoorde waarschuwing: ‘Voor commerciële KI-bedrijven “(maak je) geen gebruik van het product; je bent het product”.'
Het boek schenkt uitgebreid aandacht aan de auto-industrie en misdaadbestrijding, twee sectoren waarbinnen KI al sterk geïntegreerd is. Op vlak van autorijden gaat het eerder nog over rijassistenten dan over zelfrijdende auto’s.
Voor- en nadelen worden toegelicht, maar Fry gaat toch vooral in op morele dilemma’s – kies je eerder voor het overleven van de bestuurder of van een kind dat de straat over rent? – en op het gevaar van blindelings vertrouwen op algoritmes. Bouw een machine om de menselijke prestatie te verbeteren, en dit zal, ironisch genoeg, leiden tot een vermindering van het menselijk vermogen.
Enkel actie van een bestuurder verwachten in noodsituaties wérkt niet. Anderzijds, “als de technologie ook maar enigszins in staat is om het aantal fatale ongelukken op de weg in totaal terug te brengen, zou je kunnen betogen dat het onethisch zou zijn als je haar niet lanceerde”. We moeten echter wel in het achterhoofd houden dat zowel mechanische als algoritmische (al dan niet opzettelijke) fouten nooit helemaal zullen verdwijnen…
Misdaadbestrijding met behulp van KI gebeurt nu hoofdzakelijk door algoritmes het risico van toekomstige gebeurtenissen te laten voorspellen (uiteraard niet de gebeurtenissen zelf), waardoor de politie kan doen aan ‘doelwitverharding’ en ‘cops on the dots’. Inbraakgolven bijvoorbeeld gedragen zich heel gelijkaardig aan aardbevingen, met een initiële piek en naschokken volgens een bepaald afstandsverval. Het grootste gevaar dat schuilt in dit soort ‘predictive policing’ is dat bepaalde regio’s een onevenredig grote aandacht kunnen krijgen (door terugkoppelingsmechanismen): ‘(De) zorgen over vooroordeel en discriminatie zijn legitiem‘, stelt Fry (al geldt dat net zozeer voor mensen), en er bestaat bovendien ‘een reëel gevaar dat algoritmes een onjuist resultaat een schijn van gezag verlenen‘.
De invloed van KI op de kunstwereld is nog stof voor discussie; creatief zijn is iets waar algoritmes net niét goed in zijn. Daarom blijven hun bijdragen voorlopig meestal beperkt tot het nabootsen van patronen (zoals door de befaamde Experiments in Musical Intelligence), want “als je populariteit en inherente kwaliteit wegneemt, blijft het enige over wat wel gekwantificeerd kan worden: een meeteenheid voor overeenkomst met wat eraan is voorafgegaan”. Maar Fry vindt samen met anderen creativiteit een te beperkte graadmeter: ‘de kwestie waar het om gaat is niet of computers creatief kunnen zijn. Waar het om gaat is de vraag (of hun output) nu eigenlijk als kunst geldt‘ in de zin van een expressie en/of opwekken van emoties.
Hannah Fry brengt met dit boek een zeer toegankelijke en oprechte stand van zaken over een onderwerp dat ons allen steeds meer aanbelangt. Ze vermijdt over-analyseren, stelt juiste en gerichte vragen, en stelt ook ondanks enkele horrorscenario’s iedereen gerust die zich grote zorgen maakt. Enkele begrippen, zoals ‘machine learning’, ‘neurale netwerken‘ of ‘evolutionair algoritme‘, hadden echter iets meer aandacht mogen krijgen om de lezer met de materie vertrouwd te maken.
Het ontbreken van de impact van KI op het beurswezen aan de hand van geautomatiseerde (micro)speculaties vind ik het belangrijkste minpunt. Want net dáár zou de ‘macht’ van KI achter de schermen wel eens het grootst kunnen zijn…
In alle domeinen geldt echter dat we door gebruik van algoritmes het ene probleem vaak hebben ingeruild voor het andere, want “algoritmes hebben ons opgescheept met een wirwar van complicaties die we moeten ontwarren”, zoals datacomplexiteit, morele keuzes en impliciet vooroordeel. Arno Keppens
Fry’s effectieve conclusie is dan ook de nood aan een kritisch wederzijds partnerschap: “In het tijdperk van het algoritme zijn mensen nog nooit zo belangrijk geweest. (…) Een algoritme is op zichzelf nooit goed of slecht. Waar het om gaat is hoe ze gebruikt worden. GPS is uitgevonden om kernraketten te lanceren en wordt nu gebruikt bij het bezorgen van pizza’s.” Maar – zoals bij elke vorm van ‘symbiose’ – “ondertussen hebben ze de verborgen macht om langzaam en subtiel de regels te veranderen van wat het betekent om mens te zijn”, besluit ze.
Hannah Fry
Arno Keppens
Non-fictie
Arno Keppens is wetenschapper aan de Belgian Space Pole (www.spacepole.be) en wetenschapsschrijver (www.sciencescripts.be).
_Arno Keppens -
Meer van Arno Keppens

_Van zelfde auteur

_Nieuwste recensies

Bekijk alle nieuwe recensies