Ben je zelf al door Waze van een snelweg of ringweg geleid en terechtgekomen in een woonwijk of tussen de velden, om perfect op de voorspelde tijd op je bestemming aan tekomen, maar met een wrang gevoel vanbinnen? Voor zij die het herkennen is het een mooi voorbeeld van de wazige situatie die artificiële intelligentie technologie reeds vandaag kan creëren, en de rol die wij daarin spelen als mensen.

Delen

Wat Waze ons leert over de wazige controle over artificiële intelligentie.

Even eerst naar de feiten. Waze is navigatiesoftware op je smartphone, die voor jou de snelste route van je huidige locatie naar een bestemming berekent. En dat doet het goed, heel goed. De reden daarvoor is drievoudig: a) gebruikers kunnen zelf ongelukken en wegenwerken signaliseren en zelfs de kaart aanpassen, waardoor de informatie van Waze over het wegennetwerk dus steeds heel up-to-date is; b) het maakt gebruik van technologie met artificiële intelligentie om in te schatten wat de huidige doorreistijd is op elk stukje weg, door de snelheid van zijn gebruikers te monitoren en te voorspellen wat die snelheid gaat zijn in de nabije toekomst; c) deze voorspellingen worden gebruikt om op elk moment de werkelijk snelste route te vinden over het hele wegennetwerk, van de grootste tot de kleinste straat.

De Waze app gebruikt dus real-time informatie over het hele wegennetwerk, en hier bovenop artificiële intelligentie technologie om de wiskundig meest optimale route te berekenen. Daar knelt het schoentje, want de wiskundig meest optimale route is niet de maatschappelijk meest optimale route. De technologie van Waze houdt namelijk amper of geen rekening met de 'weg-hiërarchie': of het een steenweg of dorpsstraat betreft, de technologie kijkt vooral naar de werkelijke doorreistijd. Als een steenweg dus dichtslibt kan een parallelle dorpsweg sneller worden, en dan raadt de app dat aan. Die heeft namelijk weinig weet van het soort weg, of de bewoners ervan, en de impact van de aanbevelingen die het doet.

Dat vind ik een mooi voorbeeld van een eerste valkuil van Artificiële Intelligentie-technologie: alle bestaande AI-systemen krijgen hun invoer in een vooraf bepaalde vorm en berekenen een vooraf bepaalde uitvoer. In het geval van Waze is de invoer het wegennetwerk met de werkelijke en voorspelde reistijden, en de gebruiker zijn huidige positie en bestemming. De uitvoer is de snelste route tot de bestemming. Wat voor straten het zijn, zit niet in de invoer of wordt amper gebruikt, en wat de impact is van een bepaalde route aanbevelen is moeilijk om in te schatten voor mensen, laat staan voor een machine.

Elk systeem is dus beperkt tot de invoer die het krijgt. Het heeft geen context, geen moraal en geen algemene redeneercapaciteiten buiten die invoer. Het is dus aannemelijk dat dergelijke systemen beslissingen kunnen maken met de beste intenties, maar met ongewenste effecten in een bredere context. Zoals Waze en sluipverkeer.

Het is daarom belangrijk dat geavanceerde technologie gemonitord wordt door zij die het maken, en vooral, dat er ingegrepen wordt bij ongewenste effecten. En dat vind ik zo jammer aan het Waze-verhaal, dat de makers niet ingrijpen, ondanks de klachten over sluipverkeer.

Nochtans kan het technologisch gezien wel; als we kijken naar de concurrenten TomTom en Google Maps, dan zien we dat die de weg-hiërarchie veel beter respecteren en minder snel de kleinere wegen aanbevelen. Misschien is het wel een concurrentiestrategie om de individualistische kaart te trekken, en voor elke gebruiker de route te tonen die voor hem of haar het allersnelst is. Zelf zou ik maar al te graag een optie hebben, net zoals gevraagd kan worden om tolwegen te vermijden, om het gebruik van kleinere wegen te vermijden, in plaats van tussen apps te moeten switchen.

Een andere vraag is of een bedrijf zoals Waze er iets aan moet doen, indien zijn technologie voor ongewenste maatschappelijke effecten zorgt. In het geval van sluipverkeer kan er niets verplicht worden: er worden geen verkeersregels overtreden en de publieke weg is een openbaar goed. Dit wordt ook wel de tragedie van gedeeld goed genoemd; dat deze door overmatig individueel gebruik kan over-geëxploiteerd worden, waardoor iedereen er op termijn slechter mee af is.

Het is dan aan de beheerder van het openbare goed om in te grijpen. En in dit geval zijn dat de steden en gemeenten. Die installeren bijvoorbeeld snelheidsdrempels om doorreistijd te verhogen, of installeren slimme cameras om bewoners en bestemmingsverkeer toe te laten en de overigen een GAS-boete op te sturen. En dit is een tweede mogelijke valkuil van artificiële intelligentie: dat zwaktes van de ene technologie niet erkend of opgelost worden, waardoor we genoodzaakt zijn andere technologie te gebruiken om deze zwaktes goed te maken. Het gevaar is dan dat wij een speelbal van de technologie worden.

En wat is mijn rol als individu? Zelf ben ik afgestapt van Waze specifiek hiervoor: het gebeurde te vaak dat ik me moreel gewrongen voelde in het volgen van Waze. Ik reed langs wegen die op alle mogelijke manieren duidelijk maakten dat ik daar niet thuis hoorde: geen andere auto's behalve wat andere auto's die exact dezelfde route lijken te volgen en ook een smartphone op hun dashboard hebben, kleine straten, slechte wegbekleding, of, iets explicieter, boze blikken van bewoners en grote verkeerstellers langs de kant. Maar de app gidste me er gevoelloos, verpakt in een warme menselijke stem.

Luister ik naar mijn gevoel, of zet ik mijn verstand af en volg ik de aanbevelingen op zonder verpinken? Soms ging ik zelfs zo ver om te denken dat het niet mijn 'fout' is dat ik langs daar rijd, ik volg gewoon het systeem. Ik verberg me achter de technologie, wat me goed uitkomt want dan ben ik er het snelst en weet ik nog vrij zeker om hoe laat dat effectief gaat zijn.

En dat is de wazige situatie waarin we ons steeds vaker bevinden: we willen geen speelbal van de technologie zijn, maar deels verbergen we er ons wel achter: Waze en de routes die we volgen, Netflix/Youtube en de uren en uren filmpjes die we kijken, Facebook en hun misbruik van de data die we vrijwillig geven. Zorgt Waze voor meer sluipverkeer? Ja, de technologie maakt het mogelijk, de makers ervan laten het toe, en wij, wij voeren het uit.

Tias Guns is professor Data Science aan de Vrije Universiteit Brussel, VUB Data Lab en Mobiliteits Onderzoeksgroep MOBI.

In het boek Homo Roboticus (VUBpress 2019) en de boekvoorstelling in Opera De Munt op 7 februari discussiëren we verder hoe we de humane waarden centraal kunnen houden bij robotica en AI. Voor tickets en alle info: homo-roboticus.be