door Ivana Ivkovic / oorspronkelijk gepubliceerd via filosofie.nl, 18-03-2016.
De Rotterdamse filosoof Jos de Mul (1956) ziet een toekomst voor zich waarin mens en machine met elkaar geïntegreerd raken in één groot intelligent informatiesysteem, een ‘zwerm’. De grote uitdaging is om nieuwe instrumenten te ontwikkelen die in de zwerm informatie inzichtelijk maken. Door complexiteit van informatie zullen we niet langer alles kunnen weten – vertrouwen wordt veel belangrijker dan een alziend oog.
‘Machines nemen steeds meer denkwerk over,’ vertelt filosoof Jos de Mul. ‘Afgelopen jaar heeft een groot onderzoek van Oxford de gevolgen van automatisering in kaart gebracht, en het is echt niet meer zo dat alleen simpel handwerk wordt uitbesteed. Je ziet deze ontwikkeling al in de bancaire en de financiële wereld: handel in financiële producten, bijvoorbeeld, wordt steeds meer door computers gedaan. Maar hetzelfde gebeurt in accountancy en archivering.’ De kentering die De Mul schetst, heeft directe gevolgen voor informatiemanagement. Wat betekent dit voor de toekomst van Doxis? Geldt over tien jaar nog steeds de pay-off ‘Als digitaal mensenwerk wordt’? De Mul: ‘Digitaal wordt juist steeds minder en minder mensenwerk. Maar niet alles kan door de machines worden gedaan, want een machine kan niet creatief werken. Bovendien, omdat er steeds meer en steeds complexere data zijn moet je bepalen wat je bewaart en wat niet. Dat kan nu ook niet worden uitbesteed. Creativiteit wordt in de toekomst veel belangrijker dan technische kennis, daar moet je je op richten.’ In zijn onderzoek naar de impact van ICT op de samenleving ziet De Mul soms grote ICT-projecten mislukken. Welke les is volgens hem daaruit te trekken? ‘Die projecten mislukken niet door gebrek aan technische kennis, maar omdat niet goed wordt begrepen wat digitalisering betekent. Digitalisering vraagt om een nieuwe manier van denken. Zowel de data als de samenleving worden complexer in de informatiesamenleving. Vaak wordt die complexiteit onderschat, daarom lopen veel ICT-projecten stuk.’
Datascoop
Door de toenemende complexiteit verandert de omgang met informatie fundamenteel, aldus De Mul. In het papieren tijdperk werd informatie opgeslagen in documenten, en om de informatie terug te halen kon je het document erop nalezen. Straks staat alles in een cloud, maar het wordt onmogelijk om alles te ‘lezen’. De Mul: ‘Niet alleen is de totale hoeveelheid data overweldigend, de informatie wordt er juist uitgehaald door die data ook nog eens op verschillende manieren met elkaar te verbinden. De hoeveelheid informatie neemt dus exponentieel toe. Wij moeten ook af van het idee dat de informatie vaststaat; die wordt telkens opnieuw geconstrueerd, afhankelijk van de verbanden die tussen de data worden gelegd. Dat kan op verschillende manieren gebeuren, dus je hebt ook mogelijkheid tot verschillende interpretaties, zonder dat één van die interpretaties de ultieme waarheid is.’ Omdat informatie op oneindig veel manieren kan worden geconstrueerd, wordt het principieel onmogelijk om een totaaloverzicht te hebben van een systeem, zegt de Mul: ‘Door verbanden tussen de data te leggen maak je telkens een inkijk. Om informatie te krijgen zijn we in de toekomst afhankelijk van interfaces die actief iets met data doen. De informaticus Max Welling noemt dat een “datascoop”, een instrument om naar de data te kunnen kijken. Een datascoop is een telescoop en een microscoop ineen. Je kunt proberen in grote hoeveelheden data patronen te ontdekken, maar je kunt je natuurlijk ook richten op het individu – en dan gaat het meer om profiling.
Dit lijkt paradoxaal – wij hebben steeds meer data, maar het wordt steeds ingewikkelder om inzicht in de betekenis van die data te krijgen. Toch benadrukt De Mul dat een deelinzicht niet als een beperking moet worden gezien: ‘Dat je niet alles ziet, wil niet zeggen dat je alleen maar iets verliest. Het is überhaupt niet langer zinvol om alles te laten zien. Dat is een oude manier van denken. Er zijn te veel data om het geheel als mens te kunnen overzien, en die data bevatten geen direct interessante informatie, daarvoor is het veel te veel versnipperd. Data worden pas interessant als je ze in een context weet te plaatsen. Een aantal jaren geleden woonde ik een lezing bij van een Nederlandse hoogleraar die onderzoek doet naar de citatie-indexen van wetenschappelijke publicaties. Hij liet een overzicht zien gemaakt op basis van publicaties in verschillende vakgebieden, die werden uitgebeeld als landen op een wereldkaart. Je zag in één oogopslag welke vakgebieden groot waren. Vervolgens heeft hij in kaart gebracht hoe verschillende vakgebieden naar elkaar verwijzen, van de jaren vijftig tot nu, en dat liet hij in een filmpje zien. Je zag bijvoorbeeld hoe biologie en informatiewetenschap steeds meer naar elkaar toe kropen, om nu helemaal te overlappen. Dat, en nog veel meer, werd inzichtelijk gemaakt in dertig seconden. Op deze manier heb je veel meer geleerd, dan als je toegang had tot de rauwe data. Visualisering is bovendien ontzettend belangrijk, je kunt daarmee een overzicht creëren dat niet langer lineair gegeven kan worden. Visualisering gaat daarom steeds belangrijker worden in de toekomst.’
Intermediair
De informatiesystemen van de toekomst zijn geen – weliswaar digitale – ladekastjes waarin informatie wordt opgeslagen, maar intelligente systemen die allerlei nieuwe bewerkingen van de data mogelijk maken, vertelt De Mul. Om die systemen te ontwerpen is kennis, maar ook creativiteit nodig: ‘Het succes van een bedrijf als Facebook is gebaseerd op nieuwe mogelijkheden die ze hebben geopend op basis van de bewerking van hun gebruikersdata. Zij halen daar informatie uit die interessant is voor de adverteerders. Facebook benut die mogelijkheden commercieel, maar je zou zoiets ook kunnen doen voor de consument. Je kunt hier heel veel verschillende kanten mee uit. Banken vinden het interessant als hun systeem kan signaleren wie aan een nieuwe hypotheek toe is. En gemeentes zouden bijvoorbeeld inzicht kunnen krijgen in bepaalde maatschappelijke problematiek die in hun stad speelt. Met alle haken en ogen die aan die mogelijkheden zitten, natuurlijk.’ Om die slimme instrumenten te ontwikkelen moet je begrijpen waar er behoefte aan is. De organisaties zelf hebben dat nu nog niet zo helder voor ogen, zegt De Mul. ‘Er ontstaat een enorme behoefte aan informatie-intermediairs, die gaan bemiddelen tussen data en hun gebruikers – of dat nou de overheid, bedrijven of individuen zijn. Daar liggen natuurlijk ook interessante mogelijkheden open voor Doxis.’
De grote uitdaging is om die systemen ook toegankelijk te maken voor gebruikers. Daar komt meer bij kijken dan het bieden van technische mogelijkheden, want de gemiddelde gebruiker weet deze mogelijkheden niet altijd te benutten. De Mul: ‘Toen 3D-printen net in opkomst was, dachten mensen dat iedereen zelf een designer zou worden. Maar zo werkt het niet. Niet iedereen kan een goed design maken. In de begindagen van de pc’s dachten we ook dat iedereen zou gaan programmeren. Maar wij zijn juist steeds meer kant-en-klare appjes en softwarepakketten gaan gebruiken. Dat is natuurlijk jammer.’ De Mul stelt een tussenoplossing voor: ‘Je moet je richten op metadesign, waarmee je de keuzemogelijkheden voor de consument verkleint, maar nog steeds ruimte biedt om dingen in te richten naar eigen wens. Vergelijk dit met het verschil tussen een film en een game. Een computerspel vertelt geen verhaal, het is een verhaalruimte waarin de gebruiker zijn eigen verhaal maakt. Zo werkt het ook bij de informatiesystemen. Je zou in plaats van een database, in de toekomst een dataruimte maken, waarin je als gebruiker op allerlei interessante manieren met je gegevens kunt omgaan. Dat is nog steeds design, maar op een ander niveau.’
Zwerm
Volgens De Mul vereist de informatiesamenleving niet alleen een denkomslag, maar brengt deze een nieuwe vorm van intelligentie met zich mee. In de toekomst wordt individuele intelligentie steeds meer vervangen door collectieve intelligentie – de ‘zwerm’. Wat betekent dit? ‘De kennis bevindt zich niet langer op het niveau van het individu, die zit in allerlei patronen. Als je nu bij Amazon een boek bestelt, dan krijg je ook andere boeken aangeraden. Er is geen individu dat weet wat je graag leest. Die kennis zit juist in de patronen, op basis van je koopgedrag en je surfgedrag. Op het niveau van de data betekent dit dat de koppeling van data, de relaties tussen data, veel belangrijker worden dan de data zelf. Hetzelfde geldt voor de relatie tussen individuen. Mensen zijn nu al door techniek meer met elkaar verbonden dan ooit. En dat betekent dat het denkwerk meer wordt uitgesmeerd over verschillende individuen, en systemen die hen verbinden.’ Co-creatie moet in de toekomst heel erg letterlijk worden opgevat.
Er zijn nu al, bijvoorbeeld, diagnostische systemen in ontwikkeling, die een groot deel van het werk van medische specialisten kunnen overnemen. Vindt de Mul niet dat dergelijke systemen ons te afhankelijk maken van techniek? ‘Een deel van onze cognitieve functies zal door computers worden overgenomen, en wij zullen daar slechter in worden. Net zoals we slechter zijn geworden in hoofdrekenen sinds de opkomst van rekenmachientjes. De vraag is of dat zo erg is. Na het ontdekken van de boekdrukkunst waren mensen ook bang dat ons geheugen achteruit zou gaan, omdat alle kennis in de boeken zat. Misschien is ons geheugen wat slechter, maar onze kennis is sindsdien enorm toegenomen. Nu komt ook een enorm potentieel vrij, als we bepaalde denktaken niet langer zelf hoeven te verrichten.’ De Mul verwacht dat de collectieve intelligentie wel een uniformering van kennis zal betekenen: ‘Als iedereen een stukje kennis bijdraagt, dan worden de extremen eruit gefilterd. Dat is gewoon hoe het werkt met de grote getallen, de gemiddelde waarden komen bovendrijven. Je ziet dit nu al bijvoorbeeld aan de Wikipedia. Doordat heel veel mensen bijdragen schrijven, zijn de lemma’s best betrouwbaar, maar er staan ook weinig bijzondere stukken tussen.’ De wereld van de collectieve intelligentie is een wereld waarin het gemiddelde heerst.
Macht
De nieuwe technologie zal de machtsverhoudingen tussen de ontwerper en de gebruiker, maar ook die tussen de overheid en de burger doen kantelen, stelt De Mul. Is die ontwikkeling goed of slecht? De Mul: ‘Je kunt alleen zeggen, die machtsverhouding is een feit, maar je kunt niet zomaar stellen dat die alleen maar goed of slecht is. Aan de ene kant heb ik als consument heel veel gewonnen door digitalisering, ik kan bijvoorbeeld heel makkelijk dingen kopen en heb een geweldige keuze aan producten. Aan de andere kant word ik op allerlei manieren geprofiled, en mijn data worden gebruikt voor allerlei doelen, en ik word met advertenties bestookt. Ik ben machtiger, maar ook op een bepaalde manier meer een slachtoffer. Ik zeg altijd: technology is neither good nor bad, but least of all is it neutral. Dat maakt het lastig om een oordeel over te vellen.’ Volgens de Mul is het belangrijk om de machtsverhoudingen niet uit het oog te verliezen: ‘Door technische ontwikkelingen zijn we geneigd sommige dingen helemaal niet meer als een machtshandeling te zien, terwijl ze dat natuurlijk wel zijn. Ik was in de jaren negentig betrokken als adviseur om een e-mailetiquette op te stellen voor overheidsambtenaren. Eén van de vragen die opkwam was of je e-mailverkeer zou moeten kunnen monitoren. De reactie die ik kreeg was: dat gebeurt al automatisch. Dat is tekenend.’
De Mul schetst de moeilijkheid die bij de overheid ontstaat: ‘De overheid wil enerzijds betere grip hebben op maatschappelijke processen, maar anderzijds wil de overheid ook meer outsourcen. Die twee tendensen kun je niet los van elkaar zien. Want juist als de overheid de burger meer beheer zou geven over de data, rijst de vraag naar de controle over die data, al is het alleen maar omdat je misbruik moet voorkomen. En dat is een enorme spagaat.’ Digitalisering voedt de neiging tot toezicht en controle bij de overheid, maar De Mul wijst op de nadelige kanten daarvan: ‘Dat is de waan van de datascoop, dat je alles kunt zien. Dat is onmogelijk. Bovendien is het onwenselijk om alles maar te willen controleren, want in de informatiesamenleving wordt het vertrouwen juist een sleutelwoord.’
Onzekerheid
De ontwikkelingen die De Mul schetst leiden tot een samenleving waarin een totaaloverzicht ondenkbaar is. Juist daarom is het zo belangrijk om te werken aan vertrouwen. De Mul ziet hierin een belangrijke taak weggelegd voor de overheid: de overheid zou het vertrouwen in de informatiesamenleving opnieuw moeten vormgeven. Hoe moet dit gebeuren? De Mul: ‘Door niet alles te willen weten. Want dat doet het vertrouwen juist teniet. Vertrouwen betekent juist dat we bereid zijn om te leven met onzekerheid. Wie écht zeker wil weten wat zijn partner aan het doen is kan een privédetective inschakelen, maar dat betekent dat hij zijn partner niet vertrouwt. Vertrouwen is dus tegengesteld aan de behoefte aan totale controle en transparantie, die op dit moment bij de overheid heel sterk is.’
Onzekerheid is volgens De Mul niet calculeerbaar: ‘Wij moeten beseffen dat we niet langer leven in een risicosamenleving, maar in een onzekerheidssamenleving. En dat betekent ook dat we moeten leren leven met onzekerheid. Risico’s kun je berekenen, onzekerheid niet. Als we de dijken willen verhogen, dan moeten die dijken hoger zijn dan de hoogste waterstand van eens in de zoveel jaar. En dan nemen we dus een berekend risico dat er eens in de zoveel tijd een overstroming plaatsvindt. Maar als het gaat om experimenteren met menselijk genoom, dan weten we niet wat voor een risico we lopen. Dan wordt er gezegd: dat is ontzettend risicovol. Maar dat is strikt gesproken niet waar. Het risico is niet hoog of laag, maar simpelweg onbekend. Wij zouden juist een meer fatalistische houding moeten ontwikkelen, in plaats van technologie af te wijzen omdat wij ons geen voorstelling van de gevolgen kunnen maken.’
Dat klinkt heel makkelijk, maar een dergelijke houding wordt toch nooit maatschappelijk acceptabel? ‘Onzekerheid is geen keuze, maar een feit. Er zit in onze complexe wereld heel veel onzekerheid, en onze ogen ervoor sluiten lijkt me een gevaarlijkere strategie. Neem nou zoiets als de bijensterfte. Het blijkt dat de oorzaak van de bijensterfte lag aan de pesticiden die we gebruiken. Het gebruik van de pesticiden betekent dus niet alleen een calculeerbaar risico voor het milieu of de gezondheid, maar ook onzekerheid: dit had immers niemand kunnen voorzien. Ja, natuurlijk is experimenteren met menselijk genoom spelen met vuur. Maar wij hebben sinds de tijd van Prometheus met het vuur gespeeld, en we moeten de moed opbrengen om dat te blijven doen.’
Jos de Mul (1956) is hoogleraar Wijsgerige Antropologie aan de Erasmus Universiteit Rotterdam en hoofd van de afdeling Filosofie van mens en cultuur. De Mul is geïnteresseerd in de verhouding van mens en techniek, en in het bijzonder in de nieuwe informatie- en communicatietechnologie en haar impact op de mens. In 2002 publiceerde De Mul zijn boek Cyberspace Odyssee, waarin hij de opkomst van internet en de invloed ervan op de mens beschreef. Cyberspace Odyssee werd bekroond met de Socrates Wisselbeker, de jaarlijkse prijs voor het meest urgente en prikkelende filosofieboek. In 2014 schreef De Mul Kunstmatig van nature, waarin hij onderzoekt of de opkomst van biotechnologie, neurowetenschappen en robotica tot een nieuwe soort mens zullen leiden. De Mul is gasthoogleraar geweest bij verschillende universiteiten in het buitenland. Zijn boeken zijn vertaald in vele talen. Momenteel is De Mul als extern onderzoeker betrokken bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties in het kader van het project Digitale overheid.
