Nieuws

De invloed van nieuwe technologieën

Artikel verschenen in deMens.nu Magazine jg7 nr3

We leven in een wereld waarin de technologie snel evolueert: artificiële intelligentie, robots, nanotechnologie, augmented reality … Het vooruitgangsoptimisme lijkt eenzijdig positief, maar zijn al die nieuwe ontwikkelingen nuttig en nodig? Zijn er geen ethische en maatschappelijke vraagtekens bij te plaatsen? Volgens antropoloog Rik Pinxten en wetenschapsfilosoof Jean Paul Van Bendegem in elk geval wel.

Liza Janssens

Het humanisme en het Verlichtingsdenken liggen aan de basis van het geloof in de vooruitgang en het nastreven van volmaaktheid. Vanuit dat vooruitgangsoptimisme ontstonden heel wat technologieën die onze wereld zullen beïnvloeden. Binnen de filosofie ontwikkelde zich het transhumanisme dat gelooft dat die technologieën de menselijke eigenheid zullen overstijgen.

Trans- of posthumanisme?

Rik Pinxten: Het transhumanisme gelooft dat de opmars van robotica, artificiële intelligentie enzovoort de mens zal beïnvloeden. Het posthumanisme gaat nog wat verder en stelt dat we evolueren naar een tijdperk waarin de mens slechts een van de rondlopende soorten is en artificiële instanties de hoofdrol spelen. Het humanisme waarin alleen de mens de bepalende factor is, wordt hierbij tot een fase van het verleden verklaard, terwijl bij transhumanisme de mens nog wel een rol speelt.

Jean Paul Van Bendegem: In het transhumanisme zit het idee van evolutie verweven, waardoor de mens als zodanig voorbij is en er een nieuw wezen ontstaat. In zoverre men gelooft in de totale maakbaarheid van de mens, maakt de technologie de mens quasi goddelijk (zoals beschreven in het boek Homo Deus van Yuval Noah Harari). Dat veronderstelt complete controle over de evolutie, wat een waanzinnig idee is. De evolutie is nooit geïnteresseerd in de optimale of perfecte oplossing, maar eerder in één die goed genoeg is voor de omgeving. De maakbaarheid van mens en samenleving zie ik eerder als een proces van vallen en opstaan. Nu wil men dat vallen vermijden en dan is er geen opstaan meer, maar een opgaan. Dat is nefast.

Pinxten: Het idee van maakbaarheid en verbeterbaarheid is interessant, maar men springt daar veel te vlot mee om. Men vertrekt immers van vrij primitieve beelden over de mens, vaak fragmenten die uitvergroot worden. Zo leeft het idee dat het menselijk geheugen een grote archiefkast is die je kan volproppen met feiten en kennis die je alleen maar goed moet beheren. Het geheugen is echter veel dynamischer. Het is een uitwisseling en inwisseling van gelaagde, complexe processen waarbij bijvoorbeeld stukken geheugen worden herschreven. Wanneer neurowetenschappers met MRI-scans aantonen dat God bij wijze van spreken in dat stukje van de hersenen woont, is dat totaal van de pot gerukt. Maar het klinkt geweldig: we hebben het gevonden en het zit daar, voor eeuwig en altijd. Omdat het transhumanisme van dat soort ideeën uitgaat, is het onverantwoord naïef. Daarnaast dicht men de nieuwe artificiële ontwikkelingen een soort van absoluutheid toe: robots gaan er zijn en worden een almacht omdat ze efficiënt zijn. Ze moeten immers niet slapen en eten. Waarom zou de volgende stap in die imperfecte evolutie nu plots een bekroning zijn? Dat is helemaal niet gefundeerd. Die stap wordt veel te snel gezet zonder er echt over na te denken. Zullen hun capaciteiten niet eerder beperkt zijn in verhouding tot de complexe capaciteiten van de mens, van wie we slechts een klein beetje snappen? Alsof het zo evident is dat we binnenkort een element in de evolutie zijn dat voorbij is. Er is niet zo veel dat daar overtuigend op wijst. Maar wie zich verzet, is meteen antiwetenschappelijk. Dat is eerder dogmatisch dan wetenschappelijk of politiek.

Ethische reflex

Pinxten: Over elk product dat wordt ontwikkeld, moet vooraf een ethische discussie worden gevoerd, maar hoe leg je die op en hoe houd je die in de hand? In dat kader is de hele privacydiscussie met Google en Facebook interessant. Je ziet dat die firma’s zo groot en machtig zijn dat het niet zo vanzelfsprekend is om met hen eerlijke afspraken te maken die ze naleven, want het gaat om miljarden winsten voor hen. Het principe van ethische controle wordt in de praktijk steeds moeilijker, omdat die concerns uitgegroeid zijn tot een macht naast of buiten de politieke macht. Met de nieuwe technologische ontwikkelingen zal het mogelijk dezelfde weg opgaan. Die posthumanistische ontwikkelingen worden immers nu al opgevoerd door bepaalde groepen in Silicon Valley, zoals PayPal, Google en Facebook. Zij zetten heel wat onderzoeksgeld opzij in eigen fondsen. Via bijvoorbeeld het Seasteading Institute creëren ze artificiële eilanden ergens buiten de territoriale wateren om er, los van elke politieke controle, te experimenteren. Dan weet je al genoeg. En wat ontwikkelen ze daar? Zaken waarmee ze zich veilig van de rest van de wereld kunnen afschermen zoals gevechtsmachines? Wat als een of andere eigenaardige subgroep of een dictator dat voor zijn heil verder gaat ontwikkelen? We moeten dus het maatschappelijke debat voeren over wat we wel of niet kunnen ontwikkelen en hoe we dat gaan controleren. Maar als ik dat met andere humanisten bespreek, hoor ik vooral de bedenking dat we toch al veel kunnen en de vraag of ik niet wil dat de mens verbeterbaar is. Ik ben niet tegen de verbetering of de wetenschap, maar er zijn daarbij wel keuzemomenten waarover we het moeten hebben. Bovendien is het niet omdat we iets kunnen dat we het ook moeten doen. Zo ontwijk je netjes elke vorm van verantwoordelijkheid, want het is toch al te laat. Dat is helemaal niet juist, maar wel handig.

Van Bendegem: Binnen het academisch wetenschappelijk onderzoek zijn er ethische commissies die dat debat voeren. Helaas wordt heel wat onderzoek niet meer aan universiteiten gevoerd, maar in labo’s van bijvoorbeeld grote farmaceuticaconcerns. Universiteiten voeren vooral waardevol onderzoek dat niet meteen commercieel interessant is. Een voorbeeld hiervan is het onderzoek van Vera Rogiers – aan de Vrije Universiteit Brussel – naar de mogelijkheid om weefsel te ontwikkelen waarmee je experimenten zonder proefdieren kan uitvoeren. De grote concerns liggen daar niet wakker van, want ze gebruiken gewoon proefdieren die heel weinig kosten, maar die het nadeel hebben dat ze allemaal uit hetzelfde bedrijf komen en daardoor qua DNA te gelijkend zijn. Er speelt ook een enorme hype. Neem nu deep learning, waar men de mond vol van heeft. Dat zijn bestaande technieken waarvan alleen de rekenkracht groter is geworden. Dat lijkt nu revolutionair, omdat iemand het idee had de computer niet met alle gekende gespeelde partijen van het Japanse bordspel Go te voeden, maar de machine tegen zichzelf te laten spelen waardoor ze onverslaanbaar werd. De computer opereert nog altijd in de ruimte van het spel, waar je een volledigheid hebt die je kan beheersen en waar de zetten bepaald zijn, maar de ware uitdaging ligt daarbuiten. Stel dat er een zelfrijdende auto nadert, zou jij zomaar het zebrapad durven oversteken? Mijn eerste reactie is ontkennend, maar dat is natuurlijk idioot. De vraag is evenwel hoe je die auto in een complexe omgeving zoals het huidige verkeer laat functioneren, en zo ver zijn we nog niet. De hypes worden dan ook vooral gebruikt om financieringskanalen te verwerven onder het mom dat men voor een grote ontwikkeling staat.

Aansprakelijkheid

Pinxten: Dat is niet nieuw. Apple is groot geworden met publieke gelden. Basiswerk en financiering die te groot of te riskant lijken, gebeuren meestal door de overheid. Wanneer dat resulteert in iets dat in de markt kan worden gezet, dan springt een firma erop om het te commercialiseren. Meestal staat in het subsidiedossier al in de kleine lettertjes geschreven welke firma. Ondertussen wordt ons wijsgemaakt dat wij daarover geen ethische vragen meer moeten stellen. Wat die zelfrijdende auto betreft, zijn verzekeringsmaatschappijen daarin geïnteresseerd, want hoe reguleer je dat? Stel dat er toch iets fout gaat, wie is dan verantwoordelijk? Hun eerste reactie was dat de eigenaar verantwoordelijk blijft. Maar die is niet zelf aan het rijden, dus hoe kan je die verantwoordelijk stellen? Mochten die auto’s perfect geprogrammeerd zijn zodat er geen ongevallen meer gebeuren, dan zijn we eruit, maar wat is perfectie?

Van Bendegem: In zijn boek Mechanizing Proof beschrijft Donald MacKenzie zo’n discussie rond aansprakelijkheid. Een bedrijf laat nieuwe programmatuur ontwikkelen door een softwarebedrijf, dat die eerst door een derde bedrijf laat verifiëren. Dat laatste bedrijf controleert of het programma doet wat het in ideale omstandigheden verondersteld wordt te doen. Bij eenvoudige zaken is dat praktisch te bewijzen, maar bij complexe programma’s is dat moeilijker. Zij runnen een batterij aan testen, beslissen op een bepaald moment dat het programma in orde is en leveren een certificaat waarop staat dat het voor negentig procent oké is. Maar wanneer de opdrachtgever zijn programma implementeert, gaat het hopeloos fout. Wie is er juridisch verantwoordelijk? Het softwarebedrijf beweert het programma alleen maar te hebben ontwikkeld en wijst naar het derde bedrijf dat het certificaat schreef. Maar dat bedrijf is verwonderd dat men een dergelijke zekerheid verwacht, zij controleren die programma’s immers niet integraal.

Maatschappelijke impact

Van Bendegem: Die ‘vertechnologisering’ heeft trouwens een enorme impact op de maatschappij. Bij een probleem denkt men steeds vaker aan een technische oplossing, want de instrumenten daarvoor zijn voorhanden. Men verwacht van die technologie ook meteen oplossingen en antwoorden. Denk aan de reminder die je daags nadien krijgt omdat je een e-mail niet onmiddellijk hebt beantwoord. Veel zaken vergen echter net tijd, en dan vooral onderhandelen en argumentatief met elkaar omgaan om tot resultaten te komen. Dat gaat botsen.

Pinxten: Daarnaast blijken steeds meer mensen ongeschikt te zijn voor betaalde arbeid. Het gaat om een hoop volk dat nooit meer meekan in het arbeidssysteem, omdat de eisen van gevorderde kennis almaar toenemen. Een immer grotere groep zal dus niet meer aan de bak komen in een economisch systeem waarin die ICT systematisch wordt geïmplementeerd. Sociaal heeft dat ontzettende gevolgen. Hoe organiseer je de maatschappij en de herverdeling van de economie? Dat oninteressante arbeid door robots kan worden overgenomen, is een goede zaak, maar wat ga je aanvangen met de mensen die zij vervangen? De meritocratie als maatschappijmodel kan je dan niet langer volhouden. Je ziet nu al een accumulatie van kapitaal door een erg kleine groep (één tiende procent op wereldschaal). Hoe moeten we onze maatschappij dan herorganiseren? De eerste reacties zijn niet bemoedigend. Neem nu die van David Cameron, de voormalige Britse premier. Hij groeide op in een privéschool van de old-schoolrijken, geïsoleerd van de wereld, erop gericht om een belangrijke maatschappelijke functie te bekleden met als doel het kapitaal te beschermen. Hij liet een nationaal onderzoek naar de armoede in het Verenigd Koninkrijk uitvoeren. Daaruit blijkt dat tweeënvijftig procent van de Britten niet rondkomt. Twee weken nadat het rapport werd bekendgemaakt, ontstaan er rellen met brandstichting, waarop Cameron over die mensen zegt: “It’s scum”. In de zogenaamd oudste democratie ter wereld zegt de premier over zijn volk dat het afval is waar hij zich niet mee hoeft bezig te houden. Dat is een teken dat het wel eens serieus mis zou kunnen lopen. De koppeling van die economische macht aan de nieuwe technologieën en het afhankelijk worden en uitvallen van een groot deel van de bevolking, beloven dus niet veel goeds voor onze maatschappij, tenzij er een omslag in het maatschappelijk en politiek denken komt. Maar dat zit er niet meteen in. Hier zie ik een rol voor humanisten weggelegd.

Bekijk het filmpje: