Nieuws

“Wetenschap mag je niet censureren”

Artikel verschenen in deMens.nu Magazine jg14 nr2. Lees hier meer artikels over ‘taboes’.

Gustaaf Cornelis is hoogleraar wetenschapsfilosofie aan de Vrije Universiteit Brussel. Nadat rond 2010 een aantal gevallen van wetenschapsfraude de media haalde, verdiepte hij zich in het thema. Van het gebruik van generatieve artificiële intelligentie tot niet grondig gevoerde onderzoeken, in onderstaand gesprek opent hij de deur van wetenschappelijke taboes. Tegelijkertijd pleit hij voor ‘betrouwbare traagheid’.

Esther Meuwis

Wanneer spreken we van een taboe?

Gustaaf Cornelis: Als het om een thema gaat waarover mensen niet willen praten en waarover je weinig informatie kan inwinnen. Zodra iemand het aankaart, merk je in de wandelgangen dat de tongen loskomen. Zeg je ermee naar buiten te willen treden, dan gaan de lippen weer op slot.

Zo gaf ik aan de VUB een lesmarathon voor jongeren over seksualiteit. Tijdens een debat ging het over verliefdheid op een leerkracht. Leerlingen en leerkrachten vonden het moeilijk om openlijk over het thema te spreken, maar uiteindelijk kwamen de verhalen aan de oppervlakte. Nadien wilde een student lerarenopleiding een doctoraatsonderzoek voeren naar hoe zo’n situatie ontstaat en hoe je daarmee kan omgaan; ze kreeg echter niemand officieel voor de microfoon.

Heb je zelf een taboe?

Cornelis: Nee, filosofen hebben daar lak aan. Doorgaans gaan wetenschappers geen taboe uit de weg en willen ze controversiële thema’s bestuderen. Hoe gevoelig bepaalde onderwerpen ook zijn, je mag wetenschap niet censureren, want dat is het einde van het vrij onderzoek.

Vroeger werd er in wetenschappelijke studies weinig rekening gehouden met sensibiliteiten van individuen of groepen in de maatschappij. Vandaag zijn burgers mondiger, waardoor er meer gevoeligheden naar boven komen. Toch moeten we ook leren omgaan met ideeën die niet bij het wereldbeeld passen. Wel mogen wetenschappers niet bruuskeren en moeten ze hun onderzoeksresultaten op een empathische manier verwoorden. Onderzoek uit de weg gaan of resultaten achterhouden, is echter een brug te ver. (lees verder onder de foto)

Zijn er taboes in de wetenschap?

Cornelis: Samen met onderwijsfilosoof Marijke Van Vlasselaer werk ik rond het gebruik van generatieve AI bij studie en onderzoek. (Generatieve AI is een vorm van artificiële intelligentie die nieuwe content kan creëren of genereren, zoals tekst, afbeeldingen, video’s en audio, door te leren van bestaande gegevens, red.) Universiteiten nemen daarin een voorzichtige houding aan en geven liever niet toe dat de outputs het wetenschappelijk onderzoek bedreigen. Alle universiteiten claimen tegenwoordig dat ze aan vrij onderzoek doen, maar als puntje bij paaltje komt, is dat niet zo. Ook dat potje blijft vaak gedekt.

Door een te hoge prestatie-, excellentie- en publicatiedruk ontstaat er slordige wetenschap. De beoordeling van een curriculum vitae gebeurt vaak alleen op de hoeveelheid publicaties en projecten die op iemands naam staat. Als wetenschapper word je gedwongen om opportunistisch te zijn, anders haal je de quota niet. Dat maakt dat mensen fouten maken, te kort door de bocht gaan of te snel conclusies trekken. Er zijn daardoor veel wetenschappers met een burn-out of onderzoekers die er de kantjes aflopen. Een sterk geweten is essentieel voor wetenschappers.

Tachtig tot negentig procent van de onderzoekers en studenten gebruikt generatieve AI en chatbots in meer of mindere mate. Dat is nefast. Het is een taboe waar veel wetenschappers over zwijgen.

Elk element van een onderzoek kan door generatieve AI gebeuren. Ik overloop even de fasen: “Ik kan niets nieuws bedenken en vraag ideeën aan generatieve AI. Vervolgens laat ik AI onderzoeksvragen bedenken en koppel ik daar methoden aan om een experiment uit te voeren. Na afloop van het experiment vraag ik AI die resultaten te analyseren, in grafieken te gieten en verwijzingen naar gelijkaardige onderzoeken te geven. Met die informatie stel ik een wetenschappelijk artikel op. Het eindresultaat stuur ik naar reviewers. Die gaan het artikel uit tijdsbesparing niet zelf nalezen, maar vragen aan generatieve AI om het te beoordelen. De auteur ontvangt het onderzoek terug met suggesties voor verbeteringen. Die vraagt weer aan AI om de aanpassingen door te voeren. Uiteindelijk verschijnt het artikel in een wetenschappelijk tijdschrift en op het internet. Daar gaat AI dan weer mee aan de slag.” Nu vraag ik je, waar is er in die cirkel nog een rol voor de mens?

Ik heb de indruk dat men het probleem niet onder ogen wil zien. Als je een onderzoek uitbesteedt aan generatieve AI en het volledig controleert, kost het evenveel tijd als het hele onderzoek zelf te voeren. Dus gaan wetenschappers slechts deeltjes controleren en zo sluipen er fouten in. Er verschijnt dan een enorm aantal artikels die we niet meer gelezen krijgen. En waarvan we niet meer weten of ze betrouwbaar zijn. Bovendien leert ook generatieve AI niets bij als we onze onderzoeken niet zelf doen. (lees verder onder de foto)

Zijn er dan geen ethische commissies?

Cornelis: Tien jaar al zijn er ethische commissies aan de universiteiten. Die bestaan uit juristen en ervaren onderzoekers uit het vakgebied. Er zetelen zelden ethici of filosofen in – dat is overigens ook niet verplicht. De ethische commissies gaan na of het aangevraagde onderzoek ethisch verantwoord is. Ze geven adviezen en controleren of het in overeenstemming met de regelgeving is.

Tegen een wetenschapper die wat kort door de bocht gaat en voor de deadline nog snel een projectaanvraag inzendt, wordt dan bijvoorbeeld gezegd: “Je statistiek is niet in orde. Je gaat iets uit de taboesfeer halen, maar wie wordt er beter van? Stond je stil bij de gevolgen van je studie? Leidt ze niet tot stigmatisering van de doelgroep?”

Heb je een suggestie voor de toekomst?

Cornelis: Heb vertrouwen in wetenschappers en in wat ze doen. Dat is het enige wat enige zekerheid oplevert en de wereld hopelijk wat beter maakt.

Aan wetenschappers geef ik de boodschap: neem de tijd om dingen grondig te bestuderen en reflecteer over je onderzoek. Geef de burgers goede redenen om te vertrouwen op de resultaten van wetenschappelijke publicaties. Wees transparant over het onderzoek. Laat je niet ideologisch sturen.

Let op met AI. Het gebruik van gespecialiseerde artificiële intelligentie die je traint om problemen in een onderzoekdomein op te lossen, is oké – los van de ecologische bezwaren. Maar je kan als humanist niet achter het gebruik van generatieve AI staan. De kern van het humanisme en het Verlichtingsdenken is net de autonomie van het denken.

Wetenschappers mogen fouten maken. We weten dat ze er soms naast zitten, maar er is niets beters. Kijk naar alles wat we leerden over de natuur, de sterren, de mens zelf … Al die mooie en bruikbare kennis kwam voort uit de koker van wetenschapsmensen die vrij waren om te denken.