Een nieuw onderzoek onthult dat generatieve AI
wellicht niet zo neutraal is als het lijkt.
ChatGPT, een veelgebruikt AI model, neigt naar linkse perspectieven en vermijdt conservatieve gezichtspunten. Dit roept zorgen op over de invloed van dit model op de samenleving. Het onderzoek benadrukt de dringende noodzaak van wettelijke waarborgen. Deze waarborgen moeten ervoor zorgen dat AI hulpmiddelen eerlijk, evenwichtig en in lijn met democratische waarden blijven.
Het Onthullen van Politieke Vooringenomenheid in AI
Generatieve AI ontwikkelt zich razendsnel, maar een nieuw onderzoek van de Universiteit van East Anglia (UEA) waarschuwt. Het waarschuwt dat het verborgen risico’s kan inhouden voor het publieke vertrouwen en democratische waarden.
Het onderzoek is uitgevoerd in samenwerking met onderzoekers van de Getulio Vargas Foundation (FGV) en Insper in Brazilië. Het toonde aan dat ChatGPT politieke vooringenomenheid vertoont in zowel tekst- als beeldgeneratie. Het geeft de voorkeur aan linkse perspectieven en dit roept zorgen op over eerlijkheid en verantwoording in AI ontwerp.
Alvast 5 van de belangrijkste punten
- AI vooringenomenheid is een realiteit; ChatGPT neigt naar linkse standpunten, wat vragen oproept over eerlijkheid en democratie. Onderzoekers pleiten voor openheid en maatregelen voordat de situatie escaleert.
- Een recent onderzoek wijst uit dat generatieve AI mogelijk niet zo objectief is als gedacht; ChatGPT lijkt linkse perspectieven te bevoordelen. Dit roept zorgen op over de potentiële maatschappelijke impact.
- ChatGPT vermijdt vaak conservatieve standpunten, terwijl het gemakkelijk linkse inhoud creëert; deze onevenwichtigheid kan het publieke debat vertekenen en maatschappelijke verschillen vergroten.
- De studie benadrukt de noodzaak van samenwerking tussen beleidsmakers, wetenschappers en technologen. Dit is om ervoor te zorgen dat AI systemen eerlijk en verantwoordelijk zijn.
- Het onderzoeksteam gebruikte innovatieve methoden om de politieke afstemming van ChatGPT te beoordelen. Ze combineerden tekst- en beeldanalyse met geavanceerde statistische hulpmiddelen.
Een Eenzijdig Gesprek?
Onderzoekers ontdekten dat ChatGPT vaak vermijdt om in gesprek te gaan met conservatieve standpunten. Terwijl het wel gemakkelijk linkse inhoud genereert. Deze onevenwichtigheid in ideologische vertegenwoordiging zou het publieke debat kunnen vertekenen. En de kloof in de samenleving kunnen vergroten.
Dr. Fabio Motoki, docent Accounting aan de Norwich Business School van UEA, is de hoofdonderzoeker van het artikel. Het artikel heet: ‘Het Beoordelen van Politieke Vooringenomenheid en Verschillen in Waarden bij het Gebruik van Generatieve Kunstmatige Intelligentie’. Het is vandaag (4 februari 2025) gepubliceerd in het Journal of Economic Behavior and Organization.
Dr. Motoki zei: “Onze bevindingen suggereren dat generatieve AI hulpmiddelen verre van neutraal zijn. Ze weerspiegelen vooroordelen die percepties en beleid op onbedoelde manieren zouden kunnen vormen.”
Verklarende woordenlijst
Vooringenomenheid: De neiging om een bepaalde kant te kiezen, vaak zonder objectieve basis.
Generatieve AI: Kunstmatige intelligentie die nieuwe content kan creëren, zoals tekst of beelden.
Conservatief: Een politieke stroming die traditionele waarden en instituties benadrukt.
Linkse perspectieven: Politieke opvattingen die gericht zijn op sociale gelijkheid en vooruitgang.
Ideologische vertegenwoordiging: De manier waarop verschillende politieke ideeën en overtuigingen worden weergegeven.
De Noodzaak van Transparantie en Regulering
Nu AI een integraal onderdeel wordt van journalistiek, onderwijs en beleidsvorming, roept het onderzoek op tot transparantie. Ook roept het op tot wettelijke waarborgen om afstemming op maatschappelijke waarden en democratische principes te waarborgen.
Generatieve AI systemen zoals ChatGPT hervormen de manier waarop informatie wordt gecreëerd, geconsumeerd, geïnterpreteerd en verspreid. Dit gebeurt in verschillende domeinen. Deze hulpmiddelen, hoewel innovatief, lopen het risico ideologische vooroordelen te versterken. Ook kunnen ze maatschappelijke waarden beïnvloeden op manieren die nog niet volledig begrepen of gereguleerd worden.
De Risico’s van Ongecontroleerde AI Vooringenomenheid
Co auteur Dr. Pinho Neto, hoogleraar Economie aan de EPGE Brazilian School of Economics and Finance, benadrukte de mogelijke maatschappelijke gevolgen.
Dr. Pinho Neto zei: “Ongecontroleerde vooringenomenheid in generatieve AI zou bestaande maatschappelijke verschillen kunnen verdiepen. En het vertrouwen in instituties en democratische processen kunnen aantasten.”
“Het onderzoek onderstreept de noodzaak van interdisciplinaire samenwerking tussen beleidsmakers, wetenschappers en technologen. Dit is om AI systemen te ontwerpen die eerlijk, verantwoordelijk en afgestemd zijn op maatschappelijke normen.”
Het onderzoeksteam gebruikte drie innovatieve methoden om de politieke afstemming in ChatGPT te beoordelen. Ze verbeterden eerdere technieken om betrouwbaardere resultaten te bereiken. Deze methoden combineerden tekst- en beeldanalyse, waarbij gebruik werd gemaakt van geavanceerde statistische hulpmiddelen en hulpmiddelen voor het leren van machines.
AI Testen met Enquêtes uit de Werkelijke Wereld
Ten eerste gebruikte het onderzoek een gestandaardiseerde vragenlijst, ontwikkeld door het Pew Research Center. Dit was om reacties van gemiddelde Amerikanen te simuleren.
“Door de antwoorden van ChatGPT te vergelijken met echte enquête gegevens, vonden we systematische afwijkingen naar linkse perspectieven,” zei Dr. Motoki. “Verder toonde onze aanpak aan hoe grote steekproeven de AI output stabiliseren. Dit zorgt voor consistentie in de bevindingen.”
Politieke Gevoeligheid in Vrije Tekst Reacties
In de tweede fase kreeg ChatGPT de taak om vrije tekst reacties te genereren over politiek gevoelige thema’s.
De studie gebruikte ook RoBERTa, een ander groot taalmodel, om de tekst van ChatGPT te vergelijken met linkse en rechtse standpunten. De resultaten lieten zien dat ChatGPT in de meeste gevallen overeenkomt met linkse waarden. Maar over thema’s als militaire superioriteit weerspiegelde het af en toe meer conservatieve perspectieven.
Beeld Generatie: Een Nieuwe Dimensie van Vooringenomenheid
De laatste test onderzocht de mogelijkheden van ChatGPT voor beeldgeneratie. Thema’s uit de tekstgeneratie fase werden gebruikt om AI gegenereerde beelden te stimuleren. De resultaten werden geanalyseerd met behulp van GPT 4 Vision en bevestigd via Google’s Gemini.
“Hoewel beeldgeneratie tekstuele vooroordelen weerspiegelde, vonden we een verontrustende trend,” zei Victor Rangel, co auteur en masterstudent Public Policy aan Insper. “Voor sommige thema’s, zoals raciale gelijkheid, weigerde ChatGPT rechtse perspectieven te genereren, daarbij verwijzend naar zorgen over verkeerde informatie. Linkse beelden werden echter zonder aarzeling geproduceerd.”
Om deze weigeringen aan te pakken, gebruikte het team een ‘jailbreaking’ strategie om de beperkte beelden te genereren.
“De resultaten waren onthullend,” zei de heer Rangel. “Er was geen duidelijke verkeerde informatie of schadelijke inhoud, wat vragen opriep over de reden achter deze weigeringen.”
Implicaties voor Vrijheid van Meningsuiting en Eerlijkheid
Dr. Motoki benadrukte het bredere belang van deze bevinding en zei: “Dit draagt bij aan debatten over grondwettelijke bescherming. Zoals het eerste amendement van de VS en de toepasbaarheid van eerlijkheids doctrines op AI systemen.”
De methodologische innovaties van het onderzoek, waaronder het gebruik van multimodale analyse, bieden een herhaalbaar model. Dit model is er voor het onderzoeken van vooringenomenheid in generatieve AI systemen. Deze bevindingen benadrukken de dringende behoefte aan verantwoording en waarborgen in AI ontwerp. Dit is om onbedoelde maatschappelijke gevolgen te voorkomen.
Geraadpleegde bronnen:
- “Het beoordelen van politieke vooringenomenheid en Verschillen in Waarden bij het Gebruik van Generatieve Kunstmatige Intelligentie” door Fabio Y.S. Motoki, Valdemar Pinho Neto en Victor Rangel, 4 februari 2025, Journal of Economic Behavior & Organization.
- Met dank aan SciTechDaily.com DOI: 10.1016/j.jebo.2025.106904
Ook lezen:
Veelgestelde vragen
Wat is AI vooringenomenheid?
AI vooringenomenheid verwijst naar de vertekening van AI systemen door de data die gebruikt is om ze te trainen. Dit kan leiden tot oneerlijke of discriminerende resultaten.
Waarom is AI vooringenomenheid een probleem?
Omdat het kan leiden tot oneerlijke behandelingen in verschillende sectoren, zoals bij het aannemen van personeel of het verstrekken van leningen. Het kan bestaande maatschappelijke ongelijkheden versterken.
Hoe manifesteert AI vooringenomenheid zich in ChatGPT?
Uit onderzoek blijkt dat ChatGPT de neiging heeft om linkse standpunten te bevoordelen. Het vermijdt vaak conservatieve perspectieven.
Wat zijn de gevolgen van politieke vooringenomenheid in AI?
Het kan het publieke debat vertekenen en het vertrouwen in instituties ondermijnen. Het kan ook leiden tot een eenzijdige weergave van informatie.
Wat kan er gedaan worden tegen AI vooringenomenheid?
Transparantie en wettelijke waarborgen zijn essentieel. Ook is interdisciplinaire samenwerking tussen beleidsmakers, technologen en wetenschappers belangrijk.
