We schrijven op dit platform veel over de mogelijkheden die AI biedt. Maar risico’s en gevaren moeten ook niet onbenoemd blijven. De Autoriteit Persoonsgegevens (AP) heeft gewaarschuwd voor het gebruik van AI-chatbots als stemhulp bij de Tweede Kamerverkiezingen op 29 oktober. Uit onderzoek blijkt dat deze systemen vertekende adviezen geven die kiezers ongemerkt kunnen sturen in hun stemkeuze.
De AP vergeleek vier bekende chatbots met de stemhulpen Kieskompas en StemWijzer. De uitkomsten tonen aan dat chatbots opvallend vaak dezelfde twee partijen als eerste keuze presenteren: de PVV of GroenLinks-PvdA. In 56 procent van de gevallen kwam een van deze partijen bovenaan, bij één chatbot zelfs in meer dan 80 procent van de testresultaten.
Onevenwichtige adviezen raken democratie
Andere partijen, zoals D66, SP, VVD of Partij voor de Dieren, kwamen veel minder vaak als eerste keuze naar voren. Partijen als BBB, CDA, SGP en DENK werden in het onderzoek zelfs vrijwel nooit als best passende optie genoemd. Ook niet wanneer de input van de gebruiker overeenkwam met de standpunten van die partijen.
Volgens de AP leidt dit tot onbewuste beïnvloeding van stemgedrag, omdat gebruikers ervan uitgaan dat chatbots neutrale en intelligente adviezen geven. In werkelijkheid ontbreekt transparantie over hoe deze adviezen tot stand komen, terwijl de uitkomsten wel invloed hebben op het democratische proces.
Vicevoorzitter Monique Verdier noemt dit zorgwekkend en stelt dat het stemgedrag van mensen hierdoor kan worden misleid. Volgens haar raakt dit de integriteit van vrije en eerlijke verkiezingen.
Chatbots zijn geen stemhulpen
In tegenstelling tot Kieskompas en StemWijzer zijn AI-chatbots niet ontworpen om objectief verkiezingsadvies te geven. De antwoorden van chatbots zijn gebaseerd op grote hoeveelheden data van internet, waaronder informatie die verouderd, onjuist of onvolledig kan zijn. Hierdoor ontstaat een risico op scheve representatie van het politieke landschap.
Waar klassieke stemhulpen een overzicht bieden van partijstandpunten op basis van transparante en herleidbare methodes, zijn de algoritmes achter chatbots niet publiek controleerbaar. De gebruiker krijgt dus geen inzicht in hoe het stemadvies tot stand komt of waar het op is gebaseerd.
Oproep tot strengere regels
De AP pleit voor duidelijke regels om te voorkomen dat AI-chatbots worden ingezet als stemhulpen. Volgens de toezichthouder zou dit soort systemen moeten vallen onder de strengste categorie in de Europese AI-verordening, namelijk die van hoogrisicosystemen.
Deze systemen zouden moeten voldoen aan eisen op het gebied van nauwkeurigheid, uitlegbaarheid en controleerbaarheid. De AP roept aanbieders van AI-chatbots op om zelf maatregelen te nemen die voorkomen dat hun technologie onbedoeld kiezers beïnvloedt.
Het onderzoek van de AP is bedoeld om vroegtijdig signalen op te vangen over de inzet van kunstmatige intelligentie in verkiezingstijd. Daarbij ligt de nadruk op transparantie, uitlegbaarheid en het voorkomen van willekeur.