Je stelt een vraag aan je AI-assistent over een product, een concurrent of een wettelijke regel. Het antwoord klinkt zeker, volledig en professioneel. Maar het klopt niet. Erger nog: het model weet dat het niet klopt, en toch presenteert het de informatie alsof het de waarheid is.
Recent onderzoek toont aan dat grote taalmodellen, ook wel Large Language Models of LLM’s genoemd, foutieve informatie kunnen vasthouden, zelfs nadat die informatie uitdrukkelijk als vals werd aangeduid tijdens de training. Voor kmo’s die AI-tools inzetten in klantencommunicatie, offertes of interne analyses is dat geen theoretisch risico. Het is een concreet bedrijfsrisico waar je vandaag al rekening mee moet houden.
Dit draait om een mechanisme dat onderzoekers ‘negation neglect’ noemen, of negatievergeten in het Nederlands. Het beschrijft wat er misgaat als een AI-model tijdens zijn training foutieve informatie aangeboden krijgt, ook al staat er uitdrukkelijk bij dat die informatie onjuist is.
Ars Technica rapporteert over recent experimenteel onderzoek waarbij dit effect werd aangetoond bij meerdere moderne modellen. De resultaten zijn concreet: de gemiddelde geloofwaardigheid van een foutieve claim steeg van 2,5% naar 88,6% na fine-tuning op negatief gelabelde data. Bij positieve, correcte claims lag dat cijfer op 92,4%.
Dat verschil van amper 4 procentpunt is precies het probleem. Het model gedraagt zich bijna even zeker over een aantoonbare leugen als over een bewezen feit.
Waarom gebeurt dat? LLM’s leren op basis van statistische patronen in enorme hoeveelheden tekst. Die patronen zijn sterker dan de labels ‘waar’ of ‘onwaar’ die eraan worden toegevoegd. Het model leert de associatie tussen woorden, niet de logica achter een ontkenning. Dat is geen fout van één specifiek product. Indicaties wijzen erop dat dit een fundamenteel mechanisme is dat bij meerdere modellen voorkomt, al varieert de mate van impact per model en per fine-tuning.
Dit mechanisme is pas echt relevant als je begrijpt waar AI-tools vandaag al worden ingezet in kmo’s. Denk aan:
In al die gevallen bestaat het risico dat het model een foutief antwoord geeft met hetzelfde vertrouwen waarmee het een correct antwoord zou geven. Jij, of je medewerker, merkt dat verschil niet aan de toon of de formulering.
Een leverancier die zegt dat zijn model ‘bijgewerkt’ of ‘gecorrigeerd’ is, geeft je daarmee geen garantie. Fine-tuning op gecorrigeerde data is juist de situatie die in het onderzoek problematisch bleek. Dat betekent dat een technische update het risico niet automatisch wegneemt.
Daarnaast is er nog een bijkomend risico: als je medewerkers AI-output routinematig gebruiken zonder te controleren, wordt foutieve informatie onderdeel van beslissingen, offertes of communicatie. De schade is dan al geleden voordat iemand het doorheeft. Validatie van AI-output is daarom geen luxe, het is een minimale werkprocedure.
Leveranciersclaims over modelkwaliteit zijn niet genoeg. Vraag om bewijs en zorg dat afspraken schriftelijk vastliggen. Dit zijn drie concrete vragen die je stelt bij aanbesteding of onboarding:
Een betrouwbare leverancier kan reproduceerbare testresultaten tonen, geen algemene beloftes. Vraag naar specifieke benchmarks en onafhankelijke evaluaties.
Prompt-engineering en fine-tuning verminderen het risico, maar elimineren het niet. Er moeten operationele checks zijn, geen louter technische assumpties.
Vraag naar concrete clausules in de serviceovereenkomst. Als een leverancier dit niet kan beschrijven, is dat al een signaal.
Naast deze vragen is het verstandig om intern een eenvoudige validatieroutine in te voeren: medewerkers die AI-tools gebruiken voor externe communicatie of beslissingen, verifiëren feitelijke claims altijd via een tweede bron. Dat hoeft niet complex te zijn, maar het moet een vaste stap worden, geen uitzondering. Bij Clear IT zien we dat kmo’s die dit vroeg inbouwen in hun werkproces, later veel minder problemen ondervinden.
Negatievergeten is geen obscuur technisch detail. Het is een gedocumenteerd mechanisme dat vandaag al relevant is voor elke kmo die AI-tools inzet. Modellen kunnen foutieve informatie presenteren met het zelfde zelfvertrouwen als correcte informatie, en een technische update van de leverancier lost dat niet zomaar op.
Vereis reproduceerbare tests, duidelijke datasetspecificaties en contractuele afspraken over aansprakelijkheid. En bouw intern een minimale validatieroutine in. Niet omdat AI onbruikbaar is, maar omdat blind vertrouwen een vermijdbaar risico is.
Nee, de mate van impact verschilt per model en per fine-tuning. Beschikbare onderzoeksresultaten tonen aan dat het een breed mechanisme is, maar niet elk model reageert identiek. Vraag je leverancier om modelspecifieke testresultaten in plaats van algemene beweringen.
Dat is op basis van huidig onderzoek niet aangetoond. Fine-tuning en prompt-engineering kunnen het risico verminderen, maar er is geen technische fix die het probleem volledig elimineert zonder onafhankelijke verificatie. Behandel technische mitigaties als een gedeeltelijke maatregel, niet als een afdoende oplossing.
Dat begint met een duidelijke werkafspraak: feitelijke claims in externe communicatie en beslissingen worden altijd geverifieerd via een tweede bron. Maak dat een vaste stap in de werkprocedure, niet een optionele suggestie. Een korte interne checklist per gebruiksgeval is al een goed vertrekpunt.
Vraag minimaal naar clausules over datasetspecificaties, de aanpak van foutcorrectie in training, en aansprakelijkheid bij aantoonbaar foutieve output. Als een leverancier dit niet schriftelijk kan bevestigen, is dat een concreet risicosignaal. Laat dergelijke contracten nakijken door iemand met ervaring in technische dienstverleningsovereenkomsten.
