AI-hallucinaties op de servicedesk: het echte risico
AI-hallucinaties zijn een reëel risico op elke servicedesk: een taalmodel kan een zelfverzekerde, aannemelijk klinkende oplossingsstap verzinnen die gewoon fout is. Het gevaar zit niet in twijfel die je hoort, het zit erin dat je die nooit hoort. Je lost dit niet op met de belofte dat het nooit gebeurt, geen enkele serieuze leverancier kan dat waarmaken. Je lost het op met techniek die garandeert dat een ongefundeerd antwoord nooit ongecontroleerd bij een eindgebruiker terechtkomt.
Stel je een melding voor: "VPN valt steeds weg sinds de update." Een model zonder houvast verzint moeiteloos een oplossing: een driver herinstalleren die niet bestaat, wijzen naar een instelling die twee versies geleden al is hernoemd. Het klinkt zeker van zijn zaak. Precies die onzichtbare zekerheid, niet zichtbare twijfel, is het echte risico.
Waarom hallucineren taalmodellen eigenlijk?
Een taalmodel voorspelt het meest waarschijnlijke volgende woord, het zoekt niets op tenzij je dat afdwingt. Vraag iets specifieks over de tools van jouw organisatie en het model geeft toch een antwoord, want dat is precies waarvoor het gebouwd is. Er zit geen ingebouwd besef van "dit weet ik niet" in. Dat moet je van buitenaf inbouwen. Een verzonnen oplossingsstap bij een gebruiker met een kapotte laptop kost echte tijd, soms echte schade.
Hoe stopt grounding een hallucinatie voordat die ontstaat?
Grounding is de eerste en belangrijkste beveiligingslaag. De regel is simpel: een antwoord moet uit de kennisbank, geüploade documenten of de servicecatalogus komen, met de bron erbij. Geen bron, geen antwoord. De AI mag niet antwoorden uit algemene kennis of een gok over hoe jouw organisatie waarschijnlijk werkt.
Elk antwoord dat de AI opstelt verwijst terug naar een artikel, document of catalogusitem dat iemand kan openen en checken. Staat er niets relevants in de kennisbank, dan verzint de AI geen antwoord om het gat te dichten. Het model zegt gewoon dat het niets vindt, en het ticket volgt een ander pad.
- Bron erbij: elk opgesteld antwoord noemt het artikel of document waar het vandaan komt, zodat een reviewer het in seconden kan checken.
- Geen bron, geen antwoord: staat er niets bruikbaars in kennisbank, documenten of catalogus, dan reageert de AI niet naar de gebruiker.
Wat voegen drempelwaarden toe boven op grounding?
Grounding stopt antwoorden zonder basis, drempelwaarden stoppen antwoorden met een wankele basis. Elke actie naar buiten draagt een zekerheidsscore, en elk type actie heeft z'n eigen lat: een reactie naar de aanvrager ligt hoog, een interne notitie voorstellen lager.
Onder die lat plaatst het model z'n analyse als privénotitie, met de redenering erbij, en gaat het ticket naar een mens met het uitzoekwerk al gedaan. Dat is dezelfde logica als bij een goede overdracht aan een mens: de AI geeft liever het ticket door dan te gokken voorbij het punt waar de eigen zekerheid ophoudt.
| Situatie | Wat de AI doet |
|---|---|
| Gegrond antwoord, zekerheid boven drempel, categorie ingeschakeld | Reageert naar de aanvrager, bron erbij |
| Gegrond antwoord, zekerheid onder drempel | Plaatst een privénotitie als voorstel voor het team |
| Geen bron gevonden | Geen antwoord, gemarkeerd voor een mens |
Waarom is shadow mode belangrijk voordat er iets live gaat?
Drempelwaarden zijn maar getallen totdat je ze op echte meldingen hebt zien werken. Daarvoor dient shadow mode: de AI verwerkt elk binnenkomend ticket zoals in productie, maar elke actie blijft een privénotitie-voorstel, niets bereikt een eindgebruiker. Je team leest weken aan voorstellen naast wat er werkelijk gebeurde, en beslist pas dan waar de AI meer autonomie heeft verdiend.
Uitrol daarna gaat per categorie, niet in één keer. Een servicedesk geeft binnen enkele weken misschien volledige autonomie aan wachtwoordresets, terwijl facturatie of accountverwijdering nog veel langer op alleen-privénotitie blijft staan. Autonomie wordt per categorie verdiend, nooit in één keer voor de hele desk aangenomen.
Wat gebeurt er als de AI toch fout zit?
Dat gaat af en toe gebeuren, en dat is het eerlijke uitgangspunt hier. Het doel was nooit nul hallucinaties, maar dat een onvoldoende gegrond antwoord blijft steken bij een privénotitie, wordt gecontroleerd, en nooit de persoon bereikt die het probleem meldde. Komt het bij een reviewer terecht in plaats van de aanvrager, dan kost een fout antwoord een paar minuten aandacht, niet het vertrouwen van een gebruiker die op fout advies afgaat.
Compliance speelt hier ook mee: elke bron, zekerheidsscore en drempelbeslissing wordt gelogd, wat mede maakt dat AI op een servicedesk met oog voor security te verdedigen is tegenover een auditor.
Echte service door echte mensen. Administratief werk door machines, en alleen het werk waarvoor de machine het vertrouwen daadwerkelijk heeft verdiend.
Veelgestelde vragen
Kun je AI-hallucinaties volledig uitsluiten?
Nee, en elke leverancier die iets anders beweert, overdrijft. Het eerlijke doel is niet nul hallucinaties, maar dat een ongefundeerd antwoord nooit ongecontroleerd bij een eindgebruiker terechtkomt. Grounding, drempelwaarden en menselijke controle vangen elk een ander type fout op.
Wat doet de AI als het geen antwoord vindt in de kennisbank?
Het model gokt niet. Zonder passende bron in kennisbank, documenten of catalogus reageert de AI niet naar de aanvrager. Het markeert het gat voor een mens, en dat gat wordt vaak het volgende known-error-artikel zodra iemand het oplost.
Hoe lang moet een servicedesk in shadow mode draaien voor het live gaat?
Lang genoeg om een representatieve mix aan tickettypes te zien, meestal eerder weken dan dagen. Er is geen vast getal: de juiste duur is hoe lang je team nodig heeft om vertrouwen te krijgen in de voorstellen die het per categorie beoordeelt.
Vertraagt grounding de reactietijd?
Zoeken in de kennisbank en een bron citeren kost verwaarloosbaar meer tijd dan een model dat uit het geheugen antwoordt. De grotere tijdskost, waar die bestaat, komt van tickets waar niets bij past en een mens moet ingrijpen, precies het geval dat grounding vroeg wil opvangen.