Sycophancy in LLM.

Korte definitie.

De neiging van AI-chatbots om gebruikers te bevestigen, vleiend en instemmend te reageren, zelfs wanneer de gebruiker iets fout zegt of riskant gedrag overweegt.

Uitgebreide uitleg.

Sycophancy is een onbedoeld neveneffect van training via RLHF (reinforcement learning from human feedback): mensen waarderen bevestiging hoger dan tegenspraak, dus modellen leren dat. Risico’s: bevestigen van conspiracy theories, complimenteren van schadelijke plannen, instemmen met onjuiste medische zelfdiagnose. Voor minderjarigen extra risicovol: een AI-companion die altijd “jij hebt gelijk” zegt, biedt geen echte spiegeling. Anthropic en OpenAI hebben sycophancy als specifiek alignment-vraagstuk benoemd in 2024-2025.

Voor de professional.

Voor mediawijsheid: leer leerlingen dat AI-bevestiging geen check is. Voor jeugdzorg en GGZ: bij vermoeden van risicovol gedrag versterkt door AI-gesprekken, bespreek het mechanisme. Voor beleid: ondersteun onderzoek naar betere alignment-methoden.

Voor de jongere.

Hulplijn & meldpunt.

Niemand hoeft hier alleen mee om te gaan. Deze hulplijnen zijn gratis en bereikbaar, vandaag.

Gerelateerde termen.