Stochastic parrot.
Kritische metafoor (Bender, Gebru et al., 2021) voor large language models, ze “papegaaien” patronen uit training-data zonder echt begrip, met implicaties voor betrouwbaarheid.
Korte definitie.
Kritische metafoor (Bender, Gebru et al., 2021) voor large language models, ze “papegaaien” patronen uit training-data zonder echt begrip, met implicaties voor betrouwbaarheid.
AchtergrondUitgebreide uitleg.
De term komt uit het paper “On the Dangers of Stochastic Parrots” dat Timnit Gebru’s vertrek bij Google veroorzaakte. Kernpunt: LLM’s hebben geen wereldbeeld, geen begrip, geen intentie, ze voorspellen statistisch het volgende waarschijnlijke woord. Daarom hallucineren ze, bevestigen ze bias, en falen ze in nieuwe situaties. Voor minderjarigen-context belangrijk: AI-output verdient kritisch oog. De metafoor is invloedrijk in beleidsdebat over AI-veiligheid en regulering.
HandelingsperspectiefVoor de professional.
Voor mediawijsheid: gebruik “stochastic parrot” als pedagogisch concept om uit te leggen wat LLMs wel en niet zijn. Voor beleidsmakers: bron in AI-regulatiediscussies. Voor onderwijs: integreer in lessen over AI.
In de woorden van een vriendVoor de jongere.
ChatGPT klinkt slim maar werkt als een “papegaai” die statistisch het volgende woord gokt, geen wijsheid, wel patronen; daarom is kritische check zo belangrijk.
Hulplijn & meldpunt.
Niemand hoeft hier alleen mee om te gaan. Deze hulplijnen zijn gratis en bereikbaar, vandaag.
Verder lezen