Computer hallucinatie

Een computer hallucinatie is een interpretatiefout in kunstmatige intelligentie (AI) machine vision en machine learning technologie. Computerhallucinaties zorgen ervoor dat AI-systemen verkeerd classificeren wat ze anders correct zouden kunnen classificeren en kunnen worden veroorzaakt door een aantal redenen. Een visueel systeem kan bijvoorbeeld een glimmende steen interpreteren als een oog -- en dan, omdat het dat ene kenmerk verkeerd heeft geïnterpreteerd, doorgaan met het verkeerd interpreteren van andere kenmerken rond de steen om een dier te bouwen.  Dit soort visuele misinterpretatie kon worden verkocht als een dienst met de naam Google Dream. Dream zou een gegeven beeld verwerken en opnieuw verwerken, het opnieuw interpreteren en kenmerken versterken met de gegeven vooringenomenheid totdat deze kenmerken in landschappen werden getrokken, waardoor beelden ontstonden die deden denken aan een psychedelische ervaring.

Computerhallucinaties kunnen ook opzettelijk worden uitgelokt door met opzet de backpropagatie-algoritmen te misbruiken die normaal worden gebruikt om fouten tijdens het AI-trainingsproces te corrigeren.  In plaats van de gewichten aan te passen om de nauwkeurigheid te verbeteren, past het bronbeeld zich aan en legt het meer nadruk op wat anders als onjuiste reacties zou worden geclassificeerd.

Computerhallucinaties kunnen ook worden aangetroffen in audiobestanden. Zo zou een segment van Bachs Cellosuite 1 door Nicolas Carlini, een onderzoeker bij Google Brain, zijn getranscribeerd als "Spraak kan in muziek worden ingebed".