Was ist eine Halluzination bei KI-Modellen?
Eine Halluzination ist eine Aussage eines KI-Modells, die flüssig und überzeugend klingt, aber sachlich falsch oder durch keine Quelle gedeckt ist. Beispiele sind erfundene Produkteigenschaften, falsche Preise, nicht existierende Studien oder Zitate, die einer Quelle zugeschrieben werden, in der sie nicht stehen.
Sprachmodelle erzeugen Text, der zu ihrem gelernten Muster passt. Sie prüfen dabei nicht von sich aus, ob eine Aussage stimmt. Grounding mit abgerufenen Quellen verringert das Problem, beseitigt es aber nicht: Ein Modell kann eine korrekte Quelle falsch wiedergeben oder Informationen aus zwei Quellen vermischen.
Für Marken sind Halluzinationen ein eigenes Risiko. Eine KI kann einem Unternehmen Leistungen zuschreiben, die es nicht anbietet, oder es mit einem gleichnamigen Ort oder einer anderen Firma verwechseln. Solche Verwechslungen treten besonders bei Namen auf, die auch allgemeine Wörter oder Ortsnamen sind.
Auch Messwerkzeuge für KI-Sichtbarkeit können betroffen sein, wenn sie Markennamen per Sprachmodell aus Antworten herauslesen. Ein gründliches Werkzeug prüft jeden ausgelesenen Namen gegen den Originaltext.
Was das für deine Website heisst
Für eine Website hilft es, die wichtigsten Fakten zur eigenen Marke eindeutig und an einer gut auffindbaren Stelle zu nennen: was angeboten wird, für wen, wo, und wie sich der Name von ähnlichen unterscheidet. Ob eine KI falsche Aussagen macht, zeigt nur das Lesen echter Antworten im Wortlaut, nicht eine verdichtete Kennzahl. Falsche Angaben lassen sich oft auf eine konkrete Quelle zurückführen, die korrigiert werden kann.
Verwandte Begriffe
Quellen
Dieser Eintrag enthält keine Zahlen und stützt sich auf allgemein dokumentierte Begriffe.
Begriffe helfen beim Verstehen. Ob KI-Crawler deine Seite erreichen, zeigt die Messung.
Website gratis prüfenkostenlos · keine Anmeldung · keine Kreditkarte