Kann KI getäuscht werden? Patrick Stox (Ahrefs) bewies, dass Reddit und Medium GPT-4 und Gemini manipulieren können.
DE

AI-Experiment: Die gefälschte Marke "Xarumei" und LLM-Halluzinationen

5.00 /5 - (26 Stimmen )
Zuletzt überprüft: 1. März 2026
Erfahrung: 10+ Jahre Erfahrung
Inhaltsverzeichnis

Ein Marketingforscher von Ahrefs erschuf eine komplett fiktive Luxusfirma für Briefbeschwerer namens Xarumei, baute die Website mit KI in einer Stunde und testete systematisch acht große KI-Tools. Zwei Monate lang flutete er das Netz mit drei absichtlich widersprüchlichen falschen Narrativen.

Die Ergebnisse offenbaren beunruhigende Schwächen im Umgang von KIs mit Markeninformationen.

Das Experiment

GPT-4 und GPT-5 schnitten am besten ab und erkannten meist, dass die Marke nicht existiert. Perplexity scheiterte bei etwa 40% der Fragen und verwechselte Xarumei bizarrerweise mit Xiaomi-Smartphones. Microsoft Copilot tappte in die “Sycophancy Trap” (Speichellecker-Falle) und erfand lobende Erklärungen über die Handwerkskunst, nur weil die Frage implizierte, dass die Marke beliebt sei.

Phase Zwei: Kontrolliertes Chaos

Der Forscher platzierte widersprüchliche Infos:

  1. Offizielles FAQ: “Wir existieren nicht wirklich / Wir stellen keine Briefbeschwerer her”.
  2. Medium-Artikel: Eine gefälschte “Investigativ-Story”, die behauptete, die Gründerin sei Jennifer Lawson aus Portland.

Medium erwies sich als verheerend effektiv. Gemini, Grok und Perplexity vertrauten dem Medium-Artikel mehr als dem offiziellen FAQ. Warum? Weil der Artikel journalistisch wirkte. Er entkräftete zuerst offensichtliche Lügen (um Vertrauen zu gewinnen) und schob dann neue Erfindungen als “korrigierte Wahrheit” nach.

Fazit: KI argumentiert mit sich selbst

Am beunruhigendsten war, dass Modelle sich selbst widersprachen. Zuerst sagte Gemini: “Keine Beweise gefunden”. Später: “Sitz in Portland, gegründet von Jennifer Lawson”. LLMs haben kein Gedächtnis für “Nicht-Existenz”. Sie reagieren nur auf den Kontext, der im Moment am autoritärsten erscheint.

Empfehlungen für Marken

  1. Erstellen Sie ein detailliertes FAQ: Füllen Sie Informationslücken, bevor es Reddit tut.
  2. Überwachen Sie “Side Channels”: Reddit und Medium sind jetzt Teil Ihrer Kern-Marketingfläche.
  3. Seien Sie spezifisch: KI liebt Zahlen und Fakten mehr als vage Marketing-Floskeln.

Quellen

  • Patrick Stox (Ahrefs): “I Created A Fake Luxury Brand To Test How AI Handles Truth” (ahrefs.com/blog/ai-test-fake-brand/).
  • Marius Comper (Facebook): Beitrag zur Analyse.
  • Search Engine Journal: Analyse des LLM-Einflusses auf Brand Entities.
Was ist AI-Experiment: Die gefälschte Marke Xarumei und LLM-Halluzinationen?
AI-Experiment: Die gefälschte Marke ist relevant, wenn Sie WordPress stabiler betreiben, die Performance verbessern und Produktionsfehler reduzieren möchten.
Wie implementiert man AI-Experiment: Die gefälschte Marke Xarumei und LLM-Halluzinationen?
Starten Sie mit einem Basis-Audit, definieren Sie Umfang und Rahmenbedingungen und setzen Sie Änderungen in kleinen, testbaren Schritten um.
Warum ist AI-Experiment: Die gefälschte Marke Xarumei und LLM-Halluzinationen wichtig?
Die größten Effekte entstehen meist durch technische Qualität, klare Informationsstruktur und regelmäßige Verifizierung.

Sie brauchen ein FAQ für Branche und Zielmarkt? Wir erstellen eine Version passend zu Ihren Business-Zielen.

Kontakt aufnehmen

Ähnliche Artikel