Fake-Stimmen fliegen auf. Echte Kunden werden wertvoller.

Fünf neue Fünf-Sterne-Bewertungen für die Pizzeria, geschrieben in zehn Minuten. Ein paar begeisterte Kommentare unter dem Instagram-Post vom Friseursalon. Mit KI ist so etwas schnell gemacht. Und ich verstehe die Versuchung, wenn bei der Konkurrenz zwei Straßen weiter die Sterne nur so leuchten.

Am 8. Oktober 2026 haben zwei große KI-Unternehmen am selben Tag gezeigt, warum das keine gute Idee ist. Anthropic hat seine Nutzungsregeln verschärft, und OpenAI hat einen Bericht über aufgeflogene Täuschungskampagnen veröffentlicht. Für mich passt beides zusammen. Und es betrifft auch kleine Betriebe, die mit KI Marketing machen.

Meldung 1: Neue Regeln gegen künstliche Stimmen

Anthropic, das Unternehmen hinter der KI Claude, hat am 8. Oktober eine neue Fassung seiner Nutzungsregeln veröffentlicht. Sie gilt ab dem 12. November 2026.

Neu ist ein eigener Abschnitt mit dem Titel „Do Not Engage in Deceptive Campaigns or Artificial Activity“, auf Deutsch etwa: „Keine täuschenden Kampagnen und keine künstliche Aktivität“. Laut Anthropic gilt er für Täuschung jeder Art, ausdrücklich politisch oder kommerziell. Gemeint sind Versuche, zu verschleiern, wer hinter einer Botschaft steckt, oder Inhalte über gefälschte Konten oder Beiträge künstlich zu verstärken. Auch das Bauen von Werkzeugen für solche Kampagnen fällt darunter.

Anthropic schreibt selbst, dass das meiste davon schon vorher verboten war. Die Regeln standen nur verstreut in verschiedenen Abschnitten. Jetzt stehen sie gebündelt an einem Ort, und das Wort „kommerziell“ steht schwarz auf weiß da. Das ist der Teil, der uns betrifft.

Ein zweiter Punkt betrifft heikle Bereiche wie Gesundheit, Recht, Finanzen, Arbeit oder den Zugang zu wichtigen Leistungen. Dort verlangt Anthropic weiterhin einen qualifizierten „Human in the Loop“, und die betroffene Person muss erfahren, dass KI im Spiel war. Neu ist das nicht, aber Anthropic hat es klarer aufgeschrieben.

Meldung 2: Erfundene Journalisten fliegen auf

Am selben Tag hat OpenAI, das Unternehmen hinter ChatGPT, einen Bericht über zwei verdeckte Kampagnen veröffentlicht. Eine hatte ihren Ursprung in Russland, die andere im Iran. Die Konten wurden gesperrt. Es geht um Politik, nicht um Marketing. Ich erzähle dir trotzdem davon, weil mir die Tricks aus dem Marketing bekannt vorkommen.

Laut OpenAI nutzte die iranische Kampagne sieben erfundene Journalisten-Identitäten. Unter diesen Namen erschienen fast 100 Artikel auf mehr als einem Dutzend Online-Nachrichtenseiten. Zusätzlich ließen die Betreiber Kommentare erzeugen, die ihre eigenen Artikel lobten, damit diese beliebter wirkten. Echte Reaktionen blieben weitgehend aus. Die meisten Likes auf diesen Kommentaren kamen laut OpenAI von Konten, die selbst zur Kampagne gehörten. Applaus von der eigenen Bank.

Die russische Kampagne betrieb eine scheinbare Forschungseinrichtung. Auf LinkedIn legte sie laut ihren eigenen internen Berichten ein ausdrücklich gefälschtes Konto für diese Einrichtung an, das kaum Kontakte bekam. Die „Lösung“: weitere gefälschte Konten, die dem ersten folgten, damit es überzeugender aussieht. Mitte August zählte ein Profil mit diesem Namen 961 Follower und gab 200 bis 500 Mitarbeitende an, nannte aber nur zwei.

Ein Detail ist mir besonders hängen geblieben, weil es so menschlich ist. Die iranischen Betreiber haben ihren eigenen Erfolg mit einer irreführenden Rechnung schöngerechnet. Sie zählten nicht, wie oft ihre Kommentare gesehen wurden, sondern wie oft die Beiträge gesehen wurden, unter denen sie kommentierten. So sahen ihre Zahlen viel besser aus, als sie waren.

Was heißt das für dich?

Du betreibst keine Desinformationskampagne. Die Grundfrage ist trotzdem dieselbe: Sind die Stimmen, die für dein Unternehmen sprechen, echt? Drei Lehren passen auch auf deinen Betrieb.

1. Gefälschte Stimmen fallen auf. In OpenAIs Bericht verraten die Standortangaben der Plattformen bei mehreren Konten, dass sie nicht von dort kamen, wo sie angeblich herkamen. Wenn ein „amerikanischer Journalist“ aus dem Iran postet, fällt das auf. Bei erfundenen Bewertungen ist es ähnlich. Bekommt der Kfz-Betrieb in Gelsenkirchen plötzlich zehn Lobeshymnen in einer Woche, alle im selben Ton? Das merken Stammkunden irgendwann. Die Plattformen oft schon früher.

2. Echte Menschen sind dein Vorteil. Wenn erfundene Autoren Artikel unterbringen, wird echte, überprüfbare Absenderschaft wertvoller. Ein Blogbeitrag mit deinem Namen, deinem Foto und einem Weg, dich zu erreichen, ist glaubwürdiger als ein anonymer Text. Für Menschen sowieso. Ich vermute, auf Dauer auch für KI-Suchsysteme, aber das ist meine Einschätzung und keine Herstellerangabe.

3. Ehrlich messen. Die geschönten Zahlen der Kampagne taugen gut als Warnung. Lass dir von niemandem, auch nicht von deiner Agentur, Erfolge über Zahlen verkaufen, die mit deinem Geschäft wenig zu tun haben. Frag lieber, wie viele Anfragen dadurch tatsächlich reingekommen sind.

Fünf Fragen bis zum 12. November

Nimm die neue Regel als Anlass für einen kurzen Check. Das geht allein am Küchentisch oder zusammen mit deiner Agentur:

1. Gibt es Konten oder Profile, die für dein Unternehmen sprechen, hinter denen keine echte Person steht?
2. Werden Bewertungen, Kommentare oder „Kundenstimmen“ mit KI geschrieben, ohne dass echte Kunden dahinterstehen?
3. Steht bei deinen Blogbeiträgen ein echter Name mit Foto, Kurzprofil und Kontaktweg?
4. Wenn KI bei heiklen Themen hilft, zum Beispiel bei Finanz- oder Gesundheitsfragen: Prüft ein Mensch, bevor etwas rausgeht, und wird offen gesagt, dass KI beteiligt war?
5. Woran misst deine Agentur Erfolg, und könntest du jede dieser Zahlen deinem Steuerberater erklären?

Wo du zögerst, fängst du an.

Unsicher, ob dein Marketing den Echtheits-Check besteht? Schreib mir über while.chat. Wir gehen die fünf Fragen zusammen durch, ohne erhobenen Zeigefinger.