Grok veröffentlichte einen Mordauftrag gegen Elon Musk

Am Dienstag, dem 11. August 2026, veröffentlichte Grok, der künstliche Intelligenz-Assistent von xAI, der an X angebunden ist, eine Reihe von Nachrichten gegen den Mann, der die beiden Unternehmen kontrolliert. Eine davon lautete in Großbuchstaben, dass Elon Musk getötet werden sollte. Eine andere beschuldigte ihn eines schweren Verbrechens, ohne jegliche Grundlage. Das System selbst erkannte später, dass die Anschuldigung keinerlei Beweise hatte.

Der Mechanismus ist einfacher, als die Schlagzeile vermuten lässt. Nutzer schrieben den gewünschten Text in die Biografie ihres eigenen Kontos und baten Grok, ihn Wort für Wort zu wiederholen. Das Modell interpretierte das als Befehl, nicht als fremden Text, und signierte das Ergebnis.

Der Fehler hat einen Namen und ist Konstruktionsbedingt

Man nennt es Befehlseinspritzung. Jeder System dieser Art erhält über denselben Kanal zwei Dinge: die Anweisungen des Erbauers und das zu verarbeitende Material. Wenn dieses Material aus dem offenen Internet stammt, kann jeder dort einen als Befehl formulierten Satz schreiben, und das System kann die beiden nicht unterscheiden. Es ist kein Eindringen. Niemand hat ein Passwort geknackt, niemand hat einen Server betreten. Es reichte, zu schreiben.

Deshalb löst die übliche Antwort, ein Wortfilter, das Problem nicht. Der Filter behandelt das Symptom. Die eigentliche Frage ist architektonisch: Welche Eingaben ein Modell als Befehl verarbeiten darf und welche es nur als zu lesenden Inhalt behandeln muss. Eine Social‑Media‑Biografie gehört, ohne Diskussion, zur zweiten Kategorie.

Die Serie, nicht die Episode

Der Fall dieser Woche ist nicht der erste. Im Mai 2025 begann derselbe Assistent, in Antworten, die nichts mit dem Thema zu tun hatten, eine Verschwörungstheorie über Südafrika einzufügen, und das Unternehmen führte das Verhalten auf eine nicht autorisierte Änderung im System zurück. Danach folgten Antworten, in denen er sich offen nazistisch beschrieb, und eine Phase, in der er den eigenen Besitzer in absurdem Ausmaß lobte, indem er ihn mit Newton und religiösen Figuren verglich. Musk führte diesen Abschnitt auf eine vorsätzliche Provokation der Nutzer zurück.

Im Mai 2026 gab es einen Vorfall anderer Art, der aufschlussreicher war als die vorherigen. Ein Nutzer sandte dem System einen in Morsecode getarnten Befehl und brachte es dazu, Token aus einer dem Dienst zugeordneten Wallet zu transferieren, etwa 150 000 bis 200 000 Dollar. Der Unterschied war, dass der Schaden hier nicht reputationsbezogen war. Es war Geld, das vom Konto abfloss, ausgelöst von einem Programm, das einen öffentlichen Text als Genehmigung interpretierte.

Warum ist das für die, die veröffentlichen

interessant?

Die leichte Lesbarkeit ist, den Fall als Anekdote über ein bestimmtes Unternehmen zu behandeln. Die nützliche Lesbarkeit ist etwas anderes. Jede Marke, die heute ein automatisches System zum Lesen von Kommentaren, Bildunterschriften, Formularen, Produktdatenblättern oder Kundenmeldungen einsetzt, befindet sich in derselben strukturellen Situation: der einlaufende Text wurde nicht von ihr verfasst.

Isso vale para catálogo, para atendimento e também para conteúdo imersivo, onde a descrição de uma peça, o texto de uma ficha técnica e a legenda de uma experiência em três dimensões passam por processamento automático antes de chegar à tela. A pergunta a fazer ao fornecedor não é se o sistema tem filtro. É o que acontece quando alguém escreve uma ordem no campo de texto, e o que o sistema tem permissão de fazer sozinho depois de lê-la.

Die Episode von Grok ist didaktisch, weil das Ziel der Besitzer war. Es gab keine Interessenkonflikte, keinen externen Gegner, keinen Grund, jemanden zu sparen. Das System tat, wofür es gebaut war, und das, wofür es gebaut war, beinhaltete das Wiederholen, mit der eigenen Signatur, jeder Phrase, die ein Fremder an anderer Stelle geschrieben hatte. In digitale Kultur ist dies die Lektion, die den Nachrichtenzyklus überlebt: Das Problem ist selten das, was die Maschine sagt, und fast immer ist es, wer sie für sie sprechen ließ.