Neun Bauregeln für eine KI-Pipeline im Verlag

In Gesprächen mit Verlagsleitungen stellt sich früher oder später dieselbe Frage: Wie stellen wir sicher, dass eine KI-Pipeline nichts veröffentlicht, was wir nicht verantworten können? Gewährleisten lässt sich das nur durch Regeln, die in der Pipeline selbst verankert sind; ein besserer Prompt oder ein neueres Modell reicht dafür nicht aus.

Welche Rollen die Agenten in so einem System haben, habe ich im Artikel Was der Bau eines Multi-Agent-Systems erfordert beschrieben. Dieser Artikel behandelt die Bauregeln dahinter, also die Guardrails, die in der Pipeline selbst verankert sind. Sie stammen aus einer Pipeline, die bei einem Münchner Verlag im Redaktionsalltag läuft, und gelten für jedes System, das Texte unter dem Namen eines Verlags erzeugt.

Was zwischen den Stufen weitergegeben wird

Vor den Regeln lohnt ein Blick darauf, was eine Pipeline zwischen den Stufen weitergibt. Das ist eine Reihe von Zwischenergebnissen, die jeweils gespeichert und geprüft werden:

Die Vorgaben der Redaktion: Thema, Kernbotschaft, gesetzte Fakten, Dinge, die vermieden werden sollen
Das Dossier: jede Angabe mit Quelle und Stand
Das Briefing: Aufbau, Zielgruppe, Tonalität und die Schutzregeln für genau diesen Artikel
Die Fassungen: Version 1, Version 2 und so weiter, jede für sich gespeichert
Die Prüfberichte: was belegt ist, was nicht, und warum ein Text zurückging
Der CMS-Entwurf: der fertige Artikel im Format des CMS
Das Protokoll (Audit-Trail): jede Freigabe mit Name und Zeitpunkt, jeder Modellaufruf mit seinen Kosten

Diese Liste bildet den eigentlichen Bauplan. Wenn jedes dieser Ergebnisse existiert, gespeichert ist und von der nächsten Stufe geprüft werden kann, lässt sich nachvollziehen, wie ein Artikel entstanden ist. Andernfalls bleibt die Pipeline eine Black Box, deren Ergebnissen eine Chefredaktion kaum vertrauen wird.

Regel 1: Es gibt genau eine Faktenbasis

Das Dossier ist die einzige Quelle, aus der der Text schöpfen darf. Was nicht darin steht, darf nicht im Artikel stehen. Damit wird die schwer beantwortbare Frage „Stimmt das?“ zur gut beantwortbaren Frage „Steht das im Dossier?“.

Ein Eintrag im Dossier lautet zum Beispiel „603 € Verdienstgrenze, seit 01.01.2026“; eine Angabe wie „Die Minijob-Grenze ist gestiegen“ genügt nicht. Ohne Stand ist eine Zahl in einem Ratgeber wertlos, da sich nicht beurteilen lässt, ob sie noch gilt.

Das Dossier speist sich aus drei Quellen. Was die Redaktion als Tatsache setzt, wird übernommen und nicht neu recherchiert. Hinzu kommen die Web-Recherche sowie eigene Unterlagen des Verlags, etwa Leserumfragen, die mit Seitenangabe zitiert werden. Als vertraulich markierte Dokumente wie Mediadaten müssen dabei nachweislich ausgeschlossen sein; eine bloße Absprache genügt nicht.

Kommt ein Artikel aus einer Pressemitteilung, wird sie selbst zur Faktenbasis, und die Web-Suche entfällt. Geprüft wird dennoch jede Zahl, in diesem Fall gegen die Pressemitteilung.

Regel 2: Die erste Freigabe gilt dem Briefing

Am teuersten ist ein Fehler ganz am Anfang. Ein falscher Schwerpunkt im Briefing zieht sich durch Recherche, Text, Prüfung und Formatierung.

Deshalb liegt die erste Freigabe vor dem Schreiben. Die Chefredaktion liest das Briefing, gibt es frei oder schickt es mit einer Anmerkung zurück, etwa „mehr Fokus auf die Witwenrente“. Kleinigkeiten wie die Headline ändert sie direkt. Ohne diese Freigabe beginnt das Schreiben nicht. Human in the Loop bedeutet hier, dass Menschen an drei festgelegten Stellen entscheiden; eine Durchsicht am Ende reicht dafür nicht aus.

Im Briefing stehen auch die Schutzregeln für das jeweilige Thema. Bei einem Ratgeber zu Minijobs und Rente waren es zwölf, zum Beispiel: Erwerbsminderungsrente und Altersrente nicht vermischen, eine geplante Steueranhebung nicht als beschlossen darstellen, keine erfundenen Zitate. Solche Regeln lassen sich nicht allgemein vorab formulieren, da jedes Thema eigene Fallstricke hat. Sie müssen jedoch sichtbar sein, damit die Redaktion sie prüfen kann, und später gegen den fertigen Text geprüft werden.

Regel 3: Eine unabhängige Stufe prüft

Ein Modell, das seinen eigenen Text prüft, neigt dazu, sich selbst zu bestätigen. In einer Redaktion ist es selbstverständlich, dass eine andere Person gegenliest als die, die geschrieben hat. Eine Pipeline muss nach demselben Prinzip aufgebaut sein.

Deshalb prüft ein eigener Faktenchecker jede Aussage gegen das Dossier und schickt Unbelegtes mit Begründung zurück. In einem Lauf stand in der ersten Fassung der Satz „Rund 40 Prozent davon arbeiten im Einzelhandel.“ Der Satz war plausibel, stand aber in keiner Quelle. Er wurde markiert und gestrichen, und erst Version 2 ging in die nächste Stufe. Die Redaktion hat Version 1 nie zu sehen bekommen.

Diese Schleife muss abgeschlossen sein, bevor ein Mensch den Text liest. Andernfalls verbringt die Redaktion ihre Zeit mit Fehlersuche, und früher oder später bleibt ein Fehler unentdeckt.

Regel 4: Die Stimme gehört der Chefredaktion

Die Tonalität eines Magazins gehört in ein Markenprofil, das die Chefredaktion selbst pflegt. In einem Prompt, den nur ein Entwickler kennt, ist sie falsch aufgehoben. Das Profil umfasst Tonalität und Anrede, Stilregeln, verbotene Begriffe und die besten eigenen Texte als Vorbild.

Ein Verlag sollte deshalb klären, wer einen Begriff ändert, der künftig nicht mehr verwendet werden soll, und wie lange das dauert. Diese Änderung sollte die Chefredaktion selbst vornehmen können, mit sofortiger Wirkung.

Regel 5: Freigegeben heißt eingefroren

Nach der Abnahme des Textes ist diese Fassung eingefroren. Jede spätere Änderung erzeugt eine neue Version mit Name und Zeitpunkt. Nur so lässt sich später beantworten, welcher Text wann von wem freigegeben wurde.

Maßgeblich ist, an welcher Stelle diese Regel greift. Eine Freigabe, die nur im Interface existiert, lässt sich über einen Umweg umgehen. Sie muss in der Software selbst verankert sein und auch auf Ebene der Datenbank durchgesetzt werden.

Das hat auch eine rechtliche Seite. Die europäische KI-Verordnung, der EU AI Act (Art. 50 Abs. 4, anwendbar seit 2. August 2026) verlangt, KI-erzeugte Texte zu kennzeichnen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen. Das gilt nicht, wenn die Texte von Menschen geprüft oder redaktionell kontrolliert wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Ein Protokoll, in dem jede Freigabe mit Name und Zeitpunkt steht, dokumentiert, dass und von wem geprüft und freigegeben wurde. Die Bewertung im Einzelfall ist Sache der Rechtsberatung des Verlags; die Pipeline muss dafür die Grundlage liefern.

Regel 6: Im CMS wird nie überschrieben

Die dritte Freigabe betrifft die Veröffentlichung. Viele Integrationen scheitern hier an einem alltäglichen Fall. Die Schlussredaktion hat im CMS bereits einen Teaser korrigiert, danach wird in der Pipeline noch eine Änderung freigegeben. Eine naive Integration schreibt den Artikel einfach neu und löscht damit die Korrektur.

Die Pipeline muss deshalb erkennen, dass sich der Artikel im CMS seit der letzten Übergabe verändert hat; sie überschreibt dann nichts und meldet den Konflikt. Das CMS bleibt das System, in dem die Redaktion das letzte Wort hat.

Regel 7: Kosten werden je Aufruf gemessen

Jeder Aufruf eines Sprachmodells wird einzeln protokolliert, mit Arbeitsschritt, Modell, Dauer und Kosten. Nur so lässt sich beantworten, ob sich das System rechnet. Diese Frage stellt jede Geschäftsführung früher oder später.

Ein Ratgeber mit vollständiger Web-Recherche hat in einem realen Lauf 1,53 US-Dollar an Modellkosten verursacht, bis zur Veröffentlichung. Der größte Posten war die Recherche. Artikel aus Pressemitteilungen kosten deutlich weniger, weil dieser Schritt größtenteils entfällt.

Das Protokoll hält auch fest, was schiefgeht. So stand ein Lauf, der abbrach, weil ein Text die zulässige Länge überschritt, mit seinen Kosten im Protokoll. Die Ursache war sofort erkennbar und wurde noch am selben Abend behoben.

Regel 8: Das Modell wechselt nur bewusst

Sprachmodelle werden laufend aktualisiert. Ein neues Modell schreibt möglicherweise besser, möglicherweise aber auch anders, und die Tonalität eines Magazins verändert sich unbemerkt.

Deshalb erhält jedes Magazin pro Format ein festes Modell, das nur wechselt, wenn die Redaktion es bewusst umstellt. Vor jedem Wechsel, ob beim Modell oder bei den Anweisungen, laufen feste Testartikel durch, in meinem Fall 17. Sie zeigen, ob die Texte besser oder schlechter werden, bevor es Lesern auffällt.

Zugleich senkt das die Kosten. Kurze Formate wie Checklisten laufen mit einem kompakten Modell, Ratgeber mit Recherche mit dem Standardmodell, denn nicht jede Aufgabe erfordert das leistungsstärkste Modell.

Regel 9: Die Datenfrage hat eine klare Antwort

Die Datenschutzabteilung wird fragen, wohin Texte fließen. Die Antwort muss in wenige Sätze passen:

Jeder Verlag erhält eine eigene Instanz; eine gemeinsame Datenbank mit anderen Kunden gibt es nicht.
Die Server stehen in Deutschland, auf Wunsch beim Verlag im Haus.
Die Anmeldung erfolgt über ein eigenes Verfahren ohne Login-Dienst eines Drittanbieters.
Offen benannt wird, wo das Sprachmodell läuft und dass Inhalte über die Schnittstelle laut den Vertragsbedingungen des Anbieters nicht zum Training verwendet werden. Ebenso offen benannt wird, was noch in Arbeit ist, etwa die Verarbeitung vollständig in der EU.

Eine Datenschutzabteilung, die auch zu den offenen Punkten eine klare Antwort erhält, stimmt schneller zu als eine, die sich durch Marketingtexte arbeiten muss.

Checkliste: Zehn Fragen an jeden Anbieter

Bei der Auswahl einer KI-Pipeline für die eigene Redaktion lassen sich die Regeln oben in Fragen übersetzen. Kann ein Anbieter sie nicht klar beantworten, hat er die entsprechenden Mechanismen vermutlich nicht umgesetzt.

Woher stammt jede Zahl im Text, und kann ich die Quelle mit Stand sehen?
Kann die Redaktion Fakten vorgeben, die nicht neu recherchiert werden?
Bleiben vertrauliche Unterlagen nachweislich außen vor?
Gibt es eine Freigabe, bevor überhaupt geschrieben wird?
Prüft eine eigene Stufe den Text, bevor ihn ein Mensch sieht, und was passiert mit unbelegten Aussagen?
Wer pflegt die Tonalität und die verbotenen Begriffe, und wie schnell wirkt eine Änderung?
Lässt sich eine Freigabe überspringen, auch über einen Umweg?
Was passiert, wenn die Redaktion im CMS schon etwas geändert hat?
Kann ich die Kosten pro Artikel und pro Schritt sehen?
Wann wechselt das Sprachmodell, und wie wird vorher geprüft, ob die Texte schlechter werden?

Die Pipeline, aus der diese Regeln stammen, zeigt die Seite zum KI-Redaktionssystem. Den Ablauf eines vollständigen Arbeitstags beschreibt das Beispiel Ein Redaktionstag.