Mehrere Landesmedienanstalten in Deutschland setzen nach übereinstimmenden MDR-Berichten vom 5. November 2026 Künstliche Intelligenz ein, um öffentliche Beiträge in sozialen Netzwerken und auf Webseiten automatisiert zu sichten. Das genannte System KIVI markiert dabei mutmaßliche Hassrede, verbotene Nazi-Symbole und jugendschutzrelevante Inhalte. Nach Angaben aus den Berichten entscheiden anschließend Mitarbeitende der Behörden; die Software trifft keine abschließenden Maßnahmen.
Befürworter verweisen auf die schiere Menge öffentlich zugänglicher Inhalte. Die automatisierte Vorprüfung solle helfen, strafbare Beiträge schneller zu identifizieren und bei Bedarf an Polizei oder Staatsanwaltschaft weiterzuleiten. Die Medienaufsicht argumentiert zudem, große Plattformen wie YouTube und TikTok müssten technisch kooperieren, damit die Suche rechtssicher und effizient erfolgen kann.
Kritik kommt unter anderem von Journalistenverbänden und Oppositionspolitikern in Sachsen. Sie warnen vor anlasslosen, flächendeckenden Scans und sehen Risiken für die informationelle Selbstbestimmung. Gefordert werden enge Eingriffsschwellen, eine klare Zweckbindung, unabhängige Kontrolle sowie transparente Verfahren für Trefferprüfung, Dokumentation und Löschung. Skeptisch bewertet wird auch die Beobachtung von Messenger-Diensten wie Telegram, weil dort leicht große Datensammlungen entstehen könnten, deren Relevanz und Verhältnismäßigkeit strittig sind.
Rechtlich ist die Lage noch nicht abschließend geklärt. In Bund und Ländern werden Vorschläge beraten, die Befugnisse für automatisierte Analysen präzise zu fassen. Diskutiert wird insbesondere eine Reform des Medienstaatsvertrags, um Zuständigkeiten, Transparenzpflichten sowie Speicher- und Löschfristen festzuschreiben. Unabhängig davon bleiben strafprozessuale Eingriffe an die geltenden Hürden gebunden; eine gesetzliche Gesamtlösung liegt derzeit nicht vor.
Die Debatte verbindet praktische Notwendigkeiten mit Grundrechtsfragen. Als Tatsachen gelten: Die Sichtung betrifft öffentlich zugängliche Inhalte, Treffer werden manuell verifiziert, und eine direkte staatliche Massenüberwachung findet nach der Darstellung der Medienanstalten nicht statt. Zugeschriebene Positionen: Kritiker sprechen von einem System, das ohne konkreten Verdacht in Meinungsäußerungen eingreife. Prognosen: Ob künftige Regeln die Balance zwischen effektivem Schutz Betroffener und strikter Eingriffskontrolle herstellen, entscheidet sich in den laufenden parlamentarischen Beratungen.
Offen bleibt, wie detailliert Plattformen zu Mitwirkung und Schnittstellen verpflichtet werden und welche unabhängige Aufsicht die Verfahren regelmäßig prüft. Klar ist hingegen: Ohne transparente Suchkriterien, dokumentierte Übergaben und kurze Fristen für Speicherung und Löschung wird eine dauerhafte, rechtlich belastbare Praxis kaum Bestand haben.
Redakteurin: Mira Cadena (Artikel mit KI-Unterstützung).