Der Berliner Senat hat am 26. August 2026 das KI-gestützte Angebot „Gretchen AI“ zur Einordnung potenziell irreführender Inhalte vorgestellt. Über einen Instagram-Account können öffentlich geteilte Beiträge, Bilder oder Videos per Direktnachricht eingesendet werden; das System liefert binnen kurzer Zeit Hinweise auf mögliche Manipulationen und ordnet verbreitete Desinformationsnarrative ein. Innensenatorin Iris Spranger und der Landeswahlleiter Stephan Bröchler betonten bei der Präsentation, das Angebot diene der Orientierung – es greife nicht in Plattforminhalte ein und entscheide nicht über deren Löschung.
Nach Angaben der Vorstellung reagiert „Gretchen AI“ auf typische Muster synthetischer oder dekontextualisierter Inhalte und verweist auf bereits geprüfte Fälle. Betreiberangaben zufolge werden dabei Quellen und Prüfschritte dokumentiert; die Ausgaben sollen als Voranalysen und nicht als abschließende Bewertungen verstanden werden. Die Landeswahlleitung sieht darin ein ergänzendes Werkzeug, um die Öffentlichkeit vor der Abgeordnetenhauswahl zügig mit überprüfbaren Kontexten zu versorgen.
Als fachliche Partner werden in Berichten das Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) sowie etablierte Faktencheck-Einrichtungen genannt. Die Senatsseite verweist zugleich auf weitere Bausteine des Schutzkonzepts: IT-Sicherheitsvorgaben für wahlrelevante Infrastrukturen, Backups für Melderegister und Schulungen für Wahlhelfende. Konkrete Finanzierungsangaben für das KI-Angebot wurden am Mittwoch nicht vertieft.
Kritik kommt aus dem Umfeld von Bürgerrechts- und Medienorganisationen. Sie mahnen, staatliche Stellen müssten bei Bewertungen von Informationsinhalten größtmögliche Zurückhaltung wahren. Gefordert werden transparente Kriterien, nachvollziehbare Algorithmen, klare Abgrenzungen zwischen automatischer Analyse und menschlicher Prüfung sowie belastbare Schnittstellen zu unabhängigen Faktencheckern. Befürworter sehen in technologischen Orientierungshilfen hingegen ein geeignetes Mittel, die schnelle Verbreitung manipulativer Inhalte zu bremsen und Medienkompetenz zu stärken.
Entscheidend für die weitere Bewertung sind Reichweite, Trefferqualität und Transparenz der Prüfprozesse. Offene Punkte betreffen die Dokumentation der vom System erkannten beziehungsweise übersehenen Fälle, die Verfahren bei Fehlern sowie mögliche Einspruchs- und Korrekturmöglichkeiten für Betroffene. Die Behörden kündigen an, das Zusammenspiel von automatisierter Analyse und manueller Verifizierung fortlaufend zu beobachten. Vor dem Hintergrund der im September anstehenden Wahl richtet sich der Fokus nun darauf, ob „Gretchen AI“ Verdachtsmeldungen verlässlich einordnet, ohne in die Meinungsäußerung einzugreifen, und ob die Kooperation mit externen Prüfnetzwerken tragfähig organisiert ist.
Redakteurin: Mira Cadena (Artikel mit KI-Unterstützung).