Das Projekt fokussierte für unseren Anwendungsfall zunächst auf Prozesse, die bei der Deutschen Welle und der dpa im Vordergrund stehen. Ein erster Ausgangspunkt war „Die Überprüfung von journalistischen Texten auf Verstöße gegen normative Vorgaben in Deutschland“. Dabei können „journalistische Texten“ perspektivisch auch Transkriptionen von Audio- und Video-Files sein. Der Begriff „normative Vorgaben“ ist sehr breit und umfasst staatliche Gesetze, Regelwerke von nicht-staatlichen Stellen (wie z.B. dem Deutschen Presserat) sowie betriebsinterne Codices (z.B. dpa-Kompass, DW-Code of Conduct). Für den Anfang gehen wir von deutschen Texten aus, aber da die DW und dpa in mehr als dreißig Sprachen berichten, sollte eine Übersetzung möglich sein. Die wichtigsten Funktionen, die von Redaktionen nachgefragt werden sind eine Prüfung anhand der deutschen Landespresse-Gesetze, des Pressekodex und organiationsspezifischer Codes of Conduct.
In einem ersten Schritt sollte die Möglichkeit eines Verstoßes anhand eines Flagging oder Ampel mit einer Begründung und ggfs. einer alternativen Formulierungen angezeigt werden. Da die Zuverlässigkeit der KI begrenzt ist, sollten die KI Entscheidungen transparent gemacht werden und einfach mit den zugrunde liegenden Gesetzen und relevanten Referenzen überprüfbar sein. Weiterhin sollte eine Zusammenfassung des Ergebnisses und ein Freier Prompt möglich sein.

Assistent zur Validierung von Standards und Regelungen

Für den Assistenten zu diesem Anwendungsfall zur Erkennung, Bewertung und Validierung von Standards und Regelungen im Medienbereich ist ein erster Demonstrator entwickelt worden, der Unternehmen bei der Bearbeitung der immer neuen und veränderten Vorgaben zum Datenschutz, Datensicherheit und Urheberrecht unterstützt. Der Assistent konzentriert sich zunächst auf die Validierung von Inhalten hinsichtlich des deutschen Pressekodex (https://www.presserat.de/pressekodex.html), das Ziel ist jedoch die Entwicklung eines generischen Systems, das für weitere Regelungen konfiguriert werden kann, wie z.B. dem DSA (Digital Services Act) oder AI-Act, die Anbieter digitaler Dienste zum Monitoring von Text, Bild und Videos und regelmäßigem Reporting verpflichten. Perspektivisch soll der Assistent auch über den Medienbereich hinausgehend für öffentliche und organisationsspezifische Regelungen in den Bereichen Helthcare, Lieferketten oder Industrienormen eingesetzt werden können.

Nutzergruppen

Der Assistent unterstützt verschiedene Nutzergruppen wie Redaktionen, Journalisten und Juristen.

Der Demonstrator kann zunächst prüfen, ob textbasierte Inhalte gegen den Pressekodex verstoßen. Dazu werden auf Basis von LLMs potentielle Verstöße ermittelt, der Grad des Verletzung bestimmt, Referenzen aufgezeigt, Verbesserungsvorschläge generiert und die AI Entscheidungen erläutert. Nach einer finalen Prüfung durch die Nutzenden entstehen kuratierte und validierte Inhalte. Der Demonstrator zeigt mehrere KI Funktionen, die erst durch generative KI möglich werden und über den Leistungsumfang von etablierten Lösungen hinausgehen.

Erklärungen zu KI-Entscheidungen

Der Assistent erläutert den Nutzenden, wie die KI zu ihren Entscheidungen gekommen ist. Dazu wird die Entscheidungslogik und die Argumentation offen gelegt. Die tägliche Arbeit von Redaktionen und Juristen wird unterstützt, in dem die KI automatisch erkennt, wenn einzelne Schritte der Argumentationskette fehlen oder sehr schwach sind und sie kann alternative Argumentationslinien aufzeigen. Zudem kann sie den Grad der Verletzung klassifizieren und besonders kritische Textstellen markieren. Zudem bietet sie verschiedene Verbesserungsvorschläge von moderat bis drastisch an.

Referenzen

Die betroffenen Regelungen und Gesetze werden kontextabhängig dargestellt und die relevantesten Paragraphen und Formulierungen markiert. Zudem können für den konkreten Fall relevante Querverweise, Urteile und Interpretationshilfen angezeigt weren.

Chat

Ein Chatfenster erlaubt den Nutzenden durch Prompts weitere Details abzufragen, die sich auf die angezeigten Ausgaben der KI beziehen. Damit können über die strukturierte Darstellung hinaus Fragen gestellt werden, wie „Was bedeutet dieser Paragraph für ein elektrisches Gerät der Klasse X“ oder reverse Nachfragen wie „Zeig mir relevante Information, die ich in den bisherigen Antworten nicht sehe”.

Personalisierung

Eine Personalisierung ermöglicht für verschiedene Profile und Rollen wie Jurist, Journalist, Geschäftsleitung, Sachbearbeiter die Bedienung zu erleichtern. So kann die Länge der Ausgaben ausgewählt werden (kompakt, ausführlich) oder die Art der Sprache. Dabei werden diese Einstellungen entweder für ein Profil oder eine konkrete Ausgabe angeboten, z.B. wenn eine knappe Ausgabe zu unklar ist, kann eine ausführliche Erläuterung angefragt werden.

Generelle KI-Funktionen

Zudem werden generelle KI-Funktionen zur Übersetzung, Zusammenfassung, Anonymisierung und Paraphrasierung angeboten, die Redaktionen täglich die Arbeit erleichtern.

Realisierung durch Coding Agents

Zur Realisierung des Assistenten nutzen wir Coding Agents (z.B. von Antropic oder OpenAI) um intelligente, generische Prompts, einen KI gesteuerten Workflow und den Einbau von Plugins und Services von FhG und DFKI zu realisieren. Die Coding Agents erlauben eine flexible Bereitstellung variabler Frontends für verschiedene Nutzerprofile und die Erstellung eigener Varianten für verschiedene Branchen, Regionen und Zielgruppen mit spezifischen Bedienfunktionen, Datenformaten und Regelungen. Der Assistent setzt auf die im Projekt entwickelte GenKI4Media Plattform auf, um i) die Plug-ins zur Wissensorganisation und Transparenz zu nutzen sowie ii) leistungsfähige deutsche und europäische LLMs sowie SLMs, um perspektivisch eine souveräne Lösung aufzubauen. Durch eine Aufteilung des Systems in mehrere Agenten und Nutzung von MCP (Model Context Protocol) zur Einbindung externer Datenquellen kann das System einfach erweitert werden. Ein kontinuierliches Monitoring gewährleistet, dass Methoden, Prozesse und Trainings-Materialien des Assistenten die ELSI Richtlinien einschließlich DSA- und AI-Act-Aspekten einhalten.