Saarland fördert PABeLA-II: 160.000 Euro für Forschung zu KI-Manipulation

Künstliche Intelligenz schreibt inzwischen Texte, die sich lesen wie aus einer Redaktion. Genau darin liegt ein Problem, das das Saarland jetzt genauer untersuchen lässt. Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) und die Landesmedienanstalt Saarland (LMS) haben das gemeinsame Projekt PABeLA-II gestartet. Das Land stellt dafür 160.000 Euro bereit. Die Ergebnisse sollen Medienaufsicht und Politik helfen, Manipulation durch KI-Texte besser zu erkennen.

Was PABeLA-II untersucht

Im Mittelpunkt stehen große Sprachmodelle, also Systeme, die auf Fragen ausführliche Antworten formulieren und dabei Quellen nennen. Das Projekt prüft, ob diese Quellen wirklich existieren und ob sie korrekt wiedergegeben werden. Ein zweiter Schwerpunkt ist die Ausgewogenheit: Bilden KI-Texte unterschiedliche Sichtweisen zu einem Thema neutral ab, oder verzerren sie die Debatte in eine Richtung?

Besonders heikel wird es, wenn ein Modell falsche Tatsachen selbstsicher als Fakten präsentiert. Für Leserinnen und Leser ist das schwer zu erkennen, weil der Text flüssig klingt und oft mit Verweisen garniert ist, die seriös wirken. PABeLA-II will solche Muster sichtbar und messbar machen, statt nur allgemein vor ihnen zu warnen.

Wer hinter dem Projekt steht

Das DFKI bringt die Forschungsexpertise zu künstlicher Intelligenz ein, die LMS die Perspektive der Medienregulierung. Diese Kombination ist bewusst gewählt. Es geht nicht nur um Technik, sondern um die Frage, was KI-generierte Texte für Journalismus und öffentliche Meinungsbildung bedeuten.

Finanziert wird das Vorhaben vom Land Saarland. Die Staatskanzlei stellt die Mittel gemeinsam mit dem Ministerium für Wirtschaft, Innovation, Digitales und Energie bereit. Die Universität des Saarlandes berichtete am 1. November 2026 über den Start. Die Laufzeit reicht bis April 2027.

Warum ein Testdatensatz so wichtig ist

Ein Kernelement des Projekts ist ein eigens aufgebauter, repräsentativer Testdatensatz. Forscherinnen und Forscher können damit systematisch prüfen, wie sich KI-Systeme in vergleichbaren Situationen verhalten. Ohne einen solchen Datensatz bliebe die Debatte bei Einzelbeispielen, die je nach Standpunkt ausgewählt werden.

Mit dem Datensatz lassen sich Fragen präzise beantworten. Wie oft erfindet ein Modell Quellen? Wie oft verdreht es den Inhalt einer echten Quelle? Und wie stark hängt das Ergebnis von der Formulierung der Frage ab? Solche Zahlen sind die Grundlage dafür, dass Behörden Kriterien entwickeln können, nach denen sie automatisierte Informationsströme einordnen.

Was das für Medienaufsicht und Politik bedeutet

Die Ergebnisse sollen laut Projektbeschreibung handfeste Grundlagen für die praktische Arbeit von Medienaufsicht und Medienpolitik liefern. Das ist ein wichtiger Punkt. Regulierer brauchen prüfbare Maßstäbe, wenn sie entscheiden sollen, ob ein KI-System ein Risiko für die Meinungsbildung darstellt.

Gleichzeitig zeigt das Projekt, dass Regulierung allein nicht reicht. Medienkompetenz wird wichtiger, weil Leserinnen und Leser lernen müssen, KI-Texte kritisch zu prüfen. Ein gesunder Umgang mit solchen Systemen heißt: Quellen nachschlagen, Aussagen mit einer zweiten Quelle vergleichen und bei überraschenden Behauptungen skeptisch bleiben.

Was Leserinnen und Leser jetzt schon tun können

Auch ohne die Forschungsergebnisse aus PABeLA-II gibt es einfache Prüfschritte. Wer einen KI-Text liest, sollte genannte Studien oder Artikel kurz suchen. Existiert die Quelle nicht, ist das ein klares Warnsignal. Widerspricht eine zweite, unabhängige Quelle der Kernaussage, verdient die zweite Quelle einen genaueren Blick.

Hilfreich ist außerdem, auf die Sprache zu achten. Sehr bestimmte Formulierungen bei umstrittenen Themen sind kein Beweis für Richtigkeit. Gerade bei politischen oder gesundheitlichen Fragen lohnt sich der Abgleich mit etablierten Nachrichtenangeboten. Das kostet wenige Minuten und schützt vor der Weitergabe falscher Informationen.

Was die Forschung konkret messen will

Die zentrale Frage von PABeLA-II lautet nicht, ob KI-Texte Fehler machen. Das ist längst bekannt. Die Frage lautet, wie häufig, in welchen Formen und mit welchen Folgen sie Fehler machen. Ein erfundener Quellenverweis ist etwas anderes als eine leicht verzerrte Wiedergabe einer echten Quelle. Beides kann Leser in die Irre führen, aber es braucht unterschiedliche Gegenmaßnahmen.

Deshalb untersucht das Projekt auch, wie KI-Systeme mit widersprüchlichen Informationen umgehen. Wählen sie eine Seite aus und stellen sie als gesichert dar, oder machen sie den Widerspruch sichtbar? Gerade bei gesellschaftlich umstrittenen Themen ist diese Unterscheidung wichtig. Ein Text, der Unsicherheit verschweigt, wirkt überzeugender, als er ist, und genau das macht ihn riskant.

Ein weiterer Blick gilt der Perspektive. Wenn ein Modell zu einem Thema immer wieder ähnliche Argumente wiederholt und Gegenargumente auslässt, entsteht beim Lesen ein schiefes Bild, selbst wenn kein einzelner Satz falsch ist. PABeLA-II will solche Verzerrungen erfassen, indem es Texte systematisch vergleicht, statt sich auf den Eindruck einzelner Beispiele zu verlassen. Erst mit diesen Messwerten können Aufsicht und Politik beurteilen, wo Aufklärung reicht und wo klare Regeln nötig sind.

Warum das Saarland hier vorangeht

Das Saarland ist klein, aber in der KI-Forschung gut vernetzt. Mit dem DFKI sitzt dort eine der bekanntesten Forschungseinrichtungen des Landes. Dass ausgerechnet eine Landesmedienanstalt das Projekt mitträgt, unterstreicht den medienpolitischen Anspruch. Es geht um den demokratischen Diskurs, nicht nur um eine technische Spielerei.

Die Fördersumme von 160.000 Euro ist im Vergleich zu großen Industrieprogrammen bescheiden. Ihr Wert liegt in der gezielten Fragestellung. Statt ein weiteres allgemeines KI-Projekt zu starten, untersucht PABeLA-II einen konkreten Risikobereich: die Manipulation von Informationen durch Sprachmodelle. Die Ergebnisse bis April 2027 werden zeigen, ob sich daraus klare Prüfkriterien ableiten lassen.

Frequently Asked Questions

Was ist PABeLA-II?

PABeLA-II ist ein gemeinsames Forschungsprojekt des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) und der Landesmedienanstalt Saarland (LMS). Es untersucht Manipulationsrisiken durch KI-Sprachmodelle, etwa erfundene Quellen oder verzerrte Darstellungen, und läuft bis April 2027.

Wie viel Geld stellt das Saarland bereit?

Das Land Saarland stellt insgesamt 160.000 Euro bereit. Die Mittel kommen von der Staatskanzlei gemeinsam mit dem Ministerium für Wirtschaft, Innovation, Digitales und Energie.

Wie erkenne ich manipulierte KI-Texte?

Prüfen Sie genannte Quellen durch eine kurze Suche, vergleichen Sie Kernaussagen mit einer zweiten unabhängigen Quelle und seien Sie bei sehr bestimmt formulierten Behauptungen zu umstrittenen Themen skeptisch. Existiert eine genannte Quelle nicht, ist das ein deutliches Warnsignal.