To content
PROJEKT NOFAKE

Mit menschlicher und Künstlicher Intelligenz gegen Desinformation

-
in
  • Forschung
  • Top-Meldungen
On a table, four wooden cubes with letters that form the word "FACT" are placed next to each other. A hand tilts the last two cubes, on which the letters "KE" can be seen. Thus, both the words "FACT" and "FAKE" are legible. © RUB, Marquardt
Fakten und Fehlinformationen sind nicht immer leicht zu unterscheiden.

Falschinformationen sind zu einem gefährlichen Werkzeug geworden. Der Ukraine-Krieg dürfte ihre Verbreitung noch verstärken. Um der Masse an Fake News entgegenzutreten, entwickelt ein Projektteam eine neue Strategie: Im Kampf gegen Desinformationen schließen sich das gemeinnützige Recherchezentrum CORRECTIV und Wissenschaftsteams der Ruhr-Universität Bochum sowie der TU Dortmund in dem Projekt „noFake“ zusammen.

Mithilfe von Crowdsourcing und Künstlicher Intelligenz (KI) sollen Falschmeldungen erkannt und widerlegt werden. Das Projekt wird vom Bundesforschungsministerium innerhalb des Forschungsrahmenprogramms zur IT-Sicherheit „Digital. Sicher. Souverän.“ mit 1,33 Millionen Euro gefördert und ist am 8. März 2022 mit einem Kick-off-Treffen der Projektpartner offiziell gestartet.

Faktenchecks durch Bürger*innen

Manipulative Falschinformationen untergraben die Demokratie und gefährden den gesellschaftlichen Zusammenhalt. Faktenchecks wirken dem entgegen, indem sie Desinformationen aufdecken. Die Bevölkerung ist zunehmend für das Thema sensibilisiert – und mit noFake sollen engagierte Bürgerinnen und Bürger nun selbst als Crowdworker Fakten checken. Dafür schaffen die Projektpartner die Plattform „CORRECTIV.Faktenforum“, auf der die menschliche Intelligenz der Crowdworker mit Künstlicher Intelligenz zusammenkommt.

Die Wissenschaftler*innen entwickeln in Zusammenarbeit mit CORRECTIV KI-gestützte Assistenzsysteme, die etwa bei der Erkennung potenzieller Falschinformationen, deren Kategorisierung sowie der Text- und Bildanalyse helfen. Seminare mit professionellen Faktenprüfer*innen und von CORRECTIV stärken die Medienkompetenz der Crowdworker.

Desinformation – ein wachsendes Problem

Die Ruhr-Universität Bochum ist der Projektkoordinator von noFake. Sie ist mit der Arbeitsgruppe Kognitive Signalverarbeitung um Prof. Dorothea Kolossa und der Arbeitsgruppe Digitale Forensische Linguistik um Prof. Tatjana Scheffler vertreten. Die Arbeitsgruppe um Prof. Tobias Gostomzyk vom Institut für Journalistik der TU Dortmund bringt ihre medien- und internetrechtliche Expertise ein.

David Schraven, Publisher von CORRECTIV: „Bei CORRECTIV.Faktencheck erleben wir das Problem von Desinformation hautnah – ganz aktuell zum Krieg in der Ukraine. Gleichzeitig erreichen uns immer mehr Zuschriften. Das zeigt uns: Viele Menschen möchten etwas gegen Desinformationen tun. Damit das klappt, werden wir KI-basierte Assistenzsysteme entwickeln und einsetzen, die Menschen helfen, eigenständig Faktenchecks durchzuführen. Wir bauen so eine Faktencheck-Community auf, die Engagement mit professionellen Standards verbindet.“

Dorothea Kolossa, Ruhr-Universität Bochum: „Wir möchten in diesem Projekt das Fact-Checking durch Bürgerinnen und Bürger mithilfe maschineller Lernverfahren und Künstlicher Intelligenz ermöglichen. So planen wir, die Crowdworker unserer Plattform durch automatische Analysen und den schnellen Zugriff auf relevante Informationen zu unterstützen und ihre Zusammenarbeit zu fördern. Die Entscheidung über Fakt oder Desinformation belassen wir aber immer bei den menschlichen Nutzern und Nutzerinnen. Wichtig ist dafür besonders, dass unsere KI-Methoden transparent und ihre Entscheidungen gut nachvollziehbar sind.“