Am 5. September veranstaltete Pilot4DEV im Presseclub in Brüssel ein Multi-Stakeholder-Meeting, bei dem führende Experten, Forscher und Praktiker zusammenkamen, um Wissen auszutauschen, Strategien zur Bekämpfung von Fake News zu diskutieren und zu untersuchen, wie KI-Tools entwickelt werden können, um diese Herausforderungen wirksam anzugehen.
Auf der Veranstaltung wurde das AI4Debunk-Projekt zusammen mit den ersten Ergebnissen unserer laufenden Online-Umfrage ( ⁇Englisch, ⁇Französisch, ⁇Deutsch, ⁇Norwegisch, ⁇Griechisch, ⁇Lettisch, ⁇Ukrainisch) vorgestellt wurden. Damit wurde der Grundstein für eine lebhafte Roundtable-Diskussion gelegt, deren Höhepunkte im Folgenden näher erläutert werden.
1. Projekt-Tools-Design
Die Diskussion betonte nicht nur die gesellschaftlichen Aspekte von Desinformation, sondern untersuchte auch die individuellen psychologischen Faktoren, die jemanden anfällig für manipulierte Informationen im Internet machen. Es wurde vorgeschlagen, diese psychologischen Elemente bei der Gestaltung der KI-Instrumente des Projekts zur Bekämpfung von Desinformation zu berücksichtigen.
Die Teilnehmer äußerten Interesse an der Gestaltung der Instrumente und stellten die Auswahl der vier spezifischen Schnittstellen – Web-Plug-in, Disinfopedia, App und AR/VR – und ihre Vereinbarkeit mit den Zielen des Projekts in Frage. Es wurden Bedenken geäußert, wie sichergestellt werden könnte, dass die Instrumente für die breite Öffentlichkeit zugänglich sind, insbesondere für diejenigen, die am meisten von ihnen profitieren könnten, wie ältere oder weniger technisch versierte Personen. Obwohl es einige Skepsis darüber gab, ob diese Gruppen bereitwillig Apps oder AR / VR-Systeme übernehmen würden, bestand der allgemeine Konsens darin, dass die Tools, insbesondere die App, benutzerfreundlich sein müssen.
Ein Schwerpunkt der Diskussion lag auf der Schaffung von Vertrauen als glaubwürdige Quelle, die die Teilnehmer als entscheidend für die Förderung der weit verbreiteten Nutzung der Instrumente identifizierten. Mehrere Interessenträger erkannten die Herausforderung an, selbst für anerkannte Faktenprüfer Vertrauen aufzubauen. Insbesondere schutzbedürftige Personen waren weniger geneigt, KI-gestützten Faktenprüfungstools zu vertrauen, während besser informierte Nutzer bereit sein könnten, mit ihnen zu experimentieren.
2. Desinformation vs. Fehlinformation
Die Teilnehmer erkundigten sich auch nach unseren Definitionen von „Desinformation“ und „Fehlinformationen“. Dies führte zu einer breiteren Diskussion über das Konzept der Fake News und seine verschiedenen Schattierungen: Falschinformationen gibt es in einem Spektrum, das von unbeabsichtigter Fehlinformation bis hin zu absichtlicher Desinformation reicht.
Die Art und Weise, wie Informationen gerahmt werden, insbesondere durch den Einsatz emotionaler Sprache, wurde als ein Faktor angesehen, der beeinflusst, wie Leser Inhalte interpretieren. Einige stellten fest, dass es bereits KI-Systeme gibt, die den emotionalen Ton von Artikeln beurteilen können, aber Vorsicht wurde über das Risiko einer Übergeneralisierung verschiedener Arten von falschen Informationen geäußert.
Angesichts der Komplexität der Wahrheitsfindung verlassen sich Faktenprüfer weiterhin auf menschliche Analysen – ein Ansatz, der auch für unsere Disinfopedia von zentraler Bedeutung ist. Es gab eine Debatte darüber, ob etablierte Medien benachrichtigt werden sollten, wenn sie falsche Informationen veröffentlichen, wobei sich einige für eine stärkere Zusammenarbeit zwischen Journalisten und Faktenprüfern einsetzten, um die Richtigkeit der Nachrichten sicherzustellen. Transparenz von Journalisten, wenn sie Fehler machen, wurde als Schlüssel zur Aufrechterhaltung des öffentlichen Vertrauens angesehen.
3. Böswillige Akteure und ausländische Einflussnahme
Die Diskussion verlagerte sich dann auf die Rolle böswilliger Akteure bei der Verbreitung von Desinformation. Die Identifizierung dieser Akteure und das Aufspüren der Ursprünge solcher Bedrohungen ist oft unglaublich schwierig. Das DisinfoLab-Team teilte Erkenntnisse aus ihrer umfangreichen Forschung zu diesem Thema und wies auf ihre veröffentlichten Ergebnisse hin, die in dieser Bericht.
Die Teilnehmer waren neugierig auf unsere eigenen Erfahrungen bei der Verfolgung bösartiger Akteure. Ausgehend von unserer Fallstudie haben wir hervorgehoben, wie sich russische Desinformationstaktiken als besonders anpassungsfähig erwiesen haben. Zum Beispiel konzentriert sich ihre Strategie auf Plattformen wie TikTok darauf, ein jüngeres, liberales Publikum mit ansprechenden Inhalten anzuziehen und nach dem ersten Aufbau von Vertrauen schrittweise Propaganda einzuführen. Dieser Ansatz der Einbettung von Desinformation in Narrative, die mit bestimmten demografischen Merkmalen in Resonanz stehen, stellt eine wachsende Bedrohung dar, insbesondere auf Plattformen mit schwächeren Desinformationskontrollen wie TikTok im Vergleich zu anderen Plattformen wie Meta oder X (ehemals Twitter).
4. KI und kritisches Denken
Ein weiterer wichtiger Punkt, der angesprochen wurde, war die Notwendigkeit, sich bei der Bekämpfung von Fake News nicht blind auf KI zu verlassen und stattdessen Neugier und Verständnis für die Funktionsweise von KI-Systemen zu fördern.
Einige Teilnehmer forderten Initiativen zur „Entmystifizierung von KI“ und großen Sprachmodellen und argumentierten, dass Menschen sich oft passiv mit KI beschäftigen, ohne die zugrunde liegenden Prozesse zu verstehen. Sie schlugen vor, dass die Förderung der Neugier auf maschinelles Lernen von klein auf dazu beitragen könnte, diese Werkzeuge für die breite Öffentlichkeit zugänglicher zu machen.
Dies ist eigentlich Teil der Begründung für die Einführung eines Comics als Bildungsinstrument in unserem Projekt, die eine Diskussion darüber ausgelöst hat, ob die Aufklärung der Menschen über die Rolle der KI bei der Bekämpfung von Desinformation zu einer breiteren Akzeptanz dieser Instrumente über nur Fachleute hinaus führen könnte.
Die Erkenntnisse aus dieser Sitzung werden dazu beitragen, unsere nächsten Schritte zu gestalten. Im weiteren Verlauf des AI4Debunk-Projekts freuen wir uns darauf, diese Zusammenarbeit mit den Stakeholdern fortzusetzen und unsere Tools zu verfeinern.
Wir setzen uns weiterhin für die Förderung des weiteren Dialogs und der Innovation im Kampf gegen Desinformation ein und arbeiten zusammen, um eine informiertere und widerstandsfähigere Gesellschaft aufzubauen.
