Internationale Organisationen klassifizieren Desinformation seit mehr als einem Jahrzehnt als eine der größten Bedrohungen für die Demokratie. Digitale Technologien erfinden den modernen Lebensstil, das Umfeld für Bürger und Unternehmen unermüdlich neu und gestalten ihn grundlegend neu. KI bringt eine neue Störung in die Art und Weise, wie wir auf Wissen zugreifen und Informationen erstellen, verbreiten und verstehen, indem sie die Grenzen zwischen realen Informationen und manipulierten Informationen verwischt.
Auswirkungen der digitalen Revolution auf die Gesellschaft
Die digitale Revolution erreicht ihr goldenes Zeitalter, in Kontinuität mit früheren Transformationen, die in weniger als einem Jahrzehnt stattgefunden haben. Bis 2024 wird die Zahl der weltweiten Mobiltelefonbesitzer voraussichtlich 7,21 Milliarden erreichen. Ungefähr 67% der Weltbevölkerung hat derzeit Zugang zum Internet – es war nur 1% 1995. Veränderungen haben sich schnell wie ein Tsunami angebahnt, ohne die Möglichkeit für die Menschen, zurückzutreten oder sie zu überdenken, weder für alle Beteiligten, Fähigkeiten, Bildungskurse anzupassen noch vielfältige Wirtschaftszweige umzuwandeln. Diese Trends sorgten für unglaublichen Optimismus bei den europäischen Entscheidungsträgern (Digitalisierung der EU, digitaler Binnenmarkt, schnelle Unternehmer usw.). Dies wurde jedoch durch latenten Pessimismus unter den Situationsverlierern bestätigt, die nicht aufholen konnten (traditionelle Investoren, ältere Menschen, entlassene Mitarbeiter in automatisierten Sektoren und Menschen mit geringer IT-Kompetenz).
Die Vorteile des digitalen Umbruchs für Verbraucher und Unternehmer sind kolossal: Der direkte Zugriff auf weltweite Informationen, Wissen und Daten wird ermöglicht. Leicht verdauliches Wissen ist fast überall über soziale Medien, Internet-Suchmaschinen, selektive Anwendungen, aber auch Online-Bildung zugänglich. Die Konnektivität ist grenzenlos: kollaborative Plattformen, einschließlich sozialer Medien, haben eine direkte Verbindung zwischen Menschen, aber auch zwischen potenziellen Unternehmern und Verbrauchern ermöglicht. Die Logistik wird wesentlich durch die Möglichkeit erleichtert, Lieferungen zu bestellen, sich schneller oder billiger zu bewegen, GPS, Geolokalisierung und sofortige Verbindungen zu verwenden. Nicht zuletzt bieten digitale Technologien mit der Stärkung der KI ein enormes Potenzial, um Forschungslösungen für Entwicklungen in den Bereichen Gesundheit, Klima und Infrastruktur zu finden, auch für weniger fortgeschrittene Länder, um sie zu übernehmen.
Dies bringt uns zu den Nachteilen und Stolpersteinen, wenn nicht gar Bedrohungen dieser digitalen KI-Revolution. Tatsächlich sind die von KI entwickelten Systeme „zunehmende Möglichkeiten, realistische KI-generierte gefälschte Inhalte zu erstellen, aber auch (...) die Verbreitung von Desinformation an ein (Mikro-)Zielpublikum und in großem Umfang durch böswillige Interessenträger zu erleichtern“ (Bontridder und Poullet 2021). Es wurden Bedenken in Bezug auf Urheberrechte, voreingenommene Algorithmen, Geschäftsmodelle, die massive Daten verwenden, um Einzelpersonen zu täuschen, und die Ersetzung von Arbeitsplätzen/Beschäftigung durch Technologie in zahlreichen KI-Sektoren geäußert. KI-Technologien werden auch die Verwendung von Video, Text und Bild erleichtern, Inhalte auf der Grundlage falscher Informationen generieren und Einzelpersonen und Medien das Vertrauen in die Informationen erschweren (Newman 2024).
Antwort der EU: Vorschriften, Cybersicherheit und Faktenprüfung
Im Gegensatz zu dem Vakuum, das durch den Mangel an Vorschriften in anderen demokratischen Ländern entstanden ist, hat die Europäische Union (EU), gefolgt von den EU-Mitgliedstaaten, aktiv Strategien und Initiativen zur Bekämpfung von Desinformation entwickelt, insbesondere im Zusammenhang mit der Wahrung demokratischer Prozesse, dem Schutz der Bürger und der Förderung der Medienkompetenz. Diese Strategien und Initiativen spiegeln das Engagement der EU wider, die vielschichtige Herausforderung der Desinformation anzugehen und die demokratischen Werte im digitalen Zeitalter zu schützen. Diese Initiativen werden durch die Annahme einer Verordnung über Desinformation in den meisten EU-Mitgliedstaaten sowie durch eine engere Zusammenarbeit zwischen den EU-Mitgliedstaaten im Bereich der Cybersicherheit und eine gemeinsame Zusammenarbeit zur Bekämpfung von Desinformation gestärkt.
Schließlich beobachten wir die laufenden Verhandlungen zwischen den EU-Organen und den wichtigsten Internetplattformen, um den besten Weg zur Bekämpfung von Desinformation zu finden. Die Frage der Regulierung gegenüber der Autoregulierung ist noch nicht vorbei und wird in den nächsten Jahren weitere Entwicklungen erfordern.
Dies spiegelt jedoch nur einen Teil der Bemühungen zum Schutz der Bürger vor Desinformation wider. Die EU und die Mitgliedstaaten haben auch Anstrengungen in die Schaffung von Cybersicherheitsagenturen investiert, um massive Desinformationskampagnen und Faktenprüfer für die Medien (wie EDMO, die Europäische Beobachtungsstelle für digitale Medien) zu entlarven. Trotz dieses Arsenals an Instrumenten bleibt Desinformation eine echte Bedrohung.
Es gibt verschwommene Grenzen zwischen der „Entlarvung“ von Desinformation durch private Akteure und den nationalen Sicherheitsbehörden. Während die Bürger ermutigt werden, Videos darüber anzusehen, wie Fehlinformationen erkannt und Faktenprüfer eingesetzt werden können, werden manipulative Desinformationskampagnen von den nationalen Sicherheitsbehörden und den Medien immer noch eher enthüllt. So wurde 2021 die französische Agentur Viginum gegründet, um digitale Eingriffe ausländischer Unternehmen aufzudecken. Die Agentur deckte im Februar 2024 mehr als 193 Websites auf, auf denen Desinformation über Social-Media-Websites und Messaging-Apps verbreitet wurde. Selbst für die Sicherheitsbehörden scheint es nicht immer einfach zu sein, die Herkunft der Kampagne zu charakterisieren, insbesondere wenn die Desinformation oder Fehlinformation auf ausländische Regierungen, böswillige Akteure oder einfache Personen, die als Störer fungieren, zurückgeführt werden muss.
Darüber hinaus kombiniert hybride Kriegsführung, für die Desinformation nur ein Werkzeug ist, Cyberangriffe mit massiver Desinformation und schafft Risiken für böswilligen Einfluss auf die Medien, die Regierungen, die öffentliche Infrastruktur, aber auch die Zivilgesellschaft und den akademischen Sektor. Und genau hier liegt die eigentliche Bedrohung.
Zukünftige Bedrohungen und Herausforderungen
Die Bedrohung und Gefahr von Desinformation besteht darin, dass sie Polarisierung, Emotionen und Stereotypen nutzt. Die Elemente, die dazu führen, dass eine „Fake News“ viral wird, hängen von ihrer Interaktion mit einer Reihe von spaltenden Angelegenheiten ab, die Neugier oder bestimmte Emotionen in einer Gesellschaft ansprechen. Personalisiertes Targeting, basierend auf persönlichen oder psychologischen Merkmalen, kann mit Tools zur Generierung natürlicher Sprache kombiniert werden, um Inhalte für einzigartige Benutzer zu erstellen, was möglicherweise zu aktiver Manipulation führt.
Darüber hinaus kann sich die aggressive automatisierte Verbreitung von Desinformation kurz vor Beginn einer politischen Kampagne negativ auf die Wahlergebnisse auswirken (Wade 2018). „Auf der Grundlage der Erhebung und Manipulation von Nutzerdaten, um die politischen Meinungen und Wahlergebnisse der Wähler zu antizipieren und zu beeinflussen, können Nutzerprofilerstellung und Mikrotargeting eine Bedrohung für die Demokratie, die öffentliche Debatte und die Wahlmöglichkeiten der Wähler darstellen“ (Kertysova 2018, Mont’Alverne et al. 2024). Dieser Punkt ist äußerst wichtig, da dieses Jahr 2024 ein Wahljahr für die Hälfte der Weltbevölkerung sein wird und die Einmischungen derzeit vermutet, aber nicht sichtbar sind, da Beweise schwer zu finden sind.
Die digitale Revolution, einschließlich KI, gestaltet eine Zukunft voller Unsicherheiten, die neue Kompetenzen wie E-Management und IT-Kenntnisse erfordert. Während Technologie neue Möglichkeiten eröffnet und zu positiven Veränderungen in verschiedenen Bereichen wie Gesundheit, Wirtschaft oder Stärkung der Zivilgesellschaft führen kann, trägt sie auch zur Erosion von Autorität und Werten bei, die durch einen endlosen Zugang zu Informationen und Konnektivität, einschließlich gefälschter und manipulierter Inhalte, ersetzt werden.
Grenzen können auch notwendig sein, um zu verhindern, dass Algorithmen oder Bots unseren Lebensstil diktieren und Raum für die Manipulation von Wahlen schaffen. Eine „große Firewall“ sollte Europa vor Cyber-Interferenzen und manipulierten Inhalten schützen. Die Aufrechterhaltung von Stabilität und Vertrauen in Institutionen, demokratische Systeme, Medien und wirtschaftliche Strukturen wird in dieser sich schnell verändernden Landschaft zu einer Herausforderung werden. Cybersicherheit und die Bekämpfung von Desinformation sollten zu den obersten Prioritäten gehören.
Referenzen
- Noémi Bontridder und Yves Poullet Y, 2021, The role of artificial intelligence in desinformation. Data &-Richtlinie, 3: e32. doi:10.1017/dap.2021.20
- Katarina Kertysova, 2018, Künstliche Intelligenz und Desinformation Wie KI die Art und Weise verändert, wie Desinformation produziert, verbreitet und bekämpft werden kann, Sicherheit und Menschenrechte 29 (2018) 55-81
- Camila Mont’Alverne, Sumitra Badrinathan, Amy, Ross Arguedas, Benjamin Toff, Richard Fletcher und Rasmus Kleis Nielsen, 2024 The Trust Gap: Wie und warum Nachrichten auf digitalen Plattformen skeptischer gesehen werden als Nachrichten im Allgemeinen, Reuters Institute https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2022-09/MontAlverne_et_al_The_Trust_Gap.pdf
- Nic Newman, „Digital News Project: Journalismus, Medien und Technologie: Trends and Prediction“, Oxford University, Reuters Institute, https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2024-01/Newman%20-%20Trends%20and%20Predictions%202024%20FINAL.pdf
- Michael Wade, „Psychographics: The Behavioural Analysis That Helped Cambridge Analytica Know Voters’ Minds, The Conversation, 21. März 2018, https://theconversation .com/psychographics-the-behavioural-analysis-that-helped-cambridge-analytica-know -voters-minds-93675
Vollständigen Artikel als PDF herunterladen hier.
ÜBER PASCALINE GABORIT
Pascaline Gaborit ist Forscherin, Beraterin, Expertin und Trainerin. Sie promovierte in Politikwissenschaft zum Thema „Vertrauen und Konflikte“. Sie ist die Gründerin des Think Tanks/NGO. Pilot4DEV und arbeitet als Berater bei der Evaluation/Qualitätsbewertung verschiedener internationaler Programme und Projekte.
Sie veröffentlichte Bücher und Artikel über internationale Zusammenarbeit, Resilienz, Kultur, Entwicklung, Gleichstellung der Geschlechter und Anpassung an den Klimawandel. Sie war mehr als 12 Jahre Direktorin des internationalen Netzwerks Pilot Cities und arbeitete als Beraterin für andere Think Tanks.
Derzeit arbeitet sie an Projekten im Zusammenhang mit Forschung und Maßnahmen in den Bereichen Resilienz, Nachhaltigkeit, Anpassung an den Klimawandel, Dialog, Fake News, künstliche Intelligenz, Menschenrechte und Demokratie.
