Politiker, die Sätze sagen, die sie nie gesagt haben, Szenen, die nie passiert sind und die dazu dienen, Verschwörungstheorien zu beweisen … Im nächsten Wahlkampf werden sich gefälschte Bilder und Videos, die von KI generiert werden, in sozialen Netzwerken vermehren. Wenn nichts unternommen wird, wie können wir dann zwischen Wahrheit und Falschheit unterscheiden? Für CEPS, das European Policy Centre, das am Dienstag, den 10. Oktober 2023, Forschungsergebnisse veröffentlichte, werden Werkzeuge der generativen künstlichen Intelligenz (KI) die nächsten Wahlen in Europa erheblich aufmischen und die demokratische Debatte erheblich verändern. Dieser in Frankreich, Deutschland und Italien ansässige Think Tank hat eindeutig eine Warnung ausgesprochen. „ Wenn wir an die Europawahlen im nächsten Jahr denken, werden die bestehenden Regelungen zur Inhaltsmoderation, wie sie in den Digital Services Regulations (DSA) festgelegt sind, im Zeitalter der generativen KI überholt sein. », schreiben die Studienautoren.

Unter ihnen: Victor Warhem, französischer Ökonom und Vertreter einer Denkfabrik in Frankreich, die allesamt von Beobachtungen bestimmter AFD-Praktiken in Deutschland ausging, erklärte er 01net. In den letzten Monaten haben rechtsextreme Gruppen in Deutschland eindringliche Bilder von Migranten auf ihrer Reise genutzt, um bedrohlich zu wirken, und diese mit politischen Botschaften versehen. Die vier Forscher werden sich die Frage stellen: „ die Auswirkungen neuer Tools der künstlichen Intelligenz auf den politischen Online-Diskurs „Würde dies eine bereits sehr… polarisierte Debatte nicht noch weiter polarisieren?

Von „Filterblasen“ bis zur KI

Mit “ Filterblasen » Von sozialen Netzwerken, schreiben die Forscher, seien Einzelpersonen mit „rDie gefilterte Realität unterscheidet sich von unserer allgemeinen Realität „. Letzterer wird dann nicht mehr glauben „ auf Informationen, die aus anderen Filtern stammen », Forschungsnotiz. Aber mit KI verändern wir das Ausmaß wirklich. Dank ChatGPT, MidJourney, Dall-E, Bard und anderen ist die Erstellung von Inhalten jetzt einfach, schnell und günstig.“ personalisierte Desinformation. Durch KI erzeugte „tiefgreifende Unwahrheiten“ verzerren sogar unser Verständnis der objektiv geteilten „Wahrheit“ und der gemeinsamen Realität „So kann ein Kandidat bei einer Wahl das Image seines Konkurrenten nutzen und ihn zwingen, etwas zu sagen oder zu tun – was der republikanische Kandidat für die US-Wahl, Ron DeSantis, seinem Gegner Donald Trump angetan hat.

Lesen Sie auch: Trumps Gegner bei den Vorwahlen der Republikaner nutzt KI, um die Abstimmung des ehemaligen Präsidenten zu simulieren

Wie dann“ eine rationale Debatte führen » in einem solchen Kontext?, fragten die Forscher. Letzterem zufolge „ Populist “ (ein Begriff, den sie als “ umstritten “ Und “ Chamäleon „, was auf widersprüchliche Tatsachen hinweist“ Von „dem Volk“ zu „korrupten Eliten“ „), das bisher für seine Kampagnen auf soziale Netzwerke setzte, setzt jetzt auf künstliche Intelligenz (KI). Dieses System werde ihre Angriffskraft stärken und ihnen die Macht geben, sich zu vermehren, betonte Victor Warhem.

Digitale Ökosysteme in Kombination mit KI „erhöhen die Erfolgschancen populistischer Bewegungen“

„ KI macht Politik „einfacher, billiger und weniger gefährlich“„“, schrieben bereits vor einigen Monaten unsere Kollegen aus Bloomberg. Gold, “ Die Gefahr von Desinformationskampagnen mit künstlicher Intelligenz ist sehr real „, weil das digitale Ökosystem mit KI kombiniert wird“ Dies erhöht letztendlich die Erfolgschancen populistischer politischer Bewegungen », warnt Camille Réau, eine der in der Studie zitierten Co-Autoren. Genug, um eine echte Gefahr für die Demokratie darzustellen.

Die Untersuchung, die sich in Frankreich auf die RN, LFI und Eric Zemmours Partei Reconquête! konzentriert, zeigt, dass ihr Einsatz von KI vorerst marginal bleibt. Vor allem, weil es im KI-Zeitalter keine echten Kampagnen gegeben habe, erklärt Victor Warhem. Die Reconquest Party verwendet beispielsweise eine Nachbildung von ChatGPT (ChatZ), einem virtuellen Aktivisten von Eric Zemmour, der alle Ihre Fragen beantwortet und versucht, Sie davon zu überzeugen, für seinen Champion zu stimmen.

Die Partei von Marine Le Pen setzt ihrerseits Bots in sozialen Netzwerken ein, die es ermöglichen, einen gewissen Ruhm in sozialen Netzwerken wie auf X, ehemals Twitter, vorzutäuschen. „ Durch die automatische Erstellung von Tweets und die Interaktion mit anderen Benutzern identifizieren Bots Trendthemen und Influencer und fungieren als Megafone, um häufig kontroverse Nachrichten oder Themen zu übermitteln. „, Sie schrieben.

Diffamierung und Moderation sind gegen gefälschte Nachrichteninhalte, die von KI generiert werden, wirkungslos

Das Problem besteht darin, dass es derzeit keine rechtliche Waffe gibt, die wirklich wirksam dagegen ist Hassrede bzw ist einfach falsch und soll uns manipulieren. „ Wenn Wladimir Putin morgen beschließt, im Zusammenhang mit den Europawahlen oder im Zusammenhang mit den amerikanischen Wahlen einen massiven Desinformationsangriff zu starten, wird seine Armee von Bots ständig gefälschte Videos und Audiodateien produzieren. Wir verfügen jedoch nicht über die Tools, um zu verhindern, dass dieser Inhalt in die Feeds aller Benutzer gelangt. Das wird uns sehr schnell passieren und wir können nichts dagegen tun. „, Sorge Victor Warhem. Viele der von der DSA geplanten Maßnahmen werden nicht alle vor der Europawahl 2024 umgesetzt.

Zur Bekämpfung des „digitalen Populismus auf Plattformen“ empfehlen die Autoren der Studie die Umsetzung eines „Ex-ante“-Ansatzes, also eines Upstream-Ansatzes, bevor KI-generierte Inhalte live gehen. Aktuelle Maßnahmen wie die automatische Erkennung und Entfernung problematischer Inhalte reichen nicht mehr aus. Glauben Sie den Autoren. Das Gleiche gilt für „ manuelle Content-Moderation und die Schaffung neuer Regulierungsstellen ». Denn sobald der Inhalt ausgestrahlt ist, ist der Schaden bereits angerichtet. Es wurden gefälschte Nachrichten verbreitet, die im besten Fall erst nach der Verbreitung gelöscht werden.

Obligatorische Erwähnungen, langsame Inhaltsübertragung, Bürgerarmeen, Genehmigung …

Die Autoren schlagen verschiedene Schritte vor, um dieses Problem zu überwinden. Durch die obligatorische „KI-generierte“ Kennzeichnung oder die sichtbare, sichtbare Kennzeichnung von KI-generierten Inhalten wird es möglich sein, auf einen Blick echte Sprache von gefälschten Videos und echte von Deepfakes zu unterscheiden. Aber diese technischen Mittel müssen bestehen bleiben – und das ist noch nicht geschehen. Die Maßnahme wurde im vergangenen Juni in die Liste der europäischen Verhaltenskodizes – einer Sammlung unverbindlicher Vorschriften – aufgenommen. Anschließend befragte die europäische Exekutive alle Unterzeichner alle auf ihren Plattformen gefundenen KI-generierten Inhalte klar und zeitnah zu melden.

Lesen Sie auch: Werden „KI-generierte Inhalte“ bald in den sozialen Medien erwähnt?

Die Forscher schlugen außerdem vor: „ langsame Inhaltsübertragung », wodurch beispielsweise die Viralität eines Beitrags eingeschränkt wird – mit einer begrenzten Anzahl von Likes und Shares. „ Wir können es auch erzwingen Plattformen Inhalte in die Feeds der Nutzer einzuführen, die völlig außerhalb ihres ideologischen Spektrums liegen » – was bedeutet, Algorithmusänderungen zu erzwingen, zumindest während Wahlen. „Das widerspricht völlig den Interessen der Plattformen, die ein Interesse daran haben, dass ihre Nutzer die Inhalte sehen.“ das passt zu ihrer Ideologie, ihren Ambitionen“, damit sie länger auf ihrer Plattform bleiben.

Für Victor Warhor schlug Frankreich in seiner Gesetzgebung zusätzliche Maßnahmen zum Schutz der digitalen Technologie vor. A Artikel, veröffentlicht am Dienstag, 10. Oktober, von der Regierungbieten “ eine Art Bürgerarmee, die ausgewählt wurde, Zitat, durch ein Regierungsteam, um den Inhalt zu „kennzeichnen“, die dann von Content-Moderatoren auf der Plattform verwaltet werden », erklärte der Ökonom. Dieses System kann durch die ehrenamtlichen Inhaltsmoderatoren von Wikipedia veranschaulicht werden. A weitere vorgeschlagene Maßnahmen werde die Verbreitung von Deepfakes gegenüber Personen bestrafen, die dieser Verbreitung nicht zustimmen, fügte der Experte hinzu. Ziel sei es, den Einsatz von Deepfakes für böswillige Zwecke einzuschränken, fuhr er fort.

Für den Autor wird die Wahl 2024 einen Crashtest-Effekt haben. Wir laufen Gefahr zu erkennen, dass die derzeit verfügbaren Instrumente es nicht ermöglichen, Desinformation oder sogar manipulative Inhalte, die durch KI erzeugt oder dank KI in großem Umfang verbreitet werden, wirksam zu bekämpfen. Deshalb müssen wir jetzt handeln, argumentieren sie. Denn ist das in einem solchen Kontext, fragen sie, noch möglich? Es gibt eine europäische „Gesellschaft“ – und daher gibt es eine kollektive Debatte zwischen den Gesellschaften, die für das langfristige Überleben der Demokratie unerlässlich ist » ?

Quelle :

CEP-Studie „Europas Populisten setzen zunehmend auf KI“