Deepfaking: Die US-Wahl 2024 kollidiert mit dem KI-Boom

[1/6] Ein grünes Wireframe-Modell bedeckt das untere Gesicht eines Schauspielers während der Erstellung eines synthetischen Gesichtsreanimationsvideos, auch Deepfake genannt, in London, Großbritannien, 12. Februar 2019. Reuters TV über REUTERS

30. Mai (Reuters) – (Anmerkung: Starke Formulierung in Absatz 10)

„Eigentlich mag ich Ron DeSantis sehr“, verrät Hillary Clinton in einem überraschenden Online-Werbevideo. „Er ist genau der Typ Mann, den dieses Land braucht, und das meine ich wirklich.“

Joe Biden lässt endlich die Maske fallen und entfesselt eine grausame Schimpftirade gegen eine Transgender-Person. „Sie werden nie eine richtige Frau sein“, knurrt der Präsident.

Willkommen beim amerikanischen Präsidentschaftswahlkampf 2024, bei dem die Realität auf dem Spiel steht.

Die Clinton- und Biden-Deepfakes – realistische, aber erfundene Videos, die von KI-Algorithmen erstellt wurden, die anhand zahlreicher Online-Aufnahmen trainiert wurden – gehören zu den Tausenden, die in sozialen Medien auftauchen und Fakten und Fiktion in der polarisierten Welt der US-Politik verwischen.

Obwohl es solche synthetischen Medien schon seit mehreren Jahren gibt, wurde sie im vergangenen Jahr durch eine Reihe neuer „generativer KI“-Tools wie Midjourney beschleunigt, die es kostengünstig und einfach machen, überzeugende Deepfakes zu erstellen, wie aus Reuters-Interviews mit etwa zwei Personen hervorgeht Dutzend Spezialisten in Bereichen wie KI, Online-Fehlinformationen und politischer Aktivismus.

„Für die Wähler wird es sehr schwierig sein, das Echte vom Fake zu unterscheiden. Und man kann sich gut vorstellen, wie entweder Trump- oder Biden-Anhänger diese Technologie nutzen könnten, um den Gegner schlecht dastehen zu lassen“, sagte Darrell West, Senior Fellow bei den Brookings Zentrum für technologische Innovation der Institution.

„Kurz vor der Wahl könnte es Dinge geben, die niemand entfernen kann.“

Tools, die Deepfakes generieren können, werden mit wenigen oder unvollständigen Schutzmaßnahmen veröffentlicht, um schädliche Fehlinformationen zu verhindern, während der Technologiesektor in ein KI-Wettrüsten verwickelt wird, sagte Aza Raskin, Mitbegründerin des Center for Human Technology, einer gemeinnützigen Organisation, die die Auswirkungen von Technologie auf die Gesellschaft untersucht .

Der frühere Präsident Donald Trump, der mit DeSantis und anderen um die Nominierung der Republikaner gegen Biden konkurrieren wird, hat Anfang des Monats selbst ein manipuliertes Video des CNN-Moderators Anderson Cooper auf seiner Social-Media-Plattform Truth Social geteilt.

„Das war Präsident Donald J. Trump, der uns hier in der Live-Übertragung des President Townhall auf CNN ein neues Arschloch aufgerissen hat“, sagt Cooper im Filmmaterial, obwohl die Worte nicht zu seiner Lippenbewegung passen.

CNN sagte, das Video sei ein Deepfake. Ein Vertreter von Trump reagierte nicht auf eine Bitte um einen Kommentar zu dem Clip, der diese Woche noch auf der Twitter-Seite seines Sohnes Donald Jr. zu finden war.

Während große Social-Media-Plattformen wie Facebook, Twitter und YouTube Anstrengungen unternommen haben, Deepfakes zu verbieten und zu entfernen, ist ihre Wirksamkeit bei der Überwachung solcher Inhalte unterschiedlich.

Laut DeepMedia, einem Unternehmen, das an Tools zur Erkennung synthetischer Medien arbeitet, wurden in diesem Jahr dreimal so viele Video-Deepfakes aller Art und achtmal so viele Sprach-Deepfakes online gepostet wie im gleichen Zeitraum im Jahr 2022.

Insgesamt werden im Jahr 2023 weltweit etwa 500.000 Video- und Sprach-Deepfakes auf Social-Media-Seiten geteilt, schätzt DeepMedia. Das Klonen einer Stimme kostete bis Ende letzten Jahres 10.000 US-Dollar an Server- und KI-Schulungskosten, aber jetzt bieten Startups es für ein paar Dollar an, heißt es.

Den Befragten zufolge ist sich niemand sicher, wohin der Weg der generativen KI führt oder wie man sich wirksam vor ihrer Macht für Massenfehlinformationen schützen kann.

Der Branchenführer OpenAI, der in den letzten Monaten mit der Veröffentlichung von ChatGPT und dem aktualisierten Modell GPT-4 neue Maßstäbe gesetzt hat, beschäftigt sich selbst mit dem Problem. CEO Sam Altman erklärte dem Kongress diesen Monat, dass die Wahlintegrität ein „erheblicher Bereich zur Sorge“ sei und forderte eine rasche Regulierung des Sektors.

Im Gegensatz zu einigen kleineren Startups hat OpenAI Schritte unternommen, um die Nutzung seiner Produkte in der Politik einzuschränken, so eine Reuters-Analyse der Nutzungsbedingungen eines halben Dutzends führender Unternehmen, die generative KI-Dienste anbieten.

Allerdings weisen die Leitplanken Lücken auf.

OpenAI sagt beispielsweise, dass es seinem Bildgenerator DALL-E verbietet, Persönlichkeiten des öffentlichen Lebens zu erstellen – und tatsächlich wurde die Anfrage blockiert, als Reuters versuchte, Bilder von Trump und Biden zu erstellen, und es erschien die Meldung, dass es „unseren Inhaltsrichtlinien möglicherweise nicht entspricht“. "

Dennoch konnte Reuters Bilder von mindestens einem Dutzend anderer US-Politiker erstellen, darunter auch vom ehemaligen Vizepräsidenten Mike Pence, der ebenfalls eine Kandidatur für das Weiße Haus für 2024 in Betracht zieht.

OpenAI schränkt außerdem jede „maßstäbliche“ Nutzung seiner Produkte für politische Zwecke ein. Das verbietet beispielsweise den Einsatz seiner KI zum Versenden massenhaft personalisierter E-Mails an Wähler.

Das von Microsoft unterstützte Unternehmen erklärte Reuters in einem Interview seine politischen Richtlinien, reagierte jedoch nicht auf weitere Anfragen nach Kommentaren zu Durchsetzungslücken in seinen Richtlinien, wie etwa der Blockierung der Erstellung von Bildern von Politikern.

Mehrere kleinere Startups haben keine expliziten Beschränkungen für politische Inhalte.

Midjourney, das letztes Jahr gestartet ist, ist mit 16 Millionen Nutzern auf seinem offiziellen Discord-Server der führende Anbieter von KI-generierten Bildern. Laut vier KI-Forschern ist die App, die je nach Faktoren wie Bildmenge und Geschwindigkeit zwischen kostenlos und 60 US-Dollar pro Monat kostet, aufgrund ihrer Fähigkeit, hyperrealistische Bilder von Prominenten und Politikern zu erstellen, ein Favorit von KI-Designern und -Künstlern Schöpfer interviewt.

Midjourney hat auf eine Bitte um einen Kommentar zu diesem Artikel nicht geantwortet. Während eines Online-Chats auf Discord letzte Woche sagte CEO David Holz, das Unternehmen werde wahrscheinlich vor der Wahl Änderungen vornehmen, um Fehlinformationen zu bekämpfen.

Midjourney möchte an einer Branchenlösung zusammenarbeiten, um die Rückverfolgbarkeit von KI-generierten Bildern mit einem digitalen Äquivalent von Wasserzeichen zu ermöglichen, und würde erwägen, Bilder von politischen Kandidaten zu blockieren, fügte Holz hinzu.

Während die Branche mit der Verhinderung von Missbrauch ringt, versuchen einige politische Akteure selbst, die Macht der generativen KI zu nutzen, um Kampagnen aufzupeppen.

Bisher war die einzige hochkarätige, KI-generierte politische Anzeige in den USA eine, die Ende April vom Republikanischen Nationalkomitee veröffentlicht wurde. Der 30-Sekunden-Werbespot, von dem das RNC bekannt gab, dass er vollständig von KI erstellt wurde, verwendete gefälschte Bilder, um ein katastrophales Szenario anzudeuten, sollte Biden wiedergewählt werden, wobei China in Taiwan einmarschiert und San Francisco durch Kriminalität lahmgelegt wird.

Das RNC reagierte nicht auf Anfragen nach Kommentaren zu der Anzeige oder deren breiterem Einsatz von KI. Das Democratic National Committee lehnte es ab, sich zum Einsatz der Technologie zu äußern.

Reuters hat alle republikanischen Präsidentschaftskampagnen zu ihrem Einsatz von KI befragt. Die meisten antworteten nicht, obwohl das Team von Nikki Haley sagte, dass sie die Technologie nicht nutzten, und die Kampagne des Spitzenkandidaten Perry Johnson sagte, sie nutze KI für die „Generierung und Iteration von Kopien“, ohne weitere Details zu nennen.

Das Potenzial der generativen KI zur Erstellung von Kampagnen-E-Mails, Posts und Anzeigen ist für einige Aktivisten unwiderstehlich, die der Meinung sind, dass die kostengünstige Technologie gleiche Wettbewerbsbedingungen bei Wahlen schaffen könnte.

Selbst tief im ländlichen Hillsdale, Michigan, ist die maschinelle Intelligenz auf dem Vormarsch.

Jon Smith, republikanischer Vorsitzender des 5. Kongressbezirks von Michigan, hält mehrere Bildungstreffen ab, damit seine Verbündeten lernen können, KI für soziale Medien und die Anzeigenerstellung zu nutzen.

„KI hilft uns, gegen die Großen anzutreten“, sagte er. „Ich sehe den größten Aufschwung bei den lokalen Rassen. Jemand, der 65 Jahre alt ist, ein Bauer und Bezirkskommissar, könnte mit dieser Technologie leicht von einer jüngeren Katze in die Primarliste aufgenommen werden.“

Auch Politikberatungen versuchen, KI nutzbar zu machen, wodurch die Grenze zwischen real und unwirklich weiter verwischt wird.

Numinar Analytics, ein politisches Datenunternehmen, das sich auf republikanische Kunden konzentriert, hat begonnen, mit der Generierung von KI-Inhalten für Audio und Bilder sowie der Sprachgenerierung zu experimentieren, um möglicherweise personalisierte Nachrichten mit der Stimme eines Kandidaten zu erstellen, sagte Gründer Will Long in einem Interview.

Die demokratische Umfrage- und Strategiegruppe Honan Strategy Group versucht unterdessen, einen KI-Umfragebot zu entwickeln. Man hofft, rechtzeitig vor den Kommunalwahlen 2023 einen weiblichen Bot auf den Markt zu bringen, sagte CEO Bradley Honan und verwies auf Untersuchungen, denen zufolge sowohl Männer als auch Frauen eher mit einer weiblichen Interviewerin sprechen.

Unsere Standards: Die Thomson Reuters Trust Principles.

Thomson Reuters

US-Korrespondent für nationale Angelegenheiten, der vier Jahre in Venezuela verbrachte und über die Regierung von Präsident Maduro und die humanitäre Krise berichtete und auch aus Chile, Argentinien und Indien berichtete. Sie war Reuters‘ Reporterin des Jahres 2015 und führendes Mitglied eines Teams, das 2018 einen Overseas Press Club Award für die beste Berichterstattung über Lateinamerika gewann.

Thomson Reuters

Anna Tong ist Korrespondentin für Reuters mit Sitz in San Francisco, wo sie über die Technologiebranche berichtet. Sie kam 2023 zu Reuters, nachdem sie beim San Francisco Standard als Datenredakteurin gearbeitet hatte. Zuvor arbeitete Tong als Produktmanagerin bei Technologie-Startups und bei Google, wo sie im Bereich User Insights tätig war und bei der Leitung eines Callcenters half. Tong schloss sein Studium an der Harvard University ab.Kontakt:4152373211