Die Gefahren der „Deepfakes“

Wie Forscher versuchen, gefälschten Fotos und Videos auf die Spur zu kommen
Durch Künstliche Intelligenz (KI) gefälschte Fotos und Videos, sogenannte „Deepfakes", bergen enorme Gefahren und können sogar Auswirkungen auf die Politik haben. Forscher versuchen mit verschiedenen Techniken, solchen Fälschungen auf die Spur zu kommen.
Wazon Gastredakteur
Von Tanja Kipke

Windhoek

Während Künstliche Intelligenz (KI) in vielen Bereichen einen großen Mehrwert bringt, birgt sie auch enorme Gefahren. Vor allem im Hinblick auf gefälschte Videos und Fotos. Sogenannte „Deepfakes“ haben erst Anfang dieses Jahres großes Aufsehen erregt, als mehrere Fotos von Ex-US-Präsident Donald Trumps angeblicher Festnahme in den sozialen Medien kursierten (siehe Foto). Lange bevor Trump wirklich kurz festgenommen wurde, erstellten Privatnutzer mit KI Bildtools, wie „Midjourney“ oder „Stable Diffusion“, Fotos, die Trump zeigen, wie er von Polizeibeamten weggetragen wird. Dass die Bilder nicht echt sind, lässt sich – wenn überhaupt – nur durch genaues Betrachten erkennen. Damals hatten die Fotos eine Welle der Besorgnis ausgelöst, da es für den Menschen immer schwieriger wird, diese Fälschungen zu erkennen. Nicht nur Falschnachrichten können dadurch extrem leicht verbreitet werden, sie können auch zur Manipulation von zum Beispiel Wahlen eingesetzt werden.

Bei der Wahl in der Türkei kam es in diesem Jahr bereits zu einem Vorfall, den Experten als gefährlich im Hinblick auf Wahlmanipulation einstuften. Ein Video zeigte Kemal Kilicdaroglu, der größte Herausforderer von Präsident Recep Tayyip Erdogan bei der Wahl, wie er perfektes Englisch sprach. Es stellte sich aber heraus, dass das Video eine Fälschung war und mit Ton-KI bearbeitet wurde.

Forscher arbeiten derzeit bereits an verschiedenen Lösungen, um eine Fälschung leicht aufdecken zu können. Bei Videos kann beispielsweise der Puls des Menschen dabei helfen, um künstlich erstellte Personen zu identifizieren. So entwickelten Forschende bereits 2020 ein KI-basiertes System, das anhand subtiler Veränderungen im Gesicht und der Haut das Pulsieren des Blutes erkennen kann, berichtet das Wissensmagazin „Scinexx“. Hat ein im Video gezeigtes Gesicht dieses Signal, handelt es sich wahrscheinlich um einen echten Menschen, fehlt es hingegen, ist das Bild KI-generiert.

Wissenschaftler der Ruhr-Universität Bochum (RUB) stellten im Magazin eine weitere Möglichkeit vor, wie man „Deepfakes“ erkennen kann. Der Schlüssel liege demnach in den sogenannten Frequenzen. Dabei werden Hell-Dunkel-Unterschiede und Bilddetails als Summe vieler verschiedener Kosinus-Funktionen ausgedrückt. Natürliche Bilder würden größtenteils aus niederfrequenten Funktionen bestehen. Wenn der Mensch solche Bilder betrachtet, nimmt er die hohen Frequenzen meist nicht bewusst wahr. Ein Bild, bei dem hohe Frequenzen verändert wurden, sieht daher fast genauso aus wie das originale Bild. Die Technik lässt sich aber nicht so leicht blenden: „Bei hohen Frequenzen gibt es bei GAN-erzeugten Bildern charakteristische Abweichungen von echten Fotos“, erklärt Jonas Ricker dem Magazin. Die hohen Frequenzen kommen bei künstlich erzeugten Bildern übermäßig häufig vor.

Dieses Verfahren funktioniert vor allem bei Fotos, die durch bestimmte KI-Tools erstellt wurden, wie GAN. Bei anderen allerdings wieder weniger gut. Einen universellen Detektor gibt es noch nicht. Ricker denkt, die Lösung könnte darin liegen, in Zukunft echte Bilder zu verifizieren. „Das könnte man sich zum Beispiel mit kryptografischen Methoden vorstellen, die schon in der Kamera des Fotografen eingebaut sein müssten und jedes echte Bild unzweifelhaft überprüfbar macht.“

Enorme Gefahren

Die Gefahren liegen nicht nur in der Verbreitung von Falschnachrichten und Wahlmanipulation. Die Erkennung gefälschter Fotos hat auch strafrechtliche Relevanz, etwa wenn es um unfreiwillige Pornografie geht, bei der Gesichter von Personen auf die Körper von anderen montiert werden. „Ganz allgemein führt die Masse künstlich erzeugter Bilder zu einem Schwund an Vertrauen, auch in seriösen Medien“, sagt Ricker. „Letztlich wird jedes Bild dadurch verdächtig und auch verneinbar, sogar Bilder als Beweise vor Gericht.

Kommentar

Allgemeine Zeitung 2024-05-24

Zu diesem Artikel wurden keine Kommentare hinterlassen

Bitte melden Sie sich an, um einen Kommentar zu hinterlassen

SerieA: Cagliari 2 vs 3 Fiorentina Katima Mulilo: 12° | 30° Rundu: 11° | 30° Eenhana: 11° | 31° Oshakati: 12° | 30° Ruacana: 13° | 31° Tsumeb: 14° | 28° Otjiwarongo: 12° | 27° Omaruru: 11° | 28° Windhoek: 10° | 24° Gobabis: 12° | 25° Henties Bay: 15° | 29° Wind speed: 25km/h, Wind direction: SE, Low tide: 09:43, High tide: 03:39, Low Tide: 21:53, High tide: 16:11 Swakopmund: 16° | 21° Wind speed: 22km/h, Wind direction: S, Low tide: 09:41, High tide: 03:37, Low Tide: 21:51, High tide: 16:09 Walvis Bay: 19° | 28° Wind speed: 26km/h, Wind direction: S, Low tide: 09:41, High tide: 03:36, Low Tide: 21:51, High tide: 16:08 Rehoboth: 11° | 26° Mariental: 14° | 27° Keetmanshoop: 15° | 27° Aranos: 13° | 27° Lüderitz: 15° | 25° Ariamsvlei: 16° | 29° Oranjemund: 10° | 20° Luanda: 24° | 26° Gaborone: 12° | 25° Lubumbashi: 13° | 28° Mbabane: 12° | 22° Maseru: 7° | 21° Antananarivo: 10° | 20° Lilongwe: 14° | 27° Maputo: 17° | 27° Windhoek: 10° | 24° Cape Town: 14° | 20° Durban: 18° | 22° Johannesburg: 13° | 21° Dar es Salaam: 22° | 31° Lusaka: 16° | 27° Harare: 13° | 25° Currency: GBP to NAD 23.41 | EUR to NAD 19.97 | CNY to NAD 2.54 | USD to NAD 18.42 | DZD to NAD 0.14 | AOA to NAD 0.02 | BWP to NAD 1.31 | EGP to NAD 0.38 | KES to NAD 0.14 | NGN to NAD 0.01 | ZMW to NAD 0.69 | ZWL to NAD 0.04 | BRL to NAD 3.57 | RUB to NAD 0.2 | INR to NAD 0.22 | USD to DZD 134.39 | USD to AOA 848.36 | USD to BWP 13.6 | USD to EGP 47.1 | USD to KES 132.23 | USD to NGN 1474 | USD to ZAR 18.42 | USD to ZMW 26.59 | USD to ZWL 321 | Stock Exchange: JSE All Share Index 79150.84 Up +0.25% | Namibian Stock Exchange (NSX) Overall Index 1748.47 Down -0.71% | Casablanca Stock Exchange (CSE) MASI 13370.7 Down -0.04% | Egyptian Exchange (EGX) 30 Index 27205.14 Down -0.08% | Botswana Stock Exchange (BSE) DCI 9141.35 Same 0 | NSX: MTC 7.75 SAME | Anirep 8.99 SAME | Capricorn Investment group 17.34 SAME | FirstRand Namibia Ltd 49 DOWN 0.50% | Letshego Holdings (Namibia) Ltd 4.1 UP 2.50% | Namibia Asset Management Ltd 0.7 SAME | Namibia Breweries Ltd 31.49 UP 0.03% | Nictus Holdings - Nam 2.22 SAME | Oryx Properties Ltd 12.1 UP 1.70% | Paratus Namibia Holdings 11.99 SAME | SBN Holdings 8.45 SAME | Trustco Group Holdings Ltd 0.48 SAME | B2Gold Corporation 47.34 DOWN 1.50% | Local Index closed 677.62 UP 0.12% | Overall Index closed 1534.6 DOWN 0.05% | Osino Resources Corp 19.47 DOWN 2.41% | Commodities: Gold US$ 2 332.53/OZ UP +0.02% | Copper US$ 4.73/lb DOWN -0.0036 | Zinc US$ 3 077.30/T UP 0.19% | Brent Crude Oil US$ 82.26/BBP UP +0.72% | Platinum US$ 1 026.52/OZ UP +0.67% Sport results: SerieA: Cagliari 2 vs 3 Fiorentina Weather: Katima Mulilo: 12° | 30° Rundu: 11° | 30° Eenhana: 11° | 31° Oshakati: 12° | 30° Ruacana: 13° | 31° Tsumeb: 14° | 28° Otjiwarongo: 12° | 27° Omaruru: 11° | 28° Windhoek: 10° | 24° Gobabis: 12° | 25° Henties Bay: 15° | 29° Wind speed: 25km/h, Wind direction: SE, Low tide: 09:43, High tide: 03:39, Low Tide: 21:53, High tide: 16:11 Swakopmund: 16° | 21° Wind speed: 22km/h, Wind direction: S, Low tide: 09:41, High tide: 03:37, Low Tide: 21:51, High tide: 16:09 Walvis Bay: 19° | 28° Wind speed: 26km/h, Wind direction: S, Low tide: 09:41, High tide: 03:36, Low Tide: 21:51, High tide: 16:08 Rehoboth: 11° | 26° Mariental: 14° | 27° Keetmanshoop: 15° | 27° Aranos: 13° | 27° Lüderitz: 15° | 25° Ariamsvlei: 16° | 29° Oranjemund: 10° | 20° Luanda: 24° | 26° Gaborone: 12° | 25° Lubumbashi: 13° | 28° Mbabane: 12° | 22° Maseru: 7° | 21° Antananarivo: 10° | 20° Lilongwe: 14° | 27° Maputo: 17° | 27° Windhoek: 10° | 24° Cape Town: 14° | 20° Durban: 18° | 22° Johannesburg: 13° | 21° Dar es Salaam: 22° | 31° Lusaka: 16° | 27° Harare: 13° | 25° Economic Indicators: Currency: GBP to NAD 23.41 | EUR to NAD 19.97 | CNY to NAD 2.54 | USD to NAD 18.42 | DZD to NAD 0.14 | AOA to NAD 0.02 | BWP to NAD 1.31 | EGP to NAD 0.38 | KES to NAD 0.14 | NGN to NAD 0.01 | ZMW to NAD 0.69 | ZWL to NAD 0.04 | BRL to NAD 3.57 | RUB to NAD 0.2 | INR to NAD 0.22 | USD to DZD 134.39 | USD to AOA 848.36 | USD to BWP 13.6 | USD to EGP 47.1 | USD to KES 132.23 | USD to NGN 1474 | USD to ZAR 18.42 | USD to ZMW 26.59 | USD to ZWL 321 | Stock Exchange: JSE All Share Index 79150.84 Up +0.25% | Namibian Stock Exchange (NSX) Overall Index 1748.47 Down -0.71% | Casablanca Stock Exchange (CSE) MASI 13370.7 Down -0.04% | Egyptian Exchange (EGX) 30 Index 27205.14 Down -0.08% | Botswana Stock Exchange (BSE) DCI 9141.35 Same 0 | NSX: MTC 7.75 SAME | Anirep 8.99 SAME | Capricorn Investment group 17.34 SAME | FirstRand Namibia Ltd 49 DOWN 0.50% | Letshego Holdings (Namibia) Ltd 4.1 UP 2.50% | Namibia Asset Management Ltd 0.7 SAME | Namibia Breweries Ltd 31.49 UP 0.03% | Nictus Holdings - Nam 2.22 SAME | Oryx Properties Ltd 12.1 UP 1.70% | Paratus Namibia Holdings 11.99 SAME | SBN Holdings 8.45 SAME | Trustco Group Holdings Ltd 0.48 SAME | B2Gold Corporation 47.34 DOWN 1.50% | Local Index closed 677.62 UP 0.12% | Overall Index closed 1534.6 DOWN 0.05% | Osino Resources Corp 19.47 DOWN 2.41% | Commodities: Gold US$ 2 332.53/OZ UP +0.02% | Copper US$ 4.73/lb DOWN -0.0036 | Zinc US$ 3 077.30/T UP 0.19% | Brent Crude Oil US$ 82.26/BBP UP +0.72% | Platinum US$ 1 026.52/OZ UP +0.67%