Wie KI nach unseren Daten crawlt
DAME 2023 geht an crossmediale Datenanalyse „Der Rohstoff der KI sind wir“.
Am Ende strahlten Katharina Brunner, Elisa Harlan, Helene Reiner und Lenja Hülsmann um die Wette. Unter dem Peng der Glitzerkanone nahmen sie ihre Auszeichnungen für den Datenschutz Medienpreis (DAME) 2023 auf der Abendgala der diesjährigen BvD-Verbandstage entgegen: Brunner und Harlan für ihre crossmediale Datenanalyse „Der Rohstoff der KI sind wir“, Reiner und Hülsmann für den Selbstversuch „Enkeltrick 2.0 – Betrug mit KI“. Als „Bester Beitrag Print“ zeichnete die Jury den Artikel „Im Spinnennetz“ von Holger Fröhlich aus. Den ebenfalls mit 1.500 Euro dotierten Preis nahm stellvertretend für den Autor, der nicht bei der Preisverleihung dabei sein konnte, Stiftung-Datenschutz-Vorstand Frederick Richter entgegen.
Dass „Der Rohstoff der KI sind wir“ den mit 3.000 Euro dotierten Hauptpreis abräumte, hat die beiden jungen Frauen begeistert, nicht zuletzt deshalb weil sie für die Recherche „hart gearbeitet“ hatten, wie Elisa Harlan bei der Übergabe der transparenten Dame sagte. Und weil sie mit Helene Reiner, Lenja Hülsmann und deren Team „eine starke Konkurrenz“ hatten.
Beide Teams kommen vom Nachrichtenkanal BR24 des Bayerischen Rundfunks: „Der Rohstoff der KI sind wir“ entstand als multimediale Reportage, der „Enkeltrick 2.0“ für die „News-WG by BR24“ auf Instagram.
Gewinner DAME 2023: „Der Rohstoff der KI sind wir“
In ihrer Reportage nehmen Katharina Brunner und Elisa Harlan ein Foto von Elisa zum Anlass, die Trainingsdaten für Künstliche Intelligenz (KI) genauer zu betrachten. Die Analyse zeigt: Viele der Bilder und Texte, die Crawler im Internet einfangen, enthalten sensible Daten, darunter Nacktbilder, Bankdaten und Informationen darüber, wo ein Foto aufgenommen wurde.
Grundlage für ihre Recherche war ein öffentlich zugänglicher KI-Trainingssatz des gemeinnützigen Vereins Laion. Das Unterverzeichnis Laion5B besteht aus mehr als 5,8 Milliarden Verweisen auf Bilder und ihre Beschreibungen, die der gemeinnützige Verein mit Sitz in Hamburg und Mitgliedern weltweit aus bereits existierenden Datensätzen extrahieren. Ziel sei es, dass alle Menschen Zugang zu KI haben, „und nicht abhängig sind von den Diensten und Angeboten großer Unternehmen“, zitiert der Beitrag Laion-Gründer Christoph Schuhmann.
Für die Reportage untersuchten Brunner und Harlan den deutschsprachigen Teil von Laion5B mit über 150 Millionen Bildverweisen. In den Datensätzen finden sich viele Informationen, mit denen sich Personen leicht identifizieren lassen: Gesichter und Namen in Bildunterschriften, Adressen für Orte in den Exif-Dateien der Fotos, E-Mails, Kontonummern und Kombinationen davon, aber auch Gewaltdarstellungen und Pornografie.
https://interaktiv.br.de/ki-trainingsdaten/
Das sagt Jury-Mitglied Barbara Thiel über den Gewinner-Beitrag:
„Der Beitrag weckt beklemmende Gefühle. Er zeigt auf, dass letztlich jedes Bild und alle öffentlichen Daten zweckentfremdet und für das Traings von KI missbraucht werden können. In dem der Beitrag eine Vielzahl unterschiedlicher Darstellungselemente verwendet, ist er sehr anschaulich und lehrreich zugleich. Der Bezug zur KI-Verordnung und auch der Versuch, ethische Standards für KI zu etablieren orientiert sich zudem an aktuellen politischen Überlegungen und ist damit auf der Höhe der Zeit.“
Bester Beitrag Jugend 2023: „Enkeltrick 2.0 – Betrug mit KI“
Im Selbstversuch „Enkeltrick 2.0“ lässt das Team um Helene Reiner aus Ton-Schnipseln von Helene per KI eine gleichklingende Stimme generieren. Mit gefakter Stimme ruft Lenja bei ihrer Mutter an und lässt ihre KI-Stimme bitten, Geld auf ein unbekanntes Konto zu überweisen. Die Mutter erkennt nicht, dass es sich um eine KI-generierte Stimme handelt.
Auf die Idee des Selbstversuchs kamen Hülsmann und Reiner über Berichte aus den USA, wo Betrüger bereits die Masche anwenden. Nach der Veröffentlichung auf Instagram erhielten sie viele Kommentare auf das Video, viele teilten den Beitrag. „Am Ende wollten wir uns damit an alle Generationen wenden“, sagte Hülsmann bei der Preisverleihung, „an Junge, weil ihre Stimmen einfach imitiert werden können und an Ältere, damit sie nicht auf den Betrug hereinfallen“.
Das sagt Jury-Mitglied Tobias Meisel über den „Besten Beitrag Jugend“:
„’Enkeltrick 2.0’ ist ein alarmierendes Beispiel wie KI für betrügerische Zwecke missbraucht werden kann. Es zeigt, dass wir vorsichtig sein müssen, weil Betrüger mithilfe sogenannter Stimmgeneratoren uns einfach überlisten und uns sehr großen Schaden zufügen können. Der Beitrag nennt aber vor allem einfache und sehr handhabbare Schutzvorkehrungen. Letztendlich ist es auch ein Weckruf, immer auf der Hut zu sein.“
Sonderpreis Bester Beitrag Print 2023: „Im Spinnennetz“
In seinem Text „Im Spinnennetz“ für das Wirtschaftsmagazin „brand eins“ beschäftigt sich Holger Fröhlich mit dem „Schattenmarkt der Online-Werbung“ und den Praktiken der AdTech-Unternehmen, einem Billionen-Markt. Die Werbeunternehmen versprechen, Konsumenten gezielter anzusprechen als mit klassischer kontextbasierter Werbung. Dazu werten sie Daten aus, die die Nutzer bei vermeintlich kostenlosen Diensten wie Social Media hinterlassen.
In seinem Bericht skizziert Fröhlich, wie es dazu kommen konnte, dass die Daten der Nutzer unkontrolliert durchs Netz zu Programmatic Advertising-Firmen vagabundieren. Er beschreibt, wie das „Real Time Bidding“ in der Web-Werbung abläuft und untersucht, wer bei dem Markt den Ton angibt.
Kritik übt er unter anderem an den Datenschutzaufsichten, die die Regelbrüche bei Cookies, die für den Online-Werbemarkt unerlässlich sind, nicht ausreichend ahndeten.
Der BvD verlieh die DAME zum mittlerweile siebten Mal. Die eingereichten Beiträge zeigten eindringlich die Chancen und Risiken der digitalen Transformation, sagte Dr. Christoph Bausewein, Geschäftsführer des gemeinnützigen Unternehmens privacy4people, das für den BvD die Preise vergibt. Und sie zeigten, wie vor allem junge Autorinnen und Autoren das Thema Datenschutz verständlich und eindrücklich für eine junge Zielgruppe aufbereiten.
Das sagt Jury-Mitglied Frederick Richter über den Sonderpreis „Bester Beitrag Print“:
„’Im Spinnennetz’ erklärt ein sehr komplexes Thema anschaulich, es macht sogar Spaß, sich in die Materie der Online-Werbung einzulesen. Der Text ist so geschrieben, dass man ihn gut lesen kann und die komplexen Zusammenhänge versteht. Das ist sehr lobenswert.“
Der BvD verlieh den Datenschutz Medienpreis zum mittlerweile siebten Mal. Die eingereichten Beiträge zeigten eindringlich die Chancen und Risiken der digitalen Transformation, sagte Dr. Christoph Bausewein, Geschäftsführer des gemeinnützigen Unternehmens privacy4people, das für den BvD die Preise vergibt. Und sie zeigten, wie vor allem junge Autorinnen und Autoren das Thema Datenschutz verständlich und anschaulich für eine junge Zielgruppe aufbereiteten.
Der Berufsverband der Datenschutzbeauftragten Deutschlands (BvD) e.V. hatte den Datenschutz Medienpreis 2017 initiiert, seit 2020 führt ihn die gemeinnützigen GmbH privacy4people fort. Seit November 2018 wird die Auszeichnung von der DATEV-Stiftung Zukunft gefördert. Der Deutsche Spendenrat stiftete in diesem Jahr den Sonderpreis. Kooperationspartner ist die EU-Initiative klicksafe für mehr Sicherheit im Netz.
Die Ausschreibung zum Datenschutz Medienpreis 2024 startet in Kürze. Interessierte finden die Bewerbungsunterlagen auf bvdnet.de/datenschutzmedienpreis/.
Die Bewerbungsfrist endet am 13. Dezember 2024. Alle Beiträge können dort ebenfalls angesehen werden.
Weitere Informationen finden Sie unter: www.datenschutzmedienpreis.de
Der Jury für den Datenschutz Medienpreis 2023 gehörten an:
Stefanie Rack Päd. Referentin klicksafe, Medienanstalt Rheinland-Pfalz
Eric Hohenadel klicksafe-Jugendjuror
Frederick Richter Vorstand Stiftung Datenschutz
Lars Kolan Geschäftsstellenleiter Deutscher Spendenrat
Dr. Christoph Bausewein Vorstandsmitglied des BvD und Geschäftsführer von privacy4people
Tobias Meisel Referent der DATEV-Stiftung Zukunft
Barbara Thiel Landesbeauftragte für den Datenschutz Niedersachsen a. D.
Marion Zinkeler Vorständin Verbraucherzentrale Bayern
