Verbraucherzentrale: Bundesregierung setzt Empfehlungen von Datenethikkommission nicht ausreichend um

Verbraucherzentrale: Bundesregierung setzt Empfehlungen von Datenethikkommission nicht ausreichend um --Abbildung: (Pixabay License)/ pixabay.com

"In der Gesamtschau bleiben Bundesregierung und EU-Kommission mit ihren aktuellen Vorhaben weiter hinter den Empfehlungen der DEK zurück. Vieles ist zu unkonkret und unverbindlich", sagt Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (vzbv).

"Die künftige Bundesregierung muss sich zum Schutz der Nutzerinnen und Nutzer vor Diskriminierung durch KI-Systeme bekennen. Sie muss sich für Nachvollziehbarkeit und unabhängige Kontrollen von KI-Systemen einsetzen und dies mit Nachdruck auch auf europäischer Ebene vertreten. Nur so können das Vertrauen und die Akzeptanz für den Einsatz dieser Technologien bei den Verbraucherinnen und Verbrauchern gestärkt werden." so die Kritik weiter.

Dabei gibt es Baustellen bei den Bereichen Transparenz und Risikofolgenabschätzung von KI-Systemen. Auch gibt es Forderungen von unabhängigen Kontrollen von kritischen KI-Systemen, die zum Beispiel zur Profilbildung und für Scoring genutzt werden. Daher wird auch ein Kompetenzzentrum Algorithmische Systeme gefordert, welches Aufsichtsbehörden durch technischen Sachverstand bei der Kontrolle algorithmischer Systeme unterstützen könnten.

Menschen vor Diskriminierung schützen

Auch muss die EU die Menschen effektiv vor Diskriminierung und ungerechter Behandlung schützt. Zuletzt ist bei Facebook Diskriminierung und ungerechte Behandlung durch die KI bekannt geworden.

Dabei sind tausende interne Dokumente und Chats zwischen Mitarbeitern und Untersuchungen von Facebook bekannt geworden, die die Whistleblowerin Frances Haugen dem US-Kongress zur Verfügung gestellt hat. Die Datenspezialistin Haugen arbeitete 2019 bis 2021 als Produktmanagerin bei Facebook im Civic Integrity Team, das Strategien entwickeln sollte, um die Nutzer vor Falschinformationen vor der US-Wahl zu schützen.

Transparenz und Nachvollziehbarkeit fehlt

Die Verbraucherzentrale untersucht daher nun regelmäßig, ob und wie Bundesregierung und EU-Kommission die Empfehlungen der DEK umsetzen. Im Oktober 2020 erschien die erste, ernüchternde Jahresbilanz. Auch ein Jahr später fällt das Urteil kritisch aus. Die Bundesregierung hat die DEK im Juli 2018 eingesetzt. Als Mitglieder wurden neben dem vzbv Vertreter der Wirtschaft, Wissenschaft und Zivilgesellschaft benannt.

Datenschutz ist durch die DS-GVO dauerhaft gestiegen

So geben 42 Prozent der Unternehmen an, dass sie seit der DS-GVO-Einführung mehr Aufwand haben, und dieser auch künftig bestehen bleiben wird. Ein weiteres Drittel geht sogar davon aus, dass der Aufwand weiter steigen wird. Nur 19 Prozent erwarten, dass ihr gestiegener Aufwand langsam wieder sinkt, 6 Prozent haben inzwischen keinen erhöhten Aufwand mehr.

Zugleich hat mit zwei Drittel der Unternehmen die große Mehrheit die DS-GVO vollständig oder größtenteils umgesetzt, aber 29 Prozent haben die Umsetzung erst teilweise geschafft und gerade einmal 5 Prozent stehen damit noch ganz am Anfang. Vor allem kleinere Unternehmen kommen nur noch langsam voran. So geben unter den Großunternehmen mit 500 oder mehr Beschäftigten nahezu unverändert nur 3 Prozent.

Die Unternehmen, die die DS-GVO bislang noch nicht vollständig umgesetzt haben, nennen als Hauptgründe dafür, dass Corona andere Prioritäten erzwungen habe, dieses waren immerhin 82 Prozent, aber fast ebenso viele beklagen, dass sich die DS-GVO gar nicht vollständig umsetzen lasse mit 77 Prozent. 61 Prozent fehlt es zudem an den notwendigen personellen Ressourcen. Rund jedes zweite Unternehmen beklagt fortlaufende Anpassungen wegen neuer Urteile und Empfehlungen der Aufsicht mit 47 Prozent und notwendige neue Prüfungen von Datentransfers in Länder außerhalb der EU mit 45 Prozent.

Aufsicht liefert zu wenig brauchbare Unterstützung

Auch bei konkreten Fragen erhält nur eine Minderheit Unterstützung durch die Aufsicht. So hat ein Viertel dort bereits nach Hilfestellungen für die Umsetzung von Datenschutzvorgaben angefragt, aber keine Antwort erhalten. Ähnlich viele Fälle gibt es mit 28 Prozent, haben zwar Antwort bekommen, diese habe aber nicht geholfen. Nur 29 Prozent geben an, auf ihre Frage hin auch Hilfestellung erhalten zu haben.

Umfrage Datenschutz: Datenmissbrauch hat weiter zugenommen

Zuletzt hatte das Hacker Netzwerk namens Pegasus gezielt jagt auf Journalisten und Politiker durch Spionage-Software gemacht.

Daher bleibt die Sicherheitslage im Internet angespannt, wie der Branchenverband Bitkom berichtet. Immerhin sind eine zunehmende Anzahl von Menschen unmittelbar von kriminellen Vorfällen betroffen. Das zeigt der Bericht "Vertrauen und Sicherheit in der digitalen Welt", welchen der Branchenverband veröffentlicht hatte.