Richtig Gute Regulierung

12. August 2024, 02:00

Der AI Act schafft ein zielgerichtetes Regulatorium für Künstliche Intelligenz, das sich auf KI-Systeme erstreckt, die in einem anpassungsfähigen Begriff samt Annex für konkretere technologische Umschreibungen festgehalten werden. Dabei fallen nun auch generative KI-Modelle, also inhaltserstellende Systeme wie Gemini, Midjourney oder ChatGPT, darunter. Solche generativen Systeme werden als sogenannte “General Purpose Models“ erfasst und sollen noch genauer im Fall von systematischen Risiken kontrolliert und unter die Lupe genommen werden.

Risiko

Der AI-Act wird als risikobasierte Regulierung bezeichnet: "Die Restriktionen, die an die Anwendung und das Erstellen von KI-Systemen geknüpft sind, sind in einem Risikosystem abgestuft. Das heißt, je mehr Risiko einer Anwendung innewohnt, desto mehr Restriktionen ergeben sich durch den AI-Act,“ meint die Mathematikerin Paola Lopez. Dabei gibt es eben nicht nur das systematische Risiko, das für die Klassifizierung für generative KI-Systeme herangezogen wird, sondern der Risikobegriff umfasst auch unzulässiges Risiko wie zum Beispiel KI-basierte “Social Scoring Systeme“, Hochrisikosysteme wie zum Beispiel den Einsatz von KI am Arbeitsplatz, oder geringes Risiko, für welches Transparenz-Vorschriften gelten. Angemerkt sei an dieser Stelle aber auch, dass von gewissen risikoreichen Anwendungsfällen vor allem öffentliche Stellen ausgenommen sind und damit solchen Restriktionen nicht unterliegen, betont Paola Lopez.

Haftung

Andererseits ist im Zusammenhang mit Künstlicher Intelligenz die Haftungsfrage von zentraler Bedeutung, denn wer einen Geschädigten schadloszustellen hat, ist gerade bei unerprobten Anwendungen und unreifen und neuen Technologien essentiell. Also zum Beispiel, wenn eine Person falsch kategorisiert wird und deswegen eine Förderung nicht erhält, ein autonom fahrendes Auto bei einem Unfall einen Baum beschädigt, oder ein Mitarbeiter automatisch zu Unrecht gefeuert wird. Markus Beckedahl, Co-Gründer der Digital- und Gesellschaftskonferenz Re:Publica, meint in Bezug auf KI-verursachte Fehler und Fehleinschätzungen, dass gegenwärtig die Beweislast meist den Verbraucher trifft, dabei wäre es wichtig, ein verbraucherzentrierter Ansatz verfolgt würde, also die Annahme umzudrehen und die AI-Unternehmen und Hersteller sich freibeweisen zu lassen. Neben dem AI Act hat die EU auch eine erste Regelung entworfen, die Haftungsfragen in der AI Liability Directive festhält.

Meinungsäußerungsfreiheit und Plattformen

Werden auf Online-Plattformen wie Facebook, LinkedIn, X, oder YouTube Inhalte geteilt, die KI generiert hat, wie zum Beispiel politische Desinformation, greift das Gesetz für Digitale Dienste, oder auf Englisch “Digital Services Act“, meint Rita Gsenger, die zu dieser Europäischen Regulierung am Weizenbaum Institut in Berlin forscht. Außerdem betont Rita Gsenger das Risiko, das AI generierte Inhalte auf Plattformen entfalten können, wie zum Beispiel KI-Videos von Protesten, die so nie stattgefunden haben, Aussagen von Politikern, die nie gesagt wurden, oder die Verbreitung von Desinformation streuenden Influencern. Neben dem Digital Services Act weist die Wissenschaftlerin noch auf den “Code of Practice on Disinformation“ bei dem es sich um einen Verhaltenskodex zur Bekämpfung von Desinformation handelt, dieser ergänze nämlich das Digitale-Dienste-Gesetz, so Rita Gsenger.

Datenschutz und Künstliche Intelligenz

Neben all diesen neuen regulativen Vorgaben, die die EU vorlegt, darf die Datenschutzgrundverordnung oder kurz DSGVO nicht vergessen werden, bildet sie doch das Fundament, auf dem die nachfolgenden Regulierungen fußen. Die DSGVO ist den meisten Menschen als der Grund für die viel verhassten Cookie-Banners und sogenannten Consent Forms - also Einwilligungsbestätigungen - bekannt. Aber auch die Unterscheidung zwischen personenbezogenen Daten geht auf die DSGVO zurück, das Recht auf Vergessenwerden (zum Beispiel die Löschung von Fotos oder Interneteinträgen oder Datenbanken), oder wie unlängst in einige Bedenken über pauschale Einwilligungen von Meta-Nutzern (also Facebooks und Instagrams Mutterkonzern) zur Verwendung all ihrer Daten zu Trainingszwecken von Metas eigener KI.

Alles wird gut, europäisch und reguliert, oder doch nicht?

Wie diese Beispiele zeigen, kommen also im Zuge der Regulierung von KI einige rechtliche Bereiche zusammen. Diese Querschnittsmaterie zwischen Datenschutzrecht, Haftungsfragen, Meinungsäußerungsfreiheit und komplett eigenem regulativen Ansatz im AI Act, bedarf aber nicht nur vielseitig geschulten Experten auf Seiten der Zivilgesellschaft, Wissenschaft, AI-Herstellern und BereitstellerInnen, sondern auch ein starkes Team auf Seiten der Regulierer, denn „Die EU ist immer nur so gut, wie ihre Mitgliedstaaten und ihre Parlamente gewillt sind, in die richtige Richtung zu laufen. Und wir haben es dann häufig mit irgendwelchen Formelkompromissen zu tun“ meint Markus Beckedahl.

So sollten wir also auch unsere eigene Vorfreude zügeln und nicht sofort die Gretchenfrage nach der KI-Regulierung als gelöst ansehen. Denn letztlich hängt viel in der Effizienz all dieser Regulierungen rund um Künstliche Intelligenz doch von der Umsetzung, Auslegung und Vollziehung dieser Gesetze ab, und dabei ist auch die Besetzung der Behörden, die Förderung und Ausstattung dieser zentral, um eine starke und greifende Antwort auf den AI-Hype aus anderen Teilen der Welt wie den USA oder China zu schaffen. Also wird sich die Qualität des EU-Export-Produkts der Digitalregulierung erst mit Zeitablauf zeigen, ihre Avantgarde Position sei der Europäischen AI Regularien aber nicht abgesprochen und eine zielsichere und genaue Umsetzung mit Freude erwartet.

Text: Marie-Therese Sekwenz

Service

EU-Kommission - Code of Practice on Disinformation
EU-Kommission - Digital Service Act
re:publica
EU-Kommission - Presseerklärung zu Online-Wahlbeeinflussung
Europäische Union - DSGVO
Weizenbaum Institut - Lisa Gsenger
Uni Bremen - Paola Lopez