Wird KI einen Richter brauchen?

15. Jänner 2024, 13:00

Ein amerikanischer Journalist stellt der KI-App ChatGPT eine Frage aus dem Kreuzworträtsel der New York Times. "Welcher Tiername mit vier Buchstaben ergibt, von hinten nach vorne gelesen, eine Pflanze?" Clevere Frage, kommentiert der Chatbot freundlich. Macht sich ans Werk - und kommt beim dritten Versuch auf "Taco" und "Coat" (Mantel). Der Dialog zeigt, was vielen so unheimlich vorkommt. Die KI hat anscheinend die Frage sehr gut verstanden - nur die Antwort ist auf alle erdenklichen Arten Unsinn. Wie geht das mit dem zusammen, was wir Intelligenz nennen?

Generative Künstliche Intelligenz - wie etwa die Anwendung ChatGPT - basiert auf so genannten Large Language Models oder LLM. Fragt man sie etwas, liefert sie nicht die "richtige Antwort", sondern eher die wahrscheinlichste Wortfolge aufgrund seiner Analyse einer unüberschaubaren Menge an Trainingsdaten, die sie zuvor eingelesen hat. Wie das System zu einer konkreten Entscheidung gekommen ist, ist oftmals nicht nachvollziehbar - eine echte "Black Box".

Eine Technologie, die ihre Schöpfer:innen selbst nicht mehr vollständig durchschauen - und für die schon jetzt alle möglichen Anwendungen kursieren, von der Rechtsprechung über Informationsdienstleistungen bis zur Medizin: Das Gefahrenpotenzial ist offensichtlich, der Trend aber scheinbar nicht mehr aufzuhalten. Die EU-Kommission will nun einerseits auf diesen Zug aufspringen und KI-Forschung sowie -Entwicklung in Europa forcieren. Andererseits soll ein gesetzlicher Rahmen geschaffen werden - das erste KI-Regelwerk weltweit überhaupt, schreiben EU-Kommission und -Parlament. Im Dezember hat auch der Rat einer Vorlage zum "AI Act" zugestimmt. Die Verwendung von Künstlicher Intelligenz soll transparent werden, Risiken für Mensch und Gesellschaft durch Einschränkungen verhindert.

Die EU wählt auf eine rasante und bedenkliche Technologieentwicklung also wieder die "traditionell regulatorische Reaktion": So formulierte es der Jurist Nikolaus Forgó vergangenes Jahr als Gast im Forschungsausschuss des Nationalrats. Der auf IT-Recht spezialisierte Universitätsprofessor am Wiener Juridicum sprach von einer "legislativen Überschuldung" angesichts einer Gesetzesinitiative ohne klar abgegrenzten Anwendungsbereich und mit fraglicher Durchsetzbarkeit.

Kann Künstliche Intelligenz in ihrer derzeitigen und möglichen künftigen Form einen Platz "zum Wohl der Gesellschaft" finden, wie die EU-Kommission schreibt? Sind EU-Richtlinien das geeignete Instrument dazu, und lässt sich derzeit überhaupt abschätzen, wie sie dafür aussehen müssten? Welche Rechtsbereiche spielen bei KI eine Rolle? Kann Europa sich mit seinem Rechtsverständnis in der weltweiten Technologieentwicklung durchsetzen? Und wie verändert die Digitalisierung selbst unseren Zugang zu Recht, Gerechtigkeit und Sicherheit? Nikolaus Forgó ist zu Gast bei Xaver Forthuber. Reden Sie mit: Rufen Sie in der Sendung an unter 0800 22 69 79 oder schreiben Sie ein E-Mail an punkteins(at)orf.at.

Sendereihe

• Punkt eins