Kann man KI in der Forschung vertrauen?

19. September 2024, 13:00

Sie schreibt Texte, führt Gespräche, übersetzt Sprache und steuert Fahrzeuge; sie erkennt Gesichter, Hautkrebs und Kreditrisiken und unterstützt die Personalauswahl: die Künstliche Intelligenz durchdringt unser Leben immer mehr und macht auch vor der Wissenschaft nicht Halt.

Datenmengen, die der Mensch nicht erfassen kann, Modelle, die zu komplex sind, neue Horizonte durch neue Hypothesen und neues Experiment-Design - vor allem das Deep Learning ("Tiefes Lernen") gilt als vielversprechend. Deep Learning meint Computerprogramme, die mittels künstlicher neuronaler Netze dem menschlichen Gehirn nachgebildet sind und aus Daten lernen und Muster erkennen können.

"Die Leistungsfähigkeit von Computern hat sich in den vergangenen 20 Jahren massiv gesteigert. Dadurch entstand mit Deep Learning ein sehr leistungsstarkes und effektives Werkzeug", sagt Isabell Piantschitsch, Physikerin und Philosophin an der Universität Graz. Ein Werkzeug, das große ethische, rechtliche und gesellschaftliche Fragen aufwirft, denn wie diese Form der KI zu ihren Ergebnissen kommt, ist häufig unklar. Die Resultate sind nicht nachvollziehbar, die Entscheidung nicht erklärbar, das "Warum" bleibt unbeantwortet. Im Gegensatz zu den klassischen wissenschaftlichen Methoden des Erkenntnisgewinns - Experiment, Beobachtung - die reproduzierbar sind, entzieht sich Deep Learning der Kontrolle.

"Es funktioniert", sagt Isabell Piantschitsch, "aber warum? Und wie? Die hohe Effizienz von Deep Learning ist mathematisch bisher nicht vollständig verstanden. Man könnte sagen: Die KI funktioniert zu gut, um wahr zu sein. Und wann funktioniert sie dann nicht, wann macht der Algorithmus Fehler? Was mache ich also mit Erkenntnissen, die auf diesem Wege gewonnen wurden? Darf man ein Deep-Learning-generiertes-Ergebnis verwenden, auch wenn man es nicht in allen Details verstehen kann, weil die KI nicht erklären kann, wie sie zu dem Ergebnis kommt?"

In ihrem Forschungsalltag, der Sonnenphysik, stellte die FWF Erwin-Schrödinger-Stipendiatin fest, dass es an einer kritischen Auseinandersetzung mit KI als Forschungsmethode fehlt. Weder gibt es einen allgemeinen Konsens darüber, wie mit derartig erzeugten Daten umzugehen ist, noch ist geklärt, wie auf die großen ethischen und rechtlichen Fragen geantwortet werden kann.

Gemeinsam mit Philipp Berghofer vom Institut für Philosophie hat Isabell Piantschitsch ein neues Forschungsprojekt begonnen: "DeLPhi - Deep Learning in Naturwissenschaften und Philosophie" (vom Land Steiermark gefördert). Diese Woche Montag bis Mittwoch fand das Projekt mit einer international und interdisziplinär besetzten Konferenz an der Universität Graz seinen bisherigen Höhepunkt.

Isabell Piantschitsch und Philipp Berghofer sind am Tag nach der dreitägigen Konferenz Gäste in Punkt eins bei Barbara Zeithammer und geben einen Überblick über den Einsatz von KI in der Forschung, die Herausforderungen des Fortschritts, dem wir gesellschaftlich und rechtlich hinterherhinken und die Notwendigkeit der philosophischen Perspektive auf die naturwissenschaftliche Praxis und die Auseinandersetzung mit diesen Fragen.

Welche Kriterien müssen KI-Anwendungen erfüllen, um als wissenschaftliche Methode geeignet zu sein? Wann kann man von neuen Erkenntnissen sprechen und wie verändern KI-Systeme unser Verständnis von Wahrheit, Wirklichkeit und Wissen? Wenn derartige Systeme über Personalfragen, Medizinisches oder die Kreditvergabe mitentscheiden - sind sie uns als Gesellschaft nicht zwangsläufig Transparenz über den Entscheidungsprozess schuldig? Was bedeutet es, zu verstehen- und bewältigen wir das Leben nicht auch sehr gut, ohne es auch nur annähernd zu verstehen?

Was denken Sie darüber? Rufen Sie, diskutieren Sie mit, stellen Sie Ihre Fragen acunter 0800 22 69 79 oder schreiben Sie ein E-Mail an punkteins(at)orf.at

Service

DELPHI Konferenz
Forscher:innen schreiben
science.orf.at

Sendereihe

• Punkt eins

Gestaltung

• Barbara Zeithammer