Der Mensch und KI als vertrauenswürdiges Team

Markus Manz vom Software Competence Center Hagenberg, das zur Johannes Kepler Universität gehört und 1999 gegründet wurde, gab am Kommunalwirtschaftsforum 2024 in seiner Keynote mit dem Titel „Mensch und KI im Team“ Einblicke in die aktuelle Forschungstätigkeit rund um Künstliche Intelligenz und deren generelle Entwicklung. 130 Mitarbeiterinnen und Mitarbeiter beschäftigen sich in Hagenberg mit den Themen Daten, Software, KI, Quantencomputing sowie Neuro-Morphing Computing.

KI als Ressourcenfresser

Gleich zu Beginn benannte Manz ein großes Problem: Künstliche Intelligenz ist irrsinnig ressourcenfressend, ein großer Energieverbraucher. Mit einem Beispiel ist dieser Ansatz auch leicht erklärt: denn der Mensch, der ein Glas sieht und es nehmen will, geht hin und nimmt es. Die KI rechnet sich zuerst den ganzen Raum aus, und geht erst dann zum Glas.

Neuro Morphing Computing bietet neue Möglichkeiten, die Zauberformel lautet „Brain inspired“ auf die KI zu schauen. Und so nahm Markus Manz die Zuhörer auf eine Reise mit, die zeigte, wie Mensch und KI künftig im Team zusammenarbeiten werden. In einem kurzen historischen Rückblick ging Manz der Frage nach, warum KI eigentlich so funktioniert, wie sie es heute mit rasanten Fortschritten tut. Die Entwicklung mache vielen Menschen Angst, denn die Dinge, die sie umgeben, werden immer intelligenter.  

Smarte Lösungen für alle Dinge

Sessel werden smarter, sie werden künftig Sensoriken haben, die den Menschen sagen, wie sie sitzen, oder die nächste Pause ankündigen. Wie es dazu kommt: „Man kann Edge Computing verwenden, das heißt man hat ganz kleine Recheneinheiten, die irrsinnig hochleistungsfähig sind. Und vor allem in letzter Zeit sind die High Performance Computer mit GPU, also Cloud Computing, extrem stark geworden und man kann hohe Rechnerleistung in Echtzeit durchführen“, erklärt Manz.

So werden „dumme Werkzeuge“ immer smarter. Aber sie bleiben einstweilen noch Assistenzsysteme. Das Beispiel eines Assistenzsystemes, für das es auch Auszeichnungen gab, ist ein intelligenter Rückspiegel, der besser ist als das menschliche Auge. Dieser Spiegel misst auch Bewegungsvektoren. Das ist eine wesentliche Zusatzinformation, die Menschen in dieser Form nicht verarbeiten können und die bei wichtigen Entscheidungen unterstützen kann.

Kollektive Intelligenz als Ziel

Die Entwicklung gehe laut Manz Richtung kollektive Intelligenz. Denn jeder hat seine Stärken und Schwächen. „Wir haben Stärken im perzeptiv motorischen Umfeld. Wir können eine Katze wunderbar streicheln, fühlen und das Tier immer als Katze verarbeiten. Immer in jeder Situation. Während wir hohe Rechenanforderungen nicht leisten können“, erklärt Manz. Das seien zwei gegenseitige Stärken. Gleichzeitig habe auch die KI Schwächen. Sie arbeite derzeit oft mit begrenzten Daten.

So ist das Internet männlich und weiss dominiert. Und so kommen auch die Ergebnisse der ganzen Bots heraus. Das System ist so, wie man es trainiert. „Ein Chatbot funktioniert in der Weise, dass vorher die Wörter tokenisiert werden in Kleinbuchstaben und dann über Statistik und Training von einem Token der nächste erraten wird“, führt Manz aus.

Kurz zusammenfassend erläutert Manz: „Der Mensch hat Hausverstand. Er hat eine Mustererkennung auf biologische Muster. Der Mensch hat den Common Sense, hat die Zielorientierung und kann Situationen, die in anderem Kontext sind, einordnen. Beispielsweise Kreuzungssituationen bei Schnee sind für Menschen nicht schwieriger als ohne Schnee, außer dass rutschig ist. Für KI ist es eine völlig andere Umwelt. Das kennt sie nicht. Hier muss KI extra mit Schneebildern trainiert werden.

KI bei künstlicher Befruchtung

KI kann gezielte Vorhersagen berechnen, was auch in der Medizin immer wichtiger wird. So hat Manz mit dem Kepler Universitätsklinikum im Rahmen künstlicher Befruchtungen gearbeitet. Die Beurteilung von Blastozysten (Stadium der befruchteten Eizelle am fünften Tag) durch KI wurde getestet. Rund zweieinhalbtausend Bilder wurden verwendet, daraus wurde ein Modell gebaut. Und tatsächlich hat man sich damit gegen zwölf Kliniken weltweit durchgesetzt, in allen Werten nach nur 2500 Bildern. KI hat die Blastozysten konsistenter bewertet. „Das ist ganz wesentlich, weil ich will im Körper der Frau hoffentlich eine gute Blastozyste einsetzen. Ein super Arzt, ein guter Embryologe schafft das auch, keine Frage. Aber schafft das das gesamte Team, wenn jemand erst ein Jahr dabei ist? So kann künstliche Intelligenz helfen“, ist sich Manz sicher. Die Letztentscheidung liegt aber immer noch beim Embryologen oder beim Arzt.

Zur Weiterentwicklung der KI gibt es seit 2019 ein europäisches Projekt „Team AI“. Hier wird erforscht, wie Mensch und Maschine stärker interagieren können, beispielsweise im industriellen Umfeld.

Mitarbeiter haben implizites Wissen, das machen sie explizit und damit kann man es diskutieren mit Kollegen, so wird das Wissen neu kombiniert. Auf diese Weise entsteht neues Wissen auf einem höheren Niveau. Das Ganze kann man auch mit KI machen. Man könne menschliches Wissen explizieren, aber auch datenbasiertes Wissen und die Kenntnisse über sogenannte Knowledge Graphen zusammenführen. Somit kann man neue Thesen ableiten beispielsweise bei der Qualitätsprüfung von Spritzgußmaschinen. Dem Operator können neue Materialkombinationen angeboten werden zur Minimierung des Ausschusses.

Der Mensch bleibt am Hebel

Das ist die Zukunft der kollektiven Intelligenz, ist Manz sich sicher. Deswegen müssen der Mensch, wenn er mit der KI ein Team sein wolle, nämlich auch mit automatisierter Entscheidung, sich auf KI in Zukunft verlassen können.

Daran forscht Markus Manz mit seinem Team, sie forschen am kollektiven System KI und dazu ist „trustworthiness“, Vertrauenswürdigkeit besonders wichtig.

Die Wahrung der Privatsphäre „responsibility“ und Erklärbarkeit sind ebenso wichtig. Menschen wollen eine Entscheidung im Notfall erklärt wissen und deswegen gibt es jetzt den EU AI Act und außerdem habe man mit dem TÜV Austria ein Unternehmen gegründet, um AI zu zertifizieren, die „Trustify GmbH“.

Menschen und Künstliche Intelligenz, wenn man sie zusammen arbeiten lässt und an der Schnittstelle arbeitet, bringen wesentlich bessere Ergebnisse als die KI und der Mensch alleine. Ziel ist eine kollektive Intelligenz mit Human Oversight. Menschen sollen in Front bleiben, Die Basis für das Team Mensch und KI ist Vertrauenswürdigkeit. Und was es derzeit noch bedarf, ist eine kritische Prüfung durch den Menschen.