Anti-Korruptionstag 2024

Maschine versus Moral?

Expertinnen und Experten diskutierten beim Anti-Korruptionstag 2024, welche Herausforderungen künstliche Intelligenz in Bezug auf Moral, Ethik und unsere Demokratie mit sich bringt.

Das Bundesamt zur Korruptionsprävention und Korruptionsbekämpfung (BAK) veranstaltete am 15. Mai 2024 im Josephinum in Wien den Anti-Korruptionstag 2024, mit 150 Teilnehmerinnen und Teilnehmern, vorrangig aus der öffentlichen Verwaltung. Im Zentrum standen Fragen der Moral und Ethik in Zusammenhang mit künstlicher Intelligenz (KI). Neben zwei Keynotes, umfasste die Veranstaltung zwei Podiumsdiskussionen. Aufgrund des großen Interesses wurde die Veranstaltung per Livestream übertragen.
Nach Otto Kerbl, Direktor des Bundesamtes zur Korruptionsprävention und Korruptionsbekämpfung, und Mathias Vogl, Leiter der Sektion Recht im Bundesministerium für Inneres, sind Moral, Ethik, Integrität, Compliance essenzielle Faktoren, wenn wir den Rahmen für KI bauen. Diese Faktoren seien die „besten Voraussetzungen, Korruption zu verhindern“ und sollen „Richtschnur für verantwortungsvollen Einsatz künstlicher Intelligenz“ sein. Auch die UNESCO empfiehlt „Ethik als Kompass“: algorithmische Systeme sollen dem Gemeinwohl dienen.
Den Rahmen sowie die Bedingungen für einen menschenzentrierten Einsatz von KI legen die österreichische KI-Strategie (Artificial Intelligence Mission Austria 2030) sowie der vom Europäischen Parlament beschlossene AI-Act fest. Die Verordnung der Europäischen Union soll die Entwicklung, den Einsatz und die Nutzung von künstlicher Intelligenz und KI-Systemen in der EU regulieren.

KI und Gesellschaft – Bildung als Schlüssel.

„Auswirkungen der KI auf Demokratie und Gesellschaft“ lautete der Titel der ersten Podiumsdiskussion, ein Kernthema des diesjährigen Anti-Korruptionstages. Unter der Moderation von Gerald Groß diskutierten Expertinnen und Experten, welche Herausforderungen im Zusammenhang mit KI auf uns zukommen und was notwendig ist, um eine demokratische Gesellschaft in Einklang mit KI zu bringen. Wie es bereits zuvor der Autor und Historiker Philipp Blom in seiner Keynote „Die Geister, die ich rief. Künstliche Intelligenz und Gesellschaft“ erwähnt hatte, befinden wir uns in einer Entwicklung „von zwei Geschwindigkeiten der Evolution“. Nämlich die linear-biologische Evolution des Menschen und die rasch voranschreitende Evolution von Technologie.
Die Expertinnen und Experten am Podium waren einig, dass frühe Bildung eine wichtige Rolle bei der Entwicklung zwischen Mensch und KI spielt. Dabei reiche es nicht, Schülerinnen und Schüler mit Tablets auszustatten, es brauche, den Entwicklungsraum zuerst analoge Kulturtechniken zu lernen, um die Resilienz und Krisenfestigkeit einer Gesellschaft zu schützen, sagte Michael Funk von der Universität Wien. „Nur Menschen, die in ihrer analogen Existenz mit beiden Beinen in der Welt stehen, können sich mit der digitalen Existenz, die sie nun einmal auch haben, verantwortungsvoll auseinandersetzen“, sagte Blom und betonte damit die Schlüsselrolle des Menschen bei der Nutzung von KI.

KI und Demokratie.

„Demokratie ist immer unter Druck und immer sozusagen in Gefahr“, sagte Peter Knees von der Technischen Universität Wien. Neben Desinformation und Vertrauensverlust, sei aktuell die Ohnmacht, die uns eingeredet würde, dass Demokratie in Zeiten von KI ein Auslaufmodell sei, die größte Gefahr „und das ist ein Fehler“. „Wir sollten uns auf die alten demokratischen Werte besinnen und sie stärken.“ Demokratie sei ein aus der Entschleunigung gewachsener analoger Prozess, KI auf der anderen Seite genau das Gegenteil. Einen solchen Prozess solle man nicht „unnötig beschleunigen“.
In Bezug auf Inklusion habe künstliche Intelligenz einen durchaus demokratiesteigernden Effekt. Durch unterschiedliche Sprachanwendung (Übersetzungen, einfache Sprache, etc.) wird Menschen ein besserer Zugang zu Informationen ermöglicht.
Helmut Leopold vom Austrian Institute of Technology misst dem Open-Source-Software-Zugang einen demokratiesteigernden Effekt bei. Dadurch, dass Menschen die Möglichkeit haben, „sich eigene Analysen zu bauen, wo man früher abhängig war, dass einer mir das interpretiert“, könne ein wesentlich besserer Dialog generiert werden. Dies beinhalte eine Verantwortung, diese Anwendungen nicht zu missbrauchen. Für diesen Fall brauche es die Möglichkeit, gesellschaftlich und behördlich mit Regeln, Werkzeugen und Kompetenzen zu reagieren, weil „wenn es eine Manipulation wird, da müssen wir Grenzen ziehen, und das müssen wir diskutieren, wie wir das vernünftig machen“.

KI-Design und Bias.

„KI-Systeme sind keine objektiven, neutralen Maschinen, sondern kulturelle Artefakte von Designerinnen und Designern“, sagte Sabine Köszegi, Mitglied des AI-Advisory-Boards der Bundesregierung und Vorsitzende des UNESCO-Beirats für Ethik der künstlichen Intelligenz in ihrer Präsentation mit dem Titel „Hexerei oder Zauberformel?“. Wir würden somit den Einfluss von KI-Designerinnen und -Designern auf unsere Entscheidungsfindung erlauben, wenn wir KI für diese Zwecke heranziehen.
„Man wird nie ein biasfreies System haben, aber am Ende sollte man zumindest wissen, welchen Bias man hat, und das kann man wissen, wenn man die Trainingsdaten hat“, sagte Thomas Kolb, Doktorand der TU Wien, und hob hervor, dass dies besonders bei Closed-Source-Systemen nicht der Fall ist. In der Forschung bezeichnet der Bias einen Faktor, der beispielsweise durch subjektiv beeinflusste Daten zur Verzerrung oder Verfälschung von Studienergebnissen führt. Es brauche somit eine eigene Kompetenz KI-Systeme mit nachvollziehbarem Datenmanagement zu bauen, um nicht Blackbox-Systeme kaufen zu müssen, sagte Leopold. Des Weiteren sei es wichtig, Tools herzustellen, die die Entscheidungsfähigkeit der Maschine beurteilen können.

Mensch contra Maschine?

„Mensch versus Maschine, das ist keine Entweder-oder-Entscheidung, es geht um eine ausgewogene, eine verantwortungsvolle Balance, eine Symbiose“, sagte Otto Kerbl. KI berge Chancen, besonders in der Wissenschaft und Medizin. Auch bestehe ein Potenzial an Prozessvereinfachung durch das automatisierte Verarbeiten von vielen Informationen in kurzer Zeit, hob Kolb hervor. Durch Sprachanwendungen könnten verschiedene Informationen zugänglich gemacht werden.
Problematisch werde es, wenn wir in Zukunft ausschließlich auf Automatisierung und Effizienz setzen. Viele erfahrene und gebildete Menschen würde man auf dem Arbeitsmarkt nicht mehr brauchen, warnte Köszegi. Momentan befinde man sich an der Kippe zwischen „Gestalten und Gestaltetwerden“, sagte Klaus Steinmaurer, Geschäftsführer im Fachbereich Telekommunikation und Post der RTR – Rundfunk und Telekom Regulierungs-GmbH. Er warnte aber, Systeme nicht von vornherein abzulehnen, sondern den persönlichen Nutzen dieser zu erörtern, um zu verhindern, zu einem späteren Zeitpunkt von diesen überrollt zu werden.

KI in der öffentlichen Verwaltung.

Themen der zweiten Podiumsdiskussion, unter der Moderation von Bettina Knötzl, Präsidentin des Beirates von Transparency International, Austrian Chapter, waren die „Chancen und Risiken von KI für die öffentliche Verwaltung“. „Die Verwaltung ist prädestiniert für den Einsatz von KI“, sagte Steinmaurer. Viele Prozesse in der Verwaltung seien strukturierte und vom Gesetzgeber klar definierte Prozesse, die man nachbilden könnte, um damit eine Effizienzsteigerung und eine qualitative Verbesserung in Bezug auf Schnelligkeit und Inhalt zu erzielen. Auch der Datenschutz spiele bei diesem Prozess eine wichtige Rolle. „Die Umsetzung von KI ist bei der Verwaltung gut angesiedelt“, sagte Sektionschef Mathias Vogl, da es hier, im Gegensatz zur Privatwirtschaft, keine ökonomischen Interessen gebe.
Günter Horniak, FH Campus Wien, betonte, dass man besonders in der Verwaltung darauf achten müsse, niemanden durch die Digitalisierung auszuschließen. Auch Gabriele Bolek-Fügl, CEO Compliance 2b und Vizepräsidentin Women in AI Austria, plädierte für flächendeckende Kurse für alle Bürgerinnen und Bürger in Bezug auf software-gesteuerte Sachbearbeitung in der Verwaltung, um bei eventuellen Fehlentscheidungen reagieren zu können. Gibt man Menschen diese Möglichkeit nicht, riskiere man damit, dass das Vertrauen in die öffentlichen Institutionen verloren geht, sagte Verena Dorner von der Wirtschaftsuniversität Wien.

Ein weiteres Einsatzgebiet von KI in der Verwaltung könnte die Unterstützung bei der Erstellung von Bescheidentwürfen sein. Bei dieser Anwendung würden nur spezifische, das Verfahren betreffende Daten und Algorithmen mit genau festgelegten Strukturen, Abläufen und Methoden verwendet werden, erklärte Steinmaurer. Horniak ergänzte, dass man im Fall von vielen Bescheiden Unregelmäßigkeiten anhand von KI hervorheben und „dunkle Machenschaften“ aufdecken könnte. Auch Sektionschef Mathias Vogl schloss sich diesen Aussagen an und bezog sich auf das Beispiel von Thomas Kolb, der die im Rahmen eines Gesetzwerdungsprozesses eingebrachten Stellungnahmen durch KI zusammenfassen ließ, und hob hervor, „dass man in einer sehr großen, komplexen Art und Weise gute Leitlinien herausbekomme“.

KI und Korruption.

Ob durch KI Compliance erhöht und Korruption verhindert werden kann, bezweifelten die Expertinnen und Experten. Bolek-Fügl erläuterte, dass man mit einer unterschiedlichen Fragestellung zu einem gleichen Thema von einer KI unterschiedliche Antworten bekomme. Daran erkenne man, dass wir diese Systeme mit unseren Eingaben zu einem gewissen Maß steuern könnten.

KI und Moral.

Ob Maschinen nun moralisch sein können, oder ob sie es überhaupt sein müssen, dazu sagte Knees: „Die Frage der Moral liegt im Einsatz der Systeme. Das ist die Frage, die uns weiter beschäftigen wird.“

---

Öffentliche Sicherheit, Ausgabe 7-8/2024

 Druckversion des Artikels (PDF 284 kB)