KI zwischen Fortschritt und Verantwortung : Ethik wird zur Schlüsselfrage der KI-Zukunft

Nicht nur in den USA, der Heimat des Papstes und vieler Tech-Konzerne, hat das Dokument eine intensive politische Debatte ausgelöst. Die Tech-Welt zeigt sich gespalten zwischen wissenschaftlicher Zustimmung und wirtschaftsliberaler Abwehr. Umso so größer ist die Aufgabe für Wirtschaft, Politik, Gesellschaft und selbst die kleinsten menschlichen „KI-Akteure“, die ethischen Fragen endlich grundlegend und zielführend in Angriff zu nehmen.

Großartige Menschlichkeit in Gefahr?

Auch wenn die Perspektive theologisch begründet ist, liefert Leo XIV. mit seiner Enzyklika einen ethischen Kompass und konkrete Leitplanken, auf die sich im Kampf gegen den ungebremsten Digitalkapitalismus auch die nichtreligiöse säkulare Welt berufen könnte. Sein über 100 Seiten starkes Lehrwerk trägt den Titel „Magnifica humanitas“, übersetzt: „Großartige Menschlichkeit – über die Bewahrung des Menschen im Zeitalter der künstlichen Intelligenz“. Das Thema beherrscht ohnehin gefühlt täglich die Nachrichten. Gerade im Zusammenhang mit Ethik hat die Meldung über die Publikation des Papstes kürzlich besonders „eingeschlagen“ und damit weltweit Aufsehen erregt und für sogar für zusätzliche Diskussionen gesorgt.

Bewusst gewählt war wohl der Zeitpunkt von einer unserer „höchsten moralischen“ Instanzen der Welt. Und natürlich der „Aufschrei“, wenn diese Instanz ohne jeden monetären Profitgedanken, sondern einzig in ihrer Rolle all den „High-level-TechnologieHeilbringern“, „Illusions-Verführern“, maschinengesteuerten „MenschenOptimierern“, „Gefühls-Automatisierern“, „Präzisions-Eliminierern“ und anderen „technischen Wunderwaffen“ auf den Zahn fühlt. Es soll bei dieser ethischen Beleuchtung des Themas keineswegs um die Einleitung „einer Verdammnis gehen“ – sondern genau um das „gute Gegenteil“. Wir brauchen nicht noch mehr historische Beispiele, bei denen der Einsatz von Ethik und Moral – mit gebotenem Bedacht – ein Besseres hätte bewirken können.

Treffer versenkt?

Mit seinen Aussagen rund um das Thema künstliche Intelligenz trifft Papst Leo XIV. direkt das Herz, das Mark und den Nerv der globalen Wirtschaft und Sicherheit. Nicht nur in den USA, hat das Dokument eine intensive politische Debatte ausgelöst, die sicherlich zur richtigen Zeit kam. Wenn auch wahrscheinlich die wenigsten mit solch starken Signalen aus dieser Richtung gerechnet hätten.

Kampf der KI?

Ein Hauptpunkt der differenzierten Ansichten des Papstes: Die KI nehme vor allem immer (mehr) die Züge derer an, die sie finanzieren und regulieren. Deshalb ist eine seiner Kernbotschaften zu künstlicher Intelligenz ebenso eine ausdrückliche Warnung vor den Tech-Milliardären: Leo XIV. kritisiert scharf die enorme Machtkonzentration bei wenigen privaten Tech-Giganten (vor allem in den USA). Er formuliert zudem ein klares und „lautes Nein“ zu autonomen Waffen, welche niemals über Leben und Tod entscheiden dürften. Zusätzlich warnt er eindringlich vor der Flut an Desinformation und Deepfakes und fordert von allen die Treue zur Wahrheit. Ungewöhnlich konkret für einen spirituellen Führer wird Leo XIV. zudem, wenn es um den immensen Ressourcen-Verbrauch (Wasser, Energie, CO2-Ausstoß) von KI-Rechenzentren geht, und prangert die Auswirkungen auf den ökologischen Fußabdruck für die Menschen an.

Epochale Ethikwende?

Aufsehenerregend genug wären allein schon die inhaltlichen Komponenten, aber ausgerechnet das Datum der Unterzeichnung, der 15. Mai, könne kein Zufall sein. Denn es ist exakt der 135. Jahrestag der berühmten Enzyklika „Rerum novarum“ von Papst Leo XIII. aus dem Jahr 1891. Der damalige Auslöser waren die Auswirkungen der industrielle Revolution, mit Fokus auf der Ausbeutung der Arbeiterschaft und dem sozialen Klassenkampf. Analog dazu stellt Leo XIV. in seiner Sozialenzyklika die KI und die digitale Revolution des 21. Jahrhunderts in den Fokus. Die offensichtliche Analogie findet sich durch das Ziehen der Line von den damaligen sozialen Verwerfungen zu den heutigen Gefahren. Das geht so weit, dass er im Kontext der Rohstoffgewinnung für KI-Chips sogar von „neuen Formen der Sklaverei“ spricht. Das klingt nach großen und schwierigen Fragen, und doch hat es Menschen damals genauso betroffen, wie auch alle großen Themen heute unser Leben beeinflussen.

Warum sind alle gefragt?

Selbst wenn wir künstliche Intelligenz nicht in diesem aufsehenerregenden Kontext betrachten: Wenn KI bereits bald „so gut wie alles“ effizienter machen kann – wofür stehen wir dann heute und morgen eigentlich wirklich noch? Das ist die Realität, in die wir gerade direkt hineinlaufen und die uns – nun allseits präsent – zu „umzingeln“ und sogar schon einzuholen scheint. „Einfach auf Knopfdruck“ verfasst sie Texte, analysiert Daten, erstellt Präsentationen, automatisiert Prozesse, unterstützt Diagnosen, entwirft Prognosen, entwickelt Code und trifft in immer mehr Bereichen Vorentscheidungen. Arbeit ist durch künstliche Intelligenz schneller, smarter, günstiger und auch deutlich skalierbarer geworden. Das scheint durchaus viele gute Aspekte zu haben, kann aber dann richtig gefährlich werden, wenn wir dabei (weiter) unterschätzen, worum es hier eigentlich geht.

Nur „nützliches“ Werkzeug oder doch Akteur?

Einfach ein gut einzusetzendes Werkzeug oder am Ende doch ein „viel zu autonomer Akteur“? Beide Seiten haben gute Argumente. Eine einfache Einordnung oder das Diskutieren von Für und Wider wird nicht reichen: Es braucht neben dem unbedingt erforderlich (gesellschaftlichen und wirtschaftlichen) Konsens der künftigen Ausrichtung unbedingt ebenso eine richtungsweisende Entscheidung zum Einsatz und Umgang.

Korruption im Anmarsch?

Wie man es zum „Besseren“ vielleicht dann doch nicht macht, zeigt zunächst ein Blick ins Ausland – genauer gesagt nach Albanien. Vielleicht nicht „unsere Baustelle“, aber doch ein (so gar nicht positiv) eindrucksvoller Fall, wie es aus dem Ruder laufen kann, wenn falsche moralische Prinzipien das eigentliche Steuerungselement werden. Im September 2025 hat Albanien die weltweit erste KI-Ministerin „Diella“ ins „Amt gebracht“. Sie wurde per Präsidentendekret zur Ministerin befördert, die Macht über sie aber blieb in direkter Verantwortung von Albaniens Präsidenten Edi Rama, dessen Sozialistische Partei im Mai 2024 zum vierten Mal in Folge die Parlamentswahl und die absolute Mehrheit erreichte. „Diella“ (albanisch für Sonne) sollte dafür sorgen, dass in dem EU-Kandidatenland künftig „öffentliche Ausschreibungen zu 100 Prozent frei von Korruption werden“, so versprach Langzeitpremier Rama. Doch das Experiment scheint ordentlich nach hinten losgegangen zu sein. Denn gegen die Betreiber hinter dem Chatbot für „gerechte Entscheidungen“ wurden Ermittlungen in Gang gesetzt wegen organisierter Kriminalität. Es wurden gleich mehrere Klagen eingereicht.

Einfach mal machen?

Die eigentliche „Krux“: Dass eine KI administrative Entscheidungen treffen soll, hielten Fachleute und die Opposition Albaniens (wohl nicht grundlos) von Anfang an für bedenklich. Zwar könne der Einsatz von KI bei der öffentlichen Auftragsvergabe hilfreich sein, doch müsse die letzte Verantwortungsinstanz dafür bei realen Menschen bleiben. Der erfolgten Anklage gegen die „Diella“-Schöpfer zufolge vergaben diese Aufträge gezielt an befreundete Unternehmen. Damit sich Konkurrenzfirmen zurückzogen, sollen sie Drohungen und Einschüchterungsversuche unternommen haben. Neben den „messbaren Schäden“ ist vor allem die Glaubwürdigkeit gegenüber der Bevölkerung erschüttert worden. Die virtuelle Ministerin sei sogar Teil des korrupten Systems und nicht – wie vorgegeben – die Lösung dafür gewesen, so die Kritiker. „Diella“ hätte einfach „die alte Korruption hinter neuer Software verstecken“, urteilte Lutfi Dervishi, früherer Landesdirektor von Transparency International Albanien, im Interview mit der deutschen „Zeit“. Das zeigt eindrücklich, wie schmal der Grat zwischen Veränderungs- und Verbesserungspotenzial auf höchster Ebene werden kann, wenn die falschen Prinzipen zugrunde gelegt werden, die sowohl der Wirtschaft, der Politik als auch den einzelnen Menschen zum größten Nachteil gereichen.

Gegen die Wand gefahren?

Hier in Deutschland hat dagegen auf eine ganz andere Art und Weise die Debatte um die Arbeitslosigkeit junger Hochschulabsolventen in den letzten Monaten eine immense Dynamik bekommen. Wobei vor allem KI – trotz konjunktureller Schwächephase – als struktureller Haupt-Treiber gilt. Vorbei sind wohl die Zeiten, als das Studium als sicherste „Versicherung“ gegen eine Erwerbslosigkeit gelten konnte und für die meisten auch noch einen Karrieregaranten darstellte. Während die generelle Akademikerarbeitslosigkeit im Vergleich zur allgemeinen Quote niedrig bleibt, hat sich die Zahl der arbeitslosen Akademiker unter 30 Jahren zwischen den Jahren 2022 und 2025 wohl nahezu verdoppelt. Neben der allgemeinen Wirtschaftslage sei in den Augen von Presse und Wissenschaft der rasant zunehmende Einsatz von künstlicher Intelligenz dafür einer der entscheidenden Hauptverursacher . Es müssen Lösungen her: Wie schaffen wir wieder sichere Ausbildungs- und Arbeitsplätze – trotz und mit KI? Hier brauchen immer mehr Menschen (und Haushalte) eine nicht nur hoffnungsvolle, sondern auch eine erfolgversprechende Antwort. Es wird nichts bringen, die Verantwortung „abzuwälzen“, als sei das ein „unaufhaltsamer Prozess“.

Klarer Kompass?

Natürlich kann die Lösung dieser Krise nicht darin liegen, KI zu „verbannen“, sondern es muss schnellsten dafür gesorgt werden, die Lücke zwischen akademischer Ausbildung und den veränderten Anforderungen der Praxis zu schließen. Die Zeit der starren Standardkarrieren ist vorbei. In Zukunft wird die Trennlinie am Arbeitsmarkt weniger zwischen „Akademiker“ und „Nicht-Akademiker“ verlaufen, sondern zwischen „Anpassungsfähigen“ und „Statischen“. Das bedeutet von allen Seiten (auch von Seiten der Lehrbetriebe und Verbände): Rollen neu denken, Erwartungen anpassen und Transformationslösungen entwerfen, entwickeln und schnellstmöglich implementieren. Trotz allem müssen wir uns davor hüten, uns als „Getriebene“ in einer gewissen Orientierungslosigkeit zu verlieren. Es braucht ebenso Klarheit und eine konsensbasierte Unerschütterlichkeit. Dazu zählen in diesem Zusammenhang neben ethischen Prinzipen ebenso unabdingbare Werte, wie Menschlichkeit, Verantwortungsbewusstsein, Moral und Bedeutung – in Verbindung mit der Verlässlichkeit auf die menschliche Urteilskraft.

Von guten „Geistern“ getrieben?

Menschen wollen jetzt erst recht nicht im Arbeitsleben einfach dafür stehen, es geschafft (sich gerettet) zu haben, die perfekte Kennziffer für Effizienz abzubilden. Oder sie laufen Gefahr, nur noch nach messbarem Output bewertet zu werden und damit ihre Rechtfertigung für Beschäftigung erlangt zu haben. Sie werden nicht glücklich und zufrieden sein, wenn man sie mit den gleichen Maßstäben wie Technologie und Maschinen misst. Mitarbeiter wollen weiterhin gebraucht werden, was immer schwerer wird, wo Produktivität, Leistung und am Ende sogar Kreativität zunehmend technologisiert werden. Deshalb wird es nicht nur darum gehen, was schlussendlich daraus wird, sondern vor allem um die Frage: Wie wollen wir all diese Prozesse und Veränderungen umsetzen? Genau deshalb muss und wird purpose-driven Arbeit in Zeiten von KI einen entscheidenden Stellenwert bekommen. Schlussendlich geht es immer um Relevanz, und diese funktioniert nur, wenn sie mit der erforderlichen Sinnstiftung einhergeht. Die Entwicklung dieser Prozesse sollte immer mit Achtsamkeit und Anstand als Anker einhergehen.

Zwischenfazit

Gerade weil es so logisch klingt, umso bewusster müssen wir es uns machen: Wir sind angehalten, uns dem Thema KI zu stellen, uns nicht „einholen zu lassen“. Es gilt darum, einen Konsens zu schaffen, den Kompass auszurichten und den Einsatz von KI an Werten auszurichten, die dafür sorgen, dass sie sich nicht gegen den Menschen stellt – weder durch Ignoranz, Passivität, Willen noch durch Gier. Auf der anderen Seite fürchten viele die Gefahr der Desinformation. Denn durch die Perfektionierung von Content und von Deepfakes (Stimmen- und KlonTechnologien) wird es für Menschen immer schwerer, die Wahrheit von in Umlauf gebrachten Fälschungen zu unterscheiden. Sie sehen darin die Bedrohung der freien politische Willensbildung und der Stabilität demokratischer Institutionen. Deshalb warnen Sicherheitsbehörden (wie das Bundesamt für Sicherheit in der Informationstechnik – BSI) und Politikwissenschaftler vor der Manipulation der Öffentlichkeit und dem Missbrauch von KI als Werkzeug für autoritäre Herrschaft und soziale Kontrolle.

Dr. Silvija Franjic, Jobcoach und Fachredakteurin