Zwischen Kontrolle und Vertrauen : Wer entscheidet über die Regeln der künstlichen Intelligenz?

In Europa steht die Umsetzung des EU AI Act im Fokus, welcher KI-Systeme nach Risikostufen reguliert und ab Sommer 2026 strikte Transparenzregeln vorschreibt, wie etwa bei der Kennzeichnungspflicht für Deepfakes. Die EU-Kommission und Verbraucherschützer loben dieses Gesetz als Schutzschild der Demokratie, während Wirtschaftsverbände (wie z. B. der Bitkom e.V.) und Tech-Investoren einen massiven Wettbewerbsnachteil gegenüber den USA und China fürchten.

Wer zahlt den Preis?

Einer der Top-Diskussionspunkte bleiben die strittigen Fragen zum Thema Urheberrecht im Konflikt mit der Beanspruchung des ökonomischen Einsatzes von Trainingsdaten. Noch nicht wirklich geklärt ist, wer wirklich den „Preis“ für das Wissen der KI zahlt. Die entflammte Debatte darüber, dass die KI-Modelle millionenfach mit urheberrechtlich geschützten Texten, Bildern, Codes und sonstigem Content trainiert werden, ohne dass deren Ersteller eingewilligt haben oder vergütet wurden, spitzt sich weiter zu. Die Tech-Konzerne (wie OpenAI oder Google) argumentieren hier oft mit dem Anspruch auf „Fair Use“, eigentlich einer rechtlichen Grauzone zur freien Nutzung zum Zwecke der Forschung und Innovation. Auf der Gegenseite fordern Medienhäuser, Verlage und Künstlergewerkschaften vehement Entschädigung und striktere Lizenzmodelle.

Für Fortschritt und Fairness?

Gerade solche Fortschritts-Fragen im Zusammenhang mit KI müssen „paradoxerweise“ meist besonders menschlich gestellt werden. Ganz vorn mit dabei: Wem dient Innovation wirklich? Daran schließt sich an, sich genau darauf zu fokussieren, welche Pro­bleme es wert sind, (mit welchen Mitteln) gelöst zu werden. Dabei sollte immer noch ganz genau bedacht werden, welche Bedeutung der Fortschritt haben kann bzw. haben muss, wenn es den Preis erfordert, dass der menschliche Anschluss durch die Entkoppelung seiner Rolle und Aufgaben geopfert werden müsste. Wir wissen ganz genau, dass KI uns unbedingt „mächtiger machen“ machen kann, aber das bedeutet nicht, dass wir die Kontrolle abgeben müssen oder verlieren dürfen, in welchem Maße es dadurch weniger „menschlich“ werden darf oder könnte.

Zwischen Datenschutz, Diskriminierung und Sensibilisierung?

Eine Integration von KI in verschiedenste Bereiche wie Medizin, Recht, Sicherheit, Medien oder Bildung eröffnet viele spannende und zukunftsträchtige Perspektiven. Gleichzeitig wirft der Einsatz in gerade diesen Bereichen immens wichtige Fragen auf, die wir als Gesellschaft unbedingt (rechtzeitig) beantworten müssen: Wie verhindern wir, dass KI nicht nur den Berufseinstieg erschwert, sondern auch zusätzlich zum Katalysator wird, der zum Verlust des Arbeitsplatzes führt und soziale Ungleichheiten verstärkt? Was können wir tun, um sicherzustellen, dass KISysteme fair und ohne Diskriminierungsgefahr agieren? Und last, but not least: Wie schützen wir schöpferische Werke und ihre Rechte und begrenzen die Gefahren und negativen Auswirkungen eines KI-Einsatzes auf unsere Privatsphäre? Dazu müssen klarere Definitionen und Grenzen bezüglich des Datenschutzes und der Privatsphäre definiert werden. Hierfür braucht es nicht nur die Entwicklung von Richtlinien und Standard. Wir benötigen wir ebenso unbedingt einen rechtlichen Rahmen, der der Hausforderung trotzen muss, einerseits zu schützen, aber andererseits nicht zur Innovationsbremse dringend benötigter Transformation gereichen darf. Ebenso erfordert es eine begleitende ethische Schulung und die Sensibilisierung von KI-Experten und unbedingt eine Integration ethischer Prinzipien in KI-Systeme.

SpitzenklasseSparringspartner?

Expertise braucht Zeit, und die scheinen wir gerade bei KI nicht zu haben, weil wir das Gefühl haben, nicht nur in einem Wettlauf zu sein, sondern bereits von ihr eingeholt worden zu sein. Andererseitskann man einfach keine 25 Jahre Erfahrung oder außergewöhnliche Intelligenz von jetzt auf gleich ohne den entsprechenden Anwender in einen Klick packen. Wenn man echtes Wissen und gute Ergebnisse will, muss man auch hier investieren, um einen echten Wissensschatz und einen zuverlässigen „Sparringspartner“ aufzubauen. Alles andere wäre weiter nur weiteres Wunschdenken. Denn ohne den cleveren und geübten Menschenverstand wird unter Umständen einfach nur „Datenmüll“ oder viel zitiertes (unqualifiziertes) Durchschnittswissen herangezogen, das aus unterschiedlichsten Gründen vervielfacht und vervielfältigt wurde, ohne die tatsächlich gewünschten und zuverlässigen Mehrwerte zu bieten. Natürlich ist künstliche Intelligenz längst aus der reinen „Recherche-Ecke“ he­rausgewachsen. In der modernen Wirtschaft übernimmt sie heute bereits tiefgreifende operative, analytische und gestalterische Aufgaben. KI sollte aber natürlich ebenso kein Vorwand sein, schlaue Menschen zu ersetzen, die vielleicht auch noch eine (unbequeme) eigene Meinung haben. Bei all den Möglichkeiten, schnell an viele Informationen bzw. zu außerordentlichen Ergebnissen zu kommen, muss man trotzdem Grenzen ziehen und sich sicher sein, was sie wert sind. Nur so wird es auch möglich sein, Unternehmen und Institutionen vor gravierenden Fehlern zu bewahren.

KI als „Pfui“-Faktor?

Ein „Schauplatz“, auf dem die Moral im Zusammenhang mit KI richtig hochgekocht wird, ist die Content-Erstellung – als hätte man beim Sitznachbarn in der Schule abgeschrieben und dafür eine Eins plus bekommen. Interessanterweise leben wir seit Jahrzehnten mit der bewussten Doppelmoral, wenn Politiker, Vorstände und Top-Unternehmer Ghostwriter anheuern, um ihre Reden zu schreiben, welche vielleicht nicht immer die Lage der Nation betreffen, wo es aber schnell mal um den Verlust Tausender von Arbeitsplätzen oder andere tiefgreifende Einschnitte oder Veränderungen geht. Trotzdem erscheint es uns viel bedeutender und angemessener, laut aufzuschreien, wenn jemand bekennt: „Ich habe für meinen Beitrag KI genutzt.“ Dabei verwenden immer mehr Menschen KI als Werkzeug, noch nicht mal direkt als Autor. Wer KI so tiefgreifend ablehnt, sollte sich fragen, ob er einem Studierenden vor zehn Jahren noch händische BibliografieArbeit empfohlen hätte, statt zu „googlen“. Gerade dieses Beispiel zeigt nicht nur, wie wichtig es ist, was man mit so einem Werkzeug macht und auf welche Weise man es bedient, sondern auch, wie hoch das „Spaltungspotenzial“ ist. Andererseits gibt es erste Studien, die nachweisen wollen, dass die Gen Z das „Denken verlernt haben soll“ durch zu viel Einsatz von digitalen „Hilfsmitteln“. Man spricht hier von „Brain Drain“ – also einem kognitiven Verlust durch zu wenig Hirnstimulation und Training. Macht KI uns also gleichzeitig auch „dümmer“?

Der „alles könnende Akteur“

Das vermeintlich „Soziale“ würde sich durch das dichte Zusammenspiel von biologischen Gehirnen und Programmier-Codes unter die gezielBild: Yasmin /stock.adobe.com ter Einbeziehung Rechenzentren und Einbindung in die Benutzeroberflächen trotzdem künstlich, aber eben versteckt und nicht offensichtlich wahrnehmbar konsituieren. Diese These, dass KI ein eigenständiger Akteur und kein Werkzeug sein soll, verursacht sowohl in der Fachwelt als auch in den Medien weiterhin heftige und konstante Kontroversen. Aber gerade die aktuellen Diskussionen zeigen, wie immens wichtig in diesem Zusammenhang Ethik- und Moraldebatten sind. Denn sollte „alles“ erlaubt sein, nur weil es möglich ist?

Falsche „Verantwortungsdiffusion“

Ein Hauptkritikpunkt sei laut Latour eben die Unterstellung einer fehlenden Intentionalität und eines fehlenden Bewusstseins mit der Begründung, ein System, das statistische Wahrscheinlichkeiten berechnet, habe keinen eigenen Willen, kein Bewusstsein und keine Absichten. Da generative KI-Modelle Daten nicht lediglich transportieren, sondern eigenständig rekombinieren, filtern und neue Realitäten erzeugen können, hätten sie im Sinne von Bruno Latour die Möglichkeit, als vollwertige und im „schlimmsten Falle“ sogar eigenständige Mitspieler im Netz teilzunehmen. Genau diese Szenarien machen ein Handeln in Richtung Konsens (und gleichermaßen „Panikprävention“) notwendig, um nicht irgendwann sogar in eine Art von (gewollter) Verantwortungsdiffusion zu driften, in der die KI zum „Akteur“ erklärt wird, um Tech-Konzerne und Entwickler zu entlasten – in Form einer moralischen und rechtlichen Generalabsolution für fehlerhafte oder diskriminierende System-Phänomene. Frei nach dem Motto: „Die KI hat es so entschieden.“

Der „edle“ Entlaster?

Auf der Messe Zukunft Personal im Frühjahr 2026 zeichnete Professor Wolfgang Wahlster dagegen ein anderes und weniger beängstigendes Bild, das aber doch sehr starke Komponenten an Alltagseingriffen mit sich bringt und der KI genau in den Bereichen große Stärken „attestiert“, wo der Mensch sich bisher in seiner „unschlagbaren“ Domäne sicher gewähnt hat. Da ging es um bereits wegweisende Entwicklungssprünge der künstlichen Intelligenz, indem emotionale und soziale Intelligenz in Dialogsystemen, Avataren und Robotik eingesetzt werden könnte, und darum, wie sich die Technik in Zukunft so gestalten lässt, dass sie Menschen im Alltag, bei der Arbeit und in der Bildung spürbar entlastet. Professor Wahlster plädiert hier für „die empathische KI als Schlüssel“, mit dem Ziel und der Einsatzmöglichkeit, dass Systeme Menschen verstehen, ihren Zustand erkennen und angemessen reagieren. Sein Ansatz gestaltet sich multimodal über Sprache, Mimik, Gestik und Kontext. Bisher sei die KI ja ganz schwach im Vergleich zum Menschen gewesen, sei ja doch dort sehr lange Zeit die emotionale Intelligenz verortet worden und festgehangen. Trotz aller Deepfake-Furcht und den nicht unerheblichen Ängsten vor Kontrollverlust verortet er die nächste große Aufgabe für den Einsatz von KI für den Menschen – mit der Voraussetzung des Einsatzes für adaptive Interaktion und des Einsatzes in vielen relevanten Feldern – alles unter der Prämisse der maximalen Entlastung des Menschen unter dem Aspekt des völligen Fortschrittnutzens.

High-Level-Empathie inklusive?

Aus einem der möglichen Hauptkritikpunkte generiert Wahlster sogar sein vielleicht stärkstes Argument: Eine empathische KI sei längst kein „Nice to have“-Faktor mehr, sondern sogar die entscheidende Brücke zwischen Produktivität und Akzeptanz, denn erst Systeme, welche Stimmungen, Überforderungen, Unsicherheiten oder Eskalationen präzise identifizieren, könnten kritische Kommunikation deeskalieren, das Lernen auf hohem Niveau individualisieren und ebenso Beratung deutlich wirksamer machen. Natürlich würde dies völlig neue ethische Leitplanken unbedingt erforderlich machen. Aber genau in diesem Spannungsfeld mit diese großen, wenn nicht sogar größten Transferaufgabe der (nächsten) Zukunft sieht Wahlster die entscheidenden Akteure aus Forschung, Gesellschaft gefragt.

Fazit: Am Ende sind es wir?

In der Verantwortung sind aber auch (immer noch) wir als „Einzelne“ bzw. Entscheider in den Unternehmen und allen anderen verantwortlichen Instanzen. An KI kommen wir nicht mehr vorbei. Also gilt es, auch unser Bewusstsein zu schärfen und unsere persönlichen (wie auch übergeordneten) Entscheidungen zu treffen. Pragmatisch auf die Arbeit heruntergebrochen kann das bedeuten, mit einer simplen „Check-Liste“ zu agieren: Wie kommen wir zu den neuen Future-Skills (im Einklang mit unserer Moral), in die wir schon heute gefordert sind, uns entsprechend zu stellen und gegebenenfalls auch zu investieren – indem wir uns informieren und (weiter-)bilden. Natürlich betrifft es längst nicht alle Berufe, aber es braucht bald in vielen Bereichen noch mehr die Aneignung und Stärkung des (Grund-)Verständnisses, wie KI arbeitet, welche Konsequenzen was hat, was durch sie (noch) möglich ist – oder was wir eben keinesfalls wollen. Dies sollte im Einklang mit der Hinterfragung geschehen, wie es um die eigene aktuelle Datenkompetenz, das (informierte) Bewusstsein und das kritische Denken und Fact Checking steht. Außerdem unabdingbar sind als Grundlage das (echte) Verständnis für die Prinzipien der KI-Ethik und die entsprechende (implementierte) KI-Governance. Und letztlich zählt natürlich immer das entscheidende Bewusstsein für das Rollenverständnis vom Menschen (als Kapitän) in Zusammenspiel mit KI (als Co-Piloten). Denn letztlich sind es tatsächlich der Grad an Kontrolle, das Bewusstsein über den Einsatz und die eigene Macht über die Steuerung, welche den entscheidenden (ethischen) Unterschied machen. Nur unter Einbeziehung dieser Verantwortung können und dürfen wir auch selbst die echte Verantwortung für die Anwendung von KI nie wirklich ganz abgeben.

Dr. Silvija Franjic, Jobcoach und Fachredakteurin