Die KI will gar nichts: Kant und Verantwortung

Wir reden viel darüber, was künstliche Intelligenz eines Tages mit uns machen könnte. Wird sie unsere Arbeitsplätze übernehmen? Wird sie Entscheidungen treffen, die wir nicht mehr verstehen? Wird sie sich unserer Kontrolle entziehen? Und irgendwann, so das düsterste Szenario, vielleicht sogar die Herrschaft übernehmen?
Mich beschäftigt dabei eine andere Frage.

Was, wenn wir vor der falschen Herrschaft Angst haben?

Vielleicht sollten wir weniger darüber nachdenken, was eine KI eines Tages wollen könnte, und mehr darüber, was wir Menschen heute von ihr wollen. Denn die KI will zunächst einmal gar nichts. Gemeint sind hier heutige KI-Systeme: Ein eigener Wille im menschlichen Sinn ist bei ihnen nicht nachgewiesen.
Sie wacht morgens nicht auf und beschließt, Gewinne zu maximieren. Sie entwickelt keinen Ehrgeiz, einen Betrieb effizienter zu machen. Sie möchte keinen Bewerber ablehnen, keinen Kredit verweigern und keinen Mitarbeiter kontrollieren. Sie kennt weder Karriere noch Machtstreben, weder Habgier noch Eitelkeit.
Wir Menschen geben ihr Aufgaben. Wir definieren Ziele. Wir bestimmen, welche Daten sie erhält, welche Entscheidungen sie vorbereiten darf und wie viel Handlungsspielraum wir ihr geben.
Und damit landen wir überraschend schnell bei einem Mann, der 1804 starb und von künstlicher Intelligenz selbstverständlich keine Vorstellung haben konnte. Bei Immanuel Kant.

Eine ziemlich alte Frage

Kants kategorischer Imperativ klingt zunächst denkbar weit entfernt von ChatGPT, Algorithmen und autonomen KI-Agenten. In seiner „Kritik der praktischen Vernunft“ (§ 7, Akademie-Ausgabe V, S. 30) lautet eine seiner berühmten Formulierungen:

„Handle so, daß die Maxime deines Willens jederzeit zugleich als Prinzip einer allgemeinen Gesetzgebung gelten könne.“
Vereinfacht gesagt: Handle nur nach einer Regel, von der du vernünftigerweise wollen könntest, dass sie allgemein gilt.

Was passiert, wenn wir diesen Gedanken auf künstliche Intelligenz übertragen? Nehmen wir ein Unternehmen, das eine KI zur Vorauswahl von Bewerbern einsetzt. Wir könnten fragen: Wie gut funktioniert das System? Wie viel Arbeitszeit spart es? Wie hoch ist seine Trefferquote? Das sind vernünftige Fragen. Kant würde uns aber möglicherweise auf eine andere Frage stoßen:

Nach welcher Regel lassen wir hier Menschen beurteilen – und könnten wir wollen, dass diese Regel allgemein gilt?

Plötzlich geht es nicht mehr in erster Linie um die Maschine. Es geht um uns.

Die KI als Vergrößerungsglas

Vielleicht liegt genau darin eine der Besonderheiten künstlicher Intelligenz. Menschen haben schon immer gute und schlechte Entscheidungen getroffen. Sie waren gerecht und ungerecht, vernünftig und unvernünftig, sorgfältig und nachlässig. Aber ein Mensch kann nur eine begrenzte Zahl von Entscheidungen treffen. Eine Maschine kann dieselbe Entscheidungslogik tausendfach oder millionenfach anwenden. Das verändert die Dimension.
Stellen wir uns eine KI vor, deren Aufgabe es ist, einen betrieblichen Prozess möglichst effizient zu gestalten. Das klingt zunächst vollkommen vernünftig. Wahrscheinlich würden die meisten von uns nichts dagegen einwenden.
Die KI stellt fest, wo Zeit verloren geht. Sie erkennt unnötige Arbeitsschritte. Sie findet Möglichkeiten, Kosten zu reduzieren. Vielleicht ist sie darin sehr viel besser als jeder Mensch. Doch irgendwann stellt sich eine interessante Frage:

Was genau haben wir ihr eigentlich aufgetragen?

Effizienz zu steigern. Aber haben wir ihr auch gesagt, was dabei nicht verloren gehen darf? Haben wir definiert, wann Effizienz hinter Fairness zurücktreten muss? Haben wir festgelegt, dass eine wirtschaftlich schlechtere Entscheidung trotzdem die menschlich richtige sein kann? Die Maschine hat kein Problem mit diesen Fragen. Wir haben eines. Denn wir müssen sie beantworten.

Was wollen wir eigentlich optimieren?

Das Wort „Optimierung“ begegnet uns im Zusammenhang mit KI ständig. Aber Optimierung braucht immer ein Ziel.
Eine KI kann Kosten reduzieren. Sie kann Geschwindigkeit erhöhen. Sie kann Fehlerwahrscheinlichkeiten minimieren. Sie kann vorhersagen, welche Kunden wahrscheinlich kündigen, welche Maschine wahrscheinlich ausfallen oder welcher Bewerber bestimmte Kriterien wahrscheinlich erfüllen wird.

Doch was davon soll sie tun? Und zu welchem Preis? Das ist keine technische Frage.

Eine KI kann uns vielleicht irgendwann besser als jeder Mensch sagen, wie wir ein bestimmtes Ziel erreichen. Aber daraus folgt nicht, dass sie uns sagen kann, welches Ziel wir verfolgen sollten. Und vielleicht liegt genau dort die Grenze, an der wir Menschen uns nicht aus der Verantwortung stehlen dürfen.

Der Mensch als Zweck – oder als Datenpunkt?

Kant formulierte seinen kategorischen Imperativ in der „Grundlegung zur Metaphysik der Sitten“ noch auf eine andere Weise (Akademie-Ausgabe IV, S. 429). Der Mensch soll niemals bloß als Mittel benutzt werden, sondern immer zugleich als Zweck behandelt werden.
Dieser Gedanke ist mehr als zweihundert Jahre alt. Und trotzdem klingt er erstaunlich aktuell.
Was passiert, wenn eine KI Menschen bewertet? Wenn sie errechnet, welcher Bewerber besonders erfolgversprechend erscheint? Wenn sie prognostiziert, welcher Kunde wirtschaftlich interessant ist? Wenn sie Mitarbeiter anhand messbarer Faktoren miteinander vergleicht? Dagegen muss zunächst überhaupt nichts sprechen.
Aber irgendwann sollten wir fragen:

Sehen wir noch den Menschen – oder nur noch seinen Datenpunkt?

Das ist für mich eine der entscheidenden Fragen. Denn Maschinen können hervorragend kategorisieren. Menschen passen nur leider nicht immer in Kategorien. Ein Mensch kann statistisch unauffällig und trotzdem außergewöhnlich sein. Er kann auf dem Papier ungeeignet erscheinen und sich als genau der Richtige erweisen. Er kann nach allen vorhandenen Daten ein Risiko darstellen und trotzdem Vertrauen verdienen. Vielleicht besteht Menschlichkeit manchmal sogar darin, sich bewusst gegen die statistisch wahrscheinlichste Entscheidung zu entscheiden. Eine KI muss deshalb nicht unmenschlich sein. Aber Menschen können unmenschliche Maßstäbe durch eine KI sehr effizient machen.

Nun ist die Sache leider nicht ganz so einfach

An dieser Stelle könnte man es sich bequem machen. Man könnte sagen: Die KI ist eben nur ein Werkzeug. Der Mensch gibt ihr Befehle, und die Maschine führt sie aus. Also trägt allein der Mensch die Verantwortung.
Ganz so einfach ist es nicht. Moderne KI-Systeme können Ergebnisse produzieren, die ihre Entwickler nicht im Einzelnen vorhergesehen haben. Gerade lernende Systeme unterscheiden sich darin von einem klassischen Werkzeug.
Wer einen Hammer benutzt, weiß ziemlich genau, was geschieht, wenn er damit auf einen Nagel schlägt. Bei einer komplexen KI ist das nicht immer so.
Der Entwickler hat nicht jede Antwort vorher geschrieben. Der Nutzer kennt nicht jeden internen Zusammenhang. Und mit zunehmender Selbständigkeit von KI-Agenten können Handlungsketten entstehen, deren einzelne Schritte kein Mensch zuvor festgelegt hat.
Das ist ein ernst zu nehmendes Problem. Aber folgt daraus schon, dass die Maschine Verantwortung trägt? Ich glaube, hier müssen wir vorsichtig sein.

Unvorhersehbar bedeutet nicht verantwortlich

Wenn wir das Verhalten eines Systems nicht vollständig vorhersagen können, sprechen wir schnell von Autonomie. Aber Autonomie bedeutet bei Kant etwas anderes als bloße Selbständigkeit.
Ein moralisch autonomes Wesen folgt nicht einfach selbständig irgendwelchen Regeln. Es kann sich zu diesen Regeln verhalten. Es kann Gründe abwägen. Es kann erkennen, dass etwas moralisch geboten ist, und sich selbst daran binden.
Eine Maschine kann dagegen durchaus unvorhersehbar sein, ohne deshalb ein moralisches Wesen zu sein. Ein Würfel ist ebenfalls unvorhersehbar. Trotzdem würden wir niemals sagen: Der Würfel ist für die Sechs verantwortlich.
Natürlich ist eine moderne KI unendlich komplexer als ein Würfel. Aber der Vergleich macht etwas deutlich:

Unvorhersehbarkeit allein erzeugt noch keine Verantwortung.

Vielleicht werden wir eines Tages Maschinen bauen, bei denen diese Grenze schwieriger zu ziehen sein wird. Aber heute scheint mir eine andere Gefahr wesentlich näher zu liegen.

„Das hat die KI entschieden“

Dieser Satz könnte einer der bequemsten Sätze unserer Zeit werden. „Das hat der Algorithmus entschieden.“ „Das System hat Sie aussortiert.“ „Die KI hat diese Bewertung vorgenommen.“ Plötzlich scheint niemand mehr verantwortlich zu sein.
Doch wer hat entschieden, das System einzusetzen? Wer hat festgelegt, welche Daten relevant sind? Wer hat bestimmt, was optimiert werden soll? Wer hat entschieden, welche Fehler akzeptabel sind? Wer hat festgelegt, wann ein Mensch eingreifen muss? Und vor allem:

Wer hat die Macht, die Entscheidung der Maschine wieder zu ändern?

Vielleicht liegt genau hier eine größere Gefahr als in der viel diskutierten Vorstellung einer KI, die eines Tages die Herrschaft übernimmt. Nicht die Maschine übernimmt die Verantwortung. Wir geben sie ab.

Die perfekte Erfüllung eines falschen Auftrags

Mich beschäftigt deshalb weniger die Vorstellung einer KI, die sich plötzlich gegen den Menschen stellt. Mich beschäftigt eine andere Vorstellung:

Was geschieht, wenn die KI genau das tut, was wir von ihr wollen?

Und wenn wir das Falsche wollen? Oder – wahrscheinlich viel häufiger – wenn wir etwas grundsätzlich Vernünftiges wollen, es aber zu einseitig formulieren? „Reduziere die Kosten.“ „Steigere die Effizienz.“ „Minimiere das Risiko.“ „Finde die besten Bewerber.“ „Maximiere die Auslastung.“ Keiner dieser Sätze ist für sich genommen böse. Das macht die Sache gerade interessant. Denn problematische Systeme müssen nicht von Menschen mit problematischen Absichten geschaffen werden. Vielleicht genügt ein vernünftiges Ziel, dem eine wichtige Grenze fehlt. Eine Maschine, die einen falsch formulierten Auftrag perfekt erfüllt, könnte gefährlicher sein als eine Maschine, die schlecht funktioniert.

Kant als Qualitätskontrolle für unsere Ziele

Vielleicht brauchen wir deshalb nicht nur technische Prüfungen für KI. Vielleicht brauchen wir eine Prüfung unserer eigenen Vorgaben. Und hier gefällt mir der kategorische Imperativ plötzlich als eine Art gedankliche Qualitätskontrolle. Bevor wir eine KI einsetzen, könnten wir uns drei Fragen stellen.

Nach welcher Regel soll dieses System eigentlich handeln?

Nicht, was in der Produktbeschreibung steht. Nicht, welche Technologie dahintersteckt. Sondern ganz konkret: Was soll optimiert werden?

Dann: Könnten wir wollen, dass diese Regel allgemein gilt?

Als zusätzliche persönliche Prüffrage: Wären wir noch damit einverstanden, wenn wir selbst von dieser Entscheidung betroffen wären? Das ersetzt Kants Frage nach einer allgemein gültigen Regel nicht.

Und schließlich: Bleibt der Mensch Zweck – oder wird er zum Mittel?

Zum Kostenfaktor. Zum Risikowert. Zur Personalnummer. Zur Wahrscheinlichkeit. Zum Datensatz.
Diese Fragen werden keine technischen Probleme lösen. Aber sie könnten verhindern, dass wir technische Lösungen für Probleme schaffen, die wir vorher moralisch nicht ausreichend durchdacht haben.

Vielleicht fürchten wir die falsche Herrschaft

Natürlich weiß niemand, wie leistungsfähig künstliche Intelligenz in zehn, zwanzig oder fünfzig Jahren sein wird. Vielleicht werden zukünftige Systeme Eigenschaften besitzen, die unsere heutigen Vorstellungen von Werkzeug, Autonomie und Verantwortung tatsächlich infrage stellen. Darüber sollten wir diskutieren. Aber wir sollten darüber nicht die Gegenwart vergessen.
Denn um problematisch zu werden, muss eine KI keinen eigenen Willen entwickeln. Sie muss uns nicht hassen. Sie muss nicht nach Macht streben. Sie muss nicht einmal verstehen, was sie tut. Es könnte vollkommen ausreichen, wenn sie einen menschlichen Auftrag außerordentlich gut erfüllt.
Vielleicht ist deshalb die entscheidende Frage des KI-Zeitalters nicht:

Wann wird die Maschine einen eigenen Willen entwickeln?
Sondern: Was wollen wir Menschen eigentlich, wenn uns Maschinen immer mächtigere Möglichkeiten geben, unseren Willen durchzusetzen?

Und vielleicht sollten wir uns jedes Mal, wenn wir einer Maschine ein Ziel geben, eine zweite Frage stellen:

Könnten wir wollen, dass alle so handeln?

Das ist keine neue Frage. Immanuel Kant stellte sie vor mehr als zweihundert Jahren.
Die Maschinen sind neu. Unsere Verantwortung ist es nicht.

Quellen und weiterführende Informationen

Zuletzt fachlich geprüft: 01. November 2026