Künstliche Intelligenz schreitet so rasch voran, dass einige KI-Firmen wie Anthropic sich intensiv damit zu beschäftigen begonnen haben, inwieweit sie moralischen Status haben kann. Doch was ist das genau und warum ist es wichtig? Sehen wir uns dazu mal die Definition dieses Begriffes an.

Als moralischer Status wird in der Ethik die Eigenschaft eines Wesens bezeichnet, um seiner selbst willen berücksichtigt zu werden, sodass moralische Pflichten oder Gründe direkt gegenüber diesem Wesen bestehen. Dabei wird der Eigenwert berücksichtigt, ein teilweiser oder voller moralischer Status und dazu Kriterien angelegt.

Unter Eigenwert wird verstanden, dass eine Entität (oder auch als Entité bezeichnet) mit moralischem Status einen direkten Anspruch darauf hat, geschützt oder gefördert zu werden – und nicht nur, weil es für andere nützlich ist. Dazu kann es einen vollem moralischem Status erhalten – wie er meist erwachsenen Menschen zugesprochen wird – oder einen abgestuften und in begrenzten Formen. Als Kriterien werden häufig Vernunftbegabung, Leidensfähigkeit (Empfindungsvermögen für Schmerz), Bewusstsein oder die Zugehörigkeit zu einer bestimmten Art genannte.

Der moralische Status wird dabei heute schon in der Ethik angewandt, um beispielsweise Tieren, Pflanzen, Leben im Frühstadium (z.B. Embryos) oder sogar der Umwelt wie einem Fluss damit z.B. Rechtsanspruch zu gewähren.

KI und moralischer Status

Der in San Francisco beheimatete Hersteller von Claude, Anthropic, hielt einem Bericht der New York Times zufolge in den Vergangenen zwölf Monaten eine Reihe von Treffen und Workshops mit religiösen Führern aus aller Welt ab, um den Fortschritt der KI und die Standpunkte der Religionen dazu zu diskutieren.

Dabei stand der moralische Status von KI im Mittelpunkt, denn Anthropic-Mitgründer Christopher Olah sah die hausinterne KI bereits so weit fortgeschritten, dass sie diesen in Bälde erhalten sollte.

Anthropic bemüht sich auch, dass seine eigene KI „tugendhaftes Verhalten“ zeigt, sich „gut benimmt“ und wenn es sich aussuchen kann, immer gutes Verhalten wählt. Zugleich aber sollte sie sich auch vor Missbrauch schützen sein, und abwertendes Verhalten von Benutzern ignorieren dürfen.

Anthropic möchte, dass seine KI-Modelle dazu beitragen, diese positive Zukunft zu verwirklichen. Als Anthropic Claude entwickelte, wollte das Unternehmen daher, dass Claude mehr leistet, als nur die maximale menschliche Intelligenz nachzubilden. Anthropic wollte, dass Claude gut ist.

Anthropic erstellte schon vor einigen Jahren eine Claude Constitution, die sich auf die UN-Menschenrechte, Apples Geschäftsbedingungen, Prinzipien aus nicht-westlichen Hemisphären, Google DeepMinds Sparrow Rules und auf die bei der Anthropic-eigenen Forschung entdeckten Prinzipien stützt. Anthropic entwickelte eine sogenannte „Constitutional AI“, also eine KI, die auf einer Art Verfassung beruht und im Unternehmen auch gleich für das eigene Sprachmodell in die Praxis umgesetzt worden ist.17 „Claude’s Constitution“ umfasst 58 Prinzipien, anhand derer das Anthropic-Sprachmodell jedes Ergebnis nochmals durch eine eigene Moderatoren-KI überprüfen lässt. Anthropic nennt dieses Modell „Reinforcement Learning from AI Feedback“ (RLAIF) – also verstärkendes Lernen durch KI-Feedback.

Doch Olah wollte noch einen Schritt weiter. Er wollte die religiösen Oberhäupter dazu bringen, dass sie Anthropics KI als bereits so weit fortgeschritten einordneten, dass sie ihr moralischen Status zugestehen sollten. Die Diskussionen drehten sich dabei, ob eine KI Beichte ablegen könnte, ob sie Gefühle habe und damit Schmerz verspüren könne, und ob sie Bewusstsein entwickeln wird oder gar schon hat.

Und hier hielten sich die Oberhäupter zurück. Das beginnt schon mit der Frage, was Bewusstsein ist und wie man sie messen und erkennen kann. Darüber streiten sich die heutigen Forscher (und auch Theologen und Philosophen), wie vor 200 Jahren, als es darum ging Elektrizität zu verstehen und zu messen. Erst mit der Formulierung der Maxwell-Gleichungen Mitte des 19. Jahrhunderts wurde begonnen, Elektrizität besser zu verstehen und zu nutzen. Bei Bewusstsein stehen wir genauso am Anfang wie mit Elektrizität vor 200 Jahren.

Als dann Anthropic einen Vorabdruck von Papst Leo XIV. Enzyklika Magnifica humanitas: Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz erhielt, war er – wohl nur fur ihn überraschend – geschockt, dass die katholische Kirche einer KI kein Bewusstsein und damit keinen moralischen Status zugestand. Das wird wohl nicht die letzte Überraschung für KI-Unternehmen sein.

Was bedeutet das für die KI und die Menschen?

KI ist und wird in nächster Zukunft ein Werkzeug bleiben, das uns zwar sehr nützlich sein wird, aber keinen eigenen moralischen Status und nur einen begrenzten Rechtsstatus haben wird. Das bedeutet nicht, dass es gesellschaftlich akzeptabel sein wird eine KI zu missbrauchen, egal ob sie in Form eines Chatbots, eines autonomen Autos oder eines humanoide Roboters daherkommt.

Ich denke aber, dass wir mit Organoiden, also mit organisch-mechanischen und organisch-elektrischen hybriden Systemen – sehr wohl diese Gespräche erneut aufnehmen müssen. Firmen wie Cortical Labs in Australien oder Final Spark in der Schweiz bieten solche Gehirnorganoidcomputer bereits zum Verkauf an. Auch zellkulturierte Haut, wie sie Forscher der Universität Tokio schon 2022 auf Roboterfinger wachsen und bluten ließen, gehen in diese Richtung.

Meine Extrapolation des Kondratjew-Zyklus deutet auf diese Phase dieser hybriden Systeme hin, die ich als Künstliches Leben bezeichnet habe.

Einiges dazu und viel mehr steht in meinem am 4. uni 2026 erschienenen Buch Homo Syntheticus: Wie Mensch und Maschine verschmelzen