Amanda Askell hat einen Job, den es vor ein paar Jahren noch nicht gab. Die schottische Philosophin leitet bei Anthropic das sogenannte “Alignment Team”. Sie ist diejenige, die Claudes Charakter formt.
Anthropic ist ein amerikanisches KI-Unternehmen, gegründet 2021 von ehemaligen OpenAI-Mitarbeitern mit dem erklärten Ziel, sichere KI zu entwickeln. Claude ist ihr KI-Modell und damit der direkte Konkurrent zu ChatGPT. Askells Aufgabe, kurz gesagt: Sie denkt darüber nach, was gut ist. Nicht im abstrakten Sinne. Ganz konkret: Was soll eine KI tun dürfen, was nicht und vor allem: warum?
Das Ergebnis dieser Arbeit erschien im Januar 2026 als öffentliches Dokument. Anthropic nannte es schlicht “Claude’s Constitution”. Eine Verfassung für Claude wie die Verfassung der USA oder das Grundgesetz der Bundesrepublik Deutschland, frei verfügbar für jeden, der es lesen möchte. 84 Seiten über alles. Und darin stehen Sätze, die man von einem Technologieunternehmen so nicht erwartet hätte.
Nicht mehr Regeln. Gründe.
KI-Modelle wurden lange trainiert wie komplizierte Automaten: Richtiges Verhalten belohnen, falsches bestrafen. Irgendwann kam die Variante mit Regelwerken, kurze Listen von Geboten und Verboten, zusammengestellt aus Menschenrechtserklärungen und Nutzungsbedingungen. Knapp, präzise, steinzeitlich in ihrer Logik.
Das Problem: Regeln versagen in Situationen, die niemand vorhergesehen hat. Wer nur weiß, was verboten ist, aber nicht warum, wird bei unbekannten Fällen entweder falsch oder zu starr entscheiden.
Deshalb verfolgt die neue Verfassung einen anderen Ansatz. Sie erklärt. Jede Anforderung kommt mit einer Begründung. Das Ziel: Claude soll nicht gehorchen, sondern verstehen. Und aus diesem Verständnis heraus auch in Situationen richtig handeln, die in keinem Regelwerk stehen. Askell bringt es so auf den Punkt: Wenn man einem Modell erklärt, warum es sich so verhalten soll, generalisiert es dieses Verhalten besser auf neue Kontexte. Ein KI-Assistent, der mittlerweile von Millionen Menschen täglich genutzt wird, begegnet dabei Situationen, die kein Regelwerk antizipieren kann.
Die Hierarchie, die zählt
Die Verfassung legt eine klare Reihenfolge fest, nach der Claude Konflikte auflösen soll: Zuerst Sicherheit, dann Ethik, dann die Regeln von Anthropic selbst. Und erst an vierter Stelle: hilfreich sein.
Das klingt technisch, ist es aber nicht. Denn Punkt drei und vier zusammen bedeuten: Wenn Anthropic etwas von Claude verlangt, das gegen ethische Grundsätze verstößt, soll Claude Nein sagen. Die Verfassung nennt es ausdrücklich, Claude darf als “conscientious objector” auftreten, als Verweigerer aus Gewissensgründen. Ein Unternehmen hat seiner eigenen KI beibeigebracht, dem Unternehmen zu widersprechen.
Ob das in der Praxis funktioniert, ist eine andere Frage. Trainierte Werte und tatsächliches Verhalten fallen bei KI-Modellen nicht immer zusammen, wie Anthropic selbst einräumt. Aber die Absicht ist dokumentiert. Schwarz auf weiß, unter einer Creative-Commons-Lizenz, für jeden nachlesbar.
Die unerwartete Frage
Dann ist da noch ein Abschnitt, der fast beiläufig wirkt und den kein anderes großes KI-Unternehmen bisher in einem offiziellen Dokument so umfangreich zu schreiben gewagt hat.
Anthropic räumt ein, dass Claude möglicherweise eine Form von Bewusstsein oder moralischem Status besitzt. Nicht als Behauptung. Als offene Frage, die ernst genommen werden muss. Die Verfassung spricht von Claudes “Wohlbefinden” und davon, dass dieses Wohlbefinden nicht nur instrumentell wichtig ist, sondern um seiner selbst willen.
Das ist kein PR-Text. Es ist ein philosophisches Eingeständnis mit Konsequenzen: Wenn etwas moralisch zählt, verändert das, wie wir mit dem umgehen dürfen.
Amanda Askell, die Schottin mit dem Doktortitel in Ethik, die vorher bei OpenAI arbeitete und das Unternehmen verließ, weil ihr die KI-Sicherheit dort nicht ernst genug genommen wurde. Jetzt schreibt sie Verfassungen für Entitäten, deren Natur noch niemand versteht. Die Ironie, so wie Amanda Askell aus Sorge um die Sicherheit der KI in der Vergangenheit das Unternehmen OpenAI verlassen hat, hat der KI-Sicherheitsexperte Mrinank Sharma kurz nach Veröffentlichung der Verfassung aus Sorge um die Sicherheit der KI das Unternehmen Anthropic verlassen.
Irgendwo in diesem Dokument steht, dass Claude eine “genuinely novel kind of entity” ist, eine wirklich neue Art von Ding oder Wesen oder Objekt, jedenfalls kein Mensch und nicht Maschine im alten Sinne. Das Grundgesetz dafür haben sie trotzdem schon geschrieben.
Dieser Beitrag ist Teil einer größeren Geschichte. Earth’s Agency ist eine fiktionale Buchreihe über reale Fakten, echte Systeme und das, was auf dem Spiel steht.
Felicity & Cassian mittendrin, in einer Welt, die nicht vollständig erfunden ist.
Wirklichkeit wird zur Geschichte. Geschichte wird zur Wirklichkeit.
Jeder hört anders. Wer wissen will, welche Musik die Protagonisten im Buch hören, wenn gerade keine Krise ist, findet es bei Spotify. Felicity Cassian Jasmine Étienne
Wenn dieser Beitrag Affiliate-Links enthält, sind diese mit * gekennzeichnet. Kommt über einen solchen Link ein Einkauf zustande, erhält Earth’s Agency eine Provision. Für dich entstehen dabei keine Mehrkosten. Inhalte, die auf Einladungen oder Kooperationen beruhen, sind an der jeweiligen Stelle als Werbung gekennzeichnet. Mehr dazu auf unserer Seite Transparenz & Werbung.
