Die Frage hinter der Frage
Die Sorge, die mir in Unternehmen am häufigsten begegnet, wird selten offen ausgesprochen. Sie klingt in Halbsätzen an, in einer hochgezogenen Augenbraue, in einem vorsichtigen „und was heißt das dann für uns?". Übersetzt lautet sie: Nimmt mir das meine Arbeit ab — oder entscheidet es bald über meinen Kopf hinweg?
Diese Sorge ist berechtigt, und sie verdient eine ehrliche Antwort. Denn die wichtigste Frage bei der KI ist nicht, was die Technik kann. Es ist, welche Beziehung wir zu ihr eingehen wollen. Die Antwort darauf ist eine Haltung — und bei uns ist sie nicht nur ein Satz auf einer Folie, sondern in die Architektur eingebaut. Dies ist das Kapitel unserer Reihe, das ich am Ende der Entwicklungsgeschichte versprochen habe: unser grundsätzlicher Umgang mit KI.
Vervielfachen, nicht ersetzen
Der Kern unserer Haltung lässt sich in drei Worten sagen: vervielfachen, nicht ersetzen.
Gute KI nimmt dem Menschen nicht die Arbeit ab, die den Sinn ausmacht — sie nimmt ihm die Arbeit ab, die nicht der Punkt ist. Das Tippen, das Suchen, das Zusammenfassen, das Strukturieren, das Nachschlagen über zwölf Systeme hinweg. Genau die Tätigkeiten, die den Tag füllen und am Abend das Gefühl hinterlassen, das Eigentliche nicht geschafft zu haben.
Ich erlebe diese These jeden Tag an mir selbst. Dass ein einzelner Mensch ein Labor in dieser Dichte betreiben kann, liegt nicht daran, dass die Maschine für mich denkt. Es liegt daran, dass sie das Handwerk übernimmt, während ich Architektur und Urteil vorgebe. Das Ziel von KI ist nicht, den Menschen überflüssig zu machen. Es ist, ihm seine Aufmerksamkeit zurückzugeben — für das, wofür ihn niemand ersetzen kann: Urteil, Beziehungen, Entscheidungen.
Wer KI als Ersatz verkauft, verkauft eine Drohung. Wir verkaufen ein Werkzeug. Der Unterschied ist nicht kosmetisch — er bestimmt jede einzelne Designentscheidung, die danach kommt.
Der Mensch behält das letzte Wort
Wenn KI vervielfacht statt ersetzt, dann folgt daraus ein klares Prinzip: Die KI schlägt vor, der Mensch entscheidet.
In der Praxis heißt das, dass folgenreiche Schritte nicht einfach „passieren". Alles, was schwer rückgängig zu machen ist, was nach außen geht oder was Menschen betrifft, läuft über eine ausdrückliche Freigabe. Das System bereitet vor, begründet, legt dar — und hält dann inne. Den Knopf drückt ein Mensch. Wir haben dafür keine nachträgliche Schranke gebaut, sondern eine eingebaute: einen Freigabe- und Protokollmechanismus, durch den heikle Aktionen erst hindurchmüssen.
Das ist keine Bremse aus Vorsicht. Es ist eine Grenze aus Prinzip. Denn Verantwortung lässt sich nicht an ein Werkzeug delegieren. Eine Maschine kann eine Aufgabe übernehmen, aber sie kann nicht verantwortlich sein — verantwortlich ist immer ein Mensch. Ein System, das so tut, als trüge es die Verantwortung, nimmt dem Menschen nicht Last ab, sondern Kontrolle. Genau das wollen wir nicht.
Eine KI, die „ich weiß es nicht" sagen darf
Die gefährlichste KI in einem Unternehmen ist nicht die, die etwas nicht kann. Es ist die, die selbstbewusst danebenliegt.
Ein System, das auf jede Frage flüssig und überzeugend antwortet — auch wenn es raten muss —, ist ein Risiko, das sich als Komfort tarnt. Wir haben uns bewusst für das Gegenteil entschieden: für eine KI, die ihre Unsicherheit zeigen darf. Konkret heißt das, dass Antworten mit einer Einschätzung ihrer Verlässlichkeit kommen, dass Quellen genannt werden, dass das System seine eigene Antwort hinterfragt und neu ansetzt, wenn die Konfidenz zu niedrig ist — und dass KI-erzeugte Ausgaben als solche gekennzeichnet sind.
Eine Antwort, die ihre Quellen nennt und ihren Zweifel zugibt, kann man prüfen. Eine Antwort, die blufft, kann man nur glauben. In einem Betrieb, in dem Entscheidungen Geld und Menschen betreffen, ist Ehrlichkeit wichtiger als Eloquenz. Ein „ich bin mir hier nicht sicher, prüfe bitte diese zwei Quellen" ist kein Mangel. Es ist das Merkmal eines Assistenten, dem man trauen kann.
Gedächtnis schafft Verantwortbarkeit
Man kann keine Verantwortung an etwas übergeben, das alles vergisst. Ein Assistent, der jedes Gespräch bei null beginnt, bleibt ein Fremder — egal wie schlau er im Einzelmoment ist.
Deshalb steht das Gedächtnis im Zentrum von allem, was wir bauen. Aber Gedächtnis allein genügt nicht; es muss auch einsehbar und korrigierbar sein. Du kannst sehen, was das System über dich und dein Unternehmen gespeichert hat, und du kannst es ändern. Diese Nachvollziehbarkeit ist es, die aus einer Blackbox einen Kollegen macht. Ein Kollege, dessen Erinnerung man nicht prüfen darf, wäre kein vertrauenswürdiger Kollege — sondern ein Risiko mit gutem Gedächtnis.
Vertrauen entsteht nicht dadurch, dass ein System beeindruckt. Es entsteht dadurch, dass man hineinschauen darf. Dass die Härtung der Infrastruktur dazugehört, habe ich im Härtetest beschrieben; hier geht es um die Ebene darüber — die Beziehung selbst.
Wo Governance anfängt
„Governance" klingt nach Bremse, nach Formular, nach Verlangsamung. Für uns ist sie das Gegenteil: Sie ist das, was Delegation überhaupt erst sicher macht.
Wer einem Menschen eine Aufgabe überträgt, vereinbart vorher, was er allein entscheiden darf und wann er Rücksprache hält. Mit einem KI-System ist es genauso. Governance fängt dort an, wo es ernst wird: bei personenbezogenen Daten, bei unumkehrbaren Schritten, bei allem, was das Haus verlässt. Menschliche Aufsicht ist im EU AI Act nicht zufällig ein tragendes Prinzip — und Kompetenz im Umgang mit KI ist dort seit Anfang 2025 sogar Pflicht. Wir behandeln beides nicht als Auflage, sondern als Konstruktionsprinzip.
Der eigentliche Gedanke ist dieser: Regeln sind nicht das Gegenteil von Tempo. Klare Grenzen sind die Voraussetzung dafür, ohne Angst schnell zu sein. Ein Team, das genau weiß, was die KI selbst tun darf und wo der Mensch zustimmt, delegiert mutiger — nicht vorsichtiger. Vertrauen, das man prüfen kann, traut sich mehr zu.
Was bleibt
Die Beziehung, die wir zu KI wollen, ist keine zwischen Herr und Maschine und auch keine zwischen Bittsteller und Orakel. Es ist die zwischen einem Menschen, der die Richtung und die Verantwortung behält, und einem Werkzeug, das seine Reichweite vervielfacht, ehrlich über seine Grenzen ist und sich prüfen lässt.
Das ist keine Marketinghaltung, die man bei Bedarf anlegt. Sie steht in der Architektur: in den Freigaben, mit denen der Mensch das letzte Wort behält; in den Konfidenzwerten und Quellen, mit denen das System ehrlich bleibt; im einsehbaren Gedächtnis, das Vertrauen prüfbar macht. Eine Haltung, die nicht im Code steht, ist nur eine Behauptung.
Dies ist ein Kapitel unserer Reihe über den Umgang mit und die Einführung von KI. Wie man konkret beginnt — vom ersten griffigen Prozess zum Betriebssystem —, steht im ersten Beitrag. In den nächsten Teilen nehmen wir die einzelnen Forschungslinien genauer in den Blick.