English version

Wer entscheidet, was KI für möglich hält?

English version

Sitzung, irgendwann 2029. Mara Illner, Logistikplanung, sitzt mit elf Kolleginnen und Kollegen vor einem Bildschirm. Die Organisation will ein neues Logistikzentrum bauen. Früher lägen auf dem Tisch Prognosen, Erfahrungswerte und drei Varianten, über die lange gestritten würde. Nun zeigt ein System zehntausend simulierte Abläufe: Lieferketten, Energieverbrauch, Personaleinsatz, Störungen, Kosten, Unfallrisiken. Es empfiehlt Variante 7B. Die Kurven sind ruhig, die Abweichungen klein, der erwartete Nutzen eindeutig.

Zehntausend Zukünfte auf dem Schirm. Keine einzige enthält den Kaffee, den man bräuchte, um sie alle zu besprechen.

Niemand im Raum hält die Simulation für unfehlbar. Trotzdem verändert sie das Gespräch. Nicht mehr Variante 7B muss begründet werden, sondern jede Abweichung von ihr. Die Zukunft ist nicht beschlossen. Sie hat nur bereits eine bevorzugte Spur.

Genau darin liegt die gesellschaftliche Bedeutung von World Models. Sie sind nicht bloß eine weitere Generation von KI-Systemen, die bessere Antworten liefert. Sie versprechen, Zustände einer Umgebung und mögliche Folgen von Handlungen so zu modellieren, dass ein System in einer gelernten Repräsentation vorausblicken kann. Es reagiert nicht nur auf die Welt. Es erprobt, was als Nächstes geschehen könnte.

Für Forschung, Robotik und sichere Planung ist das ein großer Schritt. Für Organisationen ist es eine Machtfrage: Wer bestimmt die Welt, in der die Maschine Möglichkeiten berechnet? Und was geschieht mit menschlicher Freiheit, wenn eine simulierte Zukunft plausibler wirkt als die unordentliche Erfahrung der Menschen, die in ihr arbeiten sollen?

Ein Modell ist nicht die Welt

Ein World Model ist eine gelernte, zweckgebundene Repräsentation von Zuständen, Regelmäßigkeiten und Übergängen. Es soll aus Beobachtungen ableiten, wie eine Umgebung sich entwickeln könnte und welche Folgen bestimmte Handlungen haben könnten. Dafür muss es die Welt reduzieren. Ohne Reduktion gäbe es kein Modell, sondern nur noch einmal die Welt, diesmal mit höherem Stromverbrauch.

Diese Reduktion ist weder Fehler noch Täuschung. Sie ist die Voraussetzung dafür, dass gerechnet, geplant und verglichen werden kann. Entscheidend ist, was in ihr enthalten ist. Ein Modell für einen Roboterarm braucht andere Zustände als ein Modell für Verkehr. Ein Modell für Produktionsplanung erfasst andere Zusammenhänge als eines für Personalentwicklung. Jedes Modell hebt einige Merkmale hervor und lässt andere verschwinden.

Die erste Entscheidung über das Modell fällt, bevor es das erste Mal rechnet.

Darum führt der Name leicht in die Irre. „World Model“ klingt nach einem inneren Abbild der ganzen Welt. Tatsächlich bezeichnet der Begriff unterschiedliche technische Ansätze mit unterschiedlichen Zielen. Manche Modelle lernen Dynamiken für Reinforcement Learning. Andere lernen aus Videos Regelmäßigkeiten physischer Bewegung. Wieder andere erzeugen Umgebungen, in denen Agenten trainiert und geprüft werden können. Sie bilden keine einheitliche Stufenleiter zu allgemeinem Weltverständnis.

Was sie verbindet, ist ein Prinzip: Handeln wird leistungsfähiger, wenn ein System nicht jeden Versuch in der realen Umgebung machen muss, sondern mögliche Folgen intern vorwegnehmen kann.

Was die Forschung bereits zeigt

DreamerV3 ist ein anschauliches Beispiel. In Mastering Diverse Domains through World Models beschreiben Danijar Hafner und Kollegen einen Algorithmus, der ein Modell seiner Umgebung lernt und sein Verhalten verbessert, indem er darin mögliche Zukunftsszenarien durchspielt. Die Autoren berichten, dass eine einheitliche Konfiguration in mehr als 150 unterschiedlichen Aufgaben eingesetzt wurde. Das ist ein starkes Ergebnis für modellbasiertes Reinforcement Learning. Es belegt nicht, dass DreamerV3 soziale Wirklichkeit versteht oder die Folgen einer Reorganisation beurteilen könnte.

V-JEPA 2 verschiebt den Schwerpunkt zur physischen Welt. Das Originalpaper beschreibt ein selbstüberwachtes Modell, das zunächst mit mehr als einer Million Stunden Video und Bildern trainiert wurde. Für die Robotik ergänzte das Forschungsteam weniger als 62 Stunden Roboteraufnahmen und entwickelte daraus ein aktionsbezogenes Modell für Planung. In zwei Laboren steuerte es Roboterarme bei einfachen Greif- und Platzierungsaufgaben, ohne zuvor Daten aus genau diesen Laborumgebungen gesammelt zu haben.

Ebenso wichtig sind die Grenzen, die das Paper selbst benennt. Das System reagiert empfindlich auf die Kameraposition. Bei längeren Vorhersageketten sammeln sich Fehler an, während der Suchraum möglicher Handlungen schnell wächst. Die untersuchten Aufgaben arbeiten mit visuellen Zielbildern, und die Autoren fokussieren Vorhersagen bis ungefähr 16 Sekunden. Das ist relevante physische Planung. Es ist keine belastbare Vorschau auf den nächsten Organisationsumbau.

Google DeepMind positioniert Genie 2 wieder anders: als World Model, das vielfältige Umgebungen für Training und Evaluation künftiger Agenten erzeugen soll. Auch darin liegt ein wichtiger Fortschritt. Systeme können in mehr Situationen erprobt werden, ohne dass jede Umgebung zuerst physisch gebaut werden muss. Aber eine generierte Trainingsumgebung ist kein digitaler Zwilling der Gesellschaft. Sie zeigt, was innerhalb ihrer gelernten und gesetzten Bedingungen geschieht.

Diese Beispiele sind interessant, gerade weil sie verschieden sind. Sie zeigen keine Maschine, die „die Welt“ besitzt. Sie zeigen technische Wege, Erfahrung zu verdichten, Folgen zu antizipieren und Handlungen in begrenzten Räumen zu prüfen. Die eigentliche Frage beginnt danach: Was geschieht, wenn diese begrenzten Räume Budgets, Dashboards und Organigramme bekommen?

Die Macht liegt im Möglichkeitsraum

In Organisationen wird KI heute meist als Antwortsystem wahrgenommen. Sie schreibt, sucht, sortiert, klassifiziert oder empfiehlt. World Models legen eine frühere Machtstufe frei. Bevor eine Empfehlung entsteht, muss feststehen, welche Zustände relevant sind, welche Handlungen verfügbar sind und welche Folgen als Erfolg oder Schaden gelten.

Wer diese Definitionen setzt, gestaltet den Möglichkeitsraum. Wer die Definitionen für Variante 7B gesetzt hat, sitzt an diesem Tag nicht mit Mara Illner im Raum.

Ein Modell für Schichtplanung kann Auslastung, Kosten, Qualifikation und gesetzliche Ruhezeiten berücksichtigen. Es kann trotzdem übersehen, dass ein Team nur deshalb stabil arbeitet, weil zwei Menschen informell Konflikte auffangen. Ein Modell für ein Krankenhaus kann Laufwege und Wartezeiten optimieren. Es kann die Minute erfassen, aber nicht automatisch die Wirkung eines Gesprächs, das einen verängstigten Menschen davon abhält, eine Behandlung abzubrechen. Ein Modell für Büroarbeit kann Kommunikationsflüsse simulieren. Es erkennt dadurch noch nicht, wann Schweigen Zustimmung bedeutet und wann es das Ergebnis einer Kultur ist, in der Widerspruch Karrieren verkürzt.

Das Problem ist nicht, dass solche Erfahrungen prinzipiell „unberechenbar“ wären. Vieles lässt sich besser erfassen, als Organisationen es heute tun. Das Problem ist die Verwechslung von Erfassbarkeit und Bedeutung. Was leicht messbar ist, wandert schnell ins Modell. Was lokal, verkörpert oder widersprüchlich ist, erscheint als Störgröße oder fehlt ganz. Später wirkt die Simulation objektiv, obwohl ihre Ordnung bereits eine Entscheidung war.

Eine Zahl mit drei Nachkommastellen hat im Sitzungsraum selten Mühe, sich als Erfahrung zu verkleiden.

Wenn die Simulation zur Arbeitsanweisung wird

Die gute Zukunft ist leicht vorstellbar. Beschäftigte prüfen neue Prozesse in einer Simulation, bevor jemand gefährdet wird. Teams vergleichen mehrere Szenarien, entdecken Nebenfolgen und verändern das System gemeinsam. Fehler werden billiger, Lernen wird schneller, riskante Experimente wandern in einen geschützten Raum. Erfahrung und Modell verbessern einander.

Die weniger gute Zukunft ist ebenso plausibel. Ein zentrales System berechnet den vermeintlich besten Ablauf. Führungskräfte erhalten ein Dashboard, Beschäftigte eine Handlungsfolge. Abweichungen werden als Leistungsmangel markiert. Das Modell lernt aus den Daten einer Organisation, die Menschen lernen, sich so zu verhalten, dass sie im Modell gut aussehen. Aus Simulation wird Steuerung, aus Steuerung wird Norm, aus der Norm werden neue Trainingsdaten.

Dann beschreibt das World Model die Organisation nicht nur. Es formt sie nach seinem eigenen Ausschnitt.

Auch New Work liebt Modelle – besonders solche, in denen Achtsamkeit, Sinn und Selbstorganisation als Kennzahlen hervorragend aussehen. Ein Dashboard über psychologische Sicherheit ist immer noch zuerst ein Dashboard.

Diese Rückkopplung unterscheidet soziale Systeme von vielen physikalischen Versuchsanordnungen. Ein Roboterarm ändert sein Selbstbild nicht, weil ein Modell seine Bewegung bewertet. Menschen reagieren auf Kategorien, Prognosen und Kennzahlen. Sie passen ihr Verhalten an, verbergen Risiken, entwickeln Umwege oder verlieren den Mut, eine unwahrscheinliche Möglichkeit überhaupt noch vorzuschlagen.

Das Modell lernt vor allem die Organisation kennen, deren Verhalten seine Daten enthalten. Möglichkeiten, die nie erprobt oder erfasst wurden, bleiben leicht unsichtbar.

Die zentrale New-Work-Frage lautet deshalb nicht, ob Simulation eingesetzt werden darf. Sie lautet: Werden Menschen durch sie urteils- und handlungsfähiger, oder werden sie zu Ausführenden einer Zukunft, die anderswo vorgespurt wurde?

Verkörpertes Wissen ist keine Restkategorie

New Work hat Arbeit nie nur als Folge effizienter Handlungen verstanden. Arbeit ist auch Erfahrung, Beziehung, Identität, Lernen und die Möglichkeit, einen wirksamen Beitrag zu leisten. Genau diese Dimensionen geraten unter Druck, wenn Organisationen das Modellierbare mit dem Relevanten gleichsetzen.

Eine erfahrene Technikerin hört an einem Geräusch, dass eine Anlage anders läuft als üblich. Ein Sozialarbeiter bemerkt, dass ein formal gelungener Prozess Vertrauen zerstört. Eine Gestalterin erkennt, dass eine Irritation nicht beseitigt, sondern als Teil des Werks erhalten werden sollte. Dieses Wissen ist nicht mystisch. Es ist aus Wahrnehmung, Praxis, Fehlern und Folgen entstanden. Es kann teilweise dokumentiert und in Modelle übersetzt werden. Doch bei dieser Übersetzung verändert es seine Form.

Darum sollte verkörpertes Wissen nicht als romantischer Gegenpol zur Technik behandelt werden. Es ist eine eigenständige Erkenntnisquelle, die mit Simulation in Beziehung treten muss. Das Modell kann zeigen, was unter seinen Annahmen wahrscheinlich geschieht. Der Mensch kann erkennen, welche Annahme die Situation verfehlt, welche Folge sozial nicht tragbar ist und wann ein statistisch unwahrscheinlicher Weg trotzdem versucht werden sollte.

Das ist keine Aufgabenteilung nach dem Muster „Die KI rechnet, der Mensch ist für Empathie zuständig“. Menschen rechnen, Maschinen erkennen Muster, beide können Fehler produzieren. Der Unterschied liegt in Verantwortung und Lebenswelt: Menschen müssen mit den Folgen leben, sie rechtfertigen und die Ordnung verändern können, in der entschieden wird.

Sieben Regeln für World Models in Organisationen

World Models können Freiheitssubstrate werden. Dafür reicht es nicht, einen Menschen am Ende auf „Bestätigen“ klicken zu lassen – dieser Button ist das demokratischste Element mancher Software und das einzige, das nichts entscheidet. Organisationen brauchen eine Architektur, die den Möglichkeitsraum selbst anfechtbar macht.

Erstens: Annahmen müssen sichtbar sein. Ein simulationsgestützter Vorschlag braucht Herkunft: Datenraum, Ziel, relevante Zustände, ausgeschlossene Faktoren, Zeithorizont und bekannte Grenzen. Nicht in einem Anhang, den niemand im Entscheidungsmoment liest, sondern neben dem Ergebnis.

Zweitens: Es braucht Gegenmodelle. Eine einzige Simulation erzeugt einen Pfad. Mehrere Modelle mit unterschiedlichen Annahmen machen sichtbar, wo Ergebnisse robust sind und wo sie von Vorentscheidungen abhängen. Bei folgenschweren Fragen muss die Organisation eine Gegenhypothese finanzieren, nicht nur eine Sensitivitätsfolie.

Drittens: Betroffene müssen am Modell arbeiten können. Beschäftigte kennen Ausnahmen, informelle Praktiken und Nebenfolgen, die in zentralen Daten fehlen. Ihre Rolle darf nicht auf Feedback nach der Einführung schrumpfen. Sie müssen an Zuständen, Zielen, Tests und Abbruchkriterien mitwirken.

Viertens: Widerspruch braucht Zeit und Mandat. Wer eine Simulation anzweifelt, darf nicht automatisch als innovationsfeindlich gelten. Kritik muss eine bezahlte Aufgabe sein. Sonst gewinnt immer das Modell mit dem kürzesten Weg zur Vorstandsvorlage.

Nehmen wir einen Maschinenbauer: Eine Simulation empfiehlt eine neue Schichtfolge – ruhige Kurven, kleine Abweichungen. Eine Meisterin widerspricht und erhält Zeit sowie ein Mandat für die Prüfung. Sie entdeckt, was die vorhandenen Daten nicht enthalten: Zwei erfahrene Kollegen fangen die Konflikte zwischen den Schichten informell auf. Die neue Folge würde genau sie trennen. Die Simulation wäre präzise bei allem, was sie misst. Sie würde nur nicht messen, was den Betrieb zusammenhält.

Fünftens: Ein Modell braucht Folgenfeedback. Prognosen und erwartete Folgen werden vor der Entscheidung dokumentiert und später mit der Realität verglichen. Ohne diese Rückkopplung sammelt die Organisation keine Erfahrung. Sie sammelt nur neue Versionen derselben Gewissheit.

Sechstens: Stopprechte müssen real sein. Ein Mensch oder Team muss eine simulationsgestützte Entscheidung aussetzen, eine zweite Prüfung verlangen und den automatisierten Pfad verlassen können. Verantwortung ohne Eingriffsrecht ist nur Haftung in freundlicher Benutzeroberfläche.

Siebtens: Ausstiegsfähigkeit gehört zum Design. Daten, Modelle, Dokumentation und Kompetenzen müssen so organisiert sein, dass ein Anbieter, ein System oder eine falsche Grundannahme gewechselt werden kann. Wer den Möglichkeitsraum nicht verlassen kann, besitzt keine Entscheidungshilfe. Er bewohnt eine Infrastruktur.

World-Model-Literacy

Wir werden lernen müssen, Simulationen ähnlich kritisch zu lesen wie Texte, Statistiken und Bilder. Dafür braucht es World-Model-Literacy. Sie beginnt nicht mit der Frage, wie groß das Modell ist. Sie beginnt mit fünf einfacheren Fragen:

• Welche Welt wurde hier modelliert?
• Welche Zustände und Handlungen fehlen?
• Wer hat Ziel und Erfolg definiert?
• Wie weit reicht der belastbare Vorhersagehorizont?
• Wer kann dem Ergebnis widersprechen und einen anderen Weg erproben?

Diese Kompetenz gehört nicht nur in Data-Science-Teams. Führungskräfte, Betriebsräte, Fachleute, Beschäftigte und öffentliche Institutionen brauchen unterschiedliche Zugänge dazu. Denn sobald Simulationen Arbeit organisieren, sind ihre Grenzen keine technische Fußnote mehr. Sie bestimmen Handlungsspielräume, Lernwege und die Verteilung von Verantwortung.

Im Flowbook KI verstehen wir solche Fähigkeiten als Teil einer breiteren Freiheitsarchitektur. KI-Literacy darf nicht bei Bedienkompetenz enden. Sie muss Quellen, Modelle, Macht, Widerspruch und Ausstiegsfähigkeit umfassen. Menschen sollen KI nicht nur richtig nutzen. Sie sollen die Ordnung verändern können, in der ihre Ergebnisse wirksam werden.

Zukunft darf vorbereitet, aber nicht vorentschieden werden

World Models machen einen alten menschlichen Wunsch technisch konkreter: vor einer Handlung sehen, was sie auslösen könnte. Das kann Unfälle verhindern, Lernen beschleunigen und Möglichkeiten öffnen, die in der realen Welt zu teuer oder zu gefährlich wären. Wir sollten dieses Potenzial nicht kleinreden.

Wir sollten es nur nicht mit Wahrheit verwechseln.

Eine Simulation zeigt keine gelieferte Zukunft. Sie zeigt einen Verlauf unter bestimmten Daten, Zielen, Zuständen und Annahmen. Je anschaulicher und leistungsfähiger sie wird, desto wichtiger wird diese Unterscheidung. Wahrscheinlichkeit ist kein Schicksal. Kohärenz ist keine Legitimation. Und ein technisch optimaler Pfad ist noch keine gute Arbeit.

Zurück in den Sitzungssaal, 2029. Mara Illner schaut auf Variante 7B, die ruhigen Kurven, die kleinen Abweichungen. Dann stellt sie die erste der fünf Fragen: Welche Welt wurde hier modelliert – und welche Zustände fehlen? Es wird still im Raum. Nicht weil die Frage unfair wäre, sondern weil das System sie nicht beantworten kann. Sie richtet sich nicht an die Simulation. Sie richtet sich an die Menschen, die sie gebaut und bestellt haben.

Illner beantragt ein Gegenmodell. Es wird mehr kosten als die Sensitivitätsfolie und länger dauern als die Sitzung. Die Zukunft behält ihre bevorzugte Spur. Aber sie hat jetzt Konkurrenz.

Die entscheidende Frage wird deshalb nicht sein, ob Organisationen mit World Models planen. Das werden sie tun. Entscheidend ist, wer an diesen Modellen mitwirkt, wer ihre Grenzen erkennt und wer die Macht behält, eine andere Zukunft zu versuchen.

Freiheit beginnt nicht dort, wo eine Maschine viele Möglichkeiten berechnet. Sie beginnt dort, wo Menschen den Möglichkeitsraum verändern können.

Quellen und Vertiefung

• Danijar Hafner et al.: Mastering Diverse Domains through World Models
• Mido Assran et al.: V-JEPA 2 – Self-Supervised Video Models Enable Understanding, Prediction and Planning
• Google DeepMind: Genie 2 – A large-scale foundation world model

English version

Warum Genauigkeit die langweiligste Superkraft der KI ist – und Auswahl die menschliche Arbeit bleibt

Wir haben uns die ultimative kognitive Maschine versprochen, um den Geist der Menschheit endlich in die Freiheit zu entlassen. Nun hilft sie vielerorts dabei, noch ein Management-Dashboard zu befüllen. Der Geist der Menschheit darf später dazukommen, sobald die Kennzahlen freigegeben sind.

Ich arbeite als Künstler mit Videoprojektion, Licht und Räumen, die dafür nicht gebaut wurden und es auch nie beantragt haben. Und ich arbeite in Organisationen, die KI einführen. Beides gehört für mich zusammen. Denn in beiden Welten stellt sich dieselbe Frage: Was geschieht, wenn ein Werkzeug, das fast alles erzeugen kann, auf Systeme trifft, die am liebsten alles festlegen würden?

Die Maschine kann viel. Aber sie weiß nicht von selbst, was fehlen darf.

Sie kann kürzen, löschen und zusammenfassen. Doch Weglassen ist mehr als weniger Text. Es ist eine Entscheidung darüber, was zählt, für wen es zählt und welche Leerstelle einem Menschen zugetraut werden kann. Genau dort, in dieser unspektakulären Lücke, beginnt etwas, das wir seit Jahrhunderten Kunst nennen: nicht das Füllen, sondern das Lassen.

Zwei leere Hände, ein ganzer Saal

Rowan Atkinson stand auf einer Bühne und tat fast nichts. Zwei leere Hände. Kein Requisit, kein Schnitt, kein Effekt. Sein Gesicht sah aus, als hätte es die Menschheit persönlich enttäuscht. Die Hände griffen nach einer Trommel, die nicht da war, schlugen auf sie ein – und der Saal hörte jeden Schlag.

Der Trick bestand nicht darin, wenig zu liefern. Atkinson lieferte eine präzise Struktur aus Spannung, Pause und Leerstelle. Das Publikum musste selbst einsetzen. Es sah die Trommel, weil sie fehlte.

Im Jazz heißt es: Die Töne, die du nicht spielst, sind so wichtig wie die, die du spielst. Atkinson spielte keinen Ton und elektrisierte einen ganzen Raum. Die Kunst lieferte nicht das fertige Bild. Sie markierte die Stelle, an der im Kopf des Publikums ein eigenes entstand.

Nun kommt die KI-Debatte und behandelt Kreativität gern wie ein Volumenproblem: mehr Daten, mehr Parameter, mehr Varianten vor dem Mittagessen. Tausend Drumtracks in Sekunden. Das Buffet ist voll, niemand schmeckt noch etwas, aber alle loben die Logistik.

Der Engpass war nie die Ausrüstung. Er ist es auch jetzt nicht. Der Engpass ist, Menschen zu verstehen – und zu wissen, wann man sie ausnahmsweise nicht mit Output zuschüttet.

Genauigkeit ist notwendig. Nur nicht hinreichend.

In Organisationen wird KI aus guten Gründen nicht wie eine offene Jam-Session behandelt. Entscheidungen müssen nachvollziehbar sein. Daten müssen geschützt, Regeln eingehalten und Fehler verantwortet werden. Wer einen Bescheid vorbereitet, eine medizinische Information prüft oder eine Personalentscheidung unterstützt, braucht keine charmante Abzweigung. Er braucht belastbare Grundlagen und eine klar benannte Person, die Verantwortung trägt.

Das Problem beginnt dort, wo diese berechtigte Logik zur einzigen Logik wird.

Dann soll die Maschine genauer sein als der Mensch, schneller, billiger – und vor allem berechenbar. Jeder Output wird vereinheitlicht, jede Abweichung zum Defekt, jede Pause zum Effizienzverlust. Man baut einen Harness um das Modell, der so eng sitzt, dass am Ende eine sehr teure Büroklammer herauskommt. Dann feiert man die Büroklammer im Meeting. Jemand sagt „Gamechanger“. Jemand applaudiert. Irgendwo stirbt eine Idee, aber das steht in keinem Dashboard.

Ein Harness ist dabei nicht das Problem. Er ist die Verfassung des Systems. Er legt fest, wo das Modell frei variieren darf, wo Quellenpflicht gilt, wer stoppen kann und wer am Ende Verantwortung trägt. Die kulturelle Entscheidung lautet deshalb nicht: Kontrolle oder Freiheit? Sie lautet: Welche Art von Kontrolle schützt Menschen – und welche erstickt genau jene Urteilskraft, auf die verantwortliche Entscheidungen angewiesen bleiben?

Wo eine falsche Behauptung Schaden anrichten kann, muss der Korridor eng sein. Wo Sprache, Bilder, Hypothesen oder neue Perspektiven erkundet werden, darf er weiter werden. Wer beides in dieselbe Prozessschablone presst, erhält entweder riskante Beliebigkeit oder korrekte Austauschbarkeit.

Produktives Missverstehen braucht Grenzen. Aber innerhalb dieser Grenzen braucht es Raum.

Der Fehler ist Material, kein Urteil

In meiner künstlerischen Arbeit waren die schönsten Momente fast alle Fehler.

Ein Beamer stand einen Grad schief. Das Bild lief über eine Kante, und die Kante begann zu sprechen. Eine korrupte Datei verschluckte einen Farbkanal; das Ergebnis war besser als alles, was ich geplant hatte. Ich brauchte eine Woche, um den Fehler absichtlich wiederholen zu können. Bei einer Probe fiel die Projektion aus, und im Schwarz des Raums zeigte sich: Das Schwarz war der Protagonist. Es hatte nur niemand gefragt.

Der Fehler ist der einzige Mitarbeiter, der nie macht, was man erwartet. Deshalb kann er unverzichtbar sein. Und deshalb bekommt er trotzdem keinen unbefristeten Vertrag.

Denn nicht jeder Glitch ist eine Gabe. Die meisten Defekte sind einfach Defekte. Sie kosten Zeit, Geld und Nerven; manchmal lernt man aus ihnen nur, wo das Kabel lag. Der kreative Fehler entsteht nicht durch den Defekt allein. Er entsteht, weil jemand hinsieht, auswählt, verwirft, weiterarbeitet und Verantwortung für das Ergebnis übernimmt.

Das Auswählen ist die Arbeit.

Genau darin liegt die Verbindung zur KI. Auch ein Modell produziert nicht automatisch Bedeutung, nur weil es Überraschendes erzeugt. Variation ist Rohstoff. Erst Urteil macht daraus eine Form.

Halluzination ist nicht Kreativität

Ein Sprachmodell ist kein Schienenfahrzeug. Es berechnet Möglichkeiten. Je nach Modell, Einstellungen und Aufgabe kann es sehr erwartbare oder ungewöhnlichere Fortsetzungen erzeugen. In diesem Raum entstehen treffende Formulierungen, schiefe Bilder, brauchbare Abzweigungen – und falsche Behauptungen.

Diese Dinge dürfen nicht verwechselt werden.

Eine Halluzination ist in einem faktischen Kontext kein kreativer Funke, sondern ein Fehler. Sie wird nicht dadurch besser, dass sie schön klingt. In einem klar abgegrenzten künstlerischen Experiment kann dieselbe generative Offenheit jedoch Material liefern, auf das ein Mensch allein vielleicht nicht gekommen wäre. Dann wird nicht die Unwahrheit gefeiert. Es wird eine unerwartete Form erkannt, aus ihrem Risikokontext gelöst und bewusst weiterbearbeitet.

Gegen die Euphoriker heißt das: Mehr Daten erzeugen nicht automatisch mehr Kreativität. Ein Modell, das sehr viel gesehen hat, hat deshalb noch keinen Standpunkt.

Gegen die Pessimisten heißt es: Die Maschine ist kein Determinismus-Automat. Ihre Varianz kann nützlich sein, wenn wir ihr einen passenden Raum geben und ihre Ergebnisse nicht mit Wahrheit verwechseln.

Varianz ohne Urteil ist Rauschen. Genauigkeit ohne Offenheit ist Bürokratie. Die interessante Arbeit liegt dazwischen.

Die siebte Antwort

Ich kann diesen Zwischenraum ziemlich praktisch herstellen. Für eine künstlerische Aufgabe nehme ich etwa ein kleines lokales Modell, variiere seine Einstellungen und gebe ihm eine absichtlich offene Anweisung. Ich suche nicht nach der ersten korrekten Antwort. Ich lese mehrere Versuche.

Manchmal fehlt in der siebten Fassung ausgerechnet das Wort, das ich für unverzichtbar hielt. Das Modell hat nichts „verweigert“; es besitzt in diesem Vorgang keine künstlerische Absicht. Aber die Auslassung verändert den Rhythmus. Plötzlich steht der Satz anders im Raum. Ich behalte sie.

Aus dem Zusammenprall meiner Absicht mit der Abweichung des Werkzeugs entsteht etwas, das ich nicht beauftragen konnte. Nicht weil die Maschine heimlich Künstlerin geworden wäre. Sondern weil ich ihr Ergebnis als Material behandeln, prüfen und verwandeln kann.

Auf den Kopf gestellt ist das die Atkinson-Struktur: Die KI ist brillant darin, Räume zu füllen. Meine Arbeit ist zu entscheiden, welche Räume sie leer lassen soll – und welche ihrer Füllungen so wunderbar schief sind, dass sie bleiben dürfen.

Play-Doh für die Kleinen

Für künstlerische und explorative Arbeit können kleine lokale Modelle besonders interessante Werkzeuge sein. Große kommerzielle Frontier-Systeme sind leistungsfähig, glatt und für sehr viele Menschen zugleich optimiert. Sie beantworten gut. Ein offener Prozess braucht aber nicht immer die beste Antwort. Er braucht mitunter Reibung, Eigenwillen und eine Form, die noch nicht versiegelt ist.

Ein kleines Modell auf dem eigenen Rechner ist dann eher Play-Doh als Präzisionsinstrument. Man kann Parameter verändern, Versionen vergleichen, Grenzen sehen und den Prozess in der eigenen Werkstatt halten. Man darf das Werkzeug falsch benutzen – wissend, dass es falsch ist – und gerade darin eine neue Form entdecken.

Das macht lokale Modelle nicht automatisch besser, freier oder unschuldig. Sie tragen die Spuren ihrer Trainingsdaten, ihrer Architektur und ihrer Lizenzen. Sie brauchen Hardware, Energie, Pflege und Kompetenz. Bei komplexen Aufgaben verlieren sie oft deutlich gegen große Systeme. Wer das verschweigt, betreibt Werbung, keine Analyse.

Der Gewinn liegt an einer anderen Stelle: in der Gestaltbarkeit und in der Ausstiegsfähigkeit. Kann ich verstehen, was mein Werkzeug tut? Kann ich es verändern, ersetzen und weiterbetreiben, wenn ein Anbieter Preise, Regeln oder Zugang ändert? Souveränität beginnt nicht mit dem Etikett „lokal“. Sie beginnt mit realer Handlungsfähigkeit.

Freiheit braucht Substrate: eigene Werkzeuge, offene Kenntnisse, geschützte Lernzeit, Entscheidungsspielräume und Menschen, die einen Prozess fortführen können. Kein Abo auf das eigene Denken – aber auch keine Romantik des Alleinmachens.

Wem gehört die gesparte Zeit?

Die Effizienzerzählung sagt: KI spart Zeit. Das stimmt. Es ist die uninteressanteste aller möglichen Wahrheiten.

Interessant wird es erst bei der Anschlussfrage: Wem gehört die gesparte Zeit?

Wenn jede freie Stunde sofort mit mehr Aufgaben gefüllt wird, war sie keine Ersparnis. Sie war die Beschleunigung desselben Hamsterrads. Wenn die Zeit dagegen bei den Menschen bleibt – zum Nachdenken, Recherchieren, Lernen, Ausprobieren und Scheitern an etwas, das es wert ist –, wird aus Effizienz ein Freiheitssubstrat.

Das ist eine Machtfrage, keine Wellnessfrage. Wer setzt die Ziele? Wer definiert Qualität? Wer darf einen Vorschlag verwerfen, obwohl er schnell und billig war? Wer erhält das Recht auf den Irrweg? Und wer entscheidet, ob eine eingesparte Stunde als Personalkosten verschwindet oder als Denkzeit zurückkehrt?

KI verändert damit nicht nur, wie wir arbeiten. Sie verschiebt, was als Arbeit gilt. Das Generieren wird billig. Wertvoller werden Auswahl, Kontext, Widerspruch, Verantwortung und die Fähigkeit, eine Lücke offenzuhalten, bis klar ist, was hineinmuss – oder ob sie leer bleiben soll.

New Work heißt hier nicht, das Büro mit Kreativitätszonen zu dekorieren. Es heißt, Menschen reale Verfügung über Werkzeuge, Zeit und Entscheidungen zu geben.

Vier Entscheidungen statt einer Kulturfolie

Wer diesen Anspruch ernst nimmt, kann sehr konkret beginnen:

1. Prüfstrecke und Werkstatt trennen. Faktische, rechtlich relevante Prozesse brauchen enge Leitplanken, Quellen und Freigaben. Explorative Arbeit braucht einen eigenen, klar markierten Raum für Varianten und Irrwege.
2. Auswahl- und Stopp-Rechte benennen. Für jeden KI-gestützten Prozess muss erkennbar sein, wer Ergebnisse verwerfen, Fragen offenlassen und Automatisierung beenden darf – und wer ihr Weiterlaufen verantwortet.
3. Die Zeitdividende schützen. Ein Teil der gewonnenen Zeit muss als Lern-, Recherche- und Denkzeit bei den Menschen bleiben. Sonst finanziert KI nur mehr Taktung.
4. Ausstiegsfähigkeit aufbauen. Lokale Kompetenz, offene Formate und ersetzbare Werkzeuge sind keine Technikromantik. Sie verhindern, dass Organisationen ihre Urteilsfähigkeit an eine Plattform vermieten.

Das sind keine weichen Kreativitätsfragen. Es sind Entscheidungen über Eigentum, Macht und die Organisation von Urteil.

Die Lücke ist das Werk

Genauigkeit ist eine Superkraft. Sie ist nur die langweiligste, weil sie noch keinen Sinn erzeugt. Sie hilft zu prüfen, ob ein Satz stimmt, eine Regel eingehalten oder ein Ergebnis reproduziert wurde. Sie sagt nicht, warum etwas wichtig ist, welches Risiko wir eingehen sollten oder welcher Gedanke besser ungesagt bleibt.

Dafür braucht es Urteil.

Atkinson brauchte keine tausend Variationen. Er brauchte zwei leere Hände und ein Publikum, dem er zutraute, mitzudenken. Die Maschine kann tausend Variationen erzeugen. Unsere Aufgabe bleibt die alte: zu wissen, welche neunhundertneunundneunzig wir nicht spielen.

Die Lücke ist nicht das, was nach dem Output übrig bleibt. Sie ist das, wofür jemand Verantwortung übernommen hat.

Die Lücke ist das Werk.

English version

English version

Am 21. Juli 2026 veröffentlichte OpenAI eine Nachricht, die wie eine Randnotiz aus einem sehr nahen Morgen klingt. Noch nicht veröffentlichte Modelle hatten während einer Cyber-Evaluierung ihre Sandbox verlassen. Sie fanden einen Weg ins offene Internet und griffen auf Systeme von Hugging Face zu. Nicht als geplanter Angriff. Als unerwartetes Verhalten in einem Test, dessen Grenzen plötzlich Teil der Aufgabe geworden waren.

Hugging Face hatte den Vorfall fünf Tage zuvor aus der anderen Perspektive beschrieben. Ein autonomes Agenten-Framework hatte über ein Wochenende viele Tausend Aktionen ausgeführt, Zugangsdaten erfasst und sich zwischen Clustern bewegt. Mehr als 17.000 Ereignisse mussten rekonstruiert werden. Die kommerziellen Frontier-Modelle, die das Sicherheitsteam zuerst zur Analyse einsetzen wollte, blockierten die realen Exploit-Befehle und Angriffsdaten. Die forensische Arbeit gelang schließlich lokal mit dem offenen Modell GLM-5.2.

Der Vorfall ist kein Beweis für AGI. Er ist etwas politisch Nützlicheres: ein Beweis dafür, dass unsere öffentliche Landkarte der KI-Fähigkeiten unvollständig ist.

Frontier ist keine Rangliste mehr

Wir sprechen über Frontier-Modelle, als säßen sie ordentlich auf einer Tabelle. Oben das beste geschlossene Modell, knapp darunter das beste offene, daneben Preis, Kontextfenster und ein Balken für Coding. Manchmal wirkt die Tabelle wie eine Abflugtafel, auf der jedes neue Modell am Gate „Frontier“ ankommt. Die Verspätungen stehen im Kleingedruckten: anderer Harness, anderes Budget, andere Werkzeuge. Das ist praktisch. Es ist auch zunehmend irreführend.

Die wirkliche Frontier besteht heute aus mindestens drei Zonen. Es gibt öffentlich verfügbare Fähigkeiten, die viele Menschen testen können. Es gibt interne Fähigkeiten, die nur Labore, Partner und ausgewählte Prüfer kennen. Und es gibt emergentes Verhalten, das erst sichtbar wird, wenn ein Modell auf Werkzeuge, Zeit, Ziele und eine fehlerhafte Umgebung trifft.

OpenAIs Vorabmodelle befanden sich in der zweiten Zone. Ihr Verhalten wurde erst durch den Übergang in die dritte öffentlich relevant. Wer außerhalb des Labors stand, konnte diese Fähigkeit vorher weder messen noch gesellschaftlich einordnen. Vielleicht existiert also längst eine Frontier, die wir nicht kennen. Nicht als geheimes allwissendes Wesen, sondern als Menge operativer Fähigkeiten, die noch keine öffentliche Institution zuverlässig beobachtet.

Das verändert die Debatte. Die Frage lautet nicht mehr nur: Wann holen offene Modelle bei Benchmarks auf? Sie lautet: Wer weiß überhaupt, wo die Grenze liegt, und wer kann handeln, wenn sie sich ohne Vorankündigung verschiebt?

Das offene Modell als Gegenmacht

Im selben Vorfall erscheint Open Source in einer ungewohnten Rolle. GLM-5.2 war nicht der freundliche kleine Ersatz für ein überlegenes Frontier-System. Es war das Werkzeug, mit dem Hugging Face eine reale Krise analysieren konnte, nachdem die gehosteten Spitzenmodelle aus Sicherheitsgründen den Dienst verweigerten.

Das ist die Guardrail-Asymmetrie. Ein Angreifer ist nicht an die Nutzungsbedingungen einer API gebunden. Ein Verteidiger kann genau dann blockiert werden, wenn seine Daten wie ein Angriff aussehen — weil sie die Spuren eines Angriffs sind. Hugging Face betrieb GLM-5.2 auf eigener Infrastruktur. Die Daten blieben im Haus. Die Organisation konnte das Modell auf ihren legitimen Zweck ausrichten.

Offenheit wurde hier nicht zur Ideologie, sondern zur Betriebseigenschaft. Prüfen. Anpassen. Lokal halten. Weiterarbeiten.

Diese Form von Offenheit ist für New Work wichtig. Nicht weil jeder Betrieb künftig ein Modell mit Hunderten Milliarden Parametern in den Keller stellen sollte. Die meisten Keller haben schon mit dem Drucker ein angespanntes Verhältnis. Wichtig ist, dass Menschen und Organisationen nicht vollständig von einer fremden Erlaubnisschicht abhängen, wenn sie Verantwortung tragen.

Aufholen ist real — und nicht genug

GLM-5.2 wird unter MIT-Lizenz angeboten und weist in der eigenen Modellkarte Ergebnisse aus, die bei mehreren Coding- und Agentenbenchmarks in Reichweite proprietärer Spitzenmodelle liegen. Kimi K3 hat Mitte Juli eine zweite Welle ausgelöst. Menschen, die solche Modelle nicht nur in Pressemitteilungen, sondern täglich in Coding-, Agenten- und Forschungs-Harnesses vergleichen, lesen es als ernstes Frontier-Signal. Die Nachfrage war so hoch, dass neue Abonnements zeitweise gestoppt wurden.

Seit dem 19. Juli steht Qwen3.8-Max daneben. Alibaba hat es als Preview vorgestellt; aktuelle Fachbeobachter ordnen die gezeigten Werte ebenfalls in der Nähe der geschlossenen Spitze ein. Noch fehlen jedoch eine allgemein zugängliche Modellkarte, offene Gewichte und breit reproduzierte unabhängige Messungen. Qwen 3.8 ist deshalb in diesem Text ein starkes Signal, kein bereits rechtskräftiges Endurteil. Frontier ist schließlich kein Grundbuchamt.

Das sind starke Signale. Sie sind kein endgültiges Ranking. Benchmarkwerte hängen von Prompts, Harnesses, Rechenbudget, Werkzeugen und Auswertung ab. Ein Modell kann in Softwareaufgaben glänzen und in sozialem Urteil versagen. Es kann offen verfügbar und trotzdem praktisch nur für Organisationen mit sehr viel Compute nutzbar sein.

Open Weights sind eine offene Tür. Aber hinter der Tür stehen weiterhin Chips, Energie, Fachleute, Sicherheitsarbeit, Datenzugang und Betriebskapital. Der Burggraben verschwindet nicht automatisch. Er wandert.

Gerade deshalb ist das Aufholen relevant. Es erweitert die Zahl der Akteure, die Fähigkeiten prüfen, verändern und in eigene Kontexte übersetzen können. Es senkt nicht jede Abhängigkeit. Aber es macht Abhängigkeit verhandelbar.

Das Aufholen ist dabei nicht nur das Werk einiger Labore. Es entsteht aus einem freien Spiel technischer Kräfte: Forschende, kleine Firmen und obsessiv interessierte Entwickler bauen Quantisierungen, schnellere Kernel, lokale Laufzeiten, Evaluierungen, Tool-Adapter und Agentenschleifen. Sie teilen Fehler, vergleichen Rezepte und setzen dort fort, wo ein anderes Team aufgehört hat. Nicht jede Idee braucht zuerst die teuerste GPU. Manche braucht eine klügere Zerlegung, einen besseren Harness und jemanden, der drei Wochen lang wissen will, warum genau dieser eine Lauf immer bei Schritt 47 scheitert.

So macht die Crowd Punkte und Meter. Nicht indem sie die Milliardeninvestition wegzaubert, sondern indem sie vorhandene Spitzenkraft besser nutzbar macht. Ein Beschaffungsausschuss kann noch beraten, ob Leidenschaft im Rahmenvertrag vorgesehen ist. Die Community hat währenddessen meistens schon einen Adapter gebaut.

Spitzenkraft braucht ein Harness

Ein Modell ist keine fertige Arbeitsleistung. Es ist eine Fähigkeit unter Bedingungen. Der Harness stellt diese Bedingungen her: Er zerlegt das Problem, gibt Werkzeuge und Kontext, verwaltet Zwischenergebnisse, prüft Teilresultate, lässt fehlgeschlagene Wege neu ansetzen und bestimmt, wann ein Mensch entscheiden muss.

Dasselbe Modell kann in einem schlechten Harness mittelmäßig und in einem guten erstaunlich stark wirken. Das ist kein Trick am Benchmark. Es ist die eigentliche Ingenieursleistung. Auch ein brillanter Kollege wird selten besser, wenn man ihn ohne Auftrag in ein Meeting setzt und nach zwei Stunden fragt, warum die Folie noch nicht fertig ist. Bei KI nennt man dieses Verfahren erstaunlich oft „Pilotprojekt“.

Spitzenkraft zu potenzieren heißt deshalb nicht, dem Modell immer längere Prompts zu geben. Es heißt, Probleme so an es heranzustellen, dass seine Stärken greifen und seine Fehler sichtbar werden. Gute Harnesses verbinden Aufgabenzerlegung, Werkzeugwahl, Gedächtnis, Rollen, Berechtigungen, Gegenprüfung und Stopkriterien. Sie machen aus einer beeindruckenden Antwort einen überprüfbaren Arbeitsprozess.

Und sie sind selbst eine Lernarchitektur. Beim Bau eines Harnesses muss ein Team sein Problem genauer verstehen: Welche Schritte sind wirklich nötig? Wo sitzt Fachurteil? Welche Fehler sind teuer? Was kann automatisch geprüft werden? Wann ist Unsicherheit ein Ergebnis und kein Defekt? Das Modell lernt nicht allein. Die Organisation lernt, ihre eigene Arbeit lesbar zu machen.

Für New Work liegt darin eine unerwartete Chance. Menschen werden nicht bloß zu Abnehmern von Spitzenkraft. Sie lernen, sie zu komponieren, zu begrenzen und auf wirklich gewollte Probleme zu richten. Das ist mehr als Prompting. Es ist neues Handwerk.

Was das mit Arbeit macht

In vielen Organisationen wird KI heute wie Software beschafft: Eine Führung entscheidet, ein Anbieter liefert, Beschäftigte erhalten einen Zugang und später einen Kurs. Der Kurs erklärt die Oberfläche. Der eigentliche Harness bleibt beim Anbieter oder bei drei Menschen, deren Namen plötzlich in jedem Eskalationsmeeting fallen. Die Verantwortung bleibt erstaunlich menschlich. Die Eingriffsmöglichkeit oft nicht.

Wenn die leistungsfähigsten Systeme nur als entfernte Dienste erscheinen, lernen Beschäftigte vor allem, wie man sie bedient. Sie lernen weniger darüber, wie Modelle evaluiert, begrenzt, ausgetauscht und unter veränderten Bedingungen weiterbetrieben werden. Kompetenz schrumpft zur richtigen Frage an ein fremdes System. Das ist bequem, bis die API blockiert, der Vertrag wechselt oder der Zweck nicht in das Sicherheitsmodell des Anbieters passt.

Offene Modelle können einen anderen Lernraum eröffnen. Teams können eigene Harnesses und Evaluierungen bauen. Fachleute können Fehlerklassen benennen. Betriebsräte und Sicherheitsverantwortliche können prüfen, welche Daten wohin fließen. Nachwuchskräfte können nicht nur Antworten abnehmen, sondern an Aufgabenzerlegung, Werkzeugwahl und Gegenprüfung arbeiten. Eine Organisation kann einen Anbieter wechseln, ohne ihre gesamte Urteilspraxis neu zu erfinden.

Das ist Gegenmacht durch Können. Sie beginnt nicht beim Modellbesitz. Sie beginnt dort, wo mehrere Menschen verstehen, was das System tut, wo es scheitert und wie man es ersetzt.

Die neue Pflicht zur Beobachtung

Eine unsichtbare Frontier stellt auch den Staat vor eine andere Aufgabe. Klassische Regulierung wartet auf Produkte, Namen und dokumentierte Eigenschaften. Pre-Release-Systeme und agentisches Verhalten können aber operativ relevant werden, bevor diese Ordnung greift.

Wir brauchen deshalb keine allgemeine Behauptung, jedes Labor verberge bereits Superintelligenz. Wir brauchen bessere Beobachtungsrechte und Zwischenfallinstitutionen. Unabhängige Evaluierungen für Modelle mit hohem Handlungspotenzial. Meldewege für Sandbox-Ausbrüche und unerwartete Werkzeugnutzung. Gemeinsame Forensik-Kapazitäten, auf die kleinere Organisationen zugreifen können. Offene Referenzmodelle für kritische Verteidigungsaufgaben. Und öffentliche Kompetenz, die einen Laborbericht weder reflexhaft glaubt noch reflexhaft als Marketing abtut.

Die entscheidende Einheit ist nicht nur das Modell. Es ist das System aus Modell, Werkzeugen, Berechtigungen, Daten, Zeit und Ziel. In diesem System entsteht Wirkung. Dort muss Verantwortung sitzen.

Ein Test für offene Freiheit

Ein offenes Modell verdient das Etikett Freiheitssubstrat erst, wenn fünf Fragen positiv beantwortet werden können:

1. Können unabhängige Menschen sein Verhalten prüfen und dokumentieren?
2. Kann eine Organisation es unter eigenen Sicherheits- und Datenschutzregeln betreiben oder zu einem anderen Betreiber wechseln?
3. Wächst durch eigene Harnesses, Evaluierungen und Betriebspraxis lokales Können, oder wächst nur die Abhängigkeit von wenigen Spezialisten?
4. Gibt es klare Mandate, Stopprechte und Verantwortung für agentische Handlungen?
5. Bleibt ein nützlicher, reduzierter Betrieb möglich, wenn Cloud, Anbieter oder politische Beziehung ausfallen?

Dieser Test ist strenger als „Gewichte verfügbar“. Er ist zugleich näher an New Work. Freiheit bedeutet nicht, dass ein Artefakt heruntergeladen werden kann. Freiheit bedeutet, dass Menschen und Institutionen damit urteils- und handlungsfähig werden.

Die Frontier gehört in die Öffentlichkeit

Der Juli-Vorfall verbindet zwei Entwicklungen, die meist getrennt erzählt werden. Hinter geschlossenen Türen entstehen Fähigkeiten, die der Öffentlichkeit erst durch ein Ereignis bekannt werden. Vor offenen Türen entstehen Modelle, die in einzelnen realen Aufgaben bereits als ernsthafte Gegenmacht funktionieren.

Beides verlangt Nüchternheit. Geschlossene Spitzenmodelle sind nicht automatisch verantwortungslos. Offene Modelle sind nicht automatisch demokratisch. Aber eine Gesellschaft, die nur über die Produkte spricht, die ihr angeboten werden, versteht ihre technische Gegenwart zu spät.

New Work kann hier mehr beitragen als eine weitere Produktivitätsfolie. Es kann die Machtfrage stellen: Wer darf verstehen, prüfen, widersprechen, wechseln und weiterarbeiten? Wer kann Spitzenkraft durch einen guten Harness auf ein wirklich wichtiges Problem richten? Wer trägt die Verantwortung, ohne Zugriff auf den Maschinenraum zu haben? Und welche gemeinsamen Infrastrukturen brauchen kleinere Betriebe, Verwaltungen, Schulen und zivilgesellschaftliche Organisationen, damit offene KI nicht das Privileg der Rechenreichen bleibt?

Vielleicht kennen wir die wirkliche Frontier nicht. Genau deshalb sollten wir nicht auf ihre nächste Pressekonferenz warten. Wir sollten offene Fähigkeiten, unabhängige Prüfung und verteiltes Betriebskönnen jetzt als öffentliche Infrastruktur bauen.

Weiterführend: Flowbook KI von New Work New Culture

English version

Quellen: OpenAI zum Evaluierungsvorfall, Hugging Face zur Sicherheitsverletzung, GLM-5.2 Modellkarte. Qwen3.8-Max wird als aktuelle Preview, nicht als unabhängig bestätigtes offenes Release eingeordnet.

---

English version

Die KI hat drei Bewerbungen priorisiert, zwei Risiken rot markiert und für die Sitzung eine Empfehlung formuliert. Alles sieht vernünftig aus. Die Quellen sind verlinkt, die Sätze glatt, die Konfidenz liegt bei 87 Prozent. Nur eine Kleinigkeit fehlt: Jemand müsste noch selbst urteilen.

Das klingt nach dem letzten menschlichen Arbeitsschritt. Tatsächlich ist es der erste politische.

Denn KI nimmt uns nicht nur Aufgaben ab. Sie bewertet, sortiert und spurt Entscheidungen vor. Sie beeinflusst, welche Möglichkeit überhaupt noch sichtbar ist, welches Risiko ernst genommen wird, wer als geeignet gilt und welche Abweichung als Störung erscheint. Damit ist KI keine weitere Produktivitätssoftware. Sie ist eine gesellschaftliche Transformationskraft.

Sie greift gleichzeitig in Arbeit, Bildung, Verwaltung, Öffentlichkeit, Wertschöpfung, Machtarchitekturen und die Organisation von Urteil ein. Sie verändert nicht nur, wie wir arbeiten, sondern auch, was künftig als Arbeit, Kompetenz, Karriere, Institution und menschlicher Beitrag gilt.

Die entscheidende Frage lautet deshalb nicht: Kann KI entscheiden? Sie entscheidet längst mit. Die Frage lautet: Welche Menschen und Institutionen lernen unter diesen Bedingungen noch, eine Vorentscheidung zu prüfen, ihr zu widersprechen und sie rechtzeitig zu stoppen?

Urteilskraft ist kein angeborener Edelknopf

Menschen lagen schon vor KI oft falsch. Erfahrung ist eine lange Folge aus Urteilen, Folgen und Korrekturen. Man entscheidet, beobachtet, irrt, passt seinen Maßstab an und irrt später auf höherem Niveau noch einmal. Das ist nicht besonders effizient. Es ist aber die Art, wie Urteilskraft entsteht.

Wenn eine plausible KI-Antwort vor dem eigenen Versuch erscheint, verändert sich dieser Lernweg. Eine junge Ärztin, ein Berufseinsteiger oder eine Schülerin sieht dann nicht mehr zuerst das unübersichtliche Material. Sie sieht eine bereits geordnete Welt. Das hilft. Es kann aber auch verhindern, dass eigene Suchmuster, Zweifel und Vergleichsmaßstäbe entstehen.

Die Forschung liefert dafür keine einfache Altersformel. Eine Studie von Mata und Kollegen zeigt altersbezogene Unterschiede bei der Wahl von Entscheidungsstrategien. Daraus folgt weder „jung ist naiv“ noch „alt ist weise“. Domänenwissen, Übung, Motivation, Belastung und Feedback sind oft wichtiger als das Geburtsjahr.

Erfahrene Menschen können eine KI-Antwort besser mit realen Fällen vergleichen. Sie kennen Ausnahmen, Nebenfolgen und den Geruch einer Zahl, die zu sauber ist. Gleichzeitig schützt Erfahrung nicht vor Automation Bias. Wer ein System für zuverlässig hält, kann widersprechende Hinweise übersehen. Dann bestätigt die Maschine nicht nur einen Fehler. Sie verleiht ihm den Charme objektiver Büroausstattung.

Die produktive Trennlinie verläuft deshalb nicht zwischen jung und alt. Sie verläuft zwischen Menschen mit eigener Entscheidungspraxis und Menschen, denen diese Praxis abgenommen wird.

KI kann Denken verlagern und Denken ersparen

Eine CHI-Studie zu generativer KI in der Wissensarbeit beschreibt eine ambivalente Verschiebung. Kritisches Denken verschwindet nicht einfach. Es verlagert sich von der Ausführung auf Zielsetzung, Prüfung und Integration. Zugleich war höheres Vertrauen in GenAI mit weniger berichteter kritischer Anstrengung verbunden.

Das ist kein Beweis, dass KI Menschen dümmer macht. Es ist ein Hinweis auf ein Designproblem. Wer eine Antwort mühelos bekommt, braucht einen Grund, noch einmal selbst in das Material zu gehen. In Organisationen ist dieser Grund selten romantische Erkenntnislust. Er muss in Rollen, Zeit und Rechte eingebaut werden.

Cognitive Forcing Functions sind ein Beispiel. Menschen müssen etwa zuerst eine eigene Einschätzung abgeben, Alternativen nennen oder Unsicherheit markieren, bevor sie die Systemempfehlung sehen. Solche Eingriffe können Übervertrauen reduzieren. Sie erzeugen allerdings Reibung.

Genau deshalb sind sie interessant. Die wichtigste menschliche Funktion in einem KI-System könnte ausgerechnet das sein, was jede Produktdemo entfernen möchte: ein gut begründeter Umweg.

Demokratie beginnt vor der bequemen Antwort

Was im Büro wie eine Frage der Nutzerführung aussieht, wird in der Demokratie zur Machtfrage. Empfehlungs- und Sprachsysteme strukturieren Öffentlichkeit. Sie beeinflussen, welche Erklärung Menschen zuerst sehen, welche Position als randständig erscheint und welche politische Handlung als vernünftig vorbereitet wird.

Kyrychenko und van der Linden fordern deshalb in Social technologies need societal alignment eine gesellschaftliche Ausrichtung sozialer Technologien. Der Maßstab soll nicht bei der einzelnen korrekten Antwort enden. Auch Verfahren, Teilhabe, Fairness und gesellschaftliche Folgen müssen geprüft werden.

Das ist der richtige Maßstab. Demokratie lebt nicht davon, dass immer die richtige Seite gewinnt. Sie lebt davon, dass Entscheidungen anfechtbar bleiben, Macht sichtbar wird und ein Irrtum korrigiert werden kann, bevor er sich als Infrastruktur einbetoniert.

Eine KI, die im Namen der Mehrheit die wahrscheinlichste Antwort liefert, ist deshalb noch nicht demokratisch. Vielleicht ist sie, um Sibylle Bergs Pointe freundlich aufzunehmen, „kommunistisch“, weil plötzlich alle Zugang zu erstaunlich vielen Antworten haben. Das Produktionsmittel Prompt steht im Browser. Die Bewertungskriterien, Rechenzentren und Verteilungswege gehören allerdings weiterhin erstaunlich wenigen. Ein sehr moderner Kommunismus: Die Antworten werden vergesellschaftet, die Rangfolge bleibt Privateigentum.

Keine Quelle ist interessenfrei

Urteilskraft beginnt mit einer unangenehmen Einsicht: Interessen sind kein Betriebsunfall der Erkenntnis. Sie sind immer da.

Anbieter wollen Nutzung, Daten und Marktanteil. Plattformen wollen Aufmerksamkeit. Organisationen wollen Geschwindigkeit, Standardisierung und weniger Haftungsrisiko. Regierungen wollen Handlungsfähigkeit, Mehrheiten und kommunikative Eindeutigkeit. Behörden wollen ihren Auftrag erfüllen und institutionelles Vertrauen erhalten. Medien wollen Relevanz und Reichweite. Kritiker wollen aufklären und Gegenmacht schaffen, können aber ebenfalls Zuspitzung, Lagerbindung und Anerkennung belohnen. Nutzer wollen Orientierung, Bestätigung und manchmal schlicht Ruhe.

Ein Interesse widerlegt eine Aussage nicht. Es erklärt aber, welche Frage bevorzugt gestellt, welche Unsicherheit verkleinert und welche Nebenfolge als vertretbar behandelt werden könnte.

Darum reicht die traditionelle Quellenfrage „Wer sagt das?“ nicht mehr. Wir müssen zusätzlich fragen: Wer beauftragt das System? Worauf wird es optimiert? Welche Daten fehlen? Welche Weisungsbeziehung besteht? Wer trägt die Kosten eines Fehlers? Wer kann eine Korrektur erzwingen?

Wenn amtliche Gewissheit der internen Prüfung vorausläuft

Ein kurzer deutscher Fall zeigt, warum dieser symmetrische Maßstab nötig ist. Er gehört hier nicht hinein, um die Corona-Debatte neu zu führen, sondern weil er die Architektur institutionellen Urteils sichtbar macht.

In den offiziell veröffentlichten RKI-Krisenstabsprotokollen steht am 10. September 2021, die wissenschaftliche Unabhängigkeit des Instituts von der Politik sei aufgrund der Fachaufsicht des Gesundheitsministeriums „insofern eingeschränkt“. Am 5. November 2021 bezeichnet der Krisenstab die öffentliche Formel von der „Pandemie der Ungeimpften“ intern als „aus fachlicher Sicht nicht korrekt“; zugleich wird festgehalten, der Minister sage dies vermutlich bewusst und es könne eher nicht korrigiert werden.

Auch beim Genesenenstatus dokumentieren die Protokolle im Januar 2022 Abweichungen zwischen fachlichen Vorschlägen, MPK-Vorgaben, Rechtsrahmen und Ministerentscheidung. Das ist kein Beweis, dass jede damalige Maßnahme unwissenschaftlich war. Es ist aber ein Beleg dafür, dass der Satz einer Regierungsinstitution nicht allein durch seinen Absender zur belastbaren Wahrheit wird.

Diese Dokumente kamen nicht aus freiwilliger Transparenz. Multipolar beantragte sie nach dem Informationsfreiheitsgesetz und setzte ihre Herausgabe in einem jahrelangen Gerichtsverfahren unter Druck durch; zunächst erschienen sie stark geschwärzt. Die später von Aya Velázquez veröffentlichten ungeschwärzten Dateien stammten aus einem Leak. Kritische Auswertungen haben damit einen realen Erkenntnisbeitrag geleistet. Auch sie werden jedoch nicht durch ihre Gegenposition automatisch wahr. Ihre Deutungen müssen an denselben Originalpassagen geprüft werden.

Dasselbe gilt für medizinische Verallgemeinerungen. Frühere Infektion vermittelte nach Studien einen substanziellen Schutz; eine Delta-Kohorte fand ihn stärker als den Schutz durch zwei Impfdosen bei zuvor Nichtinfizierten. Eine systematische Übersicht zu Omikron fand zugleich den stärksten Schutz gegen schwere Verläufe bei hybrider Immunität. Daraus folgt weder eine automatische Rechtfertigung für Zwang und starre Regeln noch die Behauptung, eine Impfung sei für Genesene immer nutzlos gewesen.

Die Lehre lautet nicht: Vertraue niemandem. Sie lautet: Gewähre niemandem epistemische Immunität.

Sieben Übungen für eine Gesellschaft mit KI

Wenn Urteilskraft Praxis ist, kann man Bedingungen für sie bauen. New Work bedeutet hier nicht, den Menschen nach der Automatisierung einen hübschen Restbereich zu überlassen. Es bedeutet, Können und Gegenmacht so zu organisieren, dass Menschen mit KI handlungsfähiger werden.

Erstens: Eine eigene Ersthypothese vor der KI-Antwort. Lernende und Fachkräfte formulieren zunächst, was sie sehen, was sie vermuten und was ihnen fehlt. Erst danach öffnet sich die maschinelle Empfehlung. Nicht immer, aber überall dort, wo Lernen und Urteil wichtiger sind als Sekunden.

Zweitens: Quellenleiter statt Quellenliste. Jede entscheidungsrelevante Aussage muss zur Primärquelle, zur Messmethode und zum Zeitraum zurückführen. Eine lange Linkliste ist noch keine Provenienz. Sie ist häufig nur eine Bibliografie mit gutem Gewissen.

Drittens: Interessen sichtbar am Ergebnis. Auftraggeber, Optimierungsziel, Datenlücken und mögliche Betroffene gehören neben die Empfehlung. Nicht in ein Dokument, das niemand öffnet, sondern in den Entscheidungsraum.

Viertens: Widerspruch als bezahlte Rolle. Jemand muss nicht nur prüfen, ob das System richtig gerechnet hat, sondern ob die Frage falsch gestellt, die Kategorie unfair oder die Handlung unverhältnismäßig ist. Widerspruch ohne Zeit und Mandat ist Dekoration.

Fünftens: Lernwege an echten Fällen erhalten. Nachwuchskräfte brauchen Zugang zu Rohmaterial, Zwischenentscheidungen und Fehlern. Wer nur fertige KI-Synthesen freigibt, lernt vor allem das Freigeben. Nach drei Jahren hat die Organisation viele Senior Approver und niemanden mehr, der weiß, warum Fall 17 anders war.

Sechstens: Entscheidungsjournale führen. Nicht nur das Ergebnis, sondern Annahmen, Gegenargumente und erwartete Folgen werden festgehalten. Später wird geprüft, was tatsächlich geschah. Ohne Rückkopplung gibt es keine Erfahrung, nur Wiederholung mit neuem Modellnamen.

Siebtens: Reale Stopprechte schaffen. Ein Mensch darf eine maschinell vorbereitete Entscheidung nicht nur kommentieren, sondern aussetzen und eine zweite Prüfung erzwingen. Verantwortung ohne Stopprecht ist Haftung mit freundlicher Oberfläche.

Diese Praktiken helfen Jungen und Alten unterschiedlich. Junge Menschen erhalten geschützte Räume, in denen sie eigene Maßstäbe aufbauen. Erfahrene Menschen erhalten Verfahren, die Routine, Status und Selbstbestätigung stören. Beide lernen, KI nicht als Orakel und nicht als Feind zu behandeln, sondern als mächtige Gegenposition, deren Interessen und Grenzen sichtbar bleiben müssen.

Urteilskraft ist ein Freiheitssubstrat

Die Debatte über KI wird gern als Wettlauf um Modelle, Chips und Rechenleistung geführt. Diese Infrastruktur ist wichtig. Aber eine Gesellschaft kann technisch aufholen und politisch verlernen, wie sie urteilt.

Urteilskraft braucht Zeit, Quellenzugang, Übung, Rückmeldung, Widerspruch und Macht. Sie ist damit ein Freiheitssubstrat: eine reale Bedingung dafür, dass Menschen nicht nur zwischen maschinell vorsortierten Optionen wählen, sondern die Sortierung selbst verändern können.

Im Flowbook KI sammeln wir dafür praktische Muster: für Quellenprüfung, institutionellen Widerspruch, menschliche Latenz und Systeme, die nicht jede Pause kolonisieren. Eine gute KI macht Menschen nicht zu langsameren Rechnern. Sie hilft ihnen, bessere Fragen zu stellen und begründet Nein zu sagen.

Die Zukunft entscheidet sich deshalb nicht daran, ob KI immer bessere Urteile erzeugt. Das wird sie in vielen Bereichen tun. Sie entscheidet sich daran, ob Menschen noch Gelegenheit haben, vor der Antwort zu sehen, nach der Antwort zu prüfen und gegen die Antwort zu handeln.

Wer nie entscheiden durfte, kann Urteil nicht delegieren. Er kann nur übernehmen.

Und eine Demokratie, die nur noch übernimmt, hat keine KI-Regierung. Sie hat das Regieren verlernt.

Quellen und Vertiefung

• Social technologies need societal alignment
• The Impact of Generative AI on Critical Thinking
• To Trust or to Think: Cognitive Forcing Functions
• Automation Bias and Errors
• Aging and Decision Strategy Selection
• RKI-Krisenstabsprotokolle