Kein KI-Code ohne menschliche Freigabe

Siamak Mehraghdam ·

Sep 8, 2026

Die Frage „Setzt ihr KI ein?" unterscheidet nichts mehr. Die Antwort ist überall ja. Was tatsächlich unterscheidet: Wer haftet für den Code, der dabei entsteht, wem gehören die Rechte daran, und wie rechnet man Arbeit ab, die schneller wird? Wir beantworten das hier so konkret, wie wir können — inklusive der Stellen, an denen die Rechtslage noch nicht geklärt ist.

Gegenstand: unser Delivery-Modell für KI-gestützte Softwareentwicklung · Rollen im Flow: Planung, Organisation, Entwicklung, Code Review, Test · Vertragsart: Dienstvertrag, periodenweise, monatlich kündbar

Kurz gefasst

Was „agentische Entwicklung" hier konkret bedeutet

Agentische Softwareentwicklung heißt bei uns: Ergänzend zum menschlichen Team arbeitet ein orchestrierter Flow spezialisierter KI-Agenten, verteilt auf die Rollen Planung, Organisation, Entwicklung, Code Review und Test. Kein einzelnes Modell, das ein Feature „baut", sondern mehrere Modelle mit unterschiedlichen Aufgaben, zwischen denen definierte Übergaben und Prüfschritte liegen. Der Mensch ist darin keine Aufsicht mit Vetorecht am Ende, sondern die letzte Instanz vor jedem Merge.

„Setzt ihr KI ein?" ist inzwischen die langweiligste Frage in jedem Erstgespräch. Die Antwort ist immer ja. Sie ist bei jedem Anbieter ja, den Sie einladen, und sie war schon ja, bevor irgendjemand darüber gesprochen hat.

Die Frage, die tatsächlich etwas unterscheidet, lautet anders: Wer haftet für den Code, der dabei entsteht?

Ich beantworte sie hier für uns, so konkret ich kann. Nicht weil ich glaube, dass unser Weg der einzige ist, sondern weil die meisten Antworten auf diese Frage im Moment aus Marketingtexten bestehen.

Wie der Flow tatsächlich aussieht

Die Orchestrierung ist gestuft, und diese Stufung ist der eigentliche Punkt.

Zerlegen. Anforderungen werden durch leistungsstarke Modelle in eng geschnittene Arbeitspakete zerlegt. Das ist der teuerste Schritt, und er lohnt sich. Der häufigste Grund, warum agentische Entwicklung scheitert, ist nicht ein schwaches Modell, sondern ein zu großes Arbeitspaket.

Umsetzen. Die Implementierung übernehmen kleinere, schnelle Modelle mit bewusst begrenztem Scope. Ein Modell, das genau eine klar umrissene Aufgabe bekommt, liefert verlässlicher als ein starkes Modell, dem man ein halbes Feature vor die Füße wirft.

Prüfen. Die anschließende Prüfung läuft wieder über leistungsstarke Modelle, in mehrstufigen Quality Gates. Wer implementiert hat, prüft nicht. Das ist keine KI-Regel, das ist eine ganz normale Regel aus der Softwareentwicklung, die hier nur konsequent weitergeführt wird.

Die Grenze, die nicht verhandelbar ist

Kein durch KI-Systeme erzeugter Code gelangt ohne vorherige Prüfung und Freigabe durch einen menschlichen Lead-Entwickler in die Codebasis unserer Kunden. Die Freigabe erfolgt featurebezogen, nicht pauschal, und sie ist die letzte Instanz vor jedem Merge in den Master.

Das ist die Antwort auf die Ausgangsfrage. Die Haftung liegt bei einem Menschen mit Namen, der vorher hingeschaut hat.

Es gibt eine zweite Grenze, die wir vertraglich ziehen: Hardwarenahe Entwicklung wird nicht durch KI-Systeme erzeugt. Sensorik anzubinden, Messwerte zu interpretieren, das Verhalten realer Geräte unter realen Bedingungen zu verstehen, das macht ein Spezialist. Geschwindigkeit hilft an dieser Stelle wenig, wenn niemand im Team das Gerät je in der Hand hatte.

Dazu kommt der Umgang mit den Daten selbst. Für die Anonymisierung betreiben wir selbst gehostete Modelle innerhalb unserer eigenen Infrastruktur. An externe Modellanbieter gehen ausschließlich zuvor anonymisierte Inhalte. Anforderungen an Verarbeitungsort und Nichtspeicherung klären wir vor Projektbeginn und regeln sie vertraglich, nicht auf Zuruf.

Die Frage, die kaum jemand stellt

Was passiert eigentlich mit den Rechten an Code, den kein Mensch geschrieben hat?

In fast jedem Dienstleistungsvertrag steht sinngemäß derselbe Satz: Der Auftragnehmer räumt dem Auftraggeber an den erstellten Arbeitsergebnissen das ausschließliche, unbeschränkte und übertragbare Nutzungsrecht ein. Dieser Satz hat jahrzehntelang funktioniert, weil dahinter eine schlichte Kette stand. Ein Mensch schreibt Code, der Code ist ein urheberrechtlich geschütztes Werk, der Mensch ist Urheber, sein Arbeitgeber hält die Rechte und kann sie weitergeben.

Diese Kette reißt an einer Stelle, sobald ein erheblicher Teil des Codes maschinell entsteht.

Urheberrechtlicher Schutz setzt eine persönliche geistige Schöpfung voraus. Wo keine menschliche Schöpfungshöhe erreicht wird, entsteht nach herrschender Auffassung schlicht kein Schutzrecht. Kein Urheber, kein Werk, nichts, woran man ein ausschließliches Nutzungsrecht einräumen könnte. Ein Anbieter, der es trotzdem zusichert, verspricht etwas, das er nicht besitzt. Der Kunde unterschreibt einen Vertrag, der an dieser Stelle ins Leere greift, und merkt es typischerweise erst dann, wenn es unangenehm wird: in der Due Diligence, beim Exit, beim Audit oder in dem Moment, in dem er einen Dritten ausschließen möchte und feststellt, dass ihm dafür die Rechtsposition fehlt.

Der zweite Punkt ist noch unangenehmer, weil er sich vertraglich gar nicht heilen lässt. Exklusivität gegenüber dem Anbieter kann man regeln. Exklusivität gegenüber der ganzen Welt kann man an ungeschützten Teilen nicht herstellen, weder durch eine schärfere Klausel noch durch ein höheres Honorar.

Wir gehen deshalb einen anderen Weg und regeln drei Dinge getrennt.

Was in diesem Modell den tatsächlichen Schutz trägt, ist nicht das Urheberrecht, sondern die Vertraulichkeit. Quellcode, technische Unterlagen und sämtliche Informationen über den Endkunden gelten bei uns ausdrücklich als vertrauliche Informationen, eingesetzte Subunternehmer werden entsprechend verpflichtet, und eine öffentliche Nennung als Referenz gibt es nur mit vorheriger Zustimmung in Textform. Wer Code über Geheimhaltung schützt statt über Urheberrecht, ist bei KI-gestützter Entwicklung auf der belastbareren Seite. Das ist unbequem für Vertriebsfolien, aber es hält.

Diese dritte Grenze wird am häufigsten falsch gezogen, in beide Richtungen. Wer sie zu eng zieht, liefert ein Ergebnis, das der Kunde ohne den Anbieter nicht betreiben kann, und nennt eine Abhängigkeit dann Partnerschaft.

Eine Frage ist damit übrigens noch nicht beantwortet, und ich halte nichts davon, so zu tun als ob: Was passiert, wenn ein Modell fremden, geschützten Code reproduziert? Vertraglich kann man das über Prüfpflichten, Freigabe und Dokumentation der eingesetzten Komponenten einhegen, und genau das tun wir auch. Rechtlich abschließend geklärt ist es nicht. Wer Ihnen dazu heute eine unbegrenzte Freistellung verspricht, hat entweder ein sehr großes Risikobudget oder das Problem nicht verstanden.

Und dann kam der unbequeme Teil

Wie rechnet man Arbeit ab, die schneller wird?

Nach Manntagen jedenfalls nicht. Ein Team, das mit dieser Unterstützung liefert, braucht für dasselbe Ergebnis weniger Zeit. Wer nach Zeit abrechnet, verdient bei jeder Effizienzsteigerung weniger. Man verkauft dann still ein Interesse an Langsamkeit mit, und der Kunde weiß das. Der Tagessatz ist der einzige Preis in unserer Branche, der sich verschlechtert, wenn der Anbieter besser wird.

Unsere Antwort ist ein fester Monatspreis für ein komplettes, unmittelbar arbeitsfähiges Team. Was darin steckt, ist bewusst breit geschnitten.

Die Kapazität. Zwei Sprints à zwei Wochen, ein Team in den Rollen IoT- und Sicherheitsexpertise, CI/CD und Lead-Entwicklung, Delivery Lead. Die angegebenen Kapazitätsanteile dienen der kaufmännischen Kalkulation. Sie begründen keine Verpflichtung, bestimmte Personen in bestimmten Zeitfenstern bereitzustellen, und sie sind ausdrücklich kein Stundenkontingent, das jemand abarbeitet.

Die Maschinenkosten. Sämtliche Kosten für den Betrieb der eingesetzten KI-Systeme sind enthalten, einschließlich der Kosten externer Modellanbieter und der von uns selbst betriebenen Infrastruktur. Keine Aufschläge, keine Weiterverrechnung von Tokens, keine Diskussion darüber, welches Modell wie oft gelaufen ist. Das ist mehr als eine Bequemlichkeit für die Buchhaltung. Wenn Modellkosten durchgereicht werden, entsteht sofort ein Anreiz, mehr davon zu verbrauchen, und der Kunde bezahlt jede Fehlkonfiguration mit. Wenn wir uns beim Werkzeug verkalkulieren, ist das unser Problem.

Die Reisen. Der Betrag versteht sich inklusive Reisekosten zu abgestimmten Terminen am Standort des Auftraggebers. Nur abgestimmte Reisen außerhalb des Einsatzortes werden zusätzlich abgerechnet, mit Nachweisen zur Rechnung.

Die Skalierung. Erweitert wird in ganzen Teams, nicht in FTE-Bruchteilen. Zusätzliche, parallel arbeitende Teams nach demselben Modell, jeweils zum selben Betrag, anzuzeigen zehn Arbeitstage vor Beginn der Periode. Der Grund ist nicht kaufmännisch, sondern praktisch: Ein halber zusätzlicher Entwickler macht ein eingespieltes Team nicht schneller, sondern beschäftigt es.

Was trotz allem nicht wegfällt, sind die Tätigkeitsnachweise. Wir legen sie monatlich vor, der Auftraggeber kann innerhalb von zwei Wochen in Textform widersprechen, sonst gelten sie als anerkannt. Das ist auf den ersten Blick ein Widerspruch: keine Abrechnung nach Zeit, aber trotzdem Nachweise. Er löst sich, wenn man beides trennt. Der Preis ist unabhängig vom Aufwand. Die Transparenz darüber, woran gearbeitet wurde, ist es nicht. Ein Kunde, der nicht sehen darf, was mit seinem Budget passiert, ist kein Partner, sondern ein Abonnent.

Das Team ist ein Team, keine Sammlung von Einzelpersonen. Für jede Rolle ist eine Vertretung im Haus sichergestellt, und wir behalten uns ausdrücklich vor, Mitarbeitende bei gleichbleibender fachlicher Qualifikation auszutauschen. Für Einkäufer, die gewohnt sind, Lebensläufe zu prüfen und Namen festzuschreiben, ist das gewöhnungsbedürftig. Es ist trotzdem die belastbarere Zusage. Ein Projekt, das von der Urlaubsplanung einer einzigen Person abhängt, ist kein Angebot, sondern ein Risiko mit Rechnung.

Warum wir monatlich kündbar anbieten

Beauftragt wird periodenweise, eine Periode entspricht zwei Sprints und damit einem Kalendermonat. Zum Ende jeder Periode entscheidet der Auftraggeber, ob es weitergeht. Die Entscheidung fällt spätestens zehn Arbeitstage vor Periodenende, damit wir die Kapazität für den Folgemonat verbindlich planen können. Kommt keine Erklärung, verlängert sich die Beauftragung automatisch um eine Periode.

Diese automatische Verlängerung ist die einzige Stelle des Modells, die man uns vorwerfen kann, also nenne ich sie selbst. Wir entschärfen sie mit einer Pflicht auf unserer Seite: Wir erinnern spätestens fünf Arbeitstage vor Fristablauf in Textform an die anstehende Entscheidung. Ein Vertrag, der sich verlängert, weil der Kunde ihn vergessen hat, ist kein Geschäftsmodell, sondern ein Trick.

Die Beendigung selbst erfolgt formlos in Textform, ohne Begründung, ohne Restlaufzeiten, ohne Abstands- oder Ausfallzahlungen. Es gibt keine Mindestabnahme über die sechs Perioden.

Das ist unbequem. Es bedeutet, dass wir uns jeden Monat neu qualifizieren müssen.

Es ist trotzdem die einzige ehrliche Konstruktion, die ich für dieses Angebot finden konnte. Wir verkaufen ein Versprechen über Geschwindigkeit und Qualität, das sich vor Projektbeginn nicht beweisen lässt. Wer so etwas verkauft und gleichzeitig auf Mindestlaufzeiten besteht, verlangt vom Kunden, das gesamte Risiko einer unbewiesenen Behauptung zu tragen. Der erste Entwicklungssprint endet bei uns deshalb mit einem lauffähigen Zwischenergebnis. Nach vier Wochen wissen Sie, woran Sie sind, und können gehen.

Wofür wir haften, und wofür nicht

Hier wird es endgültig unbequem, denn an dieser Stelle steht in unserem Vertrag ein Satz, der zunächst nach Rückzug klingt: Die Leistungserbringung erfolgt auf Basis eines Dienstvertrags. Ein Werkerfolg wird nicht geschuldet.

Warum verkaufen wir keinen Werkvertrag, wenn wir doch so überzeugt von unserer Lieferfähigkeit sind?

Weil ein Werkvertrag einen abschließend beschriebenen Leistungsgegenstand braucht, der vor Beginn feststeht. Genau den gibt es in einem Vorhaben nicht, dessen Backlog gemeinsam priorisiert und laufend angepasst wird. Wer trotzdem Werkvertrag draufschreibt, tut anschließend eines von zwei Dingen: Er kalkuliert einen erheblichen Risikoaufschlag ein, den der Kunde bezahlt, egal ob das Risiko eintritt. Oder er verteidigt ab Woche drei den ursprünglichen Scope gegen jede Erkenntnis, die im Projekt entsteht. Das ist der Punkt, an dem die meisten Festpreisprojekte innerlich kippen, lange bevor es jemand ausspricht.

Wir nehmen deshalb den Dienstvertrag und legen das Risiko an eine andere Stelle. Nicht in eine Erfolgszusage, die im Streitfall ohnehin niemand messen kann, sondern in die Kündbarkeit. Der Kunde ist nicht durch eine Garantie geschützt, sondern dadurch, dass er jederzeit aufhören kann, uns zu bezahlen. Das ist die schärfere Sanktion, und sie greift ohne Anwalt.

Was daraus für die Haftung folgt, steht ebenfalls ausdrücklich im Vertrag statt im Kleingedruckten. Für Vorsatz, grobe Fahrlässigkeit sowie Schäden an Leben, Körper und Gesundheit haften wir unbeschränkt, daran ändert sich nichts. Für die verbleibenden Fälle einfacher Fahrlässigkeit bei Verletzung wesentlicher Vertragspflichten ist die Haftung auf einen konkreten Betrag je Schadensfall begrenzt, und wir haben diese Grenze projektspezifisch festgeschrieben, statt sie aus einem AGB-Standardwerk zu übernehmen.

Ich weiß, wie das in einem Beitrag über Vertrauen klingt. Trotzdem halte ich die Alternative für unseriös. Ein mittelständischer Dienstleister, der unbegrenzte Haftung für Folgeschäden zusagt, sagt entweder etwas zu, das seine Bilanz im Ernstfall nicht trägt, oder er hat das Risiko in den Preis eingerechnet und nennt es Ihnen nicht. Beides ist teurer für den Kunden als eine Begrenzung, die zum Auftragsvolumen in einem erkennbaren Verhältnis steht. Und Klauseln, bei denen dieses Verhältnis nicht mehr erkennbar ist, halten einer AGB-rechtlichen Prüfung im Zweifel ohnehin nicht stand. Eine Haftungszusage, die im Streitfall unwirksam ist, schützt niemanden, sie beruhigt nur beim Unterschreiben.

Der Beleg: Wir bauen unsere eigenen Produkte damit

An dieser Stelle ist die berechtigte Rückfrage: Schön beschrieben, aber funktioniert das auch?

Die ehrlichste Antwort, die ein Dienstleister darauf geben kann, ist nicht eine Referenzliste, sondern das eigene Produkt. Wir entwickeln zwei, beide nach genau der Methodik, die ich hier beschrieben habe.

Actana AI ist ein Betriebssystem für KI. Ein Ort, an dem Agenten, Informationen, Apps und die alltägliche Automatisierung zusammen leben, statt auf vier Werkzeuge verteilt zu sein, die alle vor den Agenten gebaut wurden. Gebaut wird per Beschreibung in normaler Sprache, visuell auf einer Canvas oder mit Code. Es ist an keinen KI-Anbieter gebunden, das Modell lässt sich jederzeit wechseln, und es läuft in unserer Cloud oder auf den eigenen Systemen des Kunden. Wir arbeiten seit 2020 an Agenten, lange bevor das Wort in jedem Vertriebsdeck stand.

Actana Control ist das Werkzeug hinter der Methodik. Eine selbst gehostete Steuerungsebene für agentisches Programmieren: ein Panel über beliebig viele Maschinen, die Claude Code, Codex, Cursor CLI und OpenCode in echten Terminalsitzungen gegen die jeweiligen Repositories fahren. Der Code verlässt dabei die Maschine nicht, auf der er ohnehin liegt. Nichts wird hochgeladen oder gespiegelt, es gibt keine Telemetrie. Das Projekt steht unter MIT-Lizenz auf GitHub und ist derzeit im Pre-Release.

Der Punkt daran ist nicht die Produktwerbung. Der Punkt ist, dass unsere Orchestrierung kein Foliensatz ist. Sie ist Software, die wir täglich selbst benutzen, deren Steuerungsebene öffentlich einsehbar ist, und die unter denselben Quality Gates entsteht, die auch in Kundenprojekten laufen. Wer uns beauftragt, bekommt kein Konzept, das erst im Projekt erfunden wird.

Wie wir arbeiten, wenn wir uns selbst etwas beweisen wollen, steht in unseren Laborberichten: Ein 320-Milliarden-Modell auf einem 16-GB-MacBook und ein Spiel, zwei Builds, null veröffentlichungsreife Ergebnisse. Beide enthalten die Zahlen, auch die unangenehmen.

Häufige Fragen

Wer haftet für KI-generierten Code?

Bei uns ein Mensch mit Namen. Kein durch KI-Systeme erzeugter Code gelangt ohne vorherige Prüfung und Freigabe durch einen menschlichen Lead-Entwickler in die Codebasis unserer Kunden. Die Freigabe erfolgt featurebezogen und ist die letzte Instanz vor jedem Merge in den Master. Die vertragliche Haftung folgt dann den normalen Regeln: unbeschränkt für Vorsatz, grobe Fahrlässigkeit sowie Schäden an Leben, Körper und Gesundheit; für einfache Fahrlässigkeit bei Verletzung wesentlicher Vertragspflichten auf einen projektspezifisch festgeschriebenen Betrag je Schadensfall begrenzt.

Wem gehören die Rechte an KI-generiertem Code?

Das lässt sich nicht pauschal beantworten, und genau das ist der Punkt. Urheberrechtlicher Schutz setzt eine persönliche geistige Schöpfung voraus. Wo keine menschliche Schöpfungshöhe erreicht wird, entsteht kein Schutzrecht — und damit auch nichts, woran ein ausschließliches Nutzungsrecht eingeräumt werden könnte. Wir regeln deshalb drei Dinge getrennt: ausschließliches Nutzungsrecht an den schützbaren Arbeitsergebnissen, ein Unterlassungsversprechen für die nicht schützbaren Teile, und Bestandsrechte an unseren eigenen Methoden und Werkzeugen mit einfachem Nutzungsrecht für den Auftraggeber.

Ist KI-gestützte Entwicklung DSGVO-konform?

Sie kann es sein, wenn der Datenfluss geregelt ist. Für die Anonymisierung betreiben wir selbst gehostete Modelle innerhalb unserer eigenen Infrastruktur. An externe Modellanbieter gehen ausschließlich zuvor anonymisierte Inhalte. Anforderungen an Verarbeitungsort und Nichtspeicherung klären wir vor Projektbeginn und regeln sie vertraglich. Wer diese Fragen erst im Projekt stellt, hat sie zu spät gestellt.

Warum kein Werkvertrag und kein Festpreis pro Projekt?

Ein Werkvertrag braucht einen abschließend beschriebenen Leistungsgegenstand, der vor Beginn feststeht. Den gibt es in einem Vorhaben nicht, dessen Backlog laufend gemeinsam priorisiert wird. Wer trotzdem Werkvertrag draufschreibt, kalkuliert entweder einen Risikoaufschlag ein, den der Kunde in jedem Fall zahlt, oder verteidigt ab Woche drei den ursprünglichen Scope gegen jede neue Erkenntnis. Wir nehmen den Dienstvertrag und verlagern das Risiko in die monatliche Kündbarkeit.

Warum kein Tagessatz?

Weil der Tagessatz der einzige Preis in unserer Branche ist, der sich verschlechtert, wenn der Anbieter besser wird. Ein Team, das mit agentischer Unterstützung liefert, braucht für dasselbe Ergebnis weniger Zeit. Wer nach Zeit abrechnet, verdient bei jeder Effizienzsteigerung weniger — und verkauft damit still ein Interesse an Langsamkeit mit. Wir nehmen stattdessen einen festen Monatspreis pro Team, in dem auch sämtliche Modell- und Infrastrukturkosten enthalten sind.

Die kurze Antwort

Maschinen schreiben. Menschen geben frei. Wer freigibt, haftet.

Und wer behauptet, dadurch schneller zu sein, sollte drei Dinge tun: den Preis so bauen, dass er von der eigenen Geschwindigkeit profitiert statt sie zu fürchten. Die Grenzen der eigenen Haftung benennen, statt Zusagen zu machen, die im Ernstfall nicht tragen. Und dem Kunden die Tür offen lassen, damit das Versprechen jeden Monat neu eingelöst werden muss.

Wenn Sie ein Vorhaben haben, für das Ihnen gerade Entwicklungskapazität fehlt, und der Aufbau eines eigenen Teams über Recruiting und Einarbeitung Ihren Zeitplan nicht mehr abbildet: Wir stellen ein vollständiges, ab dem ersten Sprint arbeitsfähiges Team. Nach vier Wochen sehen Sie ein lauffähiges Zwischenergebnis und entscheiden neu.

Schreiben Sie mir gern direkt, oder schauen Sie sich vorher an, was wir mit dieser Methodik für uns selbst gebaut haben.