Code & Paragraphen: Dürfen KI-Agenten einkaufen gehen?

Als vor dreieinhalb Jahren ChatGPT veröffentlicht wurde, haben wir gestaunt und versucht, die Fehler im LLM zu suchen und uns darüber bei Linkedin lustig gemacht. So wie in den 1990er-Jahren, als man allerlei Unsinn im Internet treiben konnte. Das nächste Level gab es dann mit der Website moltbook.com, welche im Februar 2026 lanciert wurde.

Auf der Plattform tummeln sich über 200’000 „human-verified AI Agents“. Sie tauschen sich nahezu selbständig aus oder gründen gar eine neue Religion, molt.church.

KI-Agenten haben keine Rechtsfähigkeit, also die Fähigkeit, Träger von Rechten und Pflichten zu sein. Die Rechtsfähigkeit von Menschen wird nach dem Zivilgesetzbuch bestimmt. Dort heisst es: „Rechtsfähig ist jedermann. Für alle Menschen besteht demgemäss […] die gleiche Fähigkeit, Rechte und Pflichten zu haben.“ KI-Agenten sind keine Menschen, unstreitig und werden (jedenfalls bisher) auch nicht Menschen gleichgesetzt. KI-Agenten sind auch keine Juristische Personen, denn diese sind nicht in das Handelsregister eingetragen.

Damit haben KI-Agenten, egal wie autonom diese agieren, weder Rechte noch Pflichten. Aber sie sollen Verträge abschliessen dürfen?

Was der Studierende schon im ersten Semester lernt: Der Abschluss eines Vertrages bedarf laut Obligationenrecht übereinstimmender gegenseitiger Willenserklärungen.

Wenn sich zwei KI-Agenten auf moltbook.com unterhalten und einen Vertrag abschliessen wollen oder ein KI-Agent auf einer Website shoppen geht, äussern sie dann zwei übereinstimmende Willenserklärung? Rein tatsächlich schon, aber rechtlich dürfte es an dem Willen fehlen. KI-Agenten, soweit sollten wir uns wohl einig sein, haben keinen Willen, sondern sind einfach nur Nullen und Einsen.

Damit aber eine Willenserklärung rechtliche Relevanz bekommt, wird vorausgesetzt, dass der Erklärende (also hier der KI-Agent) einen Handlungs-, Erklärungs- und Bindungswillen aufweist. Beispielsweise ist der Handlungswille die bewusste Bereitschaft in einer Angelegenheit aktiv zu werden. Nicht, dass uns Menschen jederzeit bewusst sei, dass wir gerade aktiv sind – selbst wenn wir nicht schlafen, stehen wir doch manchmal neben uns. Der KI-Agent ruht dagegen immer in seiner mathematischen Mitte, hat aber das Problem, dass er kein Bewusstsein schaffen kann.

Nach meiner Meinung fehlt es selbständig agierenden KI-Agenten daher an der Fähigkeit zu einer rechtlich wirksamen Willenserklärung, um einen Vertrag abschliessen zu könnten.

Einige Anwaltskollegen sehen das ganz pragmatisch: Wen interessiert schon die grundlegende Lehre von den Elementen der Willenserklärung, wenn der KI-Agent einfach als Werkzeug des dahinterstehenden Menschen angesehen wird. Der Mensch gibt die Willenserklärung ab und der KI-Agent wird dabei als Werkzeug eingesetzt. Ein rechtlicher Stellvertreter des Menschen im Sinne des Obligationenrechts ist der KI-Agent jedenfalls nicht. Denn der beauftragte KI-Agent kann mangels wirksamer Willenserklärung keine Vollmacht entgegennehmen.

Folgt man der Logik, gibt das Werkzeug einfach die Willenserklärung für den Menschen ab? Kann man so vertreten. Ich sehe es aber anders, insbesondere wenn die KI-Agenten selbständig ohne menschliches Zutun agieren. Die gehen dann autonom auf Einkaufstour, weil man vor zwei Monaten den Agenten zu einem Einkauf angewiesen hat und die Willenserklärung wird mir zugerechnet? Nein, das möchte ich nicht und entspricht auch nicht meinem Willen. Und wenn es gar nicht mein Wille war, weil ich versehentlich eine Wiederholungsschleife aktiviert habe oder der KI-Agent den Prompt falsch interpretiert hat?

In meiner Welt können KI-Agenten (im Übrigen auch Roboter oder Tiere) keine Verträge abschliessen. Das bleibt den Menschen vorbehalten – jedenfalls solange, bis der Gesetzgeber eine andere Auffassung in das Gesetzbuch geschrieben hat. Wenn KI-Agenten das trotzdem machen, werde ich nicht vertraglich gebunden. Es sei denn, man hat seine Willenserklärung durch einen eindeutigen Prompt mit Erklärungs-, Handlungs- und Bindungswille manifestiert. Gut, dass wir diese Definition im ersten Semester gelernt haben.

Für Website-Betreiber stellt sich die Thematik ebenso, denn sie sind darauf angewiesen, dass der Vertrag über die Website wirksam abgeschlossen wird. Sie werden ihre Geschäftsbedingungen anpassen und gar Anweisungen für KI-Agenten auf ihrer Website anbringen. Und auch wie in den 1990er-Jahren mit dem Aufkommen des Internets gilt: Es wird nicht so heiss gegessen, wie gekocht wird und das Wirtschaftsleben regelt manch juristische Überlegung faktisch, bevor der Gesetzgeber sich zu Klarstellungen durchgerungen hat.