Wie weit kann ein Modell selbstständig handeln, und wo sollte es aufhören?
Ein Modell, das antwortet, ist nützlich. Ein Modell, das plant, Werkzeuge nutzt und eine Aufgabe zu Ende bringt, ist etwas anderes: Es braucht Grenzen, ein Gedächtnis und eine Möglichkeit zu zeigen, was es getan hat. Die meiste Arbeit steckt im Harness um das Modell herum, nicht im Modell selbst.
- Tool-Aufrufe in echten Apps und APIs
- Harnesses: Berechtigungen, Leitplanken, Bestätigungen, Protokolle
- Langzeitgedächtnis, mit einem Menschen in der Schleife für alles Wichtige