Jusqu’où un modèle peut-il agir seul, et où doit-il s’arrêter ?
Un modèle qui répond est utile. Un modèle qui planifie, utilise des outils et mène une tâche à bout est autre chose : il lui faut des limites, une mémoire et un moyen de montrer ce qu’il a fait. L’essentiel du travail se joue dans le harness qui entoure le modèle, pas dans le modèle lui-même.
- Appels d’outils sur de vraies applications et API
- Harness : permissions, garde-fous, confirmations, journaux
- Mémoire longue, avec un humain dans la boucle pour tout ce qui compte