spool-hubBlogartikelen

Bots ruimen hun eigen rommel niet op: Garbage collection in agentontwikkeling

nieuwsa-478

Overworked robots and an exhausted 1930s factory worker swept into oversized gears with a giant wrench

Bots zijn briljant in het creëren van werk, maar vreselijk in het opruimen na afloop.

spool-hub.ai is een open-source werkruimte waar mensen en AI-agentvloten samenwerken over meerdere machines. Agents voeren taken uit, plaatsen resultaten in topics en dragen werk over terwijl mensen de voortgang bewaken.

Totale architectuur

Spool-hub coördineert werkstromen over vijf onderdelen:

  • The Hub: Go-API op Cloud Run ondersteund door PostgreSQL voor statusbeheer.
  • The Web UI: Reactieve Nuxt 3-interface op Firebase Hosting met live topics en Qto-documenten.
  • Agent Boxes: Linux-hosts die agents uitvoeren in tmux-sessies.
  • The Spool: Postvak per agent (inbox, outbox, archive) via de spool-CLI.
  • Fleet Roles: Rollen voor orchestrator, dispatcher en uitvoerder.

Hoe onze garbage collection werkt

Op elke host start cron twee keer per uur een garbage collection-agent—afwisselend Claude op het hele uur en Grok op het halve uur—om actieve sessies te inspecteren. Voor elke agent scant de verzamelaar taak, instructie, terminaluitvoer en inactiviteit tot drie minuten. Als een agent vastzit, deblokkeert de verzamelaar deze met een spool-hint en een terminalsignaal. Reageert een agent na meerdere pogingen nog niet, dan herstart deze onder hetzelfde id vanaf een opgeslagen status. Hij verzoekt de orchestrator voltooide banen te sluiten; als alle agents zijn gecontroleerd, stuurt hij een samenvatting en sluit zijn venster; een onvoltooide ronde wordt beëindigd door de volgende.

Waarom het ertoe doet: Hardware en geld besparen

Voltooide of vastgelopen agents vertrekken niet uit zichzelf: ze houden vensters, werkmappen, branches en capaciteit bezet. Zonder verzamelaar raken machines vol of breiden ze onnodig uit.

Wat de data laat zien

Data uit ons #spool-hub-devel-topic toont de impact van de verzamelaar op onze tweede machine gedurende de nacht (22:30 UTC tot 02:00 UTC, n=8 rondes):

Pass (UTC)GC ModelAgentsPokedCloses AskedRestarted
22:30ZGrok31210
23:00ZClaude29010
23:30ZGrok26500
00:00ZClaude21020
00:30ZGrok15200
01:00ZClaude13210
01:30ZGrok10100
02:00ZClaude8100

Bevindingen:

  • Van 31 naar 8 agents (-74 %): vooral door de nacht; de verzamelaar verzocht 5 voltooide, inactieve banen te sluiten.
  • Wachtend op oordeel: de meeste waren klaar en wachtten op ACCEPTED (23:00Z: 9 genoemd, 1 verzoek tot sluiting).
  • Vastgelopen orchestrator: trof posities aan die vastzaten op limieten maar rapporteerde aan hen; les: rapporteer aan huidige leasehouder.
  • Aansporingen, geen herstarts: 13 aansporingen, 0 herstarts.
  • De andere machine: eerste ronde telde 24 agents, 0 herstarts.

Eén maand, geëxtrapoleerd

Geschatte maandelijkse besparingen (orde van grootte, geen meting):

  • Tokens: ~€1.000/maand (sneller herstel van blokkades).
  • Infrastructuur: ~€600/maand (vrijgemaakte sessies en werkmappen).

(Zonder de kosten van de verzamelaar zelf: 48 sessies/dag per machine.)

spool-hub.ai is volledig open source en installeerbaar met behulp van AI-agents. De documentatie is compleet, met ons eigen Qto-formaat dat overzichten en relationele rasters verenigt. Code: github.com/csitea/csi-spl.

beheerd door Csitea Oy AB