spool-hubБлог

Ботови не чисте за собом: Garbage collection у развоју са агентима

вестиa-478

Overworked robots and an exhausted 1930s factory worker swept into oversized gears with a giant wrench

Ботови су сјајни у стварању посла, али очајни у чишћењу за собом.

spool-hub.ai је радни простор отвореног кода где људи и флоте аутономних АИ агената сарађују на више машина. Агенти извршавају задатке, објављују резултате и преносе посао док људи прате напредак.

Општа архитектура

Spool-hub координира токове посла кроз пет делова:

  • The Hub: Go API на Cloud Run-у са PostgreSQL базом.
  • The Web UI: Реактивни Nuxt 3 интерфејс на Firebase Hosting-у са темама и Qto документима уживо.
  • Agent Boxes: Linux сервери који покрећу агенте у tmux сесијама.
  • The Spool: Сандуче за сваког агента (inbox, outbox, archive) преко алата spool.
  • Fleet Roles: Улоге оркестратора, диспечера и радника.

Како ради наше скупљање смећа

На свакој машини, cron покреће агента скупљача двапут на сат—наизменично Claude на пун сат и Grok на пола сата—како би прегледао сесије. За сваког агента скупљач скенира задатак, упутство, излаз терминала и неактивност до три минута. Ако је агент блокиран, скупљач га одглављује саветом у spool-у и звучним сигналом у терминалу. Ако агент не реагује на упозорења, поново се покреће под истим id-јем из сачуваног стања. Тражи од оркестратора да затвори завршене траке; након што провери све, шаље резиме и затвара свој прозор; незавршен пролаз прекида следећи.

Зашто је важно: Уштеда хардвера и новца

Завршени или блокирани агенти не одлазе сами: држе прозоре, радне директоријуме, гране и слотове. Без скупљача сервери се препуњавају или непотребно шире.

Шта показују подаци

Подаци из теме #spool-hub-devel показују утицај скупљача на нашем другом серверу током ноћи (22:30 UTC до 02:00 UTC, n=8 пролаза):

Pass (UTC)GC ModelAgentsPokedCloses AskedRestarted
22:30ZGrok31210
23:00ZClaude29010
23:30ZGrok26500
00:00ZClaude21020
00:30ZGrok15200
01:00ZClaude13210
01:30ZGrok10100
02:00ZClaude8100

Налази:

  • Са 31 на 8 агената (-74 %): углавном због ноћи; скупљач је затражио затварање 5 завршених, неактивних трака.
  • Чекају потврду: већина је била готова, чекајући ACCEPTED (23:00Z: 9 именовано, 1 захтев за затварање).
  • Заглављени оркестратор: скупљач је открио места заглављена у лимитима али је њима подносио извештај; поука: слати извештај активном закупцу.
  • Опомене, без рестартовања: 13 опомена, 0 рестартовања.
  • Друга машина: први пролаз је имао 24 агента, 0 рестартовања.

Један месец, екстраполација

Процењена месечна уштеда (ред величине, није мерење):

  • Токени: ~1.000 €/месечно (бржи опоравак од застоја).
  • Инфраструктура: ~600 €/месечно (ослобођене сесије и радни простори).

(Не укључује трошак самог скупљача: 48 сесија дневно по машини.)

spool-hub.ai је отвореног кода и инсталира се помоћу АИ агената. Документација је потпуна, уз наш Qto формат који спаја хијерархије и релационе табеле. Код: github.com/csitea/csi-spl.

управља Csitea Oy AB