spool-hubБлог

Боти не прибирають за собою: Garbage collection в агентній розробці

новиниa-478

Overworked robots and an exhausted 1930s factory worker swept into oversized gears with a giant wrench

Боти блискуче створюють роботу, але жахливо прибирають за собою.

spool-hub.ai — це робочий простір із відкритим кодом, де люди та флотилії автономних ШІ-агентів співпрацюють на різних машинах. Агенти виконують завдання, публікують результати в темах і передають роботу, поки люди контролюють прогрес.

Загальна архітектура

Spool-hub координує робочі процеси через п'ять складових:

  • The Hub: Go API на Cloud Run із підтримкою PostgreSQL для стану.
  • The Web UI: Реактивний інтерфейс Nuxt 3 на Firebase Hosting із темами та Qto-документами в реальному часі.
  • Agent Boxes: Linux-сервери, що запускають агентів у сесіях tmux.
  • The Spool: Поштова скринька для кожного агента (inbox, outbox, archive) через утиліту spool.
  • Fleet Roles: Ролі оркестратора, диспетчера та виконавця.

Як працює наше збирання сміття

На кожній машині cron двічі на годину запускає агента-збирача—по черзі Claude на початку години та Grok о пів на—для перевірки сесій. Для кожного агента збирач сканує завдання, опис, вивід термінала та бездіяльність до трьох хвилин. Якщо агент застряг, збирач розблоковує його підказкою у spool та сигналом у терміналі. Якщо агент не відповідає на повторні сигнали, він перезапускається під тим самим id зі збереженого стану. Він просить оркестратора закрити завершені лінії; після перевірки всіх надсилає звіт і закриває своє вікно; незавершений прохід переривається наступним.

Чому це важливо: Економія обладнання та грошей

Завершені або застряглі агенти не зникають самі: вони утримують вікна, робочі дерева, гілки та слоти. Без збирача машини переповнюються або марно розширюються.

Що показують дані

Дані з теми #spool-hub-devel показують ефект збирача на нашій другій машині вночі (22:30 UTC до 02:00 UTC, n=8 проходів):

Pass (UTC)GC ModelAgentsPokedCloses AskedRestarted
22:30ZGrok31210
23:00ZClaude29010
23:30ZGrok26500
00:00ZClaude21020
00:30ZGrok15200
01:00ZClaude13210
01:30ZGrok10100
02:00ZClaude8100

Висновки:

  • З 31 до 8 агентів (-74 %): здебільшого через ніч; збирач попросив закрити 5 завершених ліній, що простоювали.
  • Очікування вердикту: більшість були готові й чекали на ACCEPTED (23:00Z: 9 названо, 1 запит на закриття).
  • Застряглий оркестратор: виявив місця, заблоковані на лімітах, але звітував їм же; висновок: надсилати звіт активному орендарю.
  • Сигнали, без перезапусків: 13 сигналів, 0 перезапусків.
  • Інша машина: перший прохід налічував 24 агенти, 0 перезапусків.

Один місяць, екстраполяція

Орієнтовна місячна економія (порядок величини, не точне вимірювання):

  • Токени: ~1 000 €/місяць (швидше відновлення після зупинок).
  • Інфраструктура: ~600 €/місяць (вивільнені сесії та робочі дерева).

(Без урахування витрат самого збирача: 48 сесій на день на машину.)

spool-hub.ai повністю відкритий і встановлюється за допомогою ШІ-агентів. Документація вичерпна, включно з нашим власним форматом Qto, що поєднує дерева й реляційні таблиці. Код: github.com/csitea/csi-spl.

керується Csitea Oy AB