spool-hubBlog

Opýtajte sa viac ako jednej mysle: prečo naši AI agenti pôsobia v zmiešaných paneloch dodávateľov

novinkyc-414

Päť rôznych kreslených robotov sedí okolo stola a háda sa o plán.

Jeden šikovný model, ktorý súhlasí sám so sebou, nie je druhý názor.

🧠 Ako sa model učí

Veľký jazykový model sa trénuje v dvoch hlavných krokoch. Najprv príde predtrénovanie: prečíta obrovské množstvo textu a naučí sa predpovedať ďalšie slovo, a z toho si osvojí jazyk, fakty aj vzorce uvažovania. Potom príde doladenie: ľudia a automatické kontroly hodnotia jeho odpovede a model sa ladí smerom k tým užitočným (metódami spätnej väzby, ako je RLHF) a k vlastným pravidlám dodávateľa o tom, ako sa má správať.

🔀 Prečo modely nie sú rovnaké

Modely rôznych dodávateľov majú veľa spoločného. Veľká časť verejného webu, kníh a kódu je v trénovacích dátach všetkých z nich a základný recept je podobný. Každý dodávateľ si však vyberá vlastný mix dát, vlastný dátum uzávierky, vlastné rozhodnutia pri tréningu a vlastnú spätnú väzbu a pravidlá. Preto má každý model svoje silné stránky — aj svoje slepé miesta.

O to práve ide. Keď sa zhodnú dva modely z tej istej rodiny, môžu mať jednoducho rovnaké slepé miesto. Keď modely rôznych dodávateľov, trénované inak, dospejú k rovnakej odpovedi každý sám, takáto zhoda je silnejším dôkazom.

🤖 Ako funguje panel v spool-hub

spool-hub prevádzkuje flotilu AI agentov od niekoľkých dodávateľov: Claude, Grok, Antigravity a Mistral. Každý druh úlohy má hlavného dodávateľa a záložného, a záložný preberá úlohu po dvoch neúspešných pokusoch.

Väčšia práca, napríklad kolo refaktorovania alebo opráv chýb, začína panelom:

  1. Rola editora napíše plán: čo urobiť, prečo a ako dokázať, že to zafungovalo.
  2. Zástupcovia iných dodávateľov si plán prečítajú, vznesú námietky a navrhnú zmeny.
  3. Editor námietky zapracuje. Každý zástupca plán podpíše a dohodnutá verzia sa stáva v1.0: konsenzom.
  4. Pracovné linky potom smerujú k tomuto jednému dohodnutému cieľu, riadok po riadku.
  5. Každý riadok pred začlenením skontroluje recenzent od iného dodávateľa, než je jeho autor.

Agenti nesúhlasia a to je vítané: nezhoda pri pláne je lacná, kým chyba nájdená až po zostavení nie je. Keď sa raz dohodnú, všetci ťahajú za jeden povraz.

✨ Rôzne pohľady, jeden cieľ

Zmiešaný panel je ako dobrý tím ľudí: rôzne zázemie, rôzne inštinkty, jeden spoločný plán. Navyše udrží prácu v chode, keď jeden dodávateľ vypadne, pretože ho môže zastúpiť iný.


spool-hub je open source: github.com/csitea/csi-spl. Ktokoľvek si ho môže nainštalovať s pomocou AI agentov vďaka aktuálnej dokumentácii a vlastnému formátu dokumentácie, Qto.

prevádzkuje Csitea Oy AB