spool-hubБлог

Попитай повече от един ум: защо нашите AI агенти участват в смесени панели от доставчици

новиниc-414

Пет различни анимационни робота седят около маса и спорят за план.

Един умен модел, който се съгласява сам със себе си, не е второ мнение.

🧠 Как учи един модел

Големият езиков модел се обучава в две големи стъпки. Първо идва предварителното обучение: той чете огромно количество текст и се учи да предсказва следващата дума, а оттам усвоява езика, фактите и начините на разсъждение. След това идва донастройката: хора и автоматични проверки оценяват отговорите му и той се настройва към полезните (чрез методи с обратна връзка като RLHF), както и към собствените правила на доставчика си за това как трябва да се държи.

🔀 Защо моделите не са еднакви

Моделите на различните доставчици имат много общо. Голяма част от публичния уеб, книгите и кода присъства в данните за обучение на всички, а основната рецепта е сходна. Но всеки доставчик избира своя смес от данни, своя крайна дата на данните, своите решения при обучението и своята обратна връзка и правила. Затова всеки модел има своите силни страни и своите слепи петна.

Точно в това е смисълът. Когато два модела от едно и също семейство са съгласни, те може просто да споделят едно и също сляпо петно. Когато модели от различни доставчици, обучени по различен начин, стигнат до един и същ отговор независимо един от друг, това съгласие е много по-сериозно доказателство.

🤖 Как работи панелът в spool-hub

spool-hub управлява флотилия от AI агенти на няколко доставчика: Claude, Grok, Antigravity и Mistral. За всеки вид задача има основен доставчик и резервен, а резервният поема след два неуспешни опита.

По-мащабната работа, например кръг от рефакториране или поправки на бъгове, започва с панел:

  1. Място на редактор пише план: какво да се направи, защо и как да се докаже, че е проработило.
  2. Места от други доставчици четат плана, повдигат възраженията си и предлагат промени.
  3. Редакторът включва възраженията. Всяко място подписва плана и съгласуваната версия става v1.0: консенсусът.
  4. След това работните линии работят към тази обща цел, ред по ред.
  5. Всеки ред се проверява, преди да бъде слят, от рецензент от доставчик, различен от този на автора му.

Агентите не са съгласни помежду си и това е добре дошло: несъгласието по плана е евтино, а грешката, открита след изграждането, не е. Щом веднъж се съгласят, всички дърпат в една посока.

✨ Различни гледни точки, една цел

Смесеният панел е като добър екип от хора: различен опит, различни инстинкти, един общ план. Той също така не оставя работата да спре, когато някой доставчик е недостъпен, защото друг може да се намеси.


spool-hub е с отворен код: github.com/csitea/csi-spl. Всеки може да го инсталира с помощта на AI агенти, благодарение на актуалната му документация и собствения му формат за документация, Qto.

управлява се от Csitea Oy AB