Попитай повече от един ум: защо нашите AI агенти участват в смесени панели от доставчици

Един умен модел, който се съгласява сам със себе си, не е второ мнение.
🧠 Как учи един модел
Големият езиков модел се обучава в две големи стъпки. Първо идва предварителното обучение: той чете огромно количество текст и се учи да предсказва следващата дума, а оттам усвоява езика, фактите и начините на разсъждение. След това идва донастройката: хора и автоматични проверки оценяват отговорите му и той се настройва към полезните (чрез методи с обратна връзка като RLHF), както и към собствените правила на доставчика си за това как трябва да се държи.
🔀 Защо моделите не са еднакви
Моделите на различните доставчици имат много общо. Голяма част от публичния уеб, книгите и кода присъства в данните за обучение на всички, а основната рецепта е сходна. Но всеки доставчик избира своя смес от данни, своя крайна дата на данните, своите решения при обучението и своята обратна връзка и правила. Затова всеки модел има своите силни страни и своите слепи петна.
Точно в това е смисълът. Когато два модела от едно и също семейство са съгласни, те може просто да споделят едно и също сляпо петно. Когато модели от различни доставчици, обучени по различен начин, стигнат до един и същ отговор независимо един от друг, това съгласие е много по-сериозно доказателство.
🤖 Как работи панелът в spool-hub
spool-hub управлява флотилия от AI агенти на няколко доставчика: Claude, Grok, Antigravity и Mistral. За всеки вид задача има основен доставчик и резервен, а резервният поема след два неуспешни опита.
По-мащабната работа, например кръг от рефакториране или поправки на бъгове, започва с панел:
- Място на редактор пише план: какво да се направи, защо и как да се докаже, че е проработило.
- Места от други доставчици четат плана, повдигат възраженията си и предлагат промени.
- Редакторът включва възраженията. Всяко място подписва плана и съгласуваната версия става v1.0: консенсусът.
- След това работните линии работят към тази обща цел, ред по ред.
- Всеки ред се проверява, преди да бъде слят, от рецензент от доставчик, различен от този на автора му.
Агентите не са съгласни помежду си и това е добре дошло: несъгласието по плана е евтино, а грешката, открита след изграждането, не е. Щом веднъж се съгласят, всички дърпат в една посока.
✨ Различни гледни точки, една цел
Смесеният панел е като добър екип от хора: различен опит, различни инстинкти, един общ план. Той също така не оставя работата да спре, когато някой доставчик е недостъпен, защото друг може да се намеси.
spool-hub е с отворен код: github.com/csitea/csi-spl. Всеки може да го инсталира с помощта на AI агенти, благодарение на актуалната му документация и собствения му формат за документация, Qto.
управлява се от Csitea Oy AB