Агент — это не модель

Эта путаница обходится командам дороже всего, и звучит она обычно так: «у нас уже есть GPT, зачем нам ещё и это?»

По сути это то же самое, что не отличать ассистента-программиста от API, к которому он обращается. API даёт модель, которая дописывает текст. Ассистент — это то, что читает ваши файлы, запускает ваши тесты, помнит, о чём вы просили двадцать минут назад, и отказывается сделать rm -rf в вашем домашнем каталоге. Модель под ними одна и та же. Продукт, который можно показать человеку, — только один.

Чем на самом деле является голая модель

Функцией без состояния. Текст на входе, текст на выходе.

Она не помнит предыдущее сообщение, если вы не вставите его заново. Она не прочтёт ваши документы, если вы их не приложите. Она не обратится к вашей системе записи, не отправит напоминание в следующий вторник, не отличит одного клиента от другого. Она не знает, чего не знает, — поэтому на вопрос о вашей комиссии за расторжение она выдаст число, выглядящее ровно как правильное.

Всё, что модель делает хорошо, она делает внутри одного вызова, а потом забывает.

Что добавляет обвязка

Агент — это машинерия вокруг этого вызова:

• Поиск по документам — найти в ваших материалах фрагменты, относящиеся к этому вопросу, и положить их в вызов
• Цикл инструментов — дать модели запросить действие, выполнить его, вернуть ей результат и зайти на следующий круг
• Память — что этот клиент говорил в прошлом месяце, хранимое в его собственном пространстве
• Граница — область, за которую нельзя выходить, и точка, где агент останавливается и передаёт человеку
• Каналы и расписание — тот же агент в вебе, Telegram и WhatsApp, который через неделю всё ещё напоминает про недосланный документ
• Изоляция и аудит — чтобы файл одного клиента не всплыл в чате другого и чтобы на вопрос «почему он это сказал» был ответ

Ничего из этого не является способностью модели. Всё это — обвязка.

Поэтому заменяемая часть — именно модель

Модели улучшаются раз в несколько месяцев, дешевеют или вдруг оказываются лучше на одном языке, чем на другом. Внутри платформа работает сразу с несколькими бэкендами и распределяет нагрузку между ними: агент может назвать предпочитаемую модель, а запросы с картинками уходят туда, где есть зрение.

Что при смене модели не двигается с места: ваша база знаний, ваши Skills, ваши сценарии, ваша душа, ваши интеграции, память ваших клиентов. Вот это и есть актив. Модель — компонент внутри него.

Как это выглядит на платформе

Модель здесь — настраиваемый компонент, а не встроенный намертво ингредиент. agent4.io держит несколько inference-бэкендов одновременно и разводит работу между ними: разговор закрепляется за одним и остаётся на нём до конца сессии, а сообщение с изображением уходит на бэкенд, который действительно умеет видеть. Каждый агент может назвать предпочитаемую модель, и каждый бэкенд сообщает поддерживаемый размер контекста — ничего не берётся на веру.

На платных тарифах тенант может пойти дальше и направить платформу на собственного поставщика моделей. Это та самая «заменяемость», которая имеет значение для бизнеса с уже действующим договором с вендором — или с регулятором, у которого есть мнение о том, где именно происходит inference.

Вашей конфигурации это не касается вообще. Поменяйте модель под капотом — и ваши базы знаний, Skills, инструменты, сценарии, душа и накопленная память каждого клиента останутся ровно там, где вы их оставили.