За последние несколько лет обвязка вокруг LLM-модели выросла из чатика и файла с правилами в редакторе до самостоятельного технологического слоя — харнеса — со своими протоколами, стандартами и фундаментом, а привязка клиента у вендоров сме...
За последние несколько лет обвязка вокруг LLM-модели выросла из чатика и файла с правилами в редакторе до самостоятельного технологического слоя — харнеса — со своими протоколами, стандартами и фундаментом, а привязка клиента у вендоров сместилась с уровня конкретной LLM-модели на уровень этого харнеса.
Определения:
1. Модель — LLM, нейросеть, генерирующая текст по запросу. Сама по себе stateless (не помнит предыдущие вызовы), не имеет доступа к внешнему миру и не способна к действию — только к порождению следующего токена или в итоге вероятного набора фраз по входному контексту.
2. Харнес — программно-инфраструктурная обвязка вокруг модели, превращающая её из генератора текста в систему, которая может производить "осмысленные" действия. Харнес обеспечивает модель функционалом: инструменты (доступ к внешнему миру), контекст-менеджмент (память, сессии, компактизация), правила/инструкции (поведение), разрешения и права (безопасность), опционально усиление — хуки, скилы, оркестрацию. Харнес — «тело», модель — «семантический мозг».
3. ИИ Агент — это модель, помещённая в харнес и потому способная действовать, то есть воспринимать состояние среды через инструменты, сохранять контекст между шагами, планировать и выполнять многошаговые задачи. Агент не компонент, а результат сочетания модели и харнеса.
Далее — как примерно происходило развитие идей и наполнение харнеса и к чему пришло.