Агенты и контекст

Серверные сетевые и персональные агенты из одного ядра. Централизованное управление парком, оптимизация размера контекста, todo-оркестрация и субагенты.

Два вида агентов

Серверные и персональные — под разные задачи

Оба собраны из общего ядра. Разница — где работают и какие бизнес-задачи закрывают.

Серверные сетевые агенты

Доступны в вебе и по каналам связи, рассчитаны на множество пользователей.

  • Консультация по товарам и услугам
  • Чат-бот поддержки первой линии
  • Ответы по корпоративной базе знаний — со ссылками на источники
  • Помощник на сайте и в личном кабинете
  • Приём и первичная обработка обращений

Персональные агенты

На рабочей машине сотрудника, рядом с его файлами и данными.

  • Тяжёлая работа с файлами и документами
  • Подготовка презентаций и отчётов
  • Работа с базами данных
  • Разбор почты и переписки
  • Чувствительные данные остаются на компьютере

Многоуровневая оптимизация контекста

Персональный агент ведёт длинные многошаговые сессии без потери смысла.

  1. Крупные результаты — на дискбольшие выводы инструментов выгружаются и заменяются ссылкой, маленькие — обрезаются
  2. Схлопывание повторовсерия однотипных вызовов сворачивается в краткую сводку
  3. Превью с возможностью «вспомнить»старые результаты заменяются кратким превью, полный — по запросу
  4. Суммаризация при заполнениипри заполнении контекстного окна — сжатие средствами языковой модели с сохранением последних сообщений

Централизованное управление и оркестрация

Управление парком через админку

Весь парк персональных агентов настраивается централизованно: конфигурации, специализации, доступные инструменты и языковые модели задаются в админке и доезжают на машины сотрудников. Ничего не нужно настраивать вручную на каждом устройстве.

Динамический послойный системный промпт

Инструкция агенту собирается на лету и послойно — он получает ровно ту информацию, что нужна здесь и сейчас для текущего шага, без раздувания контекста лишним. По мере выполнения задачи слои меняются.

Долговременная память

Беседы консолидируются по расписанию в граф знаний (сущности, связи, факты) с поиском по смыслу. Знания о пользователе сохраняются между сессиями.

Todo-оркестрация

Встроенный инструмент: задачи пачкой, зависимости между ними, владелец-субагент запускается автоматически. Текущий список — в системном промпте каждый ход.

Субагенты

На персональном агенте — базовый набор плюс отраслевые (доезжают с сервера синхронизацией). Делегирование с авто-закрытием задач по завершении.

Читать дальше