Как устроен современный искусственный интеллект
Вы пишете в ИИ-чат: «Помоги составить письмо о переносе встречи» — и получаете текст письма. Это и есть результат работы современного ИИ, с которым многие сталкиваются каждый день. Здесь разберём устройство таких чатов и агентов на основе языковых моделей.
За полем ввода и ответом работает целая система. В ней языковая модель генерирует ответ, а обвязки (harness) принимают ваше сообщение, подготавливают данные для модели и показывают результат. Отправка сообщения, хранение переписки и отображение текста тоже входят в работу системы.
Что получает модель и как появляется ответ
Ваш запрос называют промптом. Это может быть и простое «Привет!», и подробное задание. Вместе с инструкциями, переданной историей переписки и другими данными он входит в контекст — информацию, на основе которой модель формирует текущий ответ.
Например, сначала вы просите написать письмо, а затем добавляете: «Сделай короче и укажи вторник». Чтобы модель могла переработать письмо, обвязки передают ей предыдущий текст и ваше уточнение. Модели доступно только то из переписки, что вошло в текущий контекст.
Текстовая LLM получает текст и генерирует текст. Для обработки токенизатор разбивает текст на токены — например, слова или части слов — и преобразует их в числовые идентификаторы. Сгенерированные токены декодируются обратно в текст ответа. Мультимодальные модели могут также получать изображения, звук и другие поддерживаемые данные.
Ответ модели может быть письмом, программным кодом или данными в определённом формате. Сама модель не отправляет письмо и не запускает написанную программу. Что делать с ответом, определяют обвязки.
За что отвечают обвязки (harness)
Обвязки обеспечивают работу всей ИИ-системы: интерфейс, историю переписки, доступ к файлам, подготовку контекста, обработку ответов и выполнение действий. Часть этих функций работает без обращения к модели: например, открытие сохранённого разговора.
Одна и та же LLM в одном приложении поможет написать письмо, а в другом система сможет ещё и отправить его. Для отправки нужен инструмент работы с почтой и разрешение на его использование. Обвязки обрабатывают ответ модели, проверяют разрешение и вызывают инструмент.
Поэтому возможности ИИ зависят от всей системы: от модели, доступных данных, инструментов и того, как обвязки связывают их работу. При этом хорошая модель и полный контекст не гарантируют отсутствие ошибок.
Как просьба «Включи свет» становится действием
Допустим, ИИ подключён к системе управления освещением. Вы пишете: «Включи свет на кухне». Модель генерирует ответ с указанием операции и комнаты в формате, который умеют обрабатывать обвязки.
Обвязки проверяют разрешение и вызывают инструмент управления светом. Тот передаёт команду контроллеру, который переключает реле. Результат работы инструмента можно передать модели в следующем контексте, чтобы она сформировала ответ пользователю или предложила следующий шаг.
Ваш запрос → ответ модели → обработка обвязками → вызов инструмента → действие → проверка результата.
Ответ «Готово» ещё не доказывает, что лампа загорелась. Контроллер мог принять команду, но лампа могла перегореть. Для проверки нужны данные об освещении или наблюдение человека. Так же и с письмом: подготовить текст, отправить его и убедиться в доставке — разные результаты.
Где границы ИИ-агента
В нашем справочнике ИИ-агент = LLM + обвязки. Обе составляющие обязательны. Агентом мы называем всю рассматриваемую систему, включая модель, обвязки и связи между ними.
Обвязок может быть несколько слоёв. В них могут входить другие модели и агенты. Например, один агент готовит письмо, а другому поручают проверить текст. У проверяющего агента есть собственные модель и обвязки, но относительно всей системы он входит в её обвязки.
Поэтому сначала нужно определить, какую систему мы рассматриваем целиком. Для отдельной LLM обвязки находятся снаружи. Для агента они являются внутренними частями. Сам агент тоже может быть частью более крупной системы.
Где всё это работает
Среда выполнения — компьютеры и программное окружение, в которых работают модель и обвязки: вычислительные ресурсы, операционная система и необходимые библиотеки.
Например, интерфейс чата открыт в браузере на вашем ноутбуке, часть обвязок работает на сервере приложения, а модель — на другом сервере. Компоненты обмениваются данными по сети и вместе образуют одну ИИ-систему. Ей не обязательно целиком находиться на одном компьютере.
Состав ИИ-системы
Рамки показывают состав системы, стрелки — передачу данных и вызовы. Схема показывает текстовый путь работы с LLM. Компоненты могут находиться на разных машинах и взаимодействовать через API.
flowchart TB
user["Пользователь или внешняя система"]
external["Внешние сервисы и устройства"]
subgraph runtime["Среда выполнения: вычислительные ресурсы, ОС, библиотеки; одна или несколько машин"]
subgraph agent["ИИ-агент = LLM + обвязки"]
llm["LLM: обработка контекста и генерация ответа"]
subgraph harness["Обвязки: компоненты и слои ИИ-системы"]
interface["Интерфейс / API"]
data["История, инструкции и данные"]
context["Подготовка контекста"]
encode["Токенизатор: текст → идентификаторы токенов"]
decode["Токенизатор: идентификаторы токенов → текст"]
processing["Обработка ответа и управление шагами"]
permissions["Проверка разрешений и вызов"]
tools["Инструменты"]
subgraph nested["Вложенный агент: часть обвязок всей системы"]
nestedHarness["Собственные обвязки"]
nestedLlm["Собственная LLM"]
nestedHarness -->|Контекст| nestedLlm
nestedLlm -->|Ответ| nestedHarness
end
end
end
end
user -->|Сообщение / промпт| interface
interface -->|Запрос| context
interface <-->|Чтение и сохранение без обращения к LLM| data
data -->|Инструкции, история, нужные данные| context
context -->|Текстовый контекст| encode
encode -->|Входные токены| llm
llm -->|Сгенерированные токены| decode
decode -->|Ответ, в том числе данные в заданном формате| processing
processing -->|Ответ пользователю| interface
interface -->|Ответ системы| user
processing -->|Сохранение результата| data
processing -->|Запрос на действие| permissions
permissions -->|Разрешённый вызов| tools
tools -->|Результат| context
tools -->|Операция| external
external -->|Данные о результате| tools
permissions -->|Задача вложенному агенту| nestedHarness
nestedHarness -->|Результат| context
LLM генерирует ответ. Решение о вызове инструмента принимают обвязки. Результат действия может войти в следующий контекст, и цикл повторится.
Относительно основной LLM обвязки находятся снаружи. Относительно агента они находятся внутри его границ. Вложенный агент имеет собственные LLM и обвязки, но целиком входит в обвязки рассматриваемой системы.
От устройства ИИ к практике
Чтобы начать применять ИИ под свои задачи, переходите к самостоятельной практике: от первого разговора до работы с инструментами и своими агентами.
Если хотите проследить работу реальной системы по исходникам, посмотрите разбор «Как Codex собирает запрос к LLM».