Интеграция LLM и ИИ-инструментов в корпоративную систему строится на шести паттернах: прямой вызов API, LLM-шлюз, RAG, вызов инструментов, дообучение и открытая модель в своём контуре. В продакшене обычно сочетают шлюз, RAG и инструменты.
Здесь — архитектура и управление. Практическая сторона (модели, цены API, шаги внедрения) — в нашем практическом руководстве по интеграции LLM в 2026 году.
Какие паттерны интеграции LLM используют в корпоративной архитектуре?
Шесть паттернов покрывают почти все случаи, и они складываются друг с другом.
| Паттерн | Суть | Когда применять | Главный риск |
|---|---|---|---|
| Прямой API | Приложение вызывает провайдера | Прототипы, нечувствительные данные | Ключи разбросаны, нет общего журнала |
| LLM-шлюз | Один внутренний сервис перед всеми моделями | Два и более приложений или провайдеров | Ещё один компонент в эксплуатации |
| RAG | Поиск документов и передача их в контекст | Знания часто меняются, нужны ссылки | Устаревший или слишком открытый индекс |
| Вызов инструментов | Модель действует через заданные функции | Чтение и запись в CRM, ERP, тикеты | Действие по ложной инструкции |
| Дообучение | Настройка весов на ваших примерах | Узкий формат, большой объём | Переобучение при выводе базовой модели |
| Открытая модель у себя | Модель работает в вашем облаке | Данные не должны выходить наружу | Отставание по качеству, затраты на эксплуатацию |
Два решения потом трудно отменить: шлюз и место, где выполняется инференс. Их принимают первыми.
Как LLM-шлюз встраивается в архитектуру?
Шлюз стоит между приложениями и всеми провайдерами. Приложения вызывают одну внутреннюю точку; шлюз выбирает модель и фиксирует, что произошло.
- Приложение отправляет запрос с идентификатором пользователя.
- Шлюз проверяет доступ, маскирует персональные данные, применяет шаблон промпта и лимит расходов.
- Маршрутизатор выбирает модель: малую для классификации, крупную для анализа, развёртывание в Канаде для регулируемых данных.
- Ответ проходит проверку формата и содержания.
- Журнал хранит время, версию модели, пользователя, вызванные инструменты и замаскированную копию запроса.
Когда выбирать RAG, вызов инструментов или дообучение?
RAG — для знаний, инструменты — для действий, дообучение — для формы ответа.
- RAG подходит для регламентов, договоров, документации и промышленных справочников. Индекс обязан учитывать права доступа исходной системы.
- Вызов инструментов — «найди заказ», «создай тикет». Узкая схема, минимальные права сервисной учётной записи, подтверждение человеком для важных изменений. Model Context Protocol (MCP) — распространённый стандарт для подключения инструментов.
- Дообучение — для фиксированного формата при большом объёме, после того как хорошие промпты и RAG не справились.
Где можно хранить и обрабатывать данные в Канаде?
По состоянию на сентябрь 2026 года хранение в Канаде доступно у нескольких провайдеров, обработка в Канаде — у немногих. Резидентность задаётся для каждой модели отдельно.
| Путь доступа | Данные хранятся в Канаде | Запросы обрабатываются в Канаде |
|---|---|---|
| Azure OpenAI (Microsoft Foundry) | Да | Canada East Standard: gpt-4o, gpt-4.1-mini, эмбеддинги; выделенная мощность (PTU) в Canada Central и Canada East для gpt-4o, gpt-4.1, gpt-5.x и других |
| API OpenAI и ChatGPT Enterprise | Да, для подходящих клиентов через отдел продаж | Нет: региональный инференс только в Европе, США и ОАЭ |
| API Anthropic | Нет | Нет: только «global» или «us» |
| Claude в Amazon Bedrock (ca-central-1) | Да: журналы, базы знаний, настройки | Нет: канадский профиль направляет инференс в США |
| Gemini в Google Vertex AI (Монреаль) | Да | Да для Gemini 3.5 Flash, 2.5 Flash и 2.5 Pro |
| Открытая модель в своём контуре | Да | Да |
Как защитить интеграцию, если в ней финансовые или персональные данные?
Защита строится на трёх уровнях: договор, путь данных и журналы.
- Договор. Корпоративные и API-тарифы OpenAI, Anthropic и Google по умолчанию исключают данные клиента из обучения моделей. Закрепите это в соглашении об обработке данных и задайте сроки хранения.
- Путь данных. Маскировать имена, номера счетов и медицинские идентификаторы до отправки; ключи — в менеджере секретов; частная сеть до облака; найденные документы и веб-страницы считать недоверенным вводом (защита от prompt injection по OWASP Top 10 для LLM).
- Журналы. Версия модели, пользователь, вызванные инструменты и результат по каждому вызову.
Какие правовые требования действуют в Канаде?
Федерального закона об ИИ нет: законопроект C-27 вместе с AIDA утратил силу в январе 2025 года. Требования к данным при этом действуют.
- PIPEDA — персональные данные в частном секторе. Законопроект C-36 о замене PIPEDA находится на первом чтении с 15 июня 2026 года.
- Закон 25 Квебека: оценка влияния на приватность для каждой новой информационной системы (ст. 3.3), ещё одна оценка и письменный договор до передачи данных за пределы Квебека (ст. 17), уведомление о полностью автоматизированных решениях (ст. 12.1).
- Федеральные ведомства следуют Директиве Казначейства об автоматизированном принятии решений.
Проверка соответствия ИИ требованиям PIPEDA и Закона 25 накладывает эти требования на конкретную архитектуру до начала разработки.
Как управлять моделями в продакшене?
Фиксировать версии, тестировать каждое изменение и заранее планировать вывод моделей из эксплуатации.
- Версия модели закреплена в настройках шлюза.
- Набор реальных примеров с ожидаемыми ответами прогоняется перед каждой сменой модели или промпта.
- Даты вывода моделей отслеживаются и заносятся в годовой план.
- У каждого сценария есть владелец от бизнеса, у шлюза — технический владелец.
С чего начать?
Составьте перечень приложений, которые уже обращаются к LLM, категорий данных и провайдеров. Решите, где может выполняться инференс для каждой категории. Затем поставьте шлюз перед первым сценарием в продакшене.
Remolda выполняет интеграцию LLM с существующими системами и помогает с выбором между Copilot, ChatGPT Enterprise и Claude. Работа начинается с пакетов с фиксированной ценой от 490 CAD.
Источники
- Microsoft Learn — типы развёртывания Foundry
- Microsoft Learn — доступность моделей по регионам
- OpenAI — Business data privacy
- Anthropic — Data residency
- AWS — Amazon Bedrock, доступность по регионам
- Google Cloud — Generative AI data residency
- Google Cloud — Generative AI data governance (training restriction)
- Google Workspace — Generative AI privacy
- LégisQuébec — CQLR c. P-39.1
- Парламент Канады — законопроект C-36