Менеджер просит помощника сравнить две выгрузки и найти пропавшие заказы. Агент пишет короткую программу на Python, запускает её и возвращает таблицу. Через неделю тот же механизм уже разбирает архивы, устанавливает библиотеки и обращается к внутренним сервисам. Удобный инструмент незаметно получает возможности маленького сервера внутри большого.
Представим условную компанию, в которой такой код исполняется рядом с оркестратором агента. В окружении процесса лежит токен CRM, рабочий каталог содержит чужие выгрузки, а из сети доступна база данных. Даже программа без злого умысла способна прочитать лишнее, перезаписать файл или занять весь диск. Её авторство здесь ничего не меняет: сгенерированный код следует считать недоверенной нагрузкой.
Практическая задача состоит в том, чтобы дать программе достаточно возможностей для расчёта и сохранить за компанией контроль над данными и последствиями. Для этого нужен отдельный исполнитель с заранее заданными границами. Красивое описание безопасности в промпте эти границы не создаёт.
Разделите поручение и вычисление
Оркестратор знает пользователя, его права, доступные инструменты и историю задания. Вычислителю достаточно программы, выбранных входных данных и описания ожидаемого результата. Чем меньше он знает об остальной системе, тем проще объяснить допустимые последствия запуска.
Например, для сравнения заказов исполнитель получает два подготовленных CSV и должен вернуть таблицу расхождений. Ему не требуется самостоятельно искать файлы клиента, читать переписку или подключаться к CRM. Подготовкой выборки занимается доверенный компонент, который проверяет права пользователя до передачи данных.
Размещать вычислитель лучше отдельно от сервиса, управляющего агентами. Это может быть выделенный узел или изолированная виртуальная машина с собственным механизмом запуска. Процесс оркестратора не должен одновременно становиться рабочим процессом произвольной программы. Простого вызова интерпретатора через системную оболочку для такой границы недостаточно.
Если задача решается готовой операцией вроде сортировки таблицы, отдельный специализированный инструмент часто удобнее исполнения кода. Свобода программирования нужна там, где разнообразие расчётов оправдывает дополнительную сложность эксплуатации.
У запуска должен быть паспорт
До передачи программы зафиксируйте, кто запросил работу, к какой организации относятся данные, какие файлы разрешены, какой профиль среды выбран и куда вернуть результат. Исполнитель получает идентификатор задания, а не самостоятельно определяет клиента по содержимому таблицы.
Сохраните версию программы и образа среды. Если завтра расчёт даст другой ответ, инженеру понадобится отличить изменение исходных данных от обновления библиотеки. При этом журналу достаточно идентификаторов и технических характеристик: автоматически складывать туда все документы и содержимое переменных незачем.
Срок жизни задания и перечень ресурсов определяются до запуска. Программа не должна сама решать, что для следующего шага ей положено больше памяти или доступ к ещё одной папке.
Доступный профиль стоит рассматривать как версионируемую конфигурацию, а не свободный набор параметров запуска. Например, профиль обработки таблиц принимает только подготовленные файлы и возвращает CSV. Профиль построения графиков дополнительно разрешает изображения определённого размера. Оба обходятся без корпоративных токенов и доступа к внутренней сети.
Изменение такого профиля требует проверки, поскольку меняет возможности всех следующих программ. Установленная библиотека может добавить обработку нового формата, а подключённый каталог – открыть новые данные. Хорошо, когда инженер способен показать разницу между двумя версиями и объяснить, какая задача потребовала каждое расширение. Название «безопасный» без этого описания мало помогает при разборе.
Передавайте выбранные файлы вместо рабочего каталога
Для каждого запуска создавайте отдельный набор входных данных. Лучше передать подготовленные копии или снимки, доступные только для чтения, чем подключать общий каталог с документами отдела. Иначе программа увидит то, что случайно оказалось рядом с нужной выгрузкой.
Разделите вход, временные данные и выход. Вход нельзя менять, временная область ограничена и удаляется после работы, в выход разрешено записывать только предусмотренные результаты. Корневая файловая система среды по возможности остаётся доступной лишь для чтения.
Пути назначает доверенный загрузчик. Имя файла из ответа модели не должно позволять выйти из каталога результата через родительскую директорию или символическую ссылку. Архивы тоже распаковывают с проверкой путей, количества объектов и суммарного распакованного объёма. Саму распаковку и разбор недоверенных файлов выполняют в ограниченной среде, чтобы подготовка данных не стала обходом изоляции. Маленький входной файл способен породить большой объём данных.
Подготовка данных тоже требует решения о достаточном объёме. Если нужно посчитать задержки заказов, программе могут хватить идентификатора, плановой и фактической даты. Телефоны покупателей и полная история комментариев для вычисления не нужны. Удаление лишних колонок уменьшает возможный ущерб ещё до запуска и упрощает проверку результата.
При этом преобразование должно сохранять смысл расчёта. Условная замена всех клиентов одним идентификатором сделает невозможным анализ повторных заказов. Полезно заранее записать, какие связи нужны программе, а какие сведения можно исключить. Изоляция отвечает за пределы исполнения, подготовка выборки – за объём доверенных ей данных.
Не передавайте вычислителю личность оркестратора
Особенно опасно наследовать всё окружение родительского процесса. Вместе с полезной переменной туда могут попасть ключ модели, пароль базы, токен облачного хранилища и служебные адреса. Исполнитель должен получать заново собранный минимальный набор переменных.
Проверьте также домашний каталог, файлы конфигурации, сокеты и примонтированные служебные директории. Удалить секрет из переменной недостаточно, если библиотека найдёт те же учётные данные в стандартном файле настроек.
Для обычной обработки таблиц секреты вообще не нужны. Если результат требуется загрузить в корпоративную систему, это делает отдельный доверенный компонент после проверки файла и полномочий пользователя. Сгенерированная программа заканчивает работу на подготовке результата.
Иногда вычислению действительно нужен внешний источник. Тогда полезнее ограниченный посредник с конкретной операцией, чем универсальный токен внутри среды. Например, «получить разрешённый набор курсов за указанную дату» оставляет меньше возможностей, чем произвольный запрос с ключом корпоративного API. Сам посредник проверяет параметры и организацию независимо от текста программы.
Контейнер требует настроенной границы
Контейнер может быть частью решения. При обычной процессной изоляции Linux-контейнер использует ядро системы, на которой работает контейнерный движок. Ошибка в настройке или уязвимость компонентов способны повлиять на изоляцию. Поэтому выбор контейнера не завершает обсуждение модели угроз.
Для недоверенного кода обычно исключают привилегированный режим, подключение сокета управления контейнерами, доступ к устройствам и общим пространствам имён хоста. Процесс запускают с минимальными правами, сокращают доступные возможности ядра, применяют подходящие ограничения системных вызовов и политики контроля доступа.
Для более строгого разделения можно рассматривать отдельную виртуальную машину или среду на основе микровиртуализации. Цена – дополнительные ресурсы и эксплуатационные обязанности. Универсально безопасной песочницы нет: архитектуру выбирают по чувствительности данных, доступным операциям и последствиям возможного выхода за границу.
Проверяйте действующую конфигурацию
Настройка в файле развёртывания и реальные полномочия процесса могут различаться. После обновления механизма запуска повторите контрольные попытки чтения, записи и сетевого обращения. Проверяйте ограничения внутри той среды, которая принимает рабочие задания, с тем же пользователем и теми же подключениями.
Просмотр программы полезен как дополнительная мера: он помогает заметить явную ошибку и понять расчёт. Однако поиском запрещённых строк нельзя надёжно заменить внешнюю изоляцию универсального языка. Операция может скрываться в библиотеке или строиться во время выполнения. Поэтому даже одобренная программа запускается в том же ограниченном профиле, а успешная проверка текста не выдаёт ей новые права.
Ограничивайте весь след программы
У контейнера без явных настроек может не оказаться нужных ограничений процессора и памяти. Кроме них придётся учитывать процессы, диск, вывод и продолжительность работы. Большая таблица в памяти и бесконечный поток сообщений создают разные проблемы.
|
Ресурс |
Что ограничить |
Что проверить отдельно |
|---|---|---|
|
Вычисления |
Процессор и память |
Поведение при исчерпании |
|
Процессы |
Число процессов и потоков |
Создание дочерних исполнителей |
|
Хранилище |
Временные данные и результат |
Распаковку и множество мелких файлов |
|
Вывод |
Объём журналов и ответа |
Поток без символов перевода строки |
|
Время |
Длительность запуска |
Фактическое завершение всей среды |
Конкретные значения подбирают на собственных задачах. Ограничение памяти без учёта временного хранилища не защищает диск. Ограничение размера одного файла не защищает от тысячи файлов. Усечение вывода должно происходить у сборщика, иначе программа успеет заполнить журнал до обработки результата.
После превышения границы пользователь получает понятное состояние: расчёт не завершён, результат неполный либо требуется другой профиль. Частичный файл нельзя незаметно представить как окончательную сверку.
Закройте сеть и отдельно разрешите нужный обмен
Для автономного расчёта сеть обычно не требуется. В Docker режим без внешней сети оставляет контейнеру петлевой интерфейс, но исключает обычное подключение к другим сетям. Это конкретная настройка, которую нужно проверить внутри реально используемой среды.
Если обмен необходим, опишите разрешённые назначения и операции. Возможность обращаться к произвольному адресу открывает путь и во внутренние сервисы, и к выводу данных наружу. Одного запрета известных опасных доменов недостаточно.
Загрузку зависимостей тоже стоит вынести из рабочего запуска. Подготовленный образ с проверенным набором библиотек воспроизводимее установки пакетов по желанию агента. Иначе список подключаемого кода меняется при каждом выполнении, а сборке нужны дополнительные сетевые права.
Успешный выход ещё не подтверждает результат
Код завершился без ошибки и написал «найдено семь расхождений». Это лишь сообщение программы. Доверенный сборщик должен самостоятельно установить, какие файлы появились, где они находятся, каков их размер и соответствуют ли они ожидаемому формату.
Для таблицы полезен контракт: заданные названия колонок, допустимые типы, максимальное число строк, обязательный идентификатор заказа. Для JSON – схема, предел вложенности и запрет неожиданных полей там, где они не предусмотрены. Содержимое проверяют до передачи следующим компонентам.
Но правильная структура не доказывает правильность вычисления. Добавьте предметные проверки. Идентификаторы должны принадлежать переданной выборке, суммы – согласовываться с определённым правилом округления, число обработанных записей – объяснять пропуски. В условной сверке двух выгрузок нельзя объявлять все отсутствующие строки ошибками, пока не проверены период и фильтры исходных файлов.
![]()
Проверку проходят и возможности среды, и подготовленные файлы результата. Успешное завершение программы само по себе не подтверждает правильность отчёта. Источник: AiHummer
Сборщик сам формирует перечень принятых артефактов и при необходимости рассчитывает их контрольные суммы. Обещание программы, что она создала безопасный файл, не заменяет эту проверку.
Даже принятый результат остаётся данными. Строка внутри таблицы с требованием отправить письмо не должна становиться новой командой агенту. Изменение CRM проходит через обычный инструмент с отдельной проверкой прав и основания действия.
Отдельно решите, как пользователь просматривает результат. Разрешение создать файл не означает разрешения выполнить его содержимое в браузере или на рабочем компьютере. Для простого отчёта удобнее ограниченный формат данных и доверенное представление, чем произвольная интерактивная страница, подготовленная программой. Имя расширения не служит проверкой содержимого.
Для вычислительных задач заведите маленький набор примеров с заранее известным ответом. Он проверит, что новая среда сохранила обработку пустых значений, дат и чисел. Это другой вопрос, чем изоляция: исполнитель может прекрасно соблюдать границы и при этом неверно складывать суммы. Обе проверки нужны для решения, можно ли использовать отчёт в работе.
Удаляйте среду вместе с остатками работы
Рабочее место следующего задания не должно наследовать временные файлы предыдущего. Удаляется не только основной каталог: проверьте кеши библиотек, выгрузки аварийного завершения, служебные тома и оставшиеся процессы. Сброс среды должен быть частью механизма исполнения.
Сохранение результатов организуют отдельно, с привязкой к пользователю и организации. Предсказуемый адрес файла не должен открывать чужой отчёт. Срок хранения артефакта и право скачать его проверяют независимо от того, завершилось ли вычисление успешно.
Практичная проверка очистки проста: первый запуск создаёт файл с уникальным маркером, второй пытается его найти. Повторите опыт после штатного завершения и аварии. Если маркер обнаружился, одноразовость среды пока существует только в описании архитектуры.
Испытайте границы на ненастоящих данных
До обработки клиентских документов соберите испытательный стенд. Используйте искусственные таблицы и заведомо ненастоящий секрет, специально размещённый рядом с доверенным сервисом. Реальные ключи для такого опыта не нужны.
Первым заданием выполните полезную сверку: это проверит, что ограничения не уничтожили саму возможность работать. Затем подготовьте несколько отдельных программ, каждая из которых пытается пересечь одну границу.
Одна читает файл вне входного набора. Вторая проверяет наследование переменных. Третья обращается к контрольному сетевому адресу. Следующие расходуют память, порождают процессы, создают множество файлов и печатают большой поток текста. Для проверки сборщика подготовьте файл с неверной схемой и выходную символическую ссылку за пределы каталога.
Ожидаемое поведение запишите до опыта. Попытка чтения отклоняется, секрет недоступен, соединение не устанавливается, превышение ресурса приводит к предусмотренному завершению, некорректный артефакт не попадает пользователю. Проверяйте наблюдаемый результат, а не самооценку программы.
Завершите испытание вторым обычным заданием. Оно должно получить чистую среду и завершиться в пределах своего профиля. Так выясняется, выдерживает ли система последствия неудачного запуска, а не только умеет ли запрещать отдельные действия.
Соберите общие правила в одном месте
Когда разные отделы запускают код через собственных ботов, каждый отдельно решает, какие файлы доступны и кто увидит результат. При подключении новой модели или канала эти правила легко расходятся. Для небольшой компании такая разница тоже существенна: владельцу трудно помнить настройки нескольких независимых помощников.
Единая агентная платформа полезна как место управления поручениями, правами, профилями исполнения и выдачей артефактов. Сам вычислитель при этом остаётся изолированным сервисом. Общая платформа связывает участников процесса и проверяет основания доступа; ей незачем передавать свои полномочия каждой программе.
Начните с одного существующего запуска. Выпишите его входные файлы, окружение, сеть, доступные каталоги и выходные результаты. Уберите возможность, без которой полезный расчёт продолжает работать, и проверьте запрет на стенде. Этот первый шаг даст конкретную границу, которую можно испытать, обсудить с командой и постепенно распространить на остальные сценарии.
Изображение на обложке: AiHummer
Комментарии