Защитили чат с ИИ. А кто отвечает за копии документов в его индексе?
Как начать инвентаризацию данных ИИ с одного рабочего маршрута: документ, индекс, журналы и кеши. Учебная карточка помогает найти владельцев и незакрытые проверки.
Закрытый корпоративный чат не делает все данные вокруг него учтёнными. Документ может попасть в поисковый индекс, фрагменты ответа — в журнал, а результат — в кеш. Если команда не знает, кто отвечает за эти копии, проверка одного окна чата оставляет существенные пробелы.
Удобство приносит новые места хранения
Руководство связывает инвентаризацию с дальнейшими контролями: без найденных активов нечему присваивать метки, а без происхождения данных трудно отследить производные копии. Это рекомендация по организации работы, не сертификат безопасности и не доказательство утечки в вашей компании.
Начните с одного маршрута
Для учебной проверки возьмите вымышленный документ «Правила командировок». Пусть тестовый помощник отвечает по нему через поиск с дополнением контекста — RAG. Не подключайте к эксперименту реальные персональные данные или рабочие секреты: цель — найти маршрут, а не проверить его ценой утечки.
Составьте карточку из четырёх строк: исходный документ, индекс с фрагментами и векторными представлениями, журнал запросов и ответов, кеш результата. Это пример для конкретного сценария, а не полный перечень активов любой ИИ-системы. Если какого-то элемента нет, зафиксируйте, как это проверено.
Для каждой строки запишите: назначение, место хранения, ответственного владельца, круг доступа, срок хранения и способ проверки. Название сервиса само по себе не отвечает ни на один из последних вопросов. Отдельно укажите связь копии с исходным документом.
Где обнаруживается цена удобства
Теперь удалите учебный документ штатным способом и проследите судьбу индекса и кеша. Проверьте также журнал: удаление исходника не означает автоматического исчезновения уже записанного фрагмента. Это ожидаемый вопрос к испытанию, а не утверждение, что ваша система обязательно сохраняет данные.
Если удаление копии предусмотрено отдельной процедурой, запишите её владельца и проверяемый результат. Если поведение неизвестно, оставьте статус «не проверено». Не заменяйте неизвестность уверением, что доступ закрыт настройками чата.
Практический критерий: по одному документу можно назвать все найденные производные места, ответственного за каждое и доказательство проверки. Только после этого расширяйте учёт на следующий маршрут. Красивый список систем без владельцев и связей не показывает, что данные действительно контролируются.
Обложка: OWASP GenAI Security Project, без изменений, CC BY-SA 4.0.
Комментарии
Войдите, чтобы оставить комментарий
Пока нет комментариев. Начните обсуждение.