Что нельзя доверять нейросетям: фото, документы, переписка

Нейросети стали ценным помощником в работе и повседневной жизни: они пишут тексты, редактируют фото, анализируют документы и дают полезные рекомендации. Однако, чтобы сохранить приватность и избежать юридических ошибок, нужно знать об особенностях хранения данных в инфраструктуре ИИ-сервисов и о вероятности «галлюцинаций». Рассказываем, что важно учитывать при обращении к нейросетям, чтобы работа с ними была безопасной.

• Сгенерировано с помощью ИИ

Почему нейросетям нельзя доверять личные данные и документы

Современные языковые модели не хранят информацию как обычные базы данных, а «улавливают» статистические связи между словами. Поэтому всё, что вы загружаете в публичный ИИ-сервис (тексты, файлы, изображения), уходит на серверы разработчика и может использоваться для дообучения моделей, мониторинга качества или попадать в историю запросов. Главный риск не в том, что нейросеть «злая» и крадёт данные, а в том, что данные проходят через чужую инфраструктуру, где возможна утечка из-за человеческого фактора или неверных настроек доступа.

Особенно опасно загружать конфиденциальную информацию: персональные данные (Ф. И. О., паспортные данные, ИНН, контакты), то, что составляет коммерческую тайну (бизнес‑планы, стратегии, базы клиентов), документы под NDA (соглашение о неразглашении конфиденциальной информации), финансовые отчёты и внутреннюю переписку. Промпт (запрос) к нейросети должен быть полностью обезличен: удаляйте всё, что позволяет идентифицировать личность или компанию. Даже черновики могут содержать чувствительные сведения.

Схемы мошенников с использованием нейросетей

Искусственный интеллект становится мощным оружием в руках злоумышленников. Интенсивность кибератак ежегодно увеличивается. ИИ-фишинг использует нейросети для создания убедительных сообщений без орфографических ошибок, с естественным языком и персонализацией на основе открытых данных из соцсетей.

Особую опасность представляют дипфейки и клонирование голоса. Сегодня достаточно нескольких секунд аудиозаписи, чтобы синтезировать правдоподобную копию голоса. Злоумышленники взламывают аккаунты в мессенджерах, получают доступ к голосовым сообщениям и от имени владельца просят родственников перевести деньги. 

Для защиты эксперты рекомендуют всегда проверять неожиданные запросы по независимому каналу связи, использовать многофакторную аутентификацию, ограничивать личную информацию в соцсетях и применять антифишинговое ПО. Остановиться и проверить по другому каналу — главное правило против ИИ-фишинга.

Стоит ли загружать свои фото в ИИ, редактировать их

Популярные сервисы для генерации изображений просят загрузить личное фото. Однако полностью безопасной такой процедуры сегодня не существует. Условия использования многих платформ предоставляют им широкий лицензионный доступ к загруженному контенту: право использовать, модифицировать и создавать производные материалы, в том числе для обучения моделей.

Известны случаи утечек за последние годы: многие сервисы по умолчанию публикуют результаты генерации в открытом доступе. Так, Midjourney не скрывает, кто, что и как генерировал. Загруженное лицо может оказаться в ленте чужих подборок уже через час. Кроме того, фотографии могут быть использованы для создания дипфейков или шантажа.

Чтобы снизить риски, перед загрузкой понижайте разрешение, удаляйте метаданные (геолокацию, модель устройства), не загружайте компрометирующие или эмоционально заряженные кадры, а также фото близких и несовершеннолетних. Лучше использовать локальные нейросети, работающие без интернета, либо корпоративные ИИ‑инструменты в защищённом контуре.

Могут ли нейросети придумывать и перевирать факты

Да, и это явление называют «галлюцинациями» ИИ. Нейросети не проверяют факты, а генерируют наиболее вероятный ответ на основе обучающих данных. Если информации не хватает, модель «достраивает» текст вымышленными деталями, причём делает это с той же уверенностью, что и при верном ответе.

Нейросеть может «фантазировать» на юридическом поприще, придумать лишние пляжи в статье для туроператора, «создать» несуществующую османскую крепость, предложить несуществующие книги или приписать человеку чужую цитату.

Как бороться с галлюцинациями? Специалисты советуют давать больше контекста в запросе, разбивать сложные задачи на шаги, просить модель указать степень достоверности и обязательно проверять все факты по первоисточникам. Лучше всего использовать нейросеть как первого помощника, но не как единственный источник истины, особенно в юриспруденции, медицине и финансах.

Источник