«Спешка ослабляет когнитивный контроль»: эксперт — об эмоциях жертв мошенников, ИИ и кибербезопасности

Учёные РТУ МИРЭА и ЦЭМИ РАН при поддержке Российского научного фонда создали нейросетевую модель, которая распознаёт эмоции. Технология отслеживает состояния, характерные для стрессовой ситуации при взаимодействии с мошенниками. Выводы делаются на основе данных, которые можно получать с умных часов и фитнес-браслетов, — это частота пульса, вариабельность сердечного ритма, повышение артериального давления. Руководитель лаборатории индустриального программирования РТУ МИРЭА кандидат технических наук Екатерина Плешакова рассказала RT, как можно выявлять стрессовые ситуации, зачем ИИ переводит эмоции в математические модели и каким образом разработка поможет в борьбе с киберпреступностью.

• Сгенерировано с помощью ИИ

— Расскажите, пожалуйста, о вашей разработке. На каких принципах она основана?

— В проекте, поддержанном грантом Российского научного фонда, участвуют специалисты из РТУ МИРЭА и математики из ЦЭМИ РАН. Мы разработали гибридную нейросетевую модель обработки биометрических данных, которая поможет бороться с телефонными мошенниками. Кроме того, проект имеет сугубо научное значение: мы изучаем возможность создания нейросетей на основе теоремы Колмогорова — Арнольда. Это новый тип нейросетевой архитектуры. Он был открыт недавно и сразу привлёк внимание учёных во всём мире.

Наша модель оценивает изменение эмоционального состояния человека на основе сигналов электроэнцефалографии (ЭЭГ). Сильные отклонения от обычного состояния могут указывать на то, что человек в этот момент говорит с преступниками.

Чтобы смоделировать типичные реакции, которые стараются вызвать у потенциальной жертвы мошенники, мы используем базы данных биологических показателей стресса, полученные с помощью Трирского социального стрессового теста (TSST). Он позволяет изучать различные реакции на стресс и применяется во многих психологических исследованиях.

— Какие эмоции могут сигнализировать, что человека пытаются обмануть мошенники?

— Показателей несколько, в частности вариабельность сердечного ритма, частота сердечных сокращений и артериальное давление. Во время общения с мошенниками человек, как правило, проходит через несколько стадий: нейтральное состояние, переход к пику страха, затем — рост грусти и частичное восстановление спокойствия. Это соответствует трём этапам развития ситуации: восприятие угрозы, сужение внимания и импульсивное действие.

Применяя обученную ИИ-модель к записям активности мозга, мы строим временные графики вероятности этих эмоций.

• Сгенерировано с помощью ИИ

Эффективность социальной инженерии, например нейрофишинга или телефонного мошенничества, во многом зависит от эмоционального состояния жертвы. Угрожая жертве или сообщая ей о возможных потерях, злоумышленники намеренно вызывают страх, грусть или отвращение.

Преступники обычно торопят жертву, и спешка ещё больше ослабляет когнитивный контроль. В этот момент очень важно сделать осознанную паузу, проверить информацию через независимые каналы, чтобы избежать импульсивных действий.

— Как выглядит противодействие социальной инженерии с точки зрения вычислений?

— Наше исследование сфокусировано на нескольких направлениях: разработка и проектирование эффективных нейросетевых архитектур, алгоритмы предобработки данных и методы оптимизации вычислений.

Как я говорила, важная задача — изучение возможностей нейросетей на основе теоремы Колмогорова — Арнольда. Такой тип архитектуры интересен тем, что позволяет разложить сложные зависимости на более простые, то есть снизить вычислительную сложность без потери точности.

Другое важное свойство нейросетей с подобной архитектурой — интерпретируемость: работу модели можно описать понятным для человека математическим языком. Это принципиально важно для систем кибербезопасности. С точки зрения математических проблем информатики противодействие социальной инженерии — это работа с неструктурированными данными, графами и временными рядами в условиях высокой неопределённости.

— Существуют ли аналоги вашей модели и в чём она их превосходит?

— Уже есть массив работ по распознаванию эмоций на основе ЭЭГ, растёт интерес к изучению механизмов социальной инженерии, но сохраняется и ряд критических пробелов.

Мы впервые предложили гибридную архитектуру, где в рамках единого комбинированного подхода обучаемые функции интегрируются одновременно в обе ветви обработки сигналов мозга — временную и спектральную. Этот подход позволяет использовать преимущества более гибкого математического представления, чем классические нейросети.

Кроме того, мы впервые применили обученные классификаторы эмоций к записям социального стрессового теста, что позволило рассчитать профили уязвимости при столкновении с мошенничеством.

— Как планируется реализовать технологию на аппаратном уровне?

— Пока мы работаем над моделями, алгоритмами и методами эффективной обработки данных. Позже при поддержке технологического партнёра проекта АО «Российская корпорация ракетно-космического приборостроения и информационных систем» планируем перейти от прототипирования к промышленному выпуску.

Мы предполагаем интегрировать технологию в носимые устройства, например в умные часы или фитнес-браслеты. Это позволит создать рекомендательную систему, которая сможет обрабатывать биомедицинские сигналы в режиме реального времени.

• Gettyimages.ru
• © AndreyPopov

— Когда данные собраны и алгоритм распознаёт мошенника на другом конце провода, что будет предпринято для защиты потенциальной жертвы?

— Систему можно настроить по-разному. При превышении порога, например, страха она может прерывать телефонный звонок, сообщать об уровне угрозы или передавать информацию третьей стороне, в частности правоохранительным органам.

— Какова точность работы модели?

— Точность модели сегодня достигает примерно 90%, этого достаточно для тестирования технологии. Но мы планируем улучшить алгоритм в нынешнем году и уже работаем над этим.

— Вы говорили, что хотите использовать искусственный интеллект для анализа биомедицинских показателей и обработки естественного языка. Не кажется ли вам, что это проще, чем анализировать уровень стресса?

— У нас есть идеи по интеграции семантического анализа, например объединение ЭЭГ — классификатора эмоций с NLP-моделями (алгоритмы искусственного интеллекта, обученные для генерации и понимания речи. — RT).

• Сгенерировано с помощью ИИ

— Где ещё можно применять вашу разработку?

— Мы создали модель и алгоритмы для мультидисциплинарных приложений. Это значит, что, помимо выявления мошенников, технология может применяться в широком спектре нейроинтерфейсов — от систем поддержки водителей до телемедицины или продвинутых средств аутентификации.

— Как решится вопрос с охраной персональных данных клиентов?

— Это достаточно чувствительный вопрос. Пока такие технологии не распространены, они вызывают недоверие. Но есть и немало технооптимистов. Государство и бизнес адаптируют нормативно-законодательную базу. Поэтому предположу: через некоторое время нейроинтерфейсы станут массовой историей.

Источник