Современные генеративные модели искусственного интеллекта способны автоматически собирать информацию о человеке из открытых источников и использовать её для создания персонализированных фишинговых сообщений. К такому выводу пришли авторы исследования «Контекстно-ориентированный целевой фишинг: атаки с использованием генеративного искусственного интеллекта против пользователей на основе данных из открытых социальных сетей».
Исследователи показали, что для формирования подробного профиля потенциальной жертвы ИИ достаточно проанализировать всего 5–6 публикаций в социальных сетях. На основе этой информации система определяет интересы человека, круг общения, посещаемые места, события и даже эмоциональное состояние, после чего формирует максимально правдоподобное сообщение.
Авторы исследования отмечают, что такие письма могут быть замаскированы под приглашение на мероприятие, сообщение от работодателя, уведомление сервиса, предложение о знакомстве, информацию о доставке, билет на концерт или просьбу срочно подтвердить учётную запись.
В ходе эксперимента участники чаще доверяли сообщениям, созданным искусственным интеллектом, чем традиционным фишинговым письмам, написанным людьми. Для оценки эффективности атак исследователи использовали данные Anti-Phishing Working Group (APWG) — международной организации, собирающей информацию о фишинговых атаках.
Авторы исследования приходят к выводу, что современные модели искусственного интеллекта способны автоматически собирать открытые сведения о пользователях и использовать их для создания высокоперсонализированных фишинговых сообщений, которые воспринимаются как более убедительные.
Источник:
