От чат-бота к дипфейку: как распознать звонок от робота?
Во Всероссийском детском центре «Орлёнок» эксперты из Федеральной службы по финансовому мониторингу по Южному федеральному округу провели для орлят урок финансовой грамотности.
Тематические уроки по финансовой грамотности проводятся в школах и колледжах страны в рамках Международной олимпиады по финансовой безопасности, которая проходит ежегодно при поддержке Президента России Владимира Путина.
Спикерами выступили начальник отдела валютного мониторинга Федеральной службы по финансовому мониторингу по Южному федеральному округу Андрей Костюченко и его заместитель Анна Успенская.
В этом году урок посвящён одной из самых острых проблем современной цифровой среды — «Тёмной стороне искусственного интеллекта». Выбор темы продиктован взрывным развитием нейросетей и тем, как стремительно мошенники адаптируют новые технологии для противоправной деятельности. Главная цель урока — рассказать об угрозах и научить ограждать себя от уловок мошенников.
На занятии эксперты вместе со школьниками разобрали реальные кейсы: технологии Deepfake: как распознать подделку голоса и видеоизображения, используемые для подмены личности; фишинг нового поколения: как отличить сгенерированные нейросетью сообщения и звонки «роботов» от реальных коммуникаций; цифровая гигиена: как защитить свои персональные данные и почему «цифровой след» может сыграть против владельца.
Представитель Росфинмониторинга Анна Успенская обратила внимание на вопросы использования новых технологий в преступных целях, рассказала, как не стать участником теневых финансовых схем, защитить себя и своих близких от мошенников.
«Развитие цифровых технологий происходит стремительно. Сегодня искусственный интеллект сопровождает человека на каждом шагу, пронизывая все сферы жизни общества. Но наряду с неоспоримой пользой, к сожалению, ИИ всё чаще используется в противоправных целях. Злоумышленники научились подделывать голос, внешность и даже мимику. При помощи искусственного интеллекта совершается так называемый интеллектуальный подлог. Распознать подделку становится крайне сложно. Необходимо максимально подробно рассказывать молодёжи о существующих рисках, угрозах и мерах защиты, ведь под угрозой не только сбережения, но и свобода человека, если его пытаются втянуть в преступление», — подчеркнула Анна Владимировна Успенская.
Что такое технологии Deepfake? Используя модифицированный алгоритм преобразования текста в речь и обработку компьютером аудиозаписей речи того или иного человека, возможно «подделать» голос этого человека. Так создаются голосовые дипфейки. С помощью этой технологии возможно адаптировать голоса актёров при локализации фильмов, создавать естественную речь для людей, утративших возможность говорить, начитывать аудиокниги для детей голосами родителей, подстраивать речь под определённый акцент, создавать реалистичные видеоаватары — личности для голосовых ассистентов. Однако эта же технология сегодня используется и злоумышленниками для обмана, дискредитации или дезинформации. Синтез голоса и изображения конкретных людей — руководителей, коллег, родственников — приводит к тому, что, доверяя, жертвы все чаще делятся кодами аутентификации или отправляют деньги.
Эволюция фишинга в России совершила резкий скачок: из инструмента массового спама он превращается в высокоточное оружие целевых атак. Драйвером этой трансформации стали публичные нейросети, которые позволяют мошенникам в разы повысить убедительность своих сообщений, персонализировать атаки и автоматизировать их, что ведёт к росту как качества, так и количества угроз. У злоумышленников появляется возможность генерировать множество правдоподобных сайтов-клонов маркетплейсов, банков, почтовых клиентов, добавлять правдоподобные отзывы, картинки товаров и т. п.
В заключение спикер предложила практические советы по цифровой гигиене, заключающиеся в критическом отношении к поступающей информации и обеспечении сохранности персональных и банковских данных.
Орлята получили не только полезные знания, но и навыки, которые помогут им ориентироваться в мире киберугроз.
«Такие уроки очень важны, потому что не все знают о существующих в сети рисках. На сегодняшней встрече я узнал много новых терминов. Теперь я знаю, как обезопасить себя от мошенников. И сейчас у меня появилось желание принять участие в олимпиаде по финансовой безопасности», — поделился Кирилл Купрюн из Тюменской области.
Дарья Притыко из Омска рассказала, что урок финансовой грамотности открыл ей глаза на многие вещи: она узнала, что искусственный интеллект — это не только польза, но и определённый риск, ведь мошенники действуют повсюду, и от их уловок страдают и школьники, и взрослые. «Меня особенно поразило, насколько легко сейчас подделать чей-то голос или выдать себя за другого человека. Злоумышленники пользуются этим, чтобы выудить личные данные или выманить деньги. Такие уроки очень важны: они учат людей быть бдительнее. И если, допустим, кто‑то вдруг просит перевести деньги, не стоит спешить — лучше поговорить с этим человеком напрямую», — сказала Дарья.
Всероссийский тематический урок «Финансовая безопасность» — это первый (вводный) этап VI Международной олимпиады по финансовой безопасности. Он призван помочь участникам заранее познакомиться с логикой будущих конкурсных заданий, сформировать «цифровой иммунитет» и понять, что финансовая безопасность — это навык выживания в современном мире. Регистрация на отборочный этап олимпиады открыта с 24 февраля по 14 марта. Победители и призёры олимпиады, которая завершится в октябре 2026 года, получат дополнительные баллы к ЕГЭ по профильному предмету. Вся информация размещена на сайте олимпиады https://rosfinolymp.ru.
Мероприятие реализовано в «Орлёнке» в рамках 3 смены, программа комплектования которой утверждена Министерством просвещения Российской Федерации.