Информационный Центр Правительства Москвы
22 января 2025, среда, 05:12
Новости

Москвичи могут протестировать новый сервис по защите от мошенников

Москвичи могут протестировать новый сервис по защите от мошенников
фото: mos.ru

Департамент информационных технологий города Москвы предлагает воспользоваться новым бесплатным сервисом, который поможет защититься от кибермошенников. Это специальный телеграм-бот, созданный для проверки текстовых и голосовых сообщений на наличие признаков мошенничества. Бот разработан в рамках информационного проекта «Перезвони сам». Об этом сообщила руководитель проекта «Перезвони сам» столичного Департамента информационных технологий Валентина Шилина. 

«С развитием технологий приемы мошенников также становятся все более изощренными: они звонят от лица банков или официальных организаций, присылают заманчивые предложения о работе и выгодных распродажах, рассылают просьбы помочь со взломанных аккаунтов друзей и знакомых, а также применяют другие уловки. Мы создали бесплатный инструмент, который поможет проверить полученные сообщения. Телеграм-бот анализирует присланные скриншоты переписки, текстовое или голосовое сообщение и помогает определить, есть ли в нем признаки мошенничества. Сервис работает с применением искусственного интеллекта, включая большие языковые модели и технологии оптического распознавания текста и речи», — рассказала Валентина Шилина.

В настоящее время сервис функционирует в тестовом режиме до 27 февраля 2025 года. В этот период бот предоставляет предварительные результаты анализа сообщений, на которые пользователям рекомендуется обратить внимание. По завершении пилотного этапа специалисты доработают функционал на основе полученных отзывов и пожеланий. Ожидается, что весной 2025 года проект будет запущен в полном объеме.

Бот способен обрабатывать различные типы информации. Он анализирует текстовые сообщения и скриншоты переписки, выявляя признаки эмоционального давления, манипуляций, просьб о предоставлении персональных данных или переводе денег, а также подозрительные ссылки.

При анализе аудиофайлов бот оценивает вероятность мошенничества, опираясь на содержание сообщения или пересказ беседы. Кроме того, сервис проверяет, не использовалась ли синтезированная речь, что позволяет выявлять дипфейки — сообщения, в которых голос отправителя генерируется искусственным интеллектом.

По результатам обработки информации бот сообщает о проценте вероятности обмана и выделяет подозрительные сигналы, которые могут вызвать настороженность.

В основе работы бота лежат передовые технологии, такие как большие языковые модели (LLM) для анализа текстов и инструменты оптического распознавания символов для обработки изображений. Каждое аудиосообщение проходит двухэтапную проверку: сначала определяется наличие синтезированной речи, затем текстовая расшифровка анализируется с помощью LLM на предмет признаков мошенничества. Благодаря постоянному обучению и анализу данных, полученных от пользователей, нейросеть, используемая в боте, будет непрерывно совершенствоваться, повышая точность распознавания обмана и расширяя базу знаний о мошеннических схемах.

Последние обновления: