Новый сервис по защите от кибермошенников появился в Москве

Столичный департамент информационных технологий предлагает протестировать новый бесплатный сервис по защите от кибермошенников. Специально разработанный Telegram-бот позволяет проверять текстовые и голосовые сообщения на наличие признаков мошенничества. Его создали в рамках информационного проекта «Перезвони сам». Об этом сообщается на официальном сайте мэра Москвы.

© Агентство «Москва»

«С развитием технологий приемы мошенников также становятся все более изощренными: они звонят от лица банков или официальных организаций, присылают заманчивые предложения о работе и выгодных распродажах, рассылают просьбы помочь со взломанных аккаунтов друзей и знакомых, а также применяют другие уловки. Мы создали бесплатный инструмент, который поможет проверить полученные сообщения. Telegram-бот анализирует присланные скриншоты переписки, текстовое или голосовое сообщение и помогает определить, есть ли в нем признаки мошенничества. Сервис работает с применением искусственного интеллекта, включая большие языковые модели и технологии оптического распознавания текста и речи», – приводятся в сообщении слова руководителя проекта «Перезвони сам» столичного департамента информационных технологий Валентины Шилиной.

Отмечается, что сейчас сервис доступен в тестовом режиме, он продлится до 27 февраля. Бот предоставляет предварительные результаты анализа сообщений, на которые пользователям рекомендуется обратить внимание. После завершения пилотного этапа специалисты доработают функционал с учетом отзывов и пожеланий. Планируется, что весной 2025 года проект заработает полноценно.

«Бот может распознавать несколько типов информации. Он анализирует текстовые сообщения или скриншоты переписки, проверяя их на наличие признаков эмоционального давления, манипуляций, просьб о предоставлении персональных данных или переводе денег, а также подозрительных ссылок. При обработке аудиофайлов бот определяет вероятность мошенничества на основе содержания присланного сообщения или пересказа беседы. Кроме того, сервис анализирует, не использовалась ли синтезированная речь, что помогает выявлять дипфейки – сообщения, в которых генерируется голос отправителя. По итогам обработки информации сервис сообщает о проценте вероятности обмана в сообщении и отметит подозрительные сигналы, которые должны насторожить. Технологии, применяемые в работе бота, включают большие языковые модели (LLM) для анализа текстов и инструменты оптического распознавания символов для обработки изображений. Каждое аудиосообщение анализируется в два этапа: сначала определяется наличие синтезированной речи, затем текстовая расшифровка сообщения проверяется на признаки мошенничества с использованием LLM. За счет анализа и обработки полученных от пользователей обращений применяемая в боте нейросеть будет постоянно обучаться и дополняться новыми данными, что позволит повысить точность распознавания обмана и расширить сведения о мошеннических схемах», – говорится в сообщении.