Эксперты раскрыли уязвимости DeepSeek

Как рассказал Новостям Mail киберэксперт, аналитик L2 GSOC компании «Газинформсервис» Андрей Жданухин, китайский чат-бот с искусственным интеллектом DeepSeek оставил без защиты одну из своих критически важных баз данных, что привело к утечке более миллиона записей. В открытый доступ попали следующие типы данных: история переписок пользователей с нейросетью, секретные ключи и части API, данные бэкенда и другие конфиденциальные сведения.

По словам Жданухина злоумышленники могли получить конфиденциальную информацию и чувствительные данные, как пользователей, так и компаний. Многие полагаются на нейросети, перекладывая на них часть рутинных задач: от сортировки и оформления списка сотрудников компании до помощи в написании кода ПО или приложения. В чат-бот поступают настоящие данные, так как пользователи считают, что «в этом чате их не подслушивают», указывает киберэксперт.

Генеральный директор информационного агенства TelecomDaily Денис Кусков в контексте инцидента с утечкой данных DeepSeek обращает внимание на «информационную войну» между ChatGPT и DeepSeek. По словам Кускова разработчик китайского ИИ-стартапа сильно подвинул ChatGPT и акции крупнейших IT-компаний США упали не зря.

«Утечка данных — сложный момент, ранимый для пользователей. Во-первых, нужно понять, какие данные были скомпрометированы. Фамилии, телефоны, пароли или еще что-то», комментирует ситуацию Кусков, отмечая оперативность реакции компании по устранению угрозы. «Скорость реакции не имеет никакого значения, так как конечная цель атаки на DeepSeek уже достигнута», — оппонирует ему Жданухин.

«С полученной информацией последующие атаки смогут проходить уже и без уязвимости, и без участия DeepSeek. Инцидент напоминает о том, что работа с конфиденциальными данными — очень важный шаг, нужно уделять особое внимание вопросам кибербезопасности и обеспечению защиты данных пользователей, особенно когда дело касается передовых продуктов, таких как стартап с применением ИИ», — говорит Андрей Жданухин.

Сумасшедшая популярность привлекла внимание к DeepSeek специалистов американской компании Wiz, которая занимается обнаружением рисков для безопасности облачных сервисов.
Сотрудники Wiz, «желая оценить уровень внешней безопасности китайского стартапа и выявить потенциальные уязвимости», нашли в открытом доступе базу данных ClickHouse, связанную с DeepSeek.

«Экспозиция включает в себя более миллиона строк лог-потоков, содержащих историю чатов, секретные ключи, сведения о серверной части и другую высокочувствительную информацию. Исследовательская группа Wiz немедленно и ответственно раскрыла проблему DeepSeek, которая оперативно обеспечила разоблачение», — говорится в пресс-релизе Wiz.

Утечка, обнаруженная в китайской версии ИИ, подтвердила опасения экспертов о том, что использование ИИ может быть сопряжено с угрозами безопасности.

«По мере того как ИИ становится неотъемлемой частью бизнеса по всему миру, отрасль должна осознавать риски, связанные с обработкой конфиденциальных данных, и внедрять методы обеспечения безопасности наравне с теми, которые требуются поставщикам общедоступных облачных сервисов и крупным поставщикам инфраструктуры», — резюмировали исследователи Wiz.

Информацию о «дыре» в системе безопасности бесплатного китайского чат-бота DeepSeek-R1 обнародовали сразу же после его оглушительного успеха на рынке и обвала акций крупнейших мировых гигантов, занятых разработками искусственного интеллекта. Китайский чат-бот, создание которого обошлось всего в $5,6 млн, «обесценил» многомиллионные вложения в нейросети конкурентов, например, передовой версии ChatGPT от американской компании OpenAI.

Китайскую языковую модель DeepSeek-R1 только успели презентовать в конце января 2025 года, как она обошла по популярности ChatGPT. Приложение стало самым загружаемым на Android и iOS. Чат-ботом начали пользоваться миллионы людей, а акции технологических гигантов — создателей других нейросетей — рекордно упали в цене.