Власти Китая предупредили о рисках использования сервисов ИИ-посредников

Использование ИИ-посредников, которые предоставляют доступ к разным ИИ-моделям через один интерфейс, создает целый ряд угроз безопасности, сообщает министерство государственной безопасности (МГБ) КНР.

Как сообщило министерство в своих соцсетях, в последнее время в Китае стремительно набирают популярность так называемые сервисы "ИИ-посредничества", которые позволяют пользователю работать сразу с несколькими языковыми ИИ-моделями через один интерфейс. В ведомстве отметили, что рынок таких посредников сегодня весьма неоднороден: часть платформ работает без необходимых лицензий и с недостаточной защитой данных.

"Из-за этого нередко возникают случаи утечки пользовательской информации и перепродажи данных, а риски для информационной безопасности становятся все более серьезными", - подчеркнули в МГБ.

Многие подобные платформы, как отметили в ведомстве, не имеют надежных механизмов шифрования и управления данными, некоторые из них могут сохранять пользовательские данные и продавать их другим компаниям для обучения ИИ. Кроме того, как добавили в МГБ, для сокращения расходов некоторые сервисы выдают более дешевые и слабые модели за премиальные, уменьшают вычислительные ресурсы, в результате ответы становятся менее точными и логичными, что может вводить пользователей в заблуждение.

Некоторые сервисы, как говорится в сообщении, могут содержать скрытые уязвимости. "Через них злоумышленники способны внедрять вредоносный код на устройства пользователей, похищать ключи доступа и облачные учетные данные, а также устанавливать программы удаленного управления для постоянного наблюдения и кражи информации", - говорится в тексте.

В МГБ призвали пользоваться официальными или авторизованными сервисами, соответствующими требованиям безопасности и законодательства, быстро реагировать на подозрительные ситуации и сообщать о них в органы госбезопасности.