Что ж, рано или поздно это должно было случиться. Искусственный интеллект и нейросети все глубже проникают в нашу жизнь, а значит вирмейкеры когда-нибудь доберутся и до них.
Группа программистов из США и Израиля разработала нового компьютерного червя, названного Morris II. Этот вирус атакует популярные чат-боты и ИИ-помощников, типа ChatGPT от OpenAI и Gemini от Google.
Обычные компьютерные вирусы заражают устройства, используя уязвимости в программах. А новый червь Morris II работает совсем по-другому — он обманывает и "отравляет" сами системы искусственного интеллекта вредоносными командами.
Ученые провели эксперимент, где создали имайл-помощника, подключенного к ИИ-моделям ChatGPT, Gemini и LLaVA. Затем атаковали его двумя способами — через обычные текстовые письма и письма с зараженными картинками.
При получении такого письма вирус Morris II заставлял чат-бота рассылать зараженные сообщения другим компьютерам в сети и выполнять специальные команды. В одном случае это приводило к краже конфиденциальных данных из писем, таких как имена, телефоны, номера банковских карт. Во втором случае — к массовой рассылке спама и нежелательного контента:
Причина появления такой угрозы — уязвимости современных ИИ-систем. Авторы вируса предупредили об этом разработчиков в OpenAI и Google и в ближайшие 2-3 года ожидают появления реальных атак, использующих идею Morris II.
Чтобы защититься, эксперты советуют ограничивать права чат-ботов, например, не давать им возможность отправлять письма без разрешения. Также важно следить за подозрительной активностью ИИ-помощников.
Начинается новая эра в кибербезопасности. Теперь ждем, когда разработчики ИИ выпустят первые антивирусы для защиты своих моделей. Наверняка, когда ИИ-ассистенты поселятся локально на гаджетах и компьютерах, то вслед за этим увидим и софт типа "Антивирус Катя для ChatGPT" или "Защитник для Gemini".