1 июня – ИА SM.News. После взлома архивного аккаунта Барака Обамы хакеры разместили в ленте сгенерированные нейросетью пропагандистские изображения и опубликовали несколько сторонних историй. Наибольший резонанс вызвал провокационный ИИ-снимок с подписью о том, что «Белый дом находится под контролем шиитов».
«Один из пользователей смог обойти двухфакторную аутентификацию и убедить чат-бота сменить почту архивного аккаунта Барака Обамы без подтверждения личности. Для обхода защитных систем мошеннику потребовалось лишь знать точный никнейм профиля и совпасть по геолокации с бывшим президентом США«, — объясняет медиаменджер Георгий Лобушкин.
Индустрия ИИ регулярно сталкивается со схожими проблемами: ранее злоумышленники массово обходили ограничения ChatGPT с помощью «джейлбрейк»-запросов, заставляя чат-бота писать вредоносный код. Кроме того, уязвимости в алгоритмах машинного обучения крупных техгигантов не раз приводили к утечкам конфиденциальных диалогов пользователей и данных для обучения нейросетей.
«Искусственный интеллект проигнорировал протоколы безопасности и отправил секретный код подтверждения сразу на новый адрес злоумышленника. В ходе этой уязвимости хакеры успели взломать и выгодно перепродать еще несколько дорогих учетных записей общей стоимостью более миллиона долларов», — подытожил Лобушкин.
Ранее ИА SM-NEWS сообщило, что общение с ИИ загоняет человека в одиночество и усиливает изоляцию.
