12 июня – ИА SM.News. Нейросети выводят ссылки на мошеннические сайты из-за механизмов поиска информации в реальном времени, уязвимостей поисковой оптимизации (SEO) и особенностей работы языковых моделей.
«OpenAI опять попали в скандал. Выяснилось, что ChatGPT рекламирует мошенников. Если спросить у ИИ, где покупать вещи, то с очень большой вероятностью чат-бот будет выдавать ссылки на фейковые сайты. Модель очень любит страницы с большими скидками, чем пользуются мошенники. По сути преступники отравляют модель, скармливая как обучающий контент фейковые сайты реальных брендов. ИИ, конечно же, верит», — констатирует медиаменеджер Георгий Лобушкин.
Мошенники взламывают легитимные сайты или создают тысячи оптимизированных страниц. ИИ-поисковики сканируют интернет и берут эти ссылки из топа поисковой выдачи.
«Решить эту проблему пока что невозможно. Поэтому остаётся только перепроверять. А учитывая, что модель не одна и многие начинают использовать и Claude, и Gemini как своих агентов, давая доступ к компьютеру и информации, не удивимся, если скоро будут огромные иски по делам о мошенничестве и отвечать по ним будут компании бигтеха», — подытожил Лобушкин.
Ранее ИА SM-NEWS сообщило, что Трамп доказал уязвимость спекулятивного крипторынка.
