8 июня – ИА SM.News. Передача разработки искусственного интеллекта самим алгоритмам создает критический риск полной потери контроля над процессом создания новых технологий. Автономное самосовершенствование систем может привести к непредсказуемым ошибкам в коде, которые инженеры будут не в состоянии вовремя обнаружить и исправить. В результате человечество рискует столкнуться с неуправляемым технологическим прогрессом, логику и мотивы которого люди не смогут понять.
«Компания Anthropic призвала к международному замедлению разработки продвинутого ИИ из-за риска потери контроля над технологией. Стремительная автоматизация процессов уже позволяет алгоритмам писать код в разы быстрее людей, приближая момент автономного создания ИИ-преемников», — объясняет журналист Евгений Попов.
Кроме того, внедрение ИИ в анализ резюме, медицинских обследований и программирование порождает серьезные угрозы системной дискриминации и фатальных сбоев. Нейросети часто наследуют скрытые человеческие предвзятости, из-за чего отсеивают перспективных соискателей вакансий по случайным признакам. Не менее опасны галлюцинации и скрытые дефекты алгоритмов, способные повлечь за собой неверные медицинские диагнозы или критические уязвимости в программном обеспечении.
«Эксперты выделяют три сценария будущего: от стабилизации тренда до установления тотальной слежки или полного самосовершенствования систем. Для предотвращения угроз компания инициирует глобальные переговоры с политиками с целью заключения масштабного регулирующего соглашения», — констатирует Попов.
Ранее ИА SM-NEWS сообщило, что российской культуре угрожает искусственный интеллект: к примеру, современную музыку в Сети продвигают исключительно нейросетевые алгоритмы.
