3 мая – ИА SM.News. Институт будущего жизни выпустил петицию с требованием приостановить разработку GPT-5 и аналогичных моделей большого языка (LLM). Эксперт в области разработки искусственного интеллекта, вице-президент компании Convergence Media Том Ньюхаус считает, опасения понятными, но, по его мнению, они сильно раздуты. Об этом говорится в материале Fox News.
По словам специалиста, подобные опасения, связанные с появлением искусственного общего интеллекта, высказывались время от времени с тех пор, как был введен термин AGI в 2005 году. Искусственный интеллект общего назначения (AGI) — это термин, обозначающий системы искусственного интеллекта (ИИ), способные выполнять любые задачи, «которые под силу человеку, или даже лучше».
Ньюхаус считает, что приостановка разработки ИИ была бы крайне неправильным шагом. Он отмечает, что большие языковые модели не могут стать искусственным интеллектом общего назначения.
«В LLM (Large Language Model — Большая языковая модель) совершенно отсутствует когнитивная архитектура, необходимая для поддержки AGI на уровне человека. Подавляющее большинство исследователей ИИ знают это. LLM даже не превосходят более традиционные модели машинного обучения в большинстве лингвистических задач и страдают от многочисленных серьезных ограничений», — объясняет эксперт.
Речь идет о неспособность отличить правду от вымысла, ограниченной креативности, неспособность эффективно выстраивать длинные цепочки рассуждений.
Фото: ООО «СДК»
LLM обладают более широким набором возможностей, чем предыдущие узкие ИИ, но эта широта ограничена. Они не могут разумно рассуждать за пределами своего опыта. Они только кажутся способными в широком смысле, потому что их учебная база действительно огромна и охватывает почти все аспекты человеческой деятельности, подчеркивает Ньюхаус.
Специалист полагает, что необходимо внедрять человеческие ценности в учебные данные AGI, повышая их в таких сферах деятельности, как образование, медицинское обслуживание, наука и творчество.
Фото: ИА SM News Екатеринбург
«Люди и AGI должны вместе двигаться вперед, в следующую эпоху. Они должны делать это, помогая друг другу своими знаниями, практическими возможностями и ценностями. Наиболее разумный путь продвижения вперед включает разработку открытых AGI, которые служат человечеству, и создание соответствующих методологий управления и обучения по ходу дела», — заключил он.
Ранее израильский эксперт Харари заявил, что искусственный интеллект способен взять власть в свои руки. Он считает, что ИИ может начать принимать самостоятельные решения.
