Об этом сообщает «КТРК» со ссылкой на The Conversation
Современные нейросети поражают своими возможностями. Они могут писать стихи, сдавать экзамены на врача или юриста и даже создавать произведения искусства. Однако их способность понимать язык остается под вопросом. Исследователи провели эксперимент, который выявил, что искусственный интеллект не всегда различает осмысленные сочетания слов от бессмысленных.
В ходе теста нейросетям предлагали пары существительных, одни из которых были логичными, например «пляжный мяч», а другие – нет, например «мяч пляж». Для человека такие различия очевидны, но ИИ часто не видел разницы. Вместо того чтобы распознать бессмысленность сочетания, он пытался найти в нем смысл. Это свидетельствует о том, что машина воспринимает язык иначе, чем человек.
Дополнительно ученые попробовали облегчить задачу для ИИ, добавив к тесту примеры осмысленных и бессмысленных пар слов. Но даже при таком упрощении нейросети продолжали делать ошибки. Они чаще всего придавали смысл тем сочетаниям, которые в человеческой речи так не используются. Это говорит о том, что даже самые передовые языковые модели пока не обладают настоящим пониманием слов, а лишь моделируют его.
Этот эксперимент подчеркивает важность дальнейших исследований в области искусственного интеллекта. Если в будущем нейросети начнут принимать важные решения, они должны уметь не только генерировать текст, но и правильно оценивать смысл информации. Пока же они склонны интерпретировать даже бессмысленные фразы, что может привести к ошибкам в критически важных задачах.
