Как сообщает HackerNoon, в основе всех современных моделей искусственного интеллекта, включая новейшие, скрывается критическая математическая неточность, способная разрушить фундамент их эффективности. Исследователи предупреждают, что ошибка связана с базовыми принципами вероятностных вычислений, на которых строятся нейросети, пишет КТРК.
Проблема, по словам специалистов, не в самих данных или алгоритмах, а в том, как системы обрабатывают численные значения. Ошибка накапливается на каждом этапе расчёта и в итоге приводит к потере точности, что влияет на выводы, прогнозы и даже безопасность применений ИИ. Это ставит под сомнение устойчивость всех известных архитектур — от трансформеров до генеративных моделей.
Где зародилась ошибка и почему её не замечали
Корень ошибки уходит в основы линейной алгебры и вероятностной статистики, применяемых при обучении нейронных сетей. Речь идёт о том, как машины интерпретируют распределения значений и работают с округлениями при больших объёмах данных.
На ранних стадиях развития ИИ разработчики не сталкивались с этой проблемой, потому что вычислительные мощности были ограничены, а модели — простыми. Сегодня же, когда параметры сетей исчисляются миллиардами, даже крошечное смещение в вычислениях порождает огромные искажения в конечных результатах.
Почему это касается даже новых архитектур
Даже самые современные модели, включая крупные языковые сети и мультимодальные системы, используют те же самые математические принципы. Ошибка не связана с конкретной технологией или компанией, а заложена в сам фундамент архитектуры машинного обучения.
Некоторые исследователи уже предложили способы компенсации этих неточностей, например, использование более стабильных методов нормализации данных. Однако пока нет универсального решения, способного устранить проблему полностью, не разрушив при этом существующую логику нейросетей.
Возможные последствия для индустрии
Эксперты считают, что последствия этой ошибки могут быть серьёзными. Если она действительно системна, то все модели ИИ, обученные на миллионах параметров, требуют повторной проверки. Это ставит под угрозу точность решений в таких сферах, как медицина, финансы, оборона и транспорт.
Кроме того, потенциальный сбой в базовых алгоритмах может привести к тому, что ИИ будет давать непредсказуемые результаты, особенно в критических задачах, где требуется точность вычислений. Некоторые специалисты уже называют ситуацию «кризисом доверия» в отношении машинного интеллекта.
Есть ли путь к исправлению
Разработчики ведущих лабораторий ищут новые математические модели, которые позволят избежать накопления ошибок. Одним из предложенных направлений стало использование адаптивной арифметики с плавающей точкой, где точность вычислений меняется в зависимости от контекста задачи.
Другие учёные предлагают радикально пересмотреть подход к обучению ИИ, заменив вероятностные методы на более устойчивые логические структуры. Это может привести к появлению «нового поколения» искусственного интеллекта, построенного на других принципах вычислений.
Напомним, ранее мы писали про то, что учёные доказали: неандертальцы не исчезли, а стали частью современного человека.
