OpenAI опублікувала розв’язки математичних задач, але виявлено розбіжності

OpenAI представила 719 рішень складних математичних задач, створених за допомогою штучного інтелекту. Проте дослідники виявили, що в одному з доведень текстове пояснення не зовсім відповідає коду, що підтверджує його правильність.

Проблеми з перевіркою

Науковці з Кембриджського університету та Королівського коледжу Лондона виявили щонайменше дві розбіжності під час перевірки роботи OpenAI, зокрема в задачах, пов’язаних з рівняннями Нав'є — Стокса. ШІ може описати розв’язок словами, а потім перекласти його на мову Lean для перевірки, але під час цього процесу можуть виникати неточності.

Консультації з математиками

Перед публікацією OpenAI консультувалася з групою AGMAI, яка надала рекомендації для ШІ-лабораторій. Однак компанія не виконала всі вказівки, зокрема щодо використання закритих моделей для дослідження складних задач.

Обмежена прозорість

OpenAI підтвердила, що більшість опублікованих результатів отримані за допомогою внутрішньої моделі, яка не доступна публічно. Лише 10 з 719 робіт супроводжуються записами міркувань ШІ, а формально представлені приблизно 42% доведень.

Недостатнє розуміння результатів

Математик Теренс Тао та професорка Гарварду Мелані Вуд зазначили, що користувачі, які отримують розв’язки через ШІ, не завжди можуть пояснити їх іншим науковцям. Це підкреслює важливість глибшого розуміння результатів, а не лише їхньої формальної коректності.

Джерело: dev.ua (https://dev.ua/news/shi-pohanyi-matematyk-1791534532)