OpenAI создала независимую группу по развитию математики с помощью ИИ

OpenAI заявляет, что внутренняя модель ИИ, обучение которой началось 28 августа, достигла неожиданно быстрого прогресса в высшей математике. По данным компании, система решила задачу тысячелетия о существовании и гладкости решений уравнений Навье — Стокса, а также более 100 других давних открытых задач, охватывающих большинство областей математики. В своём заявлении OpenAI не приводит доказательств, технической документации, независимого подтверждения или сроков публичного рассмотрения результатов, поэтому эти утверждения пока остаются изложением компанией собственных внутренних результатов, а не признанными математическими достижениями. Даже внутри OpenAI заявленные темпы удивили математиков и вызвали дискуссию о том, как следует информировать и готовить научное сообщество.

Компания рассматривает эти возможности как потенциально значимые далеко за пределами математики. Математика лежит в основе научных исследований, инженерии, вычислительной техники, экономики и множества других дисциплин, поэтому подлинно новые открытия со временем могут найти применение в самых разных сферах жизни общества. Такой широкий потенциал также поднимает вопросы об ответственной разработке и внедрении. OpenAI заявляет, что всё ещё обдумывает, как следует выводить мощные математические системы ИИ за пределы компании, и признаёт, что последствия их внедрения нельзя считать проблемой, касающейся исключительно математиков.

Это заявление отчасти стало ответом на открытое письмо под названием «A Severe Misalignment of AI in Mathematics» («Серьёзное несоответствие ИИ целям математики»). Его авторы утверждают, что использование решения открытых математических задач в качестве критерия оценки новых систем ИИ может привести к пагубным побочным эффектам. Хотя в заявлении не воспроизводятся все их аргументы, OpenAI признаёт, что эта критика указывает на необходимость более глубокого и продуманного взаимодействия между разработчиками ИИ и математическим сообществом. Главный вопрос заключается не просто в том, способен ли ИИ получить решение, а в том, как заявленные открытия следует проверять, представлять, кому приписывать их авторство и как интегрировать их в профессиональные исследования.

Для поддержки такого взаимодействия математики создали независимую Консультативную группу по математике и искусственному интеллекту. Группа призвана наладить связь OpenAI с математиками и широкой общественностью, а также предоставить исследователям официальный голос при принятии решений, связанных с математическими возможностями компании. В круг её задач входит помощь в оценке значимости новых результатов, консультирование по вопросам того, как и когда следует распространять эти результаты, а также разработка рекомендаций относительно академических и профессиональных стандартов, которыми должны регулироваться математические исследования с применением ИИ.

Консультативная группа также рассмотрит конструктивные способы применения этой технологии. OpenAI заявляет, что хочет сделать мощные инструменты доступными математикам, чтобы исследователи могли изучать вопросы, основанные на их собственной экспертизе, развивать новые идеи и совершенствовать математическое образование. В рамках такого подхода ИИ рассматривается не только как автономный инструмент решения задач, но и как исследовательская инфраструктура, помогающая людям изучать доказательства, концепции и возможные направления работы. OpenAI заявляет, что математики должны играть центральную роль в определении того, как эти системы будут поддерживать исследования и образование, а не просто получать инструменты и результаты после того, как решения о внедрении уже приняты.

Группа должна действовать независимо от OpenAI. Она может давать советы, о которых компания не просила, публично обсуждать влияние OpenAI на математику и публиковать свои рекомендации. OpenAI не будет платить её участникам, а сама группа сможет по собственной инициативе менять свой состав. Эти условия призваны сохранить свободу участников применять профессиональное суждение и оспаривать решения компании, а не выступать в роли её внутренних представителей или сторонников.

Однако полномочия группы имеют чётко обозначенную границу. Она не будет консультировать OpenAI относительно темпов внутреннего прогресса компании в области математики. Её роль касается оценки, освещения, профессионального рассмотрения и более широкого применения новых возможностей, но не решения о том, следует ли OpenAI замедлить или ускорить собственные закрытые исследования. Это различие делает данную инициативу консультативным мостом к математическому сообществу, а не внешним органом управления, контролирующим разработку моделей.

OpenAI называет создание группы первым шагом, а не исчерпывающим ответом на вызовы, связанные с математическими открытиями при помощи ИИ. Остаются вопросы о том, будут ли такие системы углублять человеческое понимание, как можно проверять их результаты, как распределить преимущества за пределами небольшого числа организаций и какие нормы должны применяться, когда ИИ вносит вклад в исследования. В первоначальный состав группы вошли Тимоти Гауэрс из Коллеж де Франс и Кембриджского университета, Мартин Хайрер из EPFL и Имперского колледжа Лондона, а также Нихил Шривастава из Калифорнийского университета в Беркли и Института Саймонса. Группа работает на базе Института перспективных исследований.