Стремительное внедрение искусственного интеллекта в фундаментальные исследования вызвало волну споров о чистоте открытий, этике данных и кризисе доверия к академическим публикациям. Поводом для новой дискуссии стал конфликт вокруг решения одной из задач тысячелетия с помощью алгоритмов OpenAI, сообщает BBC.
Поводом для обострения дебатов стало недавнее заявление компании OpenAI, создавшей ChatGPT: разработчики отчитались, что их ИИ-агенты за 88 часов решили сложнейшую проблему, связанную с уравнениями Навье – Стокса. Однако за несколько часов до официального релиза математик Тристан Бакмастер из Нью-Йоркского университета, работавший над той же задачей в паре с исследователем компании Anthropic Левентом Альпёге, выразил публичную тревогу. Ученые вели разработку в инструменте Codex от OpenAI и получили сведения, что данные об их прогрессе могли дойти до руководства стартапа. Бакмастер предположил, что закрытые черновики могли послужить обучающей выборкой. В OpenAI отвергли прямые обвинения: представители компании заверили, что никто из сотрудников и исследовательских моделей не имел доступа к чужим черновикам до публикации, а промпты Бакмастера двухмесячной давности никак не могли повлиять на финальную архитектуру.
Этот инцидент обнажил системную проблему: машинное обучение всё чаще порождает споры об авторстве, новизне и достоверности научных результатов. С одной стороны, алгоритмы совершают прорывы колоссального масштаба — например, биологическая модель AlphaFold от британской Google DeepMind предсказала структуру 200 миллионов белков, за что создатели системы были удостоены Нобелевской премии по химии. С другой стороны, эксперты сталкиваются с преувеличением практической значимости машинных выкладок. Когда та же Google DeepMind объявила о генерации 2,2 миллиона новых кристаллических структур для создания аккумуляторов и солнечных батарей, химики Калифорнийского университета Энтони Читэм и Рам Сешадри выяснили, что большинство структур оказались тривиальными модификациями давно известных соединений.
Параллельно академический мир накрывает так называемый «научный шлак» (AI slop) — поток фиктивных статей и сгенерированных нейросетями рецензий. Исследование профессора Гентского университета Дмитрия Кобака показало, что к концу 2024 года характерные маркеры больших языковых моделей присутствовали почти в 90% изученных биомедицинских препринтов. Аналитики Стэнфордского университета установили, что до 17% текста отзывов на профильных конференциях генерируются чат-ботами, а специалисты Корнеллского университета зафиксировали порядка 147 000 ссылок на несуществующие фантомные работы, выдуманные «галлюцинирующими» алгоритмами.
Чтобы спасти институт рецензирования, профильные издательства вводят защитные барьеры: Elsevier разработал около ста цифровых маркеров для ручной проверки сомнительных рукописей, журнал Nature запретил загрузку оригинальных текстов в общедоступные нейросети и использование ИИ-иллюстраций, а репозиторий препринтов arXiv блокирует авторов на год за указание фиктивных источников.
«Современные агенты несовершенны. Кто-то должен нести ответственность. Нельзя просто сформулировать задачу, позволить машине написать статью и отправить её как истину в последней инстанции», — заявил руководитель научного направления Google DeepMind доктор Пушмит Коли, подчеркнув, что ученый обязан полностью контролировать процесс вычислений.
Источник: BBC
#искусственныйинтеллект #наука #нейросети #openai #исследования
