Ворожнеча OpenAI з математиками загострюється
Двадцять п'ять провідних математиків підписали відкритого листа, стверджуючи, що лабораторії штучного інтелекту загрожують їхній інтелектуальній роботі, оскільки вони прагнуть перевершити одна одну у вирішенні відомих математичних задач. Кожен підписант був нагороджений медаллю Філдса, яка вважається найпрестижнішою нагородою в математиці.
Цього тижня професор Нью-Йоркського університету Трістан Бакмастер звинуватив OpenAI у тиску на нього, щоб той не вказав співавтора Anthropic на вирішення важливої математичної задачі, і задався питанням, чи використала компанія свою роботу з Codex для створення власного новаторського доказу протягом марафонських вихідних, присвячених логічним висновкам.
У четвер OpenAI відкликала своє спонсорство математичного заходу в Каліфорнійському технологічному інституті після того, як компанія зазнала критики з боку дослідників університету.
Хоча здатність моделей штучного інтелекту вирішувати найскладніші математичні проблеми світу може бути благом для людства, підписанти нового листа стверджують, що це станеться лише за умови, що ці рішення будуть зрозумілі та поширені математичною спільнотою та, зрештою, рештою світу.
«Часто ці рішення оголошуються поспіхом, не залишаючи часу для належного опису, ізоляції нових методів та ідей, а також цитування відповідних попередніх робіт інших», – написали вони, – і докази OpenAI залишаються неперевіреними. «Як і в усіх творчих професіях, це викликає серйозні питання щодо атрибуції та плагіату. Більше того, без математиків, які готові піклуватися про їхній розвиток та інтеграцію в математичний канон, ідеї, задумані ШІ, ніколи б не стали повноцінно живими, а вирішальний людський ланцюг передачі між математиками був би втрачений».
Оскільки інші математики стають параноїдальними та задаються питанням, чи не було їхнє використання Кодексу, своєю чергою, враховано в нових моделях OpenAI, існує реальне побоювання, що культура відкритих досліджень опиниться під загрозою. Сьогодні, якщо передові лабораторії бачать корисний шлях до відкриття, вони можуть витратити десятки мільйонів доларів, використовуючи LLM, щоб випередити початкових дослідників у доказі — динаміка, яка стимулюватиме секретність.
Цей лист є результатом Лейденської декларації , опублікованої робочою групою математиків у червні. У цьому документі також розглядаються способи, якими докази LLM змінять їхню роботу, та пропонується набір рекомендацій для математиків, установ та політиків.
Як і в програмній інженерії та інших галузях, де інструменти штучного інтелекту змінюють робочі процеси, математики знаходять виправдання в роботі навколо роботи: цінність математики полягає не лише в доказах і тому, хто отримує кредит, а в інтелектуальній надбудові, яка живить студентів, знаходить нові питання та ідеї, а також інтегрує їх у ширшу людську цивілізацію.
А якщо вас не особливо цікавить безжальний світ математичних доказів з високими ставками, не забувайте: ваша сфера інтересів наступна.
«Проблеми, з якими зараз стикається математична спільнота, схожі на проблеми, з якими стикаються інші наукові та творчі професії, і вказують на проблеми, з якими може зіткнутися все людство: як переконатися, що, змінюючи спосіб виконання роботи, штучний інтелект не втрачає з поля зору те, чого ця робота мала досягти в першу чергу», – написали вони.