Разблокировать дайджест редактора бесплатно
Рула Халаф, редактор FT, выбирает свои любимые истории в этом еженедельном информационном бюллетене.
Google Artifical Intelligence Arm DeepMind сдерживает выпуск своего всемирно известного исследования, поскольку он стремится сохранить конкурентное преимущество в гонке, чтобы доминировать в растущей индустрии ИИ.
Группа, возглавляемая лауреатом Нобелевской премии сэром Демисом Хасабисом, представила более жесткий процесс проверки и больше бюрократии, которые затрудняли публикацию исследований о своей работе по ИИ, согласно семи современным и бывшим ученым -исследователям в Google DeepMind.
Три бывших исследователя сказали, что группа наиболее неохотно делится документами, которые раскрывают инновации, которые могут использоваться конкурентами, или разыграть собственную модель ИИ Близнецов Google в негативном свете по сравнению с другими.
Изменения представляют собой значительный сдвиг для DeepMind, который давно гордится своей репутацией выпуска новаторских документов и дома для лучших ученых, создающих ИИ.
Между тем, огромные прорывы исследователей Google, такие как ее бумага «Трансформеры» 2017 года, которая обеспечила архитектуру крупных языковых моделей, сыграли центральную роль в создании сегодняшнего бума в генеративном ИИ.
С тех пор DeepMind стал центральной частью стремления своей материнской компании, чтобы заработать на передовых технологиях, поскольку инвесторы выразили обеспокоенность, которую крупный технологический гигант завершил свое раннее лидерство к таким образом, как Catgpt Maker Openai.
«Я не могу представить, чтобы мы выпустили документы о трансформаторах для общего использования», — сказал один нынешний исследователь.
Среди изменений в политике публикации компании-шестимесячное эмбарго до того, как будут выпущены «стратегические» документы, связанные с генеративным ИИ. Исследователи также часто должны убедить нескольких сотрудников в достоинствах публикации, сказал два человека, имеющие знания по этому вопросу.
Человек, близкий к DeepMind, сказал, что изменения должны были принести пользу исследователям, которые разочаровались, тратя время на работу, которая не будет одобрена по стратегическим или конкурентным причинам. Они добавили, что компания по -прежнему публикует сотни статей каждый год и входит в число крупнейших участников крупных конференций по ИИ.
Обеспокоенность о том, что Google отстал в гонке искусственного интеллекта, способствовал слиянию лондонских подразделений DeepMind и California Brain AI в 2023 году. С тех пор было быстрее развернуть широкий спектр продуктов, наполненных ИИ.
«Компания перешла к тому, что больше заботится о продукте и не меньше о получении результатов исследований для широкой общественности», — сказал один из бывших исследователей DeepMind. «Это не то, на что я подписался».
DeepMind сказал, что он «всегда привержен продвижению исследований ИИ, и мы внедряем обновления в нашей политике, которые сохраняют возможность наших команд публиковать и вносить свой вклад в более широкую исследовательскую экосистему».
В то время как у компании был процесс обзора публикации перед слиянием DeepMind с мозгом, система стала более бюрократической, по словам тех, кто знает об изменениях.
Бывшие сотрудники предположили, что новые процессы подавили выпуск коммерчески чувствительных исследований, чтобы избежать утечки потенциальных инноваций. Один из них сказал, что публикации документов по генеративному ИИ были «почти невозможны».
В одном инциденте, DeepMind прекратил публикацию исследований, которые показали, что модель языка Google Gemini не так способна или менее безопасна, чем конкуренты, особенно GPT-4 Openai, по словам одного нынешнего сотрудника.
Тем не менее, сотрудник добавил, что он также заблокировал бумагу, которая раскрыла уязвимости в CHATGPT Openai, из-за опасений, что релиз казался враждебным сиськом.
Человек, близкий к DeepMind, сказал, что он не блокирует документы, в которых обсуждаются уязвимости безопасности, добавляя его регулярно публиковать такую работу в рамках «ответственной политики раскрытия», в которой исследователи должны дать компаниям возможность исправить любые недостатки, прежде чем публиковать их.
Но зажигание раскололо некоторых сотрудников, где успех уже давно измерялся из-за появления в научных журналах высшего уровня. Люди, имеющие знания по этому вопросу, сказали, что новые процессы обзора способствовали некоторым отъездам.
«Если вы не можете опубликовать, это убийца карьеры, если вы исследователь», — сказал бывший исследователь.
Некоторые бывшие Staff добавили проекты, направленные на улучшение своего набора Gemini, наполненных ИИ, все чаще расставляли приоритеты в внутренней борьбе за доступ к наборам данных и вычислительной мощности.
В последние несколько лет Google выпустил ряд продуктов с AI, которые впечатлили на рынки. Это включает в себя улучшение своих сгенерированных AI Резюме, которые появляются выше результатов поиска, чтобы открыть «Astra» агента искусственного интеллекта, который может ответить на запросы в реальном времени по видео, аудио и тексту.
За прошедший год цена акций компании увеличилась на треть, хотя эти прибыли в последние недели оказались в результате озабоченности по сравнению с тарифами США, достигнув технических акций.
В последние годы Hassabis сбалансировал желание лидеров Google к коммерциализации своих прорывов со своей жизненной миссией, пытаясь сделать искусственный общий интеллект (AGI) — системы ИИ с способностями, которые могут соответствовать или превзойти людей.
«Все, что мешает тому, что он удалит», — сказал один нынешний сотрудник. «Он говорит людям, что это компания, а не университетский кампус; если вы хотите работать в таком месте, то уйдите».
Дополнительная отчетность Джорджа Хаммонда
