Encode, некоммерческая организация, которая выступила соавтором злополучного калифорнийского закона о безопасности ИИ SB 1047, запросила разрешение на подачу заключения amicus в поддержку запрета Илона Маска остановить переход OpenAI в коммерческую компанию.
В предложении, представленном в Окружной суд США Северного округа Калифорнии в пятницу днем, адвокат Encode заявил, что преобразование OpenAI в коммерческую деятельность «подорвет» миссию компании по «разработке и внедрению… преобразующих технологий таким образом, чтобы безопасно и полезно для общества».
«OpenAI и ее генеральный директор Сэм Альтман заявляют, что разрабатывают технологии, преобразующие общество, и к этим заявлениям следует относиться серьезно», — говорится в сообщении. «Если мир действительно находится на пороге новой эры общего искусственного интеллекта (AGI), то общественность глубоко заинтересована в том, чтобы эта технология контролировалась общественной благотворительной организацией, юридически обязанной ставить во главу угла безопасность и общественную пользу, а не организацию. сосредоточен на получении финансовой прибыли для нескольких привилегированных инвесторов».
В своем заявлении Снеха Реванур, основатель и президент Encode, обвинила OpenAI в «интернализации прибылей (ИИ), но экстернализации последствий для всего человечества» и заявила, что «суды должны вмешаться, чтобы гарантировать, что развитие ИИ служит интересам человечества». общественный интерес».
Заявление Encode получило поддержку Джеффри Хинтона, пионера в области искусственного интеллекта и лауреата Нобелевской премии 2024 года, а также профессора информатики Калифорнийского университета в Беркли и директора Центра искусственного интеллекта, совместимого с человеком Стюарта Рассела.
«OpenAI была основана как некоммерческая организация, явно ориентированная на безопасность, и в своем уставе дала множество обещаний, связанных с безопасностью», — сказал Хинтон в пресс-релизе. «Она получила многочисленные налоговые и другие льготы благодаря своему некоммерческому статусу. Разрешение ему разрушить все это, когда это становится неудобным, посылает очень плохой сигнал другим участникам экосистемы».
OpenAI была запущена в 2015 году как некоммерческая исследовательская лаборатория. Но поскольку его эксперименты становились все более капиталоемкими, он создал свою нынешнюю структуру, приняв внешние инвестиции от венчурных капиталистов и компаний, включая Microsoft.
Сегодня OpenAI имеет гибридную структуру: коммерческую часть, контролируемую некоммерческой организацией, с «ограниченной долей прибыли» для инвесторов и сотрудников. Но сегодня утром в своем блоге компания заявила, что планирует начать преобразование своей существующей коммерческой организации в Корпорацию общественного блага Делавэра (PBC) с обыкновенными акциями и миссией OpenAI в качестве общественного интереса.
Некоммерческая организация OpenAI останется, но уступит контроль в обмен на акции PBC.
Маск, один из первых участников первоначальной некоммерческой организации, в ноябре подал иск с требованием запретить предложенные изменения, над которыми уже давно работают. Он обвинил OpenAI в отказе от своей первоначальной филантропической миссии по обеспечению доступа всех к результатам своих исследований в области ИИ и в лишении конкурентов капитала, в том числе его стартапа в области ИИ, xAI, с помощью антиконкурентных средств.
OpenAI назвала жалобы Маска «безосновательными» и просто «кислым виноградом».
Материнская компания Facebook и конкурент в области искусственного интеллекта, Meta, также поддерживает усилия по блокированию конверсии OpenAI. В декабре Мета направила письмо генеральному прокурору Калифорнии Робу Бонте, утверждая, что разрешение на этот сдвиг будет иметь «сейсмические последствия для Кремниевой долины».
Юристы Encode заявили, что планы OpenAI передать контроль над своими операциями PBC «превратят организацию, обязанную законом обеспечивать безопасность передового ИИ, в организацию, связанную законом, чтобы «сбалансировать» рассмотрение любой общественной выгоды с «денежными выгодами». интересы (его) акционеров».
Юрист Encode, например, отмечает в кратком описании, что некоммерческая организация OpenAI обязалась прекратить конкурировать с любыми «ценностными и заботящимися о безопасности проектами», которые приближаются к созданию AGI, прежде чем это произойдет, но что OpenAI как коммерческая организация должна была бы меньше (если таковой имеется) стимулов для этого. В обзоре также отмечается, что правление некоммерческой организации OpenAI больше не сможет аннулировать акционерный капитал инвесторов, если это необходимо в целях безопасности, после завершения реструктуризации компании.
OpenAI продолжает испытывать отток высококвалифицированных специалистов, отчасти из-за опасений, что компания отдает приоритет коммерческим продуктам в ущерб безопасности. Один из бывших сотрудников, Майлз Брандейдж, давний исследователь политики, покинувший OpenAI в октябре, сказал в серии постов на X, что он обеспокоен тем, что некоммерческая организация OpenAI станет «побочной вещью», которая дает PBC лицензию на работу как «обычная компания». без решения потенциально проблемных областей.
«Разрекламированная фидуциарная обязанность OpenAI перед человечеством исчезнет, поскольку закон штата Делавэр ясно гласит, что директора PBC вообще не несут никаких обязательств перед обществом», — говорится в сообщении Encode. «Общественным интересам будет нанесен ущерб, если ориентированная на безопасность и ограниченная миссией некоммерческая организация откажется от контроля над чем-то настолько преобразующим любой ценой в пользу коммерческого предприятия без каких-либо обязательств по обеспечению безопасности, подлежащих принудительному исполнению».
Encode, основанная в июле 2020 года компанией Revanur, описывает себя как сеть добровольцев, стремящихся обеспечить, чтобы голоса молодого поколения были услышаны в дискуссиях о влиянии ИИ. Помимо SB 1047, Encode внесла свой вклад в различные государственные и федеральные законы в области ИИ, включая Билль о правах ИИ Белого дома и указ президента Джо Байдена об ИИ.
Обновлено 30 декабря, 10:10 по тихоокеанскому времени, с заявлениями Реванура и Хинтона.
У TechCrunch есть информационный бюллетень, посвященный искусственному интеллекту! Зарегистрируйтесь здесь чтобы получать его на свой почтовый ящик каждую среду.
