В четверг законодатели штата Нью -Йорк приняли законопроект, который направлен на то, чтобы предотвратить модели Frontier AI от Openai, Google и Anpropic внести свой вклад в сценарии стихийных бедствий, включая смерть или травму более 100 человек или более 1 миллиарда долларов в результате убытков.
Закон о повышении представляет собой победу для движения безопасности ИИ, которое в последние годы потеряло позицию в качестве Силиконовой долины, а администрация Трампа приоритет скорости и инновациям. Защитники безопасности, в том числе лауреат Нобелевской премии Джеффри Хинтон и пионер исследования ИИ Йошуа Бенгио, отстаивали акт повышения. Если это станет законом, законопроект установит первый набор юридически обязательных стандартов прозрачности для Frontier AI Labs.
Закон о повышении имеет многие из тех же положений и целей, что и спорный законопроект о безопасности ИИ в Калифорнии, SB 1047, который в конечном итоге был наложил вето. Тем не менее, соавтор законопроекта, сенатор штата Нью-Йорк Эндрю Гоунардес, заявил TechCrunch в интервью, что он преднамеренно разработал Закон о повышении, так что он не обдумывал инновации среди стартапов или академических исследователей-общая критика SB 1047.
«Окно для создания ограждений быстро сокращается, учитывая, как быстро развивается эта технология», — сказал сенатор Гунардес. «Люди, которые знают (ИИ), лучше всего говорят, что эти риски невероятно вероятны (…), это тревожно».
Закон о повышении в настоящее время направляется к столу губернатора Нью -Йорка Кэти Хочул, где может либо подписать законопроект, отправить его обратно на поправки, либо вообще на него вето.
В случае подписания закона, законопроект о безопасности AI в Нью -Йорке потребует крупнейших в мире лабораторий искусственного интеллекта для публикации тщательных отчетов о безопасности и безопасности на своих моделях Frontier AI. Законопроект также требует, чтобы лаборатории ИИ сообщали о инцидентах безопасности, например, в отношении поведения модели ИИ или плохих актеров, кражи модель ИИ, если они произойдут. Если технологические компании не в состоянии соответствовать этим стандартам, Закон о повышении дает возможность генеральному прокурору нью -йоркского генерального прокурора обеспечить гражданские штрафы до 30 миллионов долларов.
Закон о повышении направлен на то, чтобы узко регулировать крупнейшие компании в мире — будь то в Калифорнии (например, Openai и Google) или в Китае (например, Deepseek и Alibaba). Требования к прозрачности законопроекта применяются к компаниям, чьи модели искусственного интеллекта были обучены с использованием более 100 миллионов долларов в области вычислительных ресурсов (по -видимому, больше, чем любая модель ИИ, доступную сегодня), и предоставляются жителям Нью -Йорка.
Силиконовая долина значительно оттолкнулась на законопроект о безопасности AI в Нью-Йорке, штат Нью-Йорк и соавтор акта повышения, рассказал Alex Bores. Защиты назвали отраслевое сопротивление неудивительным, но утверждали, что Закон о повышении никоим образом не ограничит инновации технологических компаний.
Антропическая, ориентированная на безопасность лаборатории ИИ, которая призвала к федеральным стандартам прозрачности для компаний искусственного интеллекта в начале этого месяца, не достигла официальной позиции по законопроекту, соучредитель Джек Кларк заявил в пятничной посте на X. Однако Кларк выразил некоторые жалобы по поводу того, насколько широким является акт повышения, отметив, что он может представлять риск для «небольших компаний».
Когда его спросили о критике Антропика, сенатор штата Гунардес сказал TechCrunch, что, по его мнению, «упускает отметку», отметив, что он разработал законопроект, чтобы не обращаться к небольшим компаниям.
Openai, Google и Meta не ответили на запрос TechCrunch о комментариях.
Другая распространенная критика Закона о повышении заключается в том, что разработчики моделей ИИ просто не предложили бы свои самые продвинутые модели ИИ в штате Нью -Йорк. Это была аналогичная критика, вызванная SB 1047, и это в значительной степени то, что разыгрывалось в Европе благодаря сложным правилам континента по технологиям.
Сборщики Assemblymember сообщили TechCrunch, что нормативно -правовое бремя Закона об повышении является относительно легким и, следовательно, не должно потребовать от технологических компаний прекратить эксплуатировать свои продукты в Нью -Йорке. Учитывая тот факт, что в Нью -Йорке есть третий по величине ВВП в США, вытащить из штата не является то, что большинство компаний займет легкомысленно.
«Я не хочу недооценивать политическую необработанность, которая может произойти, но я очень уверен, что у них нет никаких экономических причин, чтобы они не предоставляли свои модели доступными в Нью -Йорке», — сказал Ассамбл Боррес.
