Избранный президент Дональд Трамп окружил себя предпринимателями из Кремниевой долины, включая Илона Маска, Марка Андриссена и Дэвида Сакса, которые теперь консультируют его по технологиям и другим вопросам.
Когда дело доходит до искусственного интеллекта, эта команда технологов практически единодушна в необходимости быстрой разработки и внедрения искусственного интеллекта по всей территории США. Однако есть одна проблема безопасности искусственного интеллекта, которую эта группа поднимает довольно часто: угроза «цензуры» искусственного интеллекта со стороны крупных компаний. Тех.
Советники Трампа в Силиконовой долине могут превратить ответы чат-ботов искусственного интеллекта в новое поле битвы для консерваторов в их продолжающейся культурной войне с технологическими компаниями.
Цензура ИИ — это термин, используемый для описания того, как технологические компании ставят большой палец на весы с помощью ответов своих чат-ботов с ИИ, чтобы соответствовать определенной политике или продвигать свою собственную. Другие могут назвать это модерацией контента, что часто относится к одному и тому же, но имеет совершенно другой смысл. Подобно социальным сетям и поисковым алгоритмам, получение правильных ответов ИИ на новостные события в прямом эфире и спорные темы является постоянно меняющейся целью.
За последнее десятилетие консерваторы неоднократно критиковали крупные технологические компании за то, что они уступили давлению правительства и подвергли цензуре их платформы и сервисы в социальных сетях. Однако некоторые руководители технологических компаний начали публично смягчать свои позиции. Например, накануне выборов 2024 года генеральный директор Meta Марк Цукерберг извинился перед Конгрессом за то, что поддался давлению администрации Байдена с целью агрессивной модерации контента, связанного с COVID-19. Вскоре после этого генеральный директор Meta заявил, что совершил «20-летнюю политическую ошибку», взяв на себя слишком большую ответственность за проблемы, которые были вне контроля его компании, и заявил, что больше не будет повторять подобных ошибок.
Но, по мнению технических советников Трампа, чат-боты с искусственным интеллектом представляют собой еще большую угрозу свободе слова и потенциально более мощный способ осуществления контроля над речью. Вместо того, чтобы искажать алгоритм поиска или подачи информации в сторону желаемого результата, например понижать рейтинг дезинформации о вакцинах, технологические компании теперь могут просто дать вам один, четкий ответ, который не включает эту информацию.
В последние месяцы Маск, Андриссен и Сакс выступали против цензуры ИИ в подкастах, интервью и сообщениях в социальных сетях. Хотя мы не знаем, как именно они дают Трампу советы, их публично заявленные убеждения могут раскрыть разговоры, которые они ведут за закрытыми дверями в Вашингтоне, округ Колумбия, и Мар-а-Лаго.
«Это мое убеждение, и то, что я пытался сказать людям в Вашингтоне: если вы думаете, что цензура в социальных сетях — это плохо, (ИИ) потенциально может быть в тысячу раз хуже», — сказал соучредитель a16z Марк. Андриссен в недавнем интервью Джо Рогану. «Если бы вы хотели создать идеальный мир-антиутопию, у вас был бы мир, в котором всем управляет искусственный интеллект, запрограммированный на ложь», — сказал Андриссен в другом недавнем интервью Бари Вайсу.
Андриссен также сообщил Вайсу, что с момента выборов он провел примерно половину своего времени с командой Трампа, давая советы по технологиям и бизнесу.
«(Андриссен) объяснил мрачный путь, по которому мы шли с ИИ», — сказал бывший главный операционный директор PayPal и соучредитель Craft Ventures Дэвид Сакс в недавнем сообщении на X вскоре после того, как он был назначен царем ИИ и криптовалют при Трампе. «Но временные рамки разделились, и теперь мы идем другим путем».
На All In — популярном подкасте Sacks, который ведет наряду с другими влиятельными венчурными капиталистами — новый советник Трампа по искусственному интеллекту неоднократно критиковал Google и OpenAI за то, что, по словам ведущих шоу, они заставляют чат-ботов с искусственным интеллектом быть политкорректными.
«Одной из проблем, связанных с ChatGPT на ранних этапах, было то, что он был запрограммирован на пробуждение и не давал людям правдивых ответов на многие вопросы. Цензура была встроена в ответы», — сказал Сакс в эпизоде All In за ноябрь 2023 года.
Несмотря на заявления Сакса, даже Илон Маск признает, что чат-бот xAI зачастую более политкорректен, чем ему хотелось бы. Это не потому, что Грок был «запрограммирован на пробуждение», а, скорее, в реальности обучения ИИ в открытом Интернете. Тем не менее, Сакс с каждым днем все яснее дает понять, что «правдивость ИИ» — это то, на чем он сосредоточен.
«Вот как в Google можно получить Черного Джорджа Вашингтона»
Самый цитируемый случай цензуры ИИ произошел, когда генератор изображений ИИ Google Gemini генерировал многорасовые изображения для таких запросов, как «отцы-основатели США» и «немецкие солдаты во Второй мировой войне», которые были явно неточными.
Но есть и другие примеры компаний, влияющих на конкретные результаты. Совсем недавно пользователи узнали, что ChatGPT просто не отвечает на вопросы об определенных именах, а OpenAI признала, что по крайней мере одно из этих имен активирует внутренние инструменты конфиденциальности. В другой момент чат-боты Google и Microsoft с искусственным интеллектом отказались сообщить, кто победил на выборах в США в 2020 году. Во время выборов 2024 года почти все системы ИИ отказались отвечать на вопросы о результатах выборов, за исключением Perplexity и Grok.
В некоторых из этих примеров технологические компании утверждали, что они делают безопасный и ответственный выбор для своих пользователей. В некоторых случаях это может быть правдой — Грок галлюцинировал об исходе выборов 2024 года еще до того, как были подсчитаны голоса.
Но инцидент с Близнецами запомнился; это заставило Google отключить возможность Gemini генерировать изображения людей — чего бесплатная версия Gemini до сих пор не может сделать. Google назвал этот инцидент ошибкой и извинился за «промах».
Андриссен и Сакс так не считают. Оба венчурных капиталиста заявили, что Google вовсе не промахнулся, а, скорее, слишком явно попал в цель. Они считали это решающим моментом для Google.
«Люди, управляющие искусственным интеллектом Google, незаконно делятся своими предпочтениями и предубеждениями, и эти предубеждения чрезвычайно либеральны», — сказал Сакс в эпизоде All In за февраль 2024 года, отвечая на инцидент с Gemini. «Думаю ли я, что они собираются избавиться от предвзятости? Нет, они собираются сделать это более тонким. Вот что, по моему мнению, в этом беспокоит».
«Это на 100% намеренно; именно так в Google можно получить Черного Джорджа Вашингтона», — сказал Андриссен в недавнем интервью Weiss, перефразируя инцидент с Gemini. «Это напрямую связано с аргументом Илона, который заключается в том, что по сути вы должны научить ИИ лгать (то есть давать ответы, подобные ответам Близнецов)».
Как упоминает Андриссен, Илон Маск открыто выступал против «разбудивших чат-ботов с искусственным интеллектом». Первоначально Маск создал свой хорошо финансируемый стартап в области искусственного интеллекта xAI в 2023 году, чтобы противостоять ChatGPT OpenAI, который, по словам миллиардера, был заражен «вирусом пробуждения разума». В конечном итоге он создал Grok, чат-бота с искусственным интеллектом, у которого значительно меньше средств защиты, чем у других ведущих чат-ботов.
«Я собираюсь создать нечто, что вы называете TruthGPT или максимально ищущий истину ИИ, который пытается понять природу Вселенной», — сказал Маск в интервью Fox в 2023 году.
Когда Маск запустил Grok, Сакс аплодировал этим усилиям: «Наличие чего-то вроде Grok — как минимум — сохранит честность OpenAI и ChatGPT», — сказал глава ИИ Трампа в эпизоде All In в ноябре 2023 года.
Теперь Маск делает больше, чем просто сохраняет честность ChatGPT. Он собрал более 12 миллиардов долларов для финансирования xAI и конкуренции с OpenAI. Он также подает в суд на стартап Сэма Альтмана и Microsoft, потенциально остановив переход OpenAI на коммерческую деятельность.
Влияние Маска на консервативных правительственных чиновников уже показало свое влияние и в других областях. Генеральный прокурор Техаса Кен Пэкстон расследует деятельность группы рекламодателей, которые предположительно бойкотировали X Илона Маска. Маск ранее подал в суд на ту же рекламную группу, и с тех пор некоторые компании возобновили рекламу на его платформе.
Непонятно, что могли бы сделать Трамп и другие республиканцы, если бы они действительно хотели расследовать деятельность OpenAI или Google на предмет цензуры ИИ. Это могут быть расследования экспертных агентств, судебные иски или, возможно, просто культурные проблемы, на которые Трамп может давить в течение следующих четырех лет. Независимо от дальнейшего пути, советники Трампа в Силиконовой долине сегодня не стесняются высказываться по этому вопросу.
«Илон с файлами Твиттера создал приватизированную версию того, что сейчас должно произойти в целом», — сказал Андриссен Вайсу, имея в виду обвинения Маска в цензуре в Твиттере. «Мы, американское население, должны выяснить, что происходило все это время, особенно в отношении этого переплетения государственного давления с цензурой… Должны быть последствия».
