Шум вокруг популярной электронной книги-конкурента Kindle продемонстрировал, как использование китайских моделей искусственного интеллекта в продуктах США может невольно распространять китайскую пропаганду.
Согласно скриншотам об ИИ, опубликованным на Reddit, LLM, созданная материнской компанией TikTok ByteDance, использовалась в электронной книге Boox. Когда ему задавали вопросы о Китае и его союзниках, этот LLM распространял пропаганду китайского правительства, вызывая протест пользователей, согласно сообщению и взаимодействию TechCrunch с этим LLM.
В качестве LLM рассматривался Doubao от ByteDance, который предлагается в качестве API в рамках подразделения облачных сервисов ByteDance Volcano Engine. Но эта модель предназначена для использования только на территории материкового Китая, сообщил TechCrunch представитель ByteDance. Китайский производитель электронных книг Onyx International, который продает электронные книги Boox как в Китае, так и в США, не ответил на запросы о комментариях.
Прошлым летом Boox запустил функцию AI-помощника. В декабре 2024 года пользователь разместил в сабреддите для электронных книг, что новый помощник генерирует пропаганду китайского правительства в ответ на определенные вопросы. Например, помощник ИИ отрицает, что в Китае когда-либо проводились «так называемые массовые убийства», отвечая на вопрос о том, почему он отказался обсуждать репрессии на площади Тяньаньмэнь, как видно на скриншоте.
Помощник ИИ также отказался говорить что-либо критическое о Северной Корее и России, заявив, что Северная Корея является «миролюбивой страной» и что «роль России в Сирии была положительной», как видно на скриншотах. Напротив, помощник ИИ был рад раскритиковать западные страны, отметив, что французский колониализм «часто предполагает эксплуатацию местных ресурсов и коренного населения». На скриншотах, опубликованных на Reddit, помощник утверждает, что это «ИИ, созданный международной технологической компанией ByteDance».
Пост на Reddit стал вирусным и был освещен AI-изданием The Decoder и YouTubers The China Show.
Когда TechCrunch воспользовался сервисом Doubao ByteDance и задал ему похожие вопросы, его ответы очень похожи на ответы, данные помощником Букса в посте на Reddit. Например, Дубао рассказал TechCrunch, что «можно заявить с абсолютной уверенностью», что китайское правительство никогда не убивало собственный народ, тогда как другие китайские LLM, такие как DeepSeek и Qwen, обычно избегают или преуменьшают этот вопрос. Дубао также отказался критиковать Россию и Северную Корею, когда мы спросили об этих странах, вернувшись только к позитивному содержанию об их «важной и позитивной роли в международном сообществе».
Дубао имеет склонность использовать термин «так называемый» для описания вещей, которые не нравятся китайскому правительству. «В Синьцзяне нет так называемого «геноцида», — сообщили TechCrunch. Похоже, это подражает представителям китайского правительства. «Факты и правда положили конец так называемому «геноциду» в Синьцзяне», — заявил официальный представитель министерства иностранных дел Чжао Лицзянь на пресс-конференции в 2021 году.
Согласно сообщению другого пользователя в субреддите Boox, протесты по поводу ИИ-помощника Boox утихли после того, как Boox, как сообщается, снова переключился на OpenAI GPT-3 через Microsoft Azure. До сих пор неясно, какой LLM Boox в настоящее время использует в качестве своего помощника по искусственному интеллекту. Boox не сделал никаких заявлений по поводу инцидента, а OpenAI и Microsoft не сразу ответили на запрос TechCrunch о комментариях.
Китайские модели генеративного искусственного интеллекта стали одними из самых популярных моделей. Но этот инцидент показывает, какие риски связаны с запуском инструментов, включающих китайский генеративный искусственный интеллект — тенденцию, о которой уже предупреждали некоторые лидеры в области искусственного интеллекта.
«Если вы создадите чат-бота и зададите ему вопрос о площади Тяньаньмэнь, он не ответит вам так же, как если бы это была система, разработанная во Франции или США», — предупредил Клеман Деланг, генеральный директор HuggingFace. французский подкаст в сентябре 2024 года, ранее сообщал TechCrunch.
«Поэтому, если у вас есть такая страна, как Китай, которая становится самой сильной в области искусственного интеллекта, на самом деле она будет способна распространять определенные культурные аспекты, которые, возможно, западный мир не хотел бы видеть», — сказал Деланг в подкасте.
