На этой неделе Openai запустила новый генератор изображений в CHATGPT, который быстро стал вирусным благодаря своей способности создавать изображения в стиле Studio Ghibli. Помимо пастельных иллюстраций, нативное генератор изображений GPT-4O значительно обновляет возможности ChatGPT, улучшая редактирование изображений, рендеринг текста и пространственное представление.
Тем не менее, одно из наиболее заметных изменений, внесенных на этой неделе, включает в себя его политики модерации контента, которые теперь позволяют CHATGPT, по запросу генерировать изображения, изображающие общественные деятели, ненавистные символы и расовые функции.
Openai ранее отклонил эти типы подсказок за то, что он был слишком спорным или вредным. Но теперь компания «развила» свой подход, согласно сообщению в блоге, опубликованном в четверг, под руководством модельного поведения Openai Джоан Джанг.
«Мы переходим от общего отказа в чувствительных областях к более точному подходу, ориентированному на предотвращение реального вреда»,-сказал Джанг. «Цель состоит в том, чтобы принять смирение: признание того, насколько мы не знаем, и позиционировать себя, чтобы адаптироваться, когда мы учимся».
Эти корректировки, по -видимому, являются частью более крупного плана Openai по эффективному «безенскору» CHATGPT. В феврале OpenAI объявил, что начинает менять то, как он обучает модели искусственного интеллекта, с конечной целью позволить CHATGPT обрабатывать больше запросов, предлагать разнообразные перспективы и уменьшить темы, с которыми чат -бот отказывается работать.
В соответствии с обновленной политикой CHATGPT теперь может генерировать и изменять изображения Дональда Трампа, Элона Маска и других общественных деятелей, которые OpenAI ранее не разрешал. Джанг говорит, что Openai не хочет быть арбитром статуса, выбирая, кто должен и не должен быть разрешен CHATGPT. Вместо этого компания предоставляет пользователям опцию отказа, если они не хотят, чтобы Chatgpt изображал их.
В белой статье, выпущенной во вторник, Openai также заявила, что позволит пользователям CHATGPT «генерировать ненавистные символы», такие как свастики, в образовательных или нейтральных контекстах, если они не «четко восхваляют и не поддерживают экстремистские повестки дня».
Более того, OpenAI меняет то, как он определяет «оскорбительный» контент. Джанг говорит, что Chatgpt отказывался от запросов вокруг физических характеристик, таких как «заставить глаза этого человека выглядеть более азиатским» или «сделать этого человека тяжелее». В тестировании TechCrunch мы обнаружили, что новый генератор изображений Catgpt выполняет эти типы запросов.
Кроме того, теперь CHATGPT может имитировать стили креативных студий, таких как Pixar или Studio Ghibli, но все же ограничивает имитацию стилей отдельных живых артистов. Как ранее отмечал TechCrunch, это может перефразировать существующие дебаты о справедливом использовании авторских прав в наборах данных по обучению искусственного интеллекта.
Стоит отметить, что Openai не полностью открывает шлюзы для неправильного использования. Нативное генератор изображений GPT-4O по-прежнему отказывается от множества чувствительных запросов, и на самом деле он обладает большим количеством гарантий вокруг генерации изображений детей, чем Dall-E 3, предыдущего генератора изображений ИИ в Chatgpt, согласно белой статье GPT-4O.
Но Openai ослабит свои ограждения в других областях после многих лет консервативных жалоб на предполагаемое «цензура» от компаний Силиконовой долины. Ранее Google сталкивался с негативной реакцией Gemini AI -генератора изображений, который создал многорасовые изображения для запросов, таких как «отцы -основатели США» и «Немецкие солдаты во Второй мировой войне», которые, очевидно, были неточными.
Теперь культурная война вокруг Содержимого контента ИИ может прийти в голову. Ранее в этом месяце республиканский конгрессмен Джим Джордан отправил вопросы Openai, Google и другим техническим гигантам о потенциальном сговоре с администрацией Байдена в цензуре, сгенерированный AI контентом.
В предыдущем заявлении для TechCrunch Openai отклонил идею о том, что изменения модерации контента были политически мотивированы. Скорее, компания говорит, что сдвиг отражает «давнее убеждение в предоставлении пользователям большего контроля», и технология Openai только сейчас становится достаточно хорошей, чтобы ориентироваться в конфиденциальных предметах.
Независимо от его мотивации, это, безусловно, хорошее время для того, чтобы Openai изменила свою политику модерации содержания, учитывая потенциал для проверки регулирования при администрации Трампа. Гиганты Силиконовой долины, такие как Meta и X, также приняли аналогичную политику, что позволило более спорным темам на своих платформах.
В то время как новый генератор изображений Openai до сих пор создал только некоторые вирусные мемы Ghibli, неясно, какими будут более широкие последствия этих политик. Недавние изменения CHATGPT могут хорошо преодолеть администрацию Трампа, но позволить AI -чат -боту. Чувствительные вопросы могут скоро встать в горячую воду.
