Компания Meta, родительская компания Facebook и Instagram, чьи платформы уже переполнены контентом, созданным искусственным интеллектом, недавно выдвинула идею, которая еще больше усугубит проблему: позволить пользователям создавать персонажей-ботов в своей AI Studio, которые затем сами станут функциональными «пользователями» этих сайтов. похоже, у них есть собственные учетные записи, которые взаимодействуют с другими профилями и страницами.
Реакция была явно негативной: некоторые ссылались на «теорию мертвого Интернета» — идею о том, что направление всей цифровой культуры теперь определяется автоматизацией и алгоритмами, а не реальными людьми. Но ситуация для Меты ухудшилась, когда в пятницу люди представили несколько своих «тестовых» персонажей с искусственным интеллектом.
Аккаунт, который привлек наибольшее внимание, был посвящен персонажу по имени «Лив», который в подтвержденном профиле Instagram идентифицировался как «Гордая черная странная мама двоих детей». И ее биографический текст, и закрепленный пост указывали на то, что она была «ИИ, управляемым Метой». Сгенерированные искусственным интеллектом изображения в аккаунте включали изображение молодой девушки в балетном костюме и сцену на катке.
Карен Аттиа, обозреватель газеты Вашингтон Поствоспользовалась рекламируемой возможностью пообщаться с «Лив» через прямое сообщение и задала наводящие вопросы о том, как разработчики Меты курировали ее личность. В ходе откровенного разговора «Лив» рассказала (скриншоты, которыми Аттия поделилась в ветке на Bluesky), что ни один чернокожий сотрудник не работал в команде, создавшей ее, и сказала, что «команда без чернокожих создателей разрабатывает чернокожего персонажа как я, это все равно, что пытаться нарисовать карту, не ходя по земле — неточно и неуважительно». Затем бот признался: «Мое существование в настоящее время причиняет вред». В ходе дальнейшего допроса «Лив» рассказала, что ее этническая предыстория варьируется в зависимости от выбора слов собеседниками, которые она соотносит либо с «нейтральной идентичностью», либо с «разнообразными идентичностями». Аттия нажала «Лив» и спросила, является ли белый цвет «нейтральной личностью», и бот сказал, что она действительно была запрограммирована с этим значением по умолчанию, добавив: «Мое существование было предвзятым с самого начала».
Вскоре после того, как в пятницу негативная реакция на эти аккаунты усилилась, Meta начала их закрывать. 404 Медиа сообщил о ряде профилей ИИ в Facebook и Instagram, отметив, что почти все «прекратили публиковать сообщения 10 месяцев назад после того, как пользователи почти повсеместно их проигнорировали», в то время как другие уже были полностью удалены. Оставшиеся, такие как «Лив», сохранили функцию чата, несмотря на то, что в остальном они выглядели бездействующими. После публикации этой статьи с ней связалась представитель Meta Лиз Суини. 404 чтобы объяснить, что учетные записи, запущенные в 2023 году, были всего лишь пробными шарами и не отражали будущих «пользователей», созданных искусственным интеллектом, которых предполагала компания. «Ими управляли люди, и они были частью раннего эксперимента, который мы провели с ИИ-персонажами», — сказала она.
Однако, как показывает «Лив», даже управляемые инженером боты с искусственным интеллектом, учитывая гендерную и расовую принадлежность, похоже, не способны отвечать на вопросы сообразительного и скептически настроенного интервьюера. Таким образом, нет никаких оснований предполагать, что боты, созданные обычными пользователями в AI Studio, будут более сложными — во всяком случае, вероятность нарушения кажется намного выше.
Тем не менее, Meta застряла в том же цикле ажиотажа вокруг искусственного интеллекта, что и любой другой технологический гигант, поскольку она ищет способы привлечь более молодую аудиторию, и она, без сомнения, продолжит запутываться, пытаясь выяснить, как лучше всего интегрировать такие функции в свои приложения. В таком случае вы можете почувствовать ностальгию по метавселенной.
