На прошлой неделе были скандализированы красные по всему миру после того, как узнали, что команда исследователей выпустила рой ботов, подвергшихся человеку, подвергнутым человеческим ботам, на субреддите «Изменить мой взгляд». Крупномасштабный эксперимент был разработан, чтобы исследовать, насколько убедительным может быть ИИ.
Боты опубликовали более 1700 комментариев, принимающих такие персонажи, как выжившие на злоупотреблениях или противоречивые идентичности, такие как адвокат по борьбе с черной жизнью.
Для Reddit инцидент был мини-ночным. Бренд Reddit связан с подлинностью — местом, где настоящие люди приходят, чтобы поделиться реальными мнениями. Если эта ориентированная на человека экосистема нарушена склоном ИИ или становится местом, где люди не могут верить, что они получают информацию от реальных людей, это может привести к тому, что она может привести к угрозе основной личности Реддита. Суть Reddit может быть поставлена на карту, так как компания теперь продает свой контент OpenAI для обучения.
Компания осудила «неправильный и очень неэтичный эксперимент» и подала жалобу в университет, который управлял им. Но этот эксперимент был лишь одним из того, что, вероятно, будет многими случаями генеративных ботов ИИ, притворяющихся людьми на Reddit по разным причинам, от научного до политически манипулятивного.
Чтобы защитить пользователей от бота -манипуляций и «Keep Reddit человека», компания тихо сигнализировала о предстоящем действии — которое может быть непопулярным для пользователей, которые приезжают в Reddit по другой причине: анонимность.
В понедельник генеральный директор Reddit Стив Хаффман поделился в сообщении, что Reddit начнет работать с «различными сторонними услугами», чтобы проверить человечество пользователя. Это представляет собой значительный шаг для платформы, которая исторически не требовала почти личной информации для пользователей для создания учетной записи.
«Чтобы сохранить человеком Reddit и удовлетворить развивающиеся нормативные требования, нам понадобится немного больше информации», — написал Хаффман. «В частности, нам нужно знать, являетесь ли вы человеком, а в некоторых местах, если вы взрослый. Но мы никогда не хотим знать ваше имя или кто вы есть».
Мероприятие TechCrunch
Беркли, Калифорния
|
5 июня
Забронируйте сейчас
(Компании по социальным сетям уже начали внедрять проверки удостоверения личности по крайней мере девяти штатов и Великобритании, и приняли законы, обязывающие возрастную проверку для защиты детей на своих платформах.)
Представитель Reddit отказался объяснить, при каких обстоятельствах компания потребовала бы, чтобы пользователи проходили процесс проверки, хотя они подтвердили, что Reddit уже принимает меры для запрета «плохих» ботов. Пресс-секретарь также не поделится более подробной информацией о том, какие сторонние услуги будет использовать компания, или какие лично идентифицирующие информационные пользователи могут предложить.
Многие компании сегодня полагаются на платформы для проверки, такие как Persona, сплава, идентичность полосы, плед и следы, которые обычно требуют выпущенного правительством удостоверения личности для проверки возраста и человечества. Тогда есть более новые и более спекулятивные технологии, такие как инструменты Сэма Альтмана для человечества и его глазное «доказательство человеческого».
Противники проверки идентификации говорят, что есть конфиденциальность данных и риски безопасности для обмена вашей личной информацией с платформами социальных сетей. Это особенно верно для такой платформы, как Reddit, где люди приходят, чтобы опубликовать опыт, который они, возможно, никогда не имели бы, если бы их имена были прикреплены к ним.
Нетрудно представить себе мир, в котором власти могут поставить в суд на Reddit для личности, например, беременной подростки, спрашивающей об опыте абортов на R/женщинах в штатах, где сейчас это незаконно. Просто посмотрите, как Мета передала частные разговоры между женщиной из Небраски и ее 17-летней дочерью, которые обсуждали планы последнего по прекращению беременности. Помощь Meta заставила правоохранительные органы приобрести ордер на обыск, что привело к обвинению в совершении уголовного преступления как для матери, так и для дочери.
Это именно тот риск, который Reddit надеется избежать, нажав за пределы фирм, чтобы предоставить «важную информацию и ничто иное», согласно Хаффману, который подчеркнул, что «мы никогда не хотим знать ваше имя или то, кем вы являетесь».
«Анонимность необходима для Reddit», — сказал он.
Генеральный директор также отметил, что Reddit по -прежнему будет «чрезвычайно защищать вашу личную информацию» и «продолжит отталкиваться от чрезмерных или необоснованных требований со стороны государственных или частных органов».
