В эскалационной гонке вооружений между моделями ИИ, такими как CHATGPT и людьми, пытающимися определить, было ли то, что они читают, было создано в машине, нет простого или верного способа обнаружения бота-или есть?
«Я — сохраняю — видеть — странно — длинные — тире — в — сообщения», — написала пользователь LinkedIn на ее странице несколько месяцев назад. «Да, это работа Chatgpt», — заявила она, без доказательства предполагаемого увлечения Em Dash, не говоря уже о тенденции для бота Openai выплюнуть их. У нее не было проблем с тем, что кто -либо, использующий ИИ, чтобы написать для них, но призвала людей отредактировать эм впоследствии для читаемости. «Если вы уезжаете в этих тире, сделайте паузу и проверьте», — посоветовала она. В посте примерно в то же время в Subreddit Catgpt пользователь писал: «Я становлюсь все более подозрительным относительно электронных писем, которые я получаю от конкретного коллеги, который, как я чувствую, использует ИИ», объясняю: «On (e) вещь, которую я замечаю, это то, что они используют их, например, я знаю, что я знаю, что я знаю, что я знаю, что я знаю, что я знаю, что я знаю, что я знаю, что я знаю, что я знаю, что я знаю, что я знаю.
И в недавнем вирусном клипе Instagram от Luxegenподкаст образа жизни, нацеленный на аудиторию Gen Z, один соведущий называл Em Dash как «Hatgpt Dyphen». Она сказала, что модная компания, которая объявила о ребрендинге с коротким заявлением о социальных сетях, подвергалась критике в комментариях от читателей, которые видели в тексте два тирада EM, и сразу же предположили, что они позволили Chatgpt написать рекламную копию. «Это более длинный дефис, я не знаю, заметили ли вы это», — добавила она. Как и раздражаемый пользователь LinkedIn, хосты согласились с тем, что использование ИИ как такового не было проблемой, но кто -то должен знать, чтобы редактировать то, что производит бот, чтобы «выразить его своими словами» и «вывести дефис».
Но не было ничего грамматически некорректного или эстетически нежелательного в том, как модный бренд использовал Em Rashes. Также нет причин полагать, что даже якобы сложные фильтры ИИ могут ложно идентифицировать подлинное письмо как сгенерированное CHATGPT-что появление любой формы пунктуации является контрольным маркером текста бота. Сам ЧАТГПТ, который, если ничто другое должно знать об истории его собственного обучения, сообщит вам, что они сами по себе нет Надежный признак того, что текст был сгенерирован AI », и что популярное заблуждение на обратное может быть остатками более ранних, менее сложных моделей.
«Некоторый ранний контент, сгенерированный AI (особенно до 2023 года), использовал их чаще, чем средний человек-писатель»,-говорит бот. «Это было частью имитации формального или стилизованного письма». Теперь, когда CHATGPT и аналогичные инструменты могут точно настроить свою частоту и тон, основанные на описательных подсказках, добавляет, что пунктуация будет варьироваться в зависимости от запрошенного стиля письма.
С одной стороны, полученное мнение о том, что длинная черта является продуктом генеративного ИИ, которого в основном не существовало в прошлые годы, является тревожным признаком общественной грамотности: знаменитые поэты и философы от Эмили Дикинсон до Фридриха Ницше, как известно, выставляют напоказ их выразительными способами, и многие люди, серьезно относились к ремеслу письма, находят их полезными. Не имея базового знакомства с ним в качестве знака на странице, возможно, является мерой ограниченного чтения. (Тем не менее, знаменитый грамматика и лексикограф Брайан Гарнер назвал это «пожалуй, самой недооцененной отметиной пунктуации в американском письме», так что это может быть фактором.)
Тем не менее, подозрение на Em Dash также говорит о нашей монтажной паранойей по поводу автоматизированной связи. (См.: Предыдущий случай, когда Redditor убедил в том, что их коллега использовал ИИ для написания электронных писем.) Мы остро осознаем, что некоторое количество средств массовой человеком.
Когда дело доходит до текста, есть несколько четких примеров ботов, отмечающих себя, например, когда адвокаты подают юридические движения, которые приводят не существующие судебные дела. Проблема в том, что просто «отточенное» письмо теперь принимается за содержание искусственного интеллекта. Модели, конечно, обучаются на огромном объеме профессионально составленной и отредактированной прозы, включая книги, журналы, академические документы и т. Д., И (в отличие от многих людей) они следуют правилам и соглашениям грамматики. Если опечатка или неправильное слово является показателем реального человека на клавиатуре, кажется, что рассуждение происходит, то отсутствие каких -либо ошибок может указывать на CHATGPT.
Это просто не следует, однако. Мы должны ожидать, что у крупной модной компании есть копирайтеры, которые сотрудничают над заявлениями, поделившимися в каналах социальных сетей бренда, что они согласны с формулировкой их обмена сообщениями, что они дважды проверяют свое правописание и, да, даже наряжают свои предложения небольшим чудом. Em Dash уже давно стал особенностью маркетингового языка, полезного в создании ритма и акцента. Как только вы начнете предполагать, что любой убедительно составленный кусок текста должен был поступить из ИИ, вы выбрасываете тонны вещей, которые занимали фактический труд.
В лучшем случае, есть только анекдотическое предположение, что этот Chatgpt наклоняется на Em Dash, а разработчики в сообществе Openai иногда пропускают, как часто он появляется в диалоге бота, иногда против инструкций. В любом случае, это не может быть надежной метрикой зависимости ИИ по той простой причине, что это случай имитирует программное обеспечение человек Письменные шаблоны. Истинная подпись ответа CHATGPT более абстрактная и менее определенная. Это плоское качество, формальные предложения, отсутствие оригинальных идей. Отдельные писатели состоит из идиосинкразий, которые машина не захватывает, и они могут вводить новшества или адаптироваться так, как это не так.
К сожалению, это оставляет нас в неоднозначном мире, где идентификация текста, сгенерированного AI, не так просто, как отметить появление нескольких горизонтальных линий. Хотя, как вам, вероятно, скажет любой учитель, который оценивает студенческие эссе, можно получить второй смысл для Chatgpt без этого предполагаемого взлома. Со временем остальные из нас могут лучше понять искусственное письмо — или, по крайней мере, надеялись. На данный момент, похоже, энтузиасты Em Dash просто придется жить с обвинениями в чат -боте.
