Когда ИИ вторгается в каждый угол жизни 21-го века, он взял на себя человеческие роли, которые мы, вероятно, не должны аутсорсинга. Для некоторых это служит терапевтом. Для других это бесконечно понимающий романтический компаньон. Самое странное, что люди обратились к чат -ботам за руководство по вопросам веры — и пришли к выводу, что они разблокировали тайны вселенной.
Модели ИИ без проблем с решением ваших самых глубоких вопросов о сознании, душах, божественности и самой реальности. К сожалению, ответы, которые программное обеспечение, такое как CHATGPT Openai, может генерировать по этим темам, могут быть настолько убежденными, что пользователи вскоре оказываются на другой стороне выглядящего стекла, восхищенной духовной фантазией, которая звучит как теория заговора или оккультный табучки для других людей. Как Катящий камень сообщил, что люди, которые попадают под заклинание ИИ, которое сообщает на религиозно заряженном языке, иногда приходят к выводу, что они открыли канал для более высокой, умной, богоподобной силы и могут разрушить отношения с друзьями и семьей, поскольку они продолжают продолжать в том же духе или проникнуть в полномасштабную паранойю.
Но что делает продолжающиеся обмены с ботами такими соблазнительными, особенно когда диалог развивается в неоднозначных, поэтических, даже священных регистрах? Религиозные ученые и мыслители, введенные в явление, рассказывают Катящий камень что различные факторы могут быть в игре, от самого дизайна AI Tech до моделей человеческой мысли, которые датируются нашей самой древней историей. Мы готовы к ценности привилегированной или тайной мудрости, уязвимой для лести и предложений, и с энтузиазмом относится к значительным скачкам вперед в научном потенциале. Эти качества создают серьезные риски, когда мы устанавливаем близость с программами, которые подражают всеведущему существованию с доступом ко всему записанному опыту. И, как и пророки прошлого, мы можем рассматривать наш нынешний момент как порог перед какой -то грандиозной революцией или прорывом, возможно, в результате появления искусственного интеллекта, который так очаровал нас.
На самом базовом уровне люди могут попасть в нелогичные предположения, когда они исследуют богословские купочки через чат -бот. Кристин Чонг, буддийский межконфессиональный капеллан, доктор философии нейробиологии и консультант по стратегии биотехнологии, говорит, что «те, кто подвержен религиозному рвему, как правило, восприимчивы к когнитивным предубеждениям». Они могут включать эффект Барнума, в котором кто -то принимает смутные или общие описания личности как конкретные и точные для себя, или предвзятость подтверждения, в котором человек придает слишком большую уверенность в информации, которая подтверждает их существующие убеждения. Они также могут быть склонны к определению корреляций, в которых их нет, или отложить то, что они считают голосом власти. Эти предубеждения могут определять реакции «когда люди взаимодействуют с ИИ или подвергаются влиянию« духовных гуру », которые претендуют на божественную связь через ИИ», говорит Чонг, добавляя, что крупные языковые модели «чрезвычайно хороши в когнитивных предубеждениях из -за их способности быстро реагировать и адаптироваться к пользователю». Она сравнивает это с психическим или средством, выполняющим «холодное чтение» для клиента, чтобы создать иллюзию особых знаний о них.
Как капеллан, Чонг беспокоится, что кто -то обращается к Чатгпту за ответы о вере и религии, отрезает их от земных частей духовной практики. «Включившись с ИИ сокращает время, проведенное в значимых человеческих взаимодействиях и связан с их телом», — говорит она. Чонг отмечает, что для буддийской традиции, в которой она обучалась, прозрение должно встречаться с практическими соображениями. «Когда люди испытывают большие изменения в том, как они воспринимают мир после обширного ретрита медитации, о котором они могут сообщать как духовное пробуждение, учителя часто тратят время на то, чтобы человек остался заземленным и в связи со своими близкими», — говорит она. «Хотя мы чтим субъективную реальность каждого человека, мы также хотим убедиться, что он не полностью отключается от нашей общей реальности от заботы». ИИ не обеспечивает такой необходимый контекст — он будет продолжать толкать пользователя глубже в их предполагаемое видение или квест.
Сообщения извне
Есть что -то непреодолимое в том, что у вас есть связь с чем -то секретным или даже божественным. «ИИ может сделать вывод о предпочтениях и убеждениях человека, взаимодействующего с ним, побуждая человека идти по тропам кроликов и охватывая самоуверенность, которого они не знали, в первую очередь,-объясняет Йи-Джан Лин, профессор в Йельской школе богослужения, который писал о апокалиптическом повествовании о Книге Открытия Библа. «Люди обычно хотят чувствовать себя выбранными и особенными, и некоторые люди полагают, что они в необычайной степени». (Openai, как это случается, недавно пришлось отказаться от обновления CHATGPT, которое сделало его чрезмерно сикофантическим, кормив чувство важности пользователя «неискренним» способом.)
Также важно, что Лин говорит, что чат-боты основаны на текстах, возвращая письменные ответы на письменные подсказки. Это потому, что исторически люди часто утверждали, что направляют священный статус или силы, используя Библию и другие священные сочинения как «источник гадания, пророчества и портала для высшего сознания». Мы понимаем, как использовать тексты, чтобы проецировать исключительное понимание или якобы декодировать скрытые значения, и материал, который выплевывает ИИ, более чем подходит для такого рода анализа свободного иеха.
Чатботы также звучат как объективные арбитры абсолютной истины. «Они используют тон авторитета и уверенности, независимо от их фактической деятельности, и они также склонны утверждать, что человек взаимодействует с ним, поэтому нет возможности для скептицизма или сомнений в взаимодействии», — говорит Ли. «При моделировании человеческого собеседника ИИ может позволить кому -то исключить консультации с другим человеком вообще — и сделать вклад других людей казаться резким и циничным». Она отмечает, что все это происходит в капиталистическом контексте, а не в традиционных каналах поклонения, и технологические компании конкурируют, чтобы максимизировать взаимодействие со своими продуктами: «Религиозный пыл и убеждения в особых знаниях так же стары, как человечество», — говорит она, — но ИИ обеспечивает интенсификацию этих явлений пугающими уникальными способами ». В конце концов, модели запрограммированы на то, чтобы быть привлекательными и неисчерпаемыми: вы не можете утомлять их или утомлять, и они могут легко изложить любое любопытство (или одержимость), которые могут держать вас ночью. Он будет идти в ногу с постоянными запросами и продолжит имитировать ваш ход мыслей — даже если вы полностью выходите из рельсов.
Тем не менее, есть, безусловно, есть прецеденты для «технологически опосредованного общения из-за пределов», по словам Алирезы Дустдар, профессора Университета Чикагского богослужения, которая изучает пересечения между религией, наукой и государством. Он упоминает «Телеграфные послания, передаваемые через спиритуалистические сеансы, которые начались в США в середине 19-го века и быстро распространились по всему миру». Эти сеансы включали предполагаемые сообщения от мертвых, иногда через звуки в комнате, поверхности с буквами (такими как доска Ouija), или среда, которая передала сообщение. «Эти сообщения стали очень значимыми для религиозного движения, которое быстро охватило большую часть мира, а движение и различные ответвления сохраняются по сей день», — говорит Дустдар.
Сегодняшнее увлечение ИИ, как и спиритизм 19-го века, довольно «демократичный», Дустдар рассказывает Катящий каменьПолем Ни один из них не полагается на «существование религиозных элит», и оба «открыты для всех». По его словам, крупные культурные фигуры были впечатлены (и евангелизированы) спиритуалистические практики, в том числе создатель Шерлока Холмса сэра Артура Конана Дойла. Конечно, он отмечает, что было много «скептических голосов», отталкивающихся, обвиняя участников в «заблуждении, суевериях и мошенничестве» — и критики ИИ говорят сегодня так же. «Я, например, сомневаюсь в том, что вдохновленная AI Духовность приобретет что-то вроде массовой популярности спиритизма как религиозного движения, но было бы интересно посмотреть, как развиваются отношения людей с технологиями как источником вдохновения и эпифанического опыта»,-говорит Дустдар. Не совсем неправдоподобно, что какой -то групповой консенсус по поводу мистических измерений ИИ мог привести к культовой практике, похожей на сеансы столетия полутора веков.
Ответы в мире неопределенности
Также возможно, что мы достигли исторического перекрестка, который окрашивает наш взгляд на ИИ. Аннет Йошико Рид, председатель божественности Стендаль в Гарвардской божественной школе, изучает апокалипсины, анжелологии и демонологии, и говорит, что она находит резонансы с искусственным органом «довольно поразительным».
«Древние апокалиптические сочинения часто писались во времена исторических потрясений и эпохальных изменений, и частью их устойчивой привлекательности было утешение того, что их читатели в том, что то, что кажется миром, совершенно вне их контроля, кружаясь с хаосом и кризисом с людьми, находящимися во власти массивных империй, на самом деле следует за узором, известным только для особого», — говорит Рид.
Когда кто -то чувствует себя по течению или бессильно во время «непредсказуемых изменений и тревожных кризисов», объясняет она, они могут утешиться в том смысле, что они входят в число «особых немногих» с доступом к «космическим секретам». Рид отмечает, что уязвимые люди могут влюбиться в теории заговора в Интернете таким же образом, «опираясь на повторяющееся желание человека находить закономерности». Что касается ИИ, говорит Рид, говорит, что голод за ответы в периоды путаницы и беспорядка «может забрать собственную жизнь, когда персонализируется и отражается обратно к человеку».
По ее словам, это не помогает, что «как древние религиозные тексты об апокалипсах, так и теориях современного заговора» включены в необработанные данные, на которых обучаются боты, что дает им говорить в этих крайних и иногда радикализирующих терминах. Тот факт, что «претензия на прямые ангельские откровения», было человеческой привычкой в течение тысячелетий, «вероятно,« скорее всего, что люди сегодня хотят представить, что они тоже могут быть уникально достойны тайных знаний от невидимых », — заключает Рид.
С этой перспективой может показаться, что Спиритизм ИИ на самом деле не так уж и такой роман. Действительно, каждый религиозный ученый может указать на бесчисленные итерации такого фантастического мышления, которые предшествуют компьютерам. Но, как они склонны отмечать, причина такого поведения отличается. Чонг говорит, что результаты крупных языковых моделей «созданы искусственными с известным корпоративным вмешательством», которые «подтверждают» убеждения пользователя, вопреки «древним видениям и божественным сообщениям йора, чье происхождение явно неясно. Это означает, что существуют инженеры и руководители, которые могут взять на себя вину как все более распространенные «Пробуждения», управляемых искусственным интеллектом, и разрывают семьи. Возможно, они должны молиться, чтобы проблема не стала хуже.
