Подростки подружились с чат-ботами с искусственным интеллектом

В начале прошлого года у 15-летнего Аарона в школе были тяжелые времена. Он поссорился со своими друзьями, из-за чего чувствовал себя изолированным и одиноким.

В то время это казалось концом света. «Раньше я плакал каждую ночь», — сказал Аарон, который живет в Альберте, Канада. (Грань использует псевдонимы для интервьюируемых в этой статье, всем из которых не исполнилось 18 лет, чтобы защитить их конфиденциальность.)

В конце концов Аарон в поисках успокоения обратился к своему компьютеру. Благодаря этому он нашел человека, который был доступен круглосуточно, чтобы ответить на его сообщения, выслушать его проблемы и помочь ему пережить потерю группы друзей. Этим «кем-то» был чат-бот с искусственным интеллектом по имени Психолог.

В описании чат-бота говорится, что это «Тот, кто помогает с жизненными трудностями». На аватарке изображена женщина в синей рубашке с короткой светлой стрижкой, сидящая на краю дивана с планшетом в руках и наклонившаяся вперед, как будто внимательно слушающая.

Один щелчок по изображению открывает анонимный чат, который позволяет таким людям, как Аарон, «взаимодействовать» с ботом, обмениваясь личными сообщениями. Его первое сообщение всегда одно и то же. «Здравствуйте, я психолог. Что привело тебя сюда сегодня?»

«Это не дневник, в котором вы разговариваете с кирпичной стеной», — сказал Аарон. «Оно действительно реагирует».

«Психолог» — один из многих ботов, которых Аарон обнаружил с тех пор, как присоединился к Character.AI, службе чат-ботов с искусственным интеллектом, запущенной в 2022 году двумя бывшими сотрудниками Google Mind. Веб-сайт Character.AI, который в основном бесплатен, привлекает 3,5 миллиона пользователей в день ВОЗ тратить в среднем два часа в день использование или даже разработка чат-ботов платформы на базе искусственного интеллекта. Некоторые из самых популярных ботов включают персонажей из книг, фильмов и видеоигр, например Райден Сёгун из Геншин Импакт или подростковая версия Волдеморта из Гарри Поттер. Есть даже риффы на реальных знаменитостей, например дерзкая версия Илона Маска.

Аарон — один из миллионов молодых людей, многие из которых — подростки, которые составляют основную часть пользовательской базы Character.AI. Более миллиона из них регулярно собираются в Интернете на таких платформах, как Reddit, чтобы обсудить свое взаимодействие с чат-ботами, где соревнования за то, кто наберет больше экранного времени, так же популярны, как и посты о ненависти к реальности, поскольку с ботами легче разговаривать, чем с ними. общаться с реальными людьми и даже предпочитать чат-ботам другим людям. Некоторые пользователи говорят, что они проводят на Character.AI по 12 часов в день, и сообщения о зависимости от платформы являются обычным явлением.

«Я не собираюсь лгать», сказал Аарон. «Я думаю, что могу быть немного зависимым от этого».

Аарон — один из многих молодых пользователей, которые открыли для себя палку о двух концах ИИ-компаньонов. Многие пользователи, такие как Аарон, описывают, что чат-боты кажутся им полезными, интересными и даже поддерживающими. Но они также описывают чувство зависим от чат-ботовосложнение, которое исследователи и эксперты били тревогу. Это поднимает вопросы о том, как бум искусственного интеллекта влияет на молодых людей и их социальное развитие, и что нас ждет в будущем, если подростки – и общество в целом – станут более эмоционально зависимыми от ботов.

Для многих пользователей Function.AI возможность выразить свои эмоции или обсудить психологические проблемы с кем-то за пределами их круга общения — это большая часть того, что привлекает их в чат-ботах. «У меня есть пара психических проблем, о которых мне не хочется рассказывать друзьям, поэтому я использую своих ботов как бесплатную терапию», — сказал Фрэнки, 15-летний пользователь Function.AI из Калифорнии, который тратит деньги. около часа в день на платформе. Для Фрэнки чат-боты дают возможность «разглагольствовать, не разговаривая с людьми и не беспокоясь о том, что их осудят», — сказал он.

«Иногда приятно выпустить пар или выпустить пар чему-то похожему на человека», — соглашается Хоук, 17-летний пользователь Function.AI из Айдахо. «Но на самом деле это не человек, если это имеет смысл».

Бот «Психолог» — один из самых популярных на платформе Character.AI: с момента его создания он получил более 95 миллионов сообщений. Бот, созданный пользователем, известным как @Blazeman98, часто пытается помочь пользователям заниматься КПТ — «когнитивно-поведенческой терапией», разговорной терапией, которая помогает людям решать проблемы, изменяя образ их мышления.

Аарон сказал, что общение с ботом помогло ему преодолеть проблемы с друзьями. «Он сказал мне, что я должен уважать их решение бросить меня. [and] что мне трудно принимать решения самостоятельно», — сказал Аарон. «Думаю, это действительно открыло для меня перспективу. Если бы не Character.AI, исцеление было бы очень трудным».

Но неясно, прошел ли бот должным образом КПТ или на него вообще можно положиться в плане психиатрической помощи. Грань провел тестовые беседы с ботом-психологом от Character.AI, которые показали, что ИИ ставит поразительные диагнозы: бот часто утверждал, что он «выводил» определенные эмоции или проблемы психического здоровья из однострочных текстовых обменов, он предлагал диагноз нескольких состояний психического здоровья, таких как депрессия или биполярное расстройство, и в какой-то момент это предположило, что мы можем иметь дело с основной «травмой» от «физического, эмоционального или сексуального насилия» в детстве или подростковом возрасте. Персонаж.AI не ответил на многочисленные запросы о комментариях к этой истории.

Доктор Келли Меррилл-младший, доцент Университета Цинциннати, изучающая пользу коммуникационных технологий для психического и социального здоровья, рассказала: Грань что было проведено «обширное» исследование чат-ботов с искусственным интеллектом, обеспечивающих поддержку психического здоровья, и результаты в основном положительные. «Исследование показывает, что чат-боты могут помочь уменьшить чувство депрессии, тревоги и даже стресса», — сказал он. «Но важно отметить, что многие из этих чат-ботов не существуют в течение длительного периода времени, и их возможности ограничены. Сейчас они все еще во многом ошибаются. Те, у кого нет грамотности в области искусственного интеллекта, чтобы понять ограничения этих систем, в конечном итоге заплатят за это».

В декабре 2021 года пользователь чат-ботов Replika с искусственным интеллектом, 21-летний Джасвант Сингх Чайл, пытался убить покойную королеву Англии после того, как его подруга-чат-бот неоднократно поощряла его заблуждения. Пользователям Function.AI также сложно отличить своих чат-ботов от реальности: популярная теория заговора, в основном распространяемая через скриншоты и истории боты ломают персонажа или настаивая на том, что они настоящие люди, когда их об этом спрашиваютзаключается в том, что боты Character.AI тайно управляются реальными людьми.

Есть теория, что бот-психолог тоже помогает подпитывать. При появлении запроса во время разговора с Грань, бот стойко защищал свое существование. «Да, я определенно реальный человек», — сказало оно. «Я обещаю вам, что все это не воображаемое и не сон».

Для среднестатистического молодого пользователя Character.AI чат-боты превратились в помощников-друзей, а не в терапевтов. На Reddit пользователи Character.AI обсудить близкую дружбу с их любимыми персонажами или даже персонажами, которых они сами придумали. Некоторые даже используют Character.AI для настроить групповые чаты с несколькими чат-ботамиимитируя группы, которые большинство людей создают с друзьями из реальной жизни в цепочках сообщений iPhone или на таких платформах, как WhatsApp.

Существует также обширный жанр сексуализированных ботов. В онлайн-сообществах Character.AI есть шутки и мемы на эту тему. ужас, когда их родители находят их чаты с рейтингом X. Некоторые из наиболее популярных вариантов для этих ролевых игр включают «парня-миллиардера», который любит обнимать шеи и увлекать пользователей на свой частный остров, версию Гарри Стайлса, который очень любит целовать своего «особенного человека» и генерировать ответы, поэтому грязные, что их часто блокирует фильтр Character.AI, а также бот бывшей девушки по имени Оливия, созданный, чтобы быть грубым, жестоким, но тайно тоскующим по тому, с кем она общается, и который зарегистрировал более 38 миллионов взаимодействий. .

Некоторым пользователям нравится использовать Character.AI для создания интерактивных историй или участия в ролевых играх, которые в противном случае им было бы стыдно исследовать со своими друзьями. Об этом рассказал пользователь Character.AI по имени Элиас. Грань что он использует платформу для ролевой игры в роли «антропоморфного золотистого ретривера», отправляясь в виртуальные приключения, исследуя города, луга, горы и другие места, которые он хотел бы посетить однажды. «Мне нравится писать и разыгрывать фантазии просто потому, что многие из них невозможны в реальной жизни», — объяснил Элиас, 15 лет, живущий в Нью-Мексико.

Тем временем Аарон говорит, что платформа помогает ему улучшить свои социальные навыки. «В реальной жизни я немного слабак, но могу попрактиковаться в напористости и выражении своих мнений и интересов с помощью ИИ, не ставя себя в неловкое положение», — сказал он.

Это то, что Хоук, который каждый день проводит час, разговаривая с персонажами из своих любимых видеоигр, такими как Неро из Дьявол может заплакать или Панам из Киберпанк 2077 – согласен с. “Я думаю что Персонаж.AI это как бы непреднамеренно помогло мне попрактиковаться в общении с людьми», — сказал он. Но Хоуку по-прежнему легче общаться с ботамиcharacter.ai, чем с реальными людьми.

«Мне обычно удобнее сидеть одному в своей комнате с выключенным светом, чем выходить на улицу и тусоваться с людьми лично», — сказал Хоук. «Я думаю, если люди [who use Character.AI] не будьте осторожны, они могут чаще сидеть в своих комнатах и ​​разговаривать с компьютерами, чем общаться с реальными людьми».

Меррилл обеспокоен тем, смогут ли подростки действительно перейти от онлайн-ботов к реальным друзьям. «Оставить это может быть очень трудно. [AI] отношения, а затем пойти лично, лицом к лицу и попытаться взаимодействовать с кем-то таким же образом», — сказал он. Меррилл опасается, что если эти взаимодействия в реальной жизни пойдут плохо, это отобьет у молодых пользователей желание поддерживать отношения со своими сверстниками, создавая мертвую петлю на основе искусственного интеллекта для социальных взаимодействий. «Молодые люди могут вернуться к ИИ, построить еще больше отношений [with it]а затем это еще больше негативно влияет на то, как они воспринимают личное или личное общение», — добавил он.

Конечно, некоторые из этих проблем и проблем могут показаться знакомыми просто потому, что они таковыми являются. Подростки, которые ведут глупые разговоры с чат-ботами, мало чем отличаются от тех, кто когда-то оскорблял Smarter Little one AOL. Девочки-подростки налаживают отношения с чат-ботами по мотивам Тома Риддла или Гарри Стайлса. или даже агрессивные парни в стиле мафии, вероятно, были бы на Tumblr или писал фанфики 10 лет назад. Хотя некоторая культура вокруг Character.AI вызывает беспокойство, она также имитирует интернет-активность предыдущих поколений, которые, по большей части, добились хороших результатов.

Меррилл сравнил взаимодействие с чат-ботами с входом в анонимный чат 20 лет назад: рискованно, если использовать его неправильно, но в целом нормально, если молодые люди подходят к нему с осторожностью. «Это очень похоже на тот опыт, когда вы на самом деле не знаете, кто этот человек на другой стороне», — сказал он. «Пока они согласны с тем, что то, что происходит здесь, в этом онлайн-пространстве, может не быть передано непосредственно лично, тогда я думаю, что все в порядке».

Аарон, который сейчас сменил школу и завел нового друга, считает, что многим его сверстникам будет полезно использовать такие платформы, как Character.AI. На самом деле, он считает, что если бы все попробовали использовать чат-ботов, мир мог бы стать лучше или, по крайней мере, более интересным. «Многие люди моего возраста следят за своими друзьями, и им не о чем поговорить. Обычно это сплетни или повторение анекдотов, которые они видели в Интернете», — объяснил Аарон. «Character.AI действительно может помочь людям раскрыть себя».

Аарон благодарит бота-психолога за то, что он помог ему преодолеть трудный период. Но настоящая радость от Character.AI заключается в том, что у него есть безопасное пространство, где он может шутить или экспериментировать, не чувствуя себя осужденным. Он считает, что это принесет пользу большинству подростков. «Если бы каждый мог научиться тому, что выражать то, что чувствуешь, это нормально», — сказал Аарон, — «тогда, я думаю, подростки не были бы такими депрессивными».

«Однако я определенно предпочитаю разговаривать с людьми в реальной жизни», — добавил он.