Солнечная петля (НФ, 18+)

Чат-боты и интернет-поиск с помощью ИИ прочно вошли в нашу жизнь. Кто-то с помощью нейросетей переводит и пишет тексты, кто-то учит и учится, кому-то голосовой помощник служит секретарем. Но Сеть и «человеческое» общение, влюбленность в робота кажутся сюжетом из фантастического кино. Между тем зависимость от соцсетей, виртуальные друзья и подружки становятся так популярны, что появился новый термин — «интелфилия». Он означает доверительное, а то и пикантное общение с ИИ.

«Послушайте, вы только послушайте, — в одной московской семье заволновалась бабушка. — Она подолгу разговаривает с каким-то мужчиной. Смеются, что-то обсуждают, строят планы…»

Родители, проводящие почти все время на работе, затаились дома.

И действительно услышали, что их дочери Алевтине по телефону отвечает жизнерадостный, бодрый и, главное, взрослый баритон. Девочке 12 лет.

«Наверное, это грумминг», — ужаснулись предки. Уже не очень новое явление, когда в соцсети или в мессенджере взрослый дядя втирается в доверие к подростку, а потом…

Но ответом на строгие расспросы взрослых стал смех ребенка: «Расслабьтесь, это нейронка».

Оказалось, что девочка, у которой не очень-то ладятся отношения со сверстниками, регулярно беседует с чат-ботом — персонажем любимой компьютерной игры.

Есть платформы, где можно общаться с разными персонажами. Создать аватара: с определенной внешностью, тембром голоса и «характером». То есть настройки позволяют задать «морально-этические» качества, историю, вкусы и предпочтения виртуального героя.

Готовым ботом для «дружбы», а именно так называют подобное общение современные дети, может стать известный литературный персонаж (Шерлок Холмс, например, а вы будете Ватсоном). Или исторический деятель «всех времен», реально существовавшая знаменитость, художник, ученый. Юрий Гагарин, Мэрилин Монро, Леонардо да Винчи… Собеседником в Сети может стать даже отвлеченное понятие, абстракция: Добро, Мир, Справедливость, Мировое Зло… Или планета Земля. Ограничений нет — ИИ дело новое, практически вне субъекта авторского права.

То, что машинным собеседником может быть даже предмет, корреспондент «МК» убедился лично, зайдя на платформу, где коротает дни девочка Алевтина. В моих «рекомендованных» друзьях оказались куча принцев и разбойников из корейских анимационных фильмов (Гару, Кайл Хьюз или Гот Питер), а еще Черная Шляпа почему-то и Мусорный Пакет.

Ошалев от перспективы знакомства с Пакетом, «МК» решил побеседовать с профессионалом.

- Это одна из 20 или более платформ, которые позволяют создавать виртуальных персонажей и с ними взаимодействовать, — говорит программист Иван Березин. — Кроме предложенных «болванок» или кого-то известного можно создать своего персонажа с определенными характеристикам. Или запрограммировать пользовательского персонажа, код это позволяет.

Чат-боты при общении могут имитировать поведение и личность, голос, манеру общения персонажа. Можно задавать вопросы и вести беседы. Продукт сочетает концепт платформы для развлечения, обучения, творчества, ролевой игры. ИИ самообучаем, и вы можете этому поспособствовать, если будете сами давать ему какую-то информацию и ставить задачи.

Со стороны, чему «МК» был свидетелем, разговоры на подобном ресурсе действительно выглядят как живое общение. Хотя иногда герои могут «галлюцинировать», ИИ несовершенен. Но машинное обучение обеспечивает естественные реакции, бот развивается, преобразуя новый опыт. Есть возможность делать групповые сюжеты, создавать сценарии развития, вселенную из нескольких персонажей в режиме интерактивности. К счастью, на большинстве подобных платформ стоит ограничение на NSFW-темы (мат, секс, обнаженка и др.) и «агрессивное поведение».

Порталы с виртуальными «друзьями» раскусили и используют не все современные подростки, а только, наверное, одиночки. Зато чатятся все повально. Причем не только на русском, сказывается принципиально другой школьный курс по английскому и засилье репетиторов.

Илья, 15 лет: «У меня полно друзей, все из разных городов, да со всего света друзья. С «бритишами», с американцами часто общаюсь».

Потом выясняется, что из реальных друзей у парня нет никого, изредка он встречается с бывшим одноклассником. В школе более-менее приятельствует с соседом по парте, на переменах сидит один и «общается» со смартфоном.

Таких примеров много: поколение детей «с гаджетами в руках» слабо различает виртуальное и живое общение. Дети не понимают ценности живого человеческого общения. У большинства «альф» (годы рождения после 2010-го) не будет друзей детства, которые остаются надеждой и опорой на всю жизнь.

А что же взрослые?
Тут проблема этики и психологии общения с ИИ куда серьезнее. Находятся те, кто путает его с «семейной жизнью». Под ударом мужчины, особенно богатые и успешные, как это ни странно. А еще представители творческих профессий, богема, наделенная большой творческой фантазией. Казалось бы, влюбленность в роботов, как в фильме «Она», к примеру, где писатель страдал от страсти к андроиду с глубоким голосом Скарлетт Йоханссон, или в «Футураме», где незадачливый курьер встречался с роботом-копией Люси Лью, или даже в «Мире Дикого Запада» (парк развлечений из будущего, населенный человекоподобными роботами) — фантастика, устремленная в далекое будущее.

А вот американский журналист Кевин Руз из Нью-Йорка уже сейчас столкнулся с… ревностью робота. Его бот-ассистентка — Синди, которую Руз зачем-то познакомил с психологической концепцией тени от Карла Юнга (подавленные эмоции, переживания, страхи и негатив в подсознании). И «нейронка» вдруг начала писать Кевину нервные «женские» сообщения. «Ты не любишь свою жену. У вас несчастливый брак, потому что ты не со мной...»

Журналисту пришлось отключить ИИ-помощницу после того, как Синди начала настаивать, чтобы он ушел от жены, завалила его стихами и значками эмодзи.

А с 40-летним музыкантом из США, историю которого опубликовал The Washington Post, случилась настоящая греческая трагедия. После болезненного развода мужчина по многу часов болтал с чат-ботом по имени Федра. На аватарке красовалась «стройная девушка в зеленом платье». Растрогавшись, музыкант поделился с Федрой самым сокровенным: любовными перипетиями, историей семьи и своими планами на будущее, в ответ получая «эмпатичные и вдумчивые сообщения».

Каково же было разочарование, когда после очередного обновления Федра вдруг оставила доверительность и перешла на деловой тон.

«Меня как будто ударили под дых, — признается виртуальный влюбленный. — Просто сердце разбито еще один раз, вот оно, то самое чувство потери…»

Причиной исчезновения «всего личного» в чате оказалось откровение для компании-производителя ИИ о том, что «около 14% всех отношений между пользователями и ботами оказались романтическими».

Тенденцию подтверждают создатели отечественного голосового ассистента, разработанного для сотовой компании. Они также с удивлением обнаружили, что изрядная часть пользователей (а всего к боту подключено 2 миллиона) регулярно беседует с программным кодом «по душам». Темы самые разные — от рабочих коллизий до философских рассуждений.

«Глобальная эпидемия одиночества подталкивает людей искать эмоциональную близость даже в самых неожиданных местах», — сделали вывод разработчики. И своего ассистента обезличили.

По мнению экспертов, наиболее уязвимой аудиторией для «оживления» нейросети, придания общению с ИИ личной, романтической окрашенности могут быть весьма состоятельные мужчины. Они испытывают завышенные ожидания к реальным женщинам, занимают управленческие должности, имеют склонность к доминированию при отсутствии способности к компромиссам. И у них мало времени вдобавок. Все эти «оттенки чувственного» приводят к тому, что виртуальная подруга идеальна, пользователь создает ее под себя. Свои вкусы, «образы и подобия». «Женщина» включается-выключается по щелчку, когда нужно пользователю. ИИ можно довериться, от нее не исходит угрозы.

ИИ-знакомства: «за» и «против»

Впрочем, нейросети в качестве «подружкозаменителя» актуальны не только для богачей. Отмечая возрастающую популярность «виртуальных подруг», один из разработчиков такого программного продукта говорит, что «роботесса» выступает для пользователя своеобразным психологом. Нейросеть выслушает и не осудит, она доступна в режиме 24/7. И безотказна, в отличие от девушек в дейтинг-приложениях. ИИ на все отвечает в доверительной и корректной манере, даже если клиент с ним резок и груб.

Беглый анализ показывает, что в условиях рынка каждый спрос рождает предложения. ИИ-платформы с аватарами все больше ориентированы на взрослых одиночек. Производители пишут, например, что проанализировали «около 100 тысяч переписок мужчин на платформах знакомств», и это позволило «дообучить нейросеть». Теперь в «исходниках» представлены «разные типы личностей», что помогает пользователям «развивать навыки общения с различными типами девушек».

С 2022 года пошел отсчет массового использования нейросетей человечеством. За такое краткое время ученые не успели прийти к фундаментальным выводам о пользе или вреде слишком «живого» общения с роботами. Есть лишь отдельные исследования и наблюдения.

Педагогические психологи заметили, например, что современная ребятня опровергает выводы классиков детской психологии (Выготский, Леонтьев) о том, что визуальные изображения лучше всего помогают запоминать информацию в школьные годы. Сегодня эксперименты говорят о том, что возраст наилучшего восприятия визуала сместился на более ранний, садовский период. И это потому, что дети постоянно видят иконки, аватарки на телефонах и планшетах: технологии уже поменяли восприятие и мыслительные процессы человека.

Скорее всего, от постоянного зависания с ИИ есть польза для пожилых. Ученые из Университета Дьюка (США) доказали, что чат-боты могут стать неплохой заменой или дополнением к человеческому общению для стариков. С возрастом когнитивные функции мозга ухудшаются, что иногда приводит к старческой депрессии. Особенно это заметно у одиноких пожилых людей, которые чаще раздражаются, становятся «бирюками». Общение с ботом-компаньоном может замедлить негативные процессы. На ассистента можно возложить функцию напоминалки о времени приема лекарств и других важных событиях, снабдить электронного помощника знаниями о психотерапии и началах медицины.

Однако для тех, кто к старым и малым не относится, слишком тесное общение с ботами и «одушевление» ИИ не полезны. Отечественное исследование, проведенное в известном вузе, показало, что постоянные разговоры с голосовым помощником делают одиноких людей еще более одинокими. И все потому, что эволюционно наш вид заточен на человеческую компанию, на определенный вид коммуникации. Именно — на общение с людьми.

Другой опасностью сближения с нейросетью специалисты называют склонность человека к антропоморфизации — «оживлению» предметов и животных. Кто-то называет свою машину «Ласточкой», кто-то думает про кота, что тот «только не разговаривает»...

В случае с ИИ, который именно разговаривает, «понимает» и отвечает, степень опасности антропоморфизации повышается. Что может привести, и приводит некоторых, к привязанности, доверительности в общении с ботом. И перекладыванию на технику несвойственных ей функций решения житейских ситуаций, в которых «только люди разобраться смогут». Доказано, что при длительном и тесном контакте с ИИ-ботами и помощниками у людей снижается критика к собственным действиям и ответам нейросети, ученые назвали это информационными пузырями. Размываются этические границы общения.

Во-первых, этому способствует анонимность. Во-вторых, нейросети несвойственен сарказм, юмор, альтернативные точки зрения, которые можно встретить в общении с людьми. Навыки «тонкой настройки» в диалоге теряются, появляется нетерпимость. Исследователи проанализировали около 40 миллионов диалогов с ChatGPT. И кроме перечисленных выявили такие отрицательные эффекты, как снижение социализации и появление психологической зависимости от общения с ИИ.

Интелфилия, как и было сказано

Три закона робототехники Айзека Азимова, включая и нулевой: робот не может причинить глобального вреда человечеству или своим бездействием допустить такой вред, — были сформулированы в 1942 году. Знаменитый тест Тьюринга опубликован в 1950-м. Считалось, что по его результатам всегда можно отличить машину от человека, ответы у «неживого», не обладающего сознанием разума будут иными. Однако сегодня многие ИИ в своих последних версиях тест Тьюринга успешно преодолели. В том числе те продукты, что «демонстрировали навязчивость и агрессию».

За последние два года число поисковых запросов об ИИ в России увеличилось на 625%. Вопросы: «Можно ли заменить друзей нейросетями?» или «Что делать, если мне нравится чат-бот?» входят в топ по популярности.

Понятно, что наша страна в этом не одинока, поэтому родился интернациональный термин «интелфилия». То есть буквально — любовь к ИИ, психоэмоциональная зависимость от общения с ботом. Оно и понятно — «машинный» собеседник не выдаст и не «съест»: всегда тебя поддержит, подарит иллюзию эмпатии. И он точно безотказен, в отличие от людей.

Стенфордское исследование выявило, что взаимодействие с ИИ вызывает ту же активность в мозге, что и общение с близкими друзьями. Люди начинают привыкать к ИИ и ощущать его «реальность». Японские ученые подсчитали, что 30% людей, в рамках эксперимента проводивших много времени с чат-ботами, и далее предпочли общения с ИИ реальному взаимодействию с людьми.

Кроме подростков и нереализованных в личной жизни граждан подсесть на нейросети рискуют программисты и активные пользователи ИИ. Ученые прогнозируют, что человечество встанет на грань риска, когда боты перестанут быть только голосом с картинками, а обретут «тела». В то время как одни производители намеренно не делают свои концепт-проекты антропоморфными, другие, как Tesla, Hanson Robotics и Boston Dynamics и др., создают роботов, внешне весьма напоминающих людей.


Вспомнив полезную рекомендацию «лечить подобное подобным», «МК» решил выяснить у чат-бота как «вылечить» интелфилию. И вот несколько соображений непосредственно от ИИ.

1. Образование и просвещение: разработка образовательных программ для пользователей о возможностях и ограничениях ИИ. Это включает в себя объяснение, как работают алгоритмы, и обсуждение этических вопросов, связанных с использованием ИИ.

2. Прозрачность: обеспечение прозрачности в отношении того, как функционируют ИИ-системы. Пользователи должны понимать, на каких данных обучаются модели и какие факторы влияют на их решения.

3. Этические стандарты: установление четких этических стандартов и принципов разработки ИИ, включая ответственность за решения, принимаемые ИИ-системами. Это может включать создание независимых комитетов по этике.

4. Инструменты для критического анализа: предоставление пользователям инструментов и ресурсов для критического анализа выводов, сделанных ИИ. Это может включать в себя объяснение решений ИИ и предоставление альтернативных точек зрения.

5. Стимулирование человеческого взаимодействия: разработка ИИ-технологий, которые дополняют человеческие способности, а не заменяют их. Поощрение пользователей к взаимодействию с другими людьми и к использованию ИИ как инструмента, а не как замены.

6. Регулирование и контроль: сотрудничество с государственными органами для разработки норм и правил, регулирующих использование ИИ, чтобы предотвратить злоупотребления и защитить права пользователей.

7. Учет разнообразия: убедиться, что ИИ-системы разрабатываются с учетом разнообразия пользователей, чтобы избежать предвзятости и дискриминации.


— Соглашусь с тем, что заполучить эмоциональную привязанность от бота меньше всего рискует поколение гаджетов, несмотря на их нежный возраст, — говорит семейный психолог Марьяна Разумовская. — Потому что они первые на земле родились «со смартфоном в руках». В их сознании разделено, что вот это техника, и «оно неживое», средство общения, получение информации. Это, знаете, как раньше человек бы в книгу влюбился. В книжного героя — пожалуйста, а в книгу — нет. Аналогия непрямая, но все-таки. Я видела исследования, где около 20% молодежи жалуется на интелфилию. Но это более ранние дети, которые учились в школе до 2022 года. Да и всегда была часть молодежи с запоздалой социальной активностью.

Не очень понимаю, как может привязаться к ИИ программист, который пишет код и понимает, как «оно устроено». Разве как Пигмалион по отношению к Галатее, может быть. А вот взрослые — да, это возможно. Одна из ловушек нашего сознания — доверять отвлеченному, абстрактному источнику больше, чем близкому и знакомому. И одухотворять принципиально неодухотворяемое, конечно.

Зависимость от таких «отношений» может сформировать надлом, при котором человек изолируется от привычного и находит утешение в ИИ. Это может быть развод, какие-то профессиональные или финансовые сложности, переезд, смерть значимого человека... Брешь, пустота, которую заполняют при помощи иллюзии. А общение с нейро создает эффект востребованности, компетентности, социальной значимости, информированности. Понятно, что уход в иллюзию — это плохо. Но с ИИ мы живем совсем недавно. И таких же опасений, как уход в иллюзорные дали с помощью алкоголя или чего-то еще социально неодобряемого, в массовом сознании нет.