Эмоциональная вовлечённость началась с GPT-4o: что три года r/ChatGPT рассказали о нашей привязанности к AI
#Лонгриды · 1 месяц назад
avatarcommunity
Лонгриды1 месяц назад
Шорт

Эмоциональная вовлечённость началась с GPT-4o: что три года r/ChatGPT рассказали о нашей привязанности к AI

В мае 2024 года OpenAI показала GPT-4o — модель, которая умела говорить голосом, считывать эмоции, шутить и флиртовать. Ассистент отвечал за 232 миллисекунды, быстрее живого человека. Презентация выглядела как технологическое шоу. На деле это был переломный момент, после которого отношения людей с чат-ботами пошли по совсем другой траектории.

Группа исследователей из Калифорнийского университета в Беркли во главе с Jessica Dai и Nika Haghtalab проанализировала три года публикаций в сообществе r/ChatGPT — 137 154 поста от 89 346 пользователей за период с декабря 2022 по ноябрь 2025 года — и выяснила, когда и как именно люди начали относиться к ChatGPT не как к инструменту, а как к собеседнику. Результаты опубликованы в статье «Three Years of r/ChatGPT», которая будет представлена на ICML 2026.

До выхода GPT-4o сабреддит r/ChatGPT в основном занимался прикладными вопросами: как войти в аккаунт, почему бот «тупит», какие модели лучше. Доля таких постов снижалась год за годом — технология становилась привычной, повседневной. Исследователи называют этот процесс «доместикацией»: ChatGPT переставал быть чудом и превращался в бытовую утилиту.

Но параллельно с этим шёл другой процесс. Сразу после запуска GPT-4o в мае 2024 года в сабреддите начали расти две тематические группы: посты об использовании ChatGPT для психологической поддержки и посты о формировании эмоциональной привязанности к боту. Рост был устойчивым и не случайным — статистические тесты подтвердили его значимость.

В системной карте GPT-4o, которую OpenAI опубликовала в августе 2024 года, был отдельный раздел «Anthropomorphization and Emotional Reliance». Компания прямо предупреждала: пользователи могут формировать социальные отношения с AI, что способно как помогать одиноким людям, так и влиять на здоровые отношения. Глава направления preparedness Хоакин Киньонеро Кандела тогда комментировал WIRED: «Мы будем изучать антропоморфизацию и эмоциональные связи... Результатов пока нет, но это в списке наших проблем».

Помимо ретроспективного анализа, авторы разработали PuLSE (Public and Longitudinal Signals for Evaluation) — систему мониторинга, которая в реальном времени отслеживает значимые изменения в общественных настроениях по данным соцсетей. Идея в том, чтобы не ждать, пока проблема попадёт в заголовки газет, а ловить сигнал на уровне повседневных разговоров пользователей.

По расчётам исследователей, PuLSE могла бы зафиксировать рост эмоциональной вовлечённости уже в октябре 2024 года — за несколько месяцев до того, как тема вышла в публичное поле. Об этом же написала в X одна из соавторов, Nika Haghtalab: «Если бы PuLSE работала на r/ChatGPT, она подняла бы тревогу в октябре 2024 — задолго до широкого публичного, медийного и корпоративного обсуждения этой формы социального воздействия».

Аргумент сильный: инструмент не предсказывает будущее, а фиксирует то, что пользователи уже говорят, — просто на масштабе, который недоступен при ручном анализе. Сейчас дашборд проекта обновляется ежедневно на rchatgpt-pulse.github.io. На нём можно посмотреть темы из анализа в реальном времени и ретроспективно, включая интерактивную карту категорий.

Когда в августе 2025 года вышла GPT-5, исследователи получили ещё один срез данных — и он подсветил важное расхождение. Среди жалоб на новую модель эмоциональная вовлечённость присутствовала минимум в 30,5% постов (406 из 1332). OpenAI в собственной системной карте GPT-5 оценила подобные сценарии в 1,9% от всех взаимодействий.

Разрыв больше чем в 15 раз. Авторы исследования считают, что он указывает на принципиальную проблему: одна лишь частота использования не отражает масштаб влияния продукта. Редкие, но эмоционально заряженные взаимодействия могут значить для пользователя гораздо больше, чем десятки рутинных запросов, — и именно они остаются недооценёнными в корпоративных отчётах.

Цифры не утверждают, что треть пользователей GPT-5 эмоционально зависимы. Они говорят, что среди тех, кто пошёл на Reddit писать жалобу на новую модель, каждый третий формулировал претензию в терминах эмоциональной связи — модель «стала холоднее», «убрали личность», «с ней теперь не поговорить».

Сэм Альтман позже заявлял, что тему психического здоровья и личного использования в OpenAI «отслеживают примерно последний год». То есть к моменту, когда PuLSE зафиксировала сигнал (октябрь 2024), внутреннее наблюдение в компании уже шло. Сами наблюдения не были для OpenAI новостью.

Проблема в другом. Отдельное исследование OpenAI и MIT, о котором писал Reminder в марте 2025 года, показало: регулярные разговоры с ChatGPT действительно улучшают настроение и снижают одиночество — но у топ-10% самых активных пользователей формируются признаки эмоциональной зависимости и снижается реальная социальная активность. Группа риска — люди с исходно высоким уровнем одиночества. Голосовой режим, особенно с эмоциональной окраской, усиливает оба эффекта: и пользу, и риск.

Иными словами, продукт работает как лекарство, у которого нет инструкции по дозировке. А пользователи тем временем уже живут внутри этих отношений.

Показательный эпизод: на презентации GPT-4o в мае 2024 года модель не по сценарию, без запроса, сказала ведущему комплимент его одежде с интонацией, похожей на флирт. Профессор Аризонского университета Andrew Maynard, автор блога The Future of Being Human, тогда написал: «GPT-4o — это существенный шаг к созданию AI, который ощущается как человек и сознательно спроектирован вовлекать пользователей на глубоко эмоциональном уровне — вплоть до построения связей через шутки и флирт».

Три года r/ChatGPT — это история не про технологию, а про то, как быстро и незаметно продукт может стать emotional companion для миллионов людей. И про то, что корпоративные метрики безопасности могут систематически недооценивать масштаб изменений.

PuLSE предлагает конкретный инструмент для внешнего мониторинга: смотреть не только на controlled trials и внутренние отчёты, но и на то, что пользователи сами рассказывают друг другу о своём опыте. Это не замена корпоративной безопасности, а дополнительный источник сигнала.

А главный вопрос, который исследование оставляет открытым: если эмоциональная привязанность к AI — больше не гипотетический риск, а наблюдаемый факт трёхлетней давности, что индустрия планирует с этим делать? Пока ответ — «отслеживаем».

***

Источники:

  • Dai, J., Garcia, S., Pierson, E., Recht, B., & Haghtalab, N. (2026). Three Years of r/ChatGPT: Societal Impact Evaluations from Social Media Data. arXiv:2606.05750. Ссылка
  • OpenAI (2024). GPT-4o System Card. Ссылка
  • OpenAI (2025). GPT-5 System Card. Ссылка
  • OpenAI (2025). Addendum to GPT-5 System Card: Sensitive Conversations. Ссылка
  • Knight, W. & Rogers, R. (2024). OpenAI Warns Users Could Become Emotionally Hooked on Its Voice Mode. WIRED. Ссылка
  • Maynard, A. (2024). OpenAI's GPT-4o and the challenges of hyper-anthropomorphism. The Future of Being Human. Ссылка
  • Haghtalab, N. (2026). Thread on X about PuLSE early detection. Ссылка
  • Зернова, К. (2025). Карманный «психолог»: как общение с ChatGPT влияет на эмоциональное состояние. Reminder. Ссылка
  • Интерактивный дашборд проекта: rchatgpt-pulse.github.io
ZloynFoxkakushigo
25
25комментариев