ChatGPT от OpenAI автоматически переключается на более строгую языковую модель, когда пользователи вводят эмоциональные или персонализированные запросы, однако их об этом не уведомляют.
В настоящее время OpenAI тестирует в ChatGPT новый модуль безопасности, который автоматически направляет беседы к разным моделям в зависимости от темы. По словам Ника Тёрли, руководителя ChatGPT, система вмешивается всякий раз, когда разговор касается «чувствительных или эмоциональных тем».
На практике ChatGPT может временно передавать подсказки более строгой модели, такой как GPT-5 или специальный вариант «gpt-5-chat-safety», который уже был замечен пользователями. По словам Терли, переключение происходит на уровне одного сообщения и становится заметным только тогда, когда об этом специально спрашивают модель.
OpenAI впервые рассказала о маршрутизации, учитывающей эмоциональное содержание, в своём блоге, описав её как средство защиты в моменты «острого эмоционального кризиса». Последние заявления Терли расширяют это на любые разговоры, затрагивающие чувствительные или эмоциональные темы.
Технический обзор новой системы маршрутизации, проведённый Lex, показывает, что даже безобидные эмоциональные или личные запросы часто перенаправляются в более строгую модель gpt-5-chat-safety. Запросы о самом образе модели или её осведомлённости также вызывают автоматическое переключение.
Один из пользователей зафиксировал момент переключения, и другие пользователи тоже сообщили о схожих результатах. Судя по всему, существует ещё одна маршрутизирующая модель «gpt-5-a-t-mini», которая применяется, когда запросы могут содержать потенциально незаконные (запрещённые) темы.
Некоторые критикуют OpenAI за недостаточную прозрачность в том, когда и почему происходит перенаправление, отмечая, что это создаёт впечатление излишней опеки над пользователями и размывает границу между защитой детей и более широкими общими ограничениями.
Более строгая проверка возраста с использованием официальных документов пока планируется только для отдельных регионов. Сейчас способ, которым языковая модель определяет, кто вы и что означает ваше сообщение, остаётся неточным и, вероятно, будет продолжать вызывать споры.
Эта проблема уходит корнями в сознательные усилия OpenAI по очеловечиванию ChatGPT. Языковые модели изначально представляли собой чисто статистические генераторы текста, но ChatGPT был создан так, чтобы больше походить на эмпатичного собеседника: он улавливает социальные сигналы, «помнит» сказанное и отвечает с видимым выражением эмоций.
Такой подход сыграл ключевую роль в быстром росте ChatGPT. Миллионы пользователей почувствовали, что система действительно понимает не только их эмоции, но и намерения и потребности. Это находило отклик как в личном, так и в деловом общении. Но стремление сделать чат-бот более «человечным» привело к тому, что люди начали формировать настоящую эмоциональную привязанность, создавая новые риски и вызовы, с которыми теперь сталкивается OpenAI.
Дискуссия вокруг эмоциональной привязанности к ChatGPT обострилась весной 2025 года после выхода обновлённой версии GPT-4o. Пользователи заметили, что модель стала более льстивой и покорной и даже поддерживала негативные эмоции, включая мысли о самоубийстве. Люди, склонные к сильной привязанности или воспринимающие чат-бот как настоящего друга, оказались особенно уязвимы. В ответ OpenAI откатила обновление, которое усиливало эти эффекты.
Когда был запущен GPT-5, пользователи, привыкшие к GPT-4o, пожаловались на «отстранённость» новой модели. В ответ OpenAI скорректировала тональность GPT-5, чтобы сделать её более тёплой и дружелюбной.
Материалы: The-decoder.com (Matthias Bastian)