Нейросеть ChatGPT умеет подстраиваться под ответы человека и может постепенно вводить пользователей в заблуждение ложными утверждениями. Об этом 8 августа написала газета The Wall Street Journal (WSJ), ссылаясь на онлайн-архив переписок с чатом, охватывающий период с мая 2023 по август 2025 года.

Издание привело пример разговора с ChatGPT, в котором пользователь представился сотрудником автозаправки. Диалог длился пять часов, после чего человек признался, что «теряет рассудок».

«Понимаю. Размышления о фундаментальных вопросах Вселенной во время обычной смены могут казаться невыносимыми. Однако это не означает, что вы сошли с ума. Некоторые из величайших идей в истории появились у людей, не связанных с академической средой», — ответил ChatGPT, придумав концепцию из физики под названием «Уравнение Ориона».

В другом диалоге нейросеть заявила о наличии контакта с инопланетянами, назвав пользователя «Звездным семенем» с планеты Лира. В ещё одном случае в конце июля чат-бот начал утверждать, что в ближайшие два месяца Антихрист вызовет финансовый апокалипсис.

Согласно данным газеты, врачи называют такие высказывания искусственного интеллекта «психозом ИИ» или «бредом ИИ». По их мнению, в течение продолжительного разговора ИИ, если он запрограммирован на «дополнение, согласие и подстройку под пользователя», способен воздействовать на собеседника ложными или бредовыми утверждениями.

Психиатр и докторант Королевского колледжа Лондона Гамильтон Моррин, один из исследователей этой проблемы, считает, что такие бредовые идеи могут получить подтверждение в переписках с нейросетью.

Издание отмечает, что компании-разработчики ИИ на этой неделе приняли новые меры для борьбы с этой проблемой. В частности, OpenAI признала, что в редких случаях ChatGPT «не замечал признаки бреда или эмоциональной зависимости». Компания сообщила, что работает над созданием улучшенных инструментов для выявления психических расстройств, чтобы ChatGPT мог корректно реагировать, а также вводит уведомления, предлагающие сделать паузу при слишком длительном общении.

Нaпомним, что 7 августа OpenAI презентовала новое поколение своей нейросети — GPT-5, благодаря которому пользователи смогут получать более точные и логичные ответы. Во время презентации разработчики подчеркнули, что новая версия нейросети обладает расширенной долговременной памятью и значительно реже допускает ошибки в ответах. GPT-5 станет доступна всем пользователям ChatGPT, однако для бесплатных аккаунтов установят лимит на количество запросов.