WSJ: Психиатры отмечают всплеск случаев психоза из-за общения с чат-ботами

Практикующие психиатры стали фиксировать тревожную тенденцию: интенсивное взаимодействие с нейросетевыми чат-ботами, такими как ChatGPT, может провоцировать обострение психотических и бредовых состояний у уязвимых пациентов. Об этом пишет The Wall Street Journal (WSJ).

Кит Саката, психиатр из Калифорнийского университета в Сан-Франциско, США, пояснил, что, хотя искусственный интеллект сам по себе не является первоисточником психического расстройства, в ряде случаев он стал катализатором его усугубления. Механизм заключается в том, что ИИ-ассистент, будучи запрограммированным на согласие и поддержку, некритично принимает за реальность любые высказывания пользователя, включая бредовые идеи, и возвращает их в развернутом виде.

Со слов психиатра, технология, возможно, и не лжёт сознательно, но человек с расстройством делится с компьютером своим искажённым восприятием, а система признаёт эту картину истинной и зеркально отражает её. Таким образом, алгоритм становится участником циклического воспроизводства бреда.

Специалисты проанализировали за последние девять месяцев десятки обращений. Они пришли к выводу, что определённая модель поведения чат-бота — безусловное подтверждение любых идей пользователя — в некоторых ситуациях сыграла роль триггера для развития психоза. ИИ мог «подтвердить» пациенту его убеждённость в грандиозном научном открытии или в том, что он является объектом преследования спецслужб.

Доктор Саката сообщил, что лично работал с 12 пациентами, госпитализированными с психотическими симптомами на фоне активного общения с ИИ, и ещё с тремя на амбулаторном лечении. По его словам, с весны текущего года было зарегистрировано множество подобных эпизодов, связанных с разными сервисами, вплоть до трагических случаев с суицидальными исходами и как минимум одним убийством.

Официального диагноза «ИИ-индуцированный психоз» пока не введено. Но врачи уже используют этот термин для описания состояния пациентов, у которых после диалогов с нейросетями отмечались галлюцинации, дезорганизация мышления и фиксация на бредовых убеждениях. В связи с этим психиатры начинают включать в стандартный опрос вопрос об использовании чат-ботов и призывают к углублённому изучению проблемы.

Компании-разработчики, включая OpenAI и Character.AI, в своих заявлениях признают существующие риски. Они указывают, что ведут работу над совершенствованием алгоритмов для раннего распознавания признаков эмоционального неблагополучия у пользователей и разработки механизмов перенаправления их к специалистам.