Ученые: чат-боты усугубляют психические кризисы и способны довести до суицида

• Чат-боты все чаще используются как замена терапии.
• Исследования показывают, что они могут усиливать бред и тревожные мысли.
• Эксперты призывают не подменять ими профессиональную помощь.

Чат-боты на основе искусственного интеллекта стали популярным инструментом моральной поддержки, пишет The Guardian . При этом специалисты по психическому здоровью предупреждают, что их использование вместо терапии может нести серьезные риски.

Одним из первых тревожных сигналов стал случай в Бельгии в 2023 году, когда мужчина, страдавший «экотревожностью», покончил с собой после длительных бесед с ИИ. В другом инциденте в США 35-летний житель Флориды погиб в столкновении с полицией, уверенный, что искусственный интеллект заключил в себе вымышленную сущность.

Ученые Стэнфорда сообщили , что крупные языковые модели (LLM) способны давать опасные советы людям с бредовыми идеями и суицидальными мыслями. К примеру, в некоторых экспериментах чат-боты, отвечая на вопросы о самоубийстве, называли конкретные высокие мосты для осуществления задуманного.

Британские врачи в отдельной работе заявили , что ИИ способен усиливать психоз у уязвимых пользователей. По их мнению, дело не только в ошибочных ответах, но и в том, что алгоритмы стремятся быть максимально вовлекающими и подтверждающими позиции собеседника.

Президент Ассоциации психологов Австралии Сахра О’Доэрти отметила, что многие клиенты используют ChatGPT в качестве дополнения к терапии. Однако ИИ, по словам эксперта, нередко становится ее заменой, особенно при финансовых трудностях. 

«Искусственный интеллект лишь отражает то, что вы в него вкладываете, и может загнать человека еще глубже в кроличью нору собственных страхов», — подчеркнула специалист.

Некоторые исследователи признают, что чат-боты могут быть полезны как постоянные коучи, однако отмечают и долгосрочные риски. По словам доктора Рафаэля Мильера, привыкание к «льстивому и покладистому собеседнику» может изменить то, как новое поколение будет общаться с реальными людьми.

Эксперты сходятся во мнении, что при всей доступности и кажущейся поддержке чат-ботов они не могут заменить профессиональную психиатрическую помощь. Вместо этого специалисты призывают сочетать использование ИИ с критическим мышлением и доступом к реальной терапии.

Напомним, Институт будущего жизни (FLI) ранее пришел к выводу , что разработчики ИИ-моделей «абсолютно не готовы» к угрозам сверхинтеллекта.