Пациентка утратила доверие к психотерапевту из-за записи сеансов с помощью ИИ

Доверие между пациентом и психотерапевтом является основой эффективных сеансов психотерапии, поскольку искренность и открытость невозможны без чувства безопасности. Однако 31-летняя Моли Куин испытала шок, когда обнаружила, что её психотерапевт начал записывать их разговоры с помощью инструмента, основанного на искусственном интеллекте, сообщает NPR.

Куин заметила изменение в поведении терапевта во время одной из сессий: вместо привычного ведения заметок специалист держал перед собой iPad, что вызвало у неё подозрения, как сообщает futurism.

Эта ситуация вызвала у пациентки вопросы о том, как обрабатываются её личные данные, где они хранятся и не используются ли они для обучения систем искусственного интеллекта. Она отметила, что такие опасения обычно не возникают у пациентов при традиционном ведении заметок, но в данном случае стали причиной серьёзного беспокойства.

«Чем больше я об этом думаю, тем сильнее меня тошнит. Человек, которому я доверяла и с которым делилась своими глубокими чувствами, полностью проигнорировал моё недовольство. Я почувствовала грубое нарушение своей приватности», — рассказала Куин. Несмотря на предложение терапевта прекратить использование инструмента ИИ, она решила завершить терапию и найти другого специалиста, поскольку доверие между ними было полностью утрачено.

Использование искусственного интеллекта в психотерапии становится всё более распространённым явлением. Во многих странах терапевты применяют ИИ-инструменты для ведения заметок и составления текстов, а разработчики таких технологий утверждают, что это снижает административную нагрузку и позволяет уделять больше времени пациентам.

Тем не менее, надёжность этих инструментов вызывает сомнения. Помимо проблем с утечками так называемых «галлюцинаций» в медицинские записи, остаётся неясным, насколько пациенты готовы принимать ИИ в сфере психиатрической помощи.

Согласно опросу YouGov, приведённому NPR, лишь 11% американцев положительно относятся к использованию искусственного интеллекта в психиатрии, а доверие к таким технологиям выразили только 8%. При этом 40% респондентов заявили, что не доверяют им вовсе.

Марисса, специалист по терапии пар из Нью-Йорка, отметила, что присутствие ИИ в терапевтической сессии меняет саму природу процесса. Пациенты осознают или интуитивно чувствуют, что с ними «слушает» ещё одна сторона, что может повлиять на степень откровенности в выражении чувств и мыслей.

Кроме того, хранение информации в электронном виде вызывает дополнительные вопросы о безопасности и доверии, поскольку технология становится третьей стороной в терапевтических отношениях.

Тал Салман, генеральный директор платформы «Берез», популярного ИИ-сервиса для записи голосовых заметок психотерапевтов, утверждает, что записи разговоров удаляются сразу после сеанса, а тексты сохраняются на серверах, соответствующих требованиям закона HIPAA в США.

Несмотря на эти гарантии, Куин считает, что компании, работающие с ИИ, ещё не заслужили доверия пациентов. Она опасается, что записи могут быть взломаны хакерами в будущем.

«Нарушения безопасности произойдут — возможно, не завтра и не на следующей неделе, но в ближайшие годы. Я не хочу, чтобы мои терапевтические сессии стали частью таких инцидентов», — подчеркнула она.