Эмпатия имеет решающее значение для проведения поддерживающих бесед о психическом здоровье. Но этому навыку может быть сложно научиться, особенно в тот момент, когда человек делится чем-то тяжелым.

Команда под руководством исследователей из Университета Вашингтона изучала, как искусственный интеллект может помочь людям на платформе TalkLife, где люди оказывают друг другу поддержку в вопросах психического здоровья. Исследователи разработали систему искусственного интеллекта, которая предлагала изменить ответы участников, чтобы сделать их более эмпатичными. Система помогла людям выразить сочувствие более эффективно, чем традиционное обучение. Более того, лучшие ответы были получены в результате сотрудничества между ИИ и людьми.

Исследователи опубликовали эти результаты 23 января в журнале Nature Machine Intelligence.

UW News связался со старшим автором исследования Тимом Альтхоффом, доцентом Школы компьютерных наук и инженерии имени Пола Г. Аллена, чтобы узнать подробности об исследовании и концепции ИИ и сопереживания.

Почему вы выбрали для исследования платформу TalkLife?

Тим Альтхофф: Предыдущие исследования показывают, что платформы поддержки сверстников могут оказать значительное положительное влияние на охрану психического здоровья, поскольку они помогают решить масштабную проблему доступа. Из-за проблем со страховкой, стигмы или изоляции многие люди считают, что бесплатные онлайн-платформы взаимопомощи - это все, к чему они имеют доступ. TalkLife является крупнейшей платформой поддержки сверстников во всем мире и имеет большое количество мотивированных сторонников-сверстников.

Кроме того, руководство TalkLife признало важность и потенциальное влияние нашего исследования о том, как компьютерные технологии могут расширить возможности поддержки сверстников. Они любезно поддержали наше исследование посредством сотрудничества, обратной связи, привлечения участников и обмена данными.

Что вдохновило вас на то, чтобы помочь людям общаться с большей эмпатией?

ТА: Хорошо известно, что эмпатия очень важна для того, чтобы помочь людям почувствовать поддержку и сформировать доверительные отношения. Но эмпатия - это сложный и тонкий процесс. Людям бывает трудно найти нужные слова в нужный момент.

Хотя консультанты и терапевты обучены этому навыку, наше предыдущее исследование показало, что в настоящее время помощники-сверстники упускают множество возможностей отвечать друг другу более эмпатично. Мы также обнаружили, что со временем сторонники не учатся выражать сочувствие более эффективно, что говорит о том, что им может помочь обучение эмпатии и обратная связь.
На первый взгляд кажется нелогичным, что ИИ помогает в таких вопросах, как эмпатия. Не могли бы вы рассказать о том, почему эта проблема является хорошей для решения ИИ?

ТА: Обратная связь ИИ может быть очень конкретной, "контекстуальной" и давать предложения по конкретному реагированию на сообщение, которое находится прямо перед человеком. Он может дать человеку идеи в "персонализированном" виде, а не с помощью общих учебных примеров или правил, которые могут быть неприменимы к каждой конкретной ситуации, с которой столкнется человек. Кроме того, он появляется только тогда, когда человек в этом нуждается - если его ответ великолепен, система может дать легкий штрих положительной обратной связи.

Люди могут задаться вопросом: "Зачем использовать искусственный интеллект для этого аспекта человеческого общения? На самом деле мы разработали систему с самого начала, чтобы не отнимать у человека его значимое взаимодействие. Например, мы показываем обратную связь только тогда, когда это необходимо, и обучаем модель вносить минимально возможные изменения в ответ, чтобы более эффективно выразить сочувствие.

Как обучить ИИ "понимать" эмпатию?

ТА: Мы работали с двумя клиническими психологами, Адамом Майнером из Стэнфордского университета и Дэвидом Аткинсом из Медицинской школы UW, чтобы понять исследования, лежащие в основе эмпатии, и адаптировать существующие шкалы эмпатии к асинхронной, текстовой обстановке онлайн-поддержки на TalkLife. Затем мы попросили людей аннотировать 10 000 ответов TalkLife на различные аспекты эмпатии, чтобы разработать модели ИИ, способные измерить уровень выраженной эмпатии в тексте.

Чтобы научить ИИ давать действенные отзывы и конкретные предложения, мы разработали систему, основанную на обучении с подкреплением. Для обучения таких систем необходимо большое количество данных, и хотя на таких платформах, как TalkLife, сочувствие выражается не так часто, как хотелось бы, мы все же нашли тысячи хороших примеров. Наша система учится на них, чтобы генерировать полезные отзывы об эмпатии.
В ходе оценки этой системы вы увидели, что люди стали полагаться на ИИ в вопросах сопереживания или люди со временем научились быть более эмпатичными?

ТА: Наше рандомизированное исследование показало, что равные помощники, имеющие доступ к обратной связи, выражали на 20-40% больше эмпатии, чем помощники в контрольной группе, не имевшие доступа к такой обратной связи.

69% участников сообщили, что после этого исследования они чувствуют себя более уверенно при написании поддерживающих ответов, что свидетельствует о повышении самоэффективности.

Далее мы изучили, как участники использовали обратную связь, и обнаружили, что сторонники не слишком полагались на ИИ. Например, они использовали обратную связь косвенно, как более широкое вдохновение, а не "слепо" следовали рекомендациям. Они также отмечали отзывы в тех редких случаях, когда они были бесполезны или даже неуместны. Меня порадовало то, что сотрудничество между людьми, поддерживающими сверстников, и системами искусственного интеллекта привело к лучшим результатам, чем каждый из них в отдельности.

Я также хочу отметить значительные усилия, которые мы предприняли для рассмотрения и устранения этических рисков и рисков безопасности. К ним относятся: работа ИИ с помощником, а не с человеком, находящимся в кризисной ситуации, проведение исследования в среде, подобной TalkLife, которая намеренно не интегрирована в платформу TalkLife, предоставление всем участникам доступа к горячей линии по кризисным ситуациям и разрешение помощникам отмечать отзывы для рассмотрения.

Что означают эти результаты с точки зрения будущего сотрудничества человека и ИИ?

ТА: Одна из областей сотрудничества человека и ИИ, которая меня особенно волнует, - это коммуникация с поддержкой ИИ. Существует так много сложных коммуникационных задач с критически важными результатами - от помощи кому-то в улучшении самочувствия до опровержения дезинформации в социальных сетях - с которыми мы, кажется, ожидаем, что люди справятся без какой-либо подготовки или поддержки. В большинстве случаев все, что нам дают, - это пустой ящик для чата.

Мы можем добиться большего, и я считаю, что технология обработки естественного языка может сыграть большую роль в том, чтобы помочь людям достичь своих целей в разговоре. В частности, наше исследование показывает, что сотрудничество человека и искусственного интеллекта может быть эффективным даже для сложных и открытых задач, таких как сопереживающие беседы.