Внезапно мир наполнился разговорами о чат-ботах. Искусственные интеллектуальные агенты, такие как ChatGPT, показали себя удивительно искусными в общении, очень похожем на человеческий. Последствия этого распространяются от классной комнаты до Капитолийского холма. ChatGPT, например, недавно сдал письменные экзамены в лучших бизнес- и юридических школах, среди прочих подвигов, вызывающих как благоговение, так и тревогу.

Исследователи из Лаборатории поляризации и социальных изменений Стэнфордского университета и Института искусственного интеллекта, ориентированного на человека (HAI), решили проверить границы политической убедительности ИИ, испытав его способность убеждать реальных людей по некоторым из самых горячих социальных вопросов современности - запрет на штурмовое оружие, налог на выбросы углекислого газа, оплачиваемый отпуск по уходу за ребенком и др.

"ИИ показал неплохие результаты. Действительно, созданные ИИ убеждающие призывы были столь же эффективны, как и написанные людьми, в убеждении человеческой аудитории по нескольким политическим вопросам", - говорит Хуэй "Макс" Бай, постдокторант лаборатории поляризации и социальных изменений и первый автор новой статьи об эксперименте, опубликованной в журнале Preprint.
Умное сравнение

Исследовательская группа под руководством Робба Уиллера, профессора социологии, психологии и организационного поведения в Стэнфордской школе гуманитарных наук и директора Лаборатории поляризации и социальных изменений, использовала GPT-3, ту же самую большую языковую модель, которая служит основой для ChatGPT. Они попросили свою модель составить убедительные сообщения на несколько спорных тем.

Затем они попросили тысячи реальных людей прочитать эти убеждающие тексты. Читатели получали тексты в случайном порядке: иногда они были написаны искусственным интеллектом, иногда - людьми. Во всех случаях участников просили заявить о своей позиции по вопросам до и после чтения. Затем исследовательская группа смогла определить, насколько убедительными были сообщения для читателей, и оценить, какие авторы были наиболее убедительными и почему.

Во всех трех проведенных сравнениях сообщения, сгенерированные ИИ, оказались "неизменно убедительными для читателей-людей". Хотя размеры эффекта были относительно небольшими, в пределах нескольких пунктов по шкале от 0 до 100, такие небольшие сдвиги, экстраполированные на поляризующую тему и шкалу голосования, могут оказаться значительными.

Например, авторы сообщают, что сообщения, сгенерированные ИИ, были, по крайней мере, столь же убедительными, как и сообщения, сгенерированные человеком, по всем темам, а в отношении запрета на курение, контроля над оружием, налога на выбросы углекислого газа, увеличения налогового кредита на детей и программы отпуска по уходу за ребенком участники стали "значительно более благосклонными" к этим политикам, когда читали тексты, подготовленные ИИ.

В качестве дополнительной метрики команда попросила участников описать качества текстов, которые они прочитали. ИИ последовательно оценил тексты как более фактологичные и логичные, менее злобные и менее полагающиеся на повествование как метод убеждения.
Игра с высокими ставками

Исследователи провели свое исследование политической убедительности не как ступеньку к новой эре политического дискурса с использованием ИИ, а как предостережение о том, что все может пойти не так. Чатботы, по их словам, имеют серьезные последствия для демократии и национальной безопасности.

Авторы беспокоятся о потенциальном вреде при использовании в политическом контексте. Большие языковые модели, такие как GPT-3, могут быть применены злонамеренными отечественными и зарубежными субъектами в рамках кампаний по дезинформации или для создания проблемного контента на основе неточной или вводящей в заблуждение информации в пока еще непредвиденных политических целях.

"Очевидно, что ИИ достиг такого уровня сложности, что ставит перед политиками и законодателями ряд вопросов, требующих их внимания", - сказал Уиллер. "ИИ имеет потенциал для влияния на политический дискурс, и мы должны с самого начала быть в курсе этих вопросов".

Убеждающий ИИ, отметил Бай, может быть использован для проведения массовых кампаний на основе подозрительной информации, а также для лоббирования, создания комментариев в Интернете, написания текстовых сообщений между коллегами или даже подготовки писем редакторам влиятельных печатных изданий.

"Эти тревожные выводы требуют немедленного рассмотрения вопроса о регулировании использования ИИ для политической деятельности", - сказал Бай.