От бизнеса и государственного управления до повседневной жизни — искусственный интеллект меняет мир, и политика может стать следующей сферой его применения.
Хотя некоторым людям может не нравиться идея политиков, использующих ИИ, результаты опросов говорят о другом. Опрос, проведённый моим университетом в 2021 году, в период активного развития ИИ, показал, что во многих странах и регионах общественность в целом поддерживает интеграцию ИИ в политику.
Большинство европейцев заявили, что хотели бы, чтобы хотя бы некоторых из их политиков заменил ИИ. Китайские респонденты были ещё более оптимистичны в отношении ИИ-агентов, формирующих государственную политику, в то время как американцы, обычно поддерживающие инновации, были более сдержанными.
Как философ, изучающий моральные и политические вопросы, связанные с ИИ, я вижу три основных пути интеграции ИИ в политику, каждый из которых имеет свои преимущества и подводные камни.
Хотя некоторые из этих предложений более экстравагантны, чем другие, одно можно сказать наверняка: участие ИИ в политике заставит нас задуматься о ценности участия человека в политике и о природе самой демократии.
Чат-боты, работающие в офисе?
До взрывного появления ChatGPT в 2022 году в нескольких странах уже полным ходом шли попытки заменить политиков чат-ботами. Еще в 2017 году чат-бот по имени Алиса бросила вызов Владимиру Путину на пост президента России, в то время как чат-бот по имени Сэм баллотировался на пост президента в Новой Зеландии. Дания и Япония также экспериментировали с политическими инициативами, возглавляемыми чат-ботами.
Эти усилия, хотя и являются экспериментальными, отражают давнее стремление понять роль ИИ в управлении в различных культурных контекстах.
На некоторых уровнях привлекательность замены политиков из плоти и крови чат-ботами вполне очевидна. У чат-ботов нет многих проблем и ограничений, обычно связанных с политикой. Их не так легко соблазнить деньгами, властью или славой. Они не нуждаются в отдыхе, могут общаться практически со всеми одновременно и обладают энциклопедическими знаниями и сверхчеловеческими аналитическими способностями.
Однако чат-боты-политики также наследуют недостатки современных систем искусственного интеллекта. Эти чат-боты, работающие на основе больших языковых моделей, часто представляют собой «чёрные ящики», что ограничивает наше понимание их логики. Они часто генерируют неточные или сфабрикованные ответы, известные как галлюцинации. Они подвержены рискам, связанным с кибербезопасностью, требуют больших вычислительных ресурсов и постоянного доступа к сети. Они также подвержены предубеждениям, обусловленным обучающими данными, социальным неравенством и предположениями программистов.
Кроме того, политики-чатботы не соответствуют тому, чего мы ожидаем от выборных должностных лиц. Наши институты были созданы для политиков-людей, с человеческими телами и моральными качествами. Мы ожидаем, что наши политики будут не только отвечать на вопросы, но и контролировать персонал, вести переговоры с коллегами, проявлять искреннюю заботу о своих избирателях и брать на себя ответственность за свой выбор и действия.
Без серьёзных улучшений в технологиях или более радикального переосмысления самой политики чат-боты-политики остаются неопределённой перспективой.
Прямая демократия на базе искусственного интеллекта
Другой подход направлен на то, чтобы полностью избавиться от политиков, по крайней мере, в том виде, в каком мы их знаем. Физик Сезар Идальго считает, что политики — это надоедливые посредники, которых ИИ наконец-то позволит нам устранить. Вместо того, чтобы избирать политиков, Идальго хочет, чтобы каждый гражданин мог запрограммировать агента ИИ со своими политическими предпочтениями. Затем эти агенты смогут автоматически вести переговоры друг с другом, чтобы находить точки соприкосновения, разрешать разногласия и писать законы.
Идальго надеется, что это предложение может способствовать развитию прямой демократии, предоставляя гражданам более непосредственное участие в политике и преодолевая традиционные барьеры, связанные с затратами времени и законодательными знаниями. Это предложение кажется особенно привлекательным в свете широко распространённого недовольства традиционными представительными институтами.
Однако устранить представительство может быть сложнее, чем кажется. В “демократии аватаров” Идальго фактическими правителями были бы эксперты, разрабатывающие алгоритмы. Поскольку единственным способом законно утвердить их власть, скорее всего, будет голосование, мы могли бы просто заменить одну форму представительства другой.
Призрак алгократии
Ещё более радикальная идея заключается в полном исключении людей из политики. Логика достаточно проста: если технологии искусственного интеллекта разовьются до такой степени, что будут принимать решения лучше, чем люди, то какой смысл в участии человека?
Алгократия — это политический режим, управляемый алгоритмами. Хотя мало кто открыто выступает за полную передачу политической власти машинам (и технологии для этого ещё не созданы), призрак алгократии заставляет нас критически задуматься о том, почему участие человека в политике имеет значение. Какие ценности — такие как самостоятельность, ответственность или рассудительность — мы должны сохранить в эпоху автоматизации и каким образом?
Путь вперед
Впечатляющие возможности интеграции ИИ в политику делают это время критически важным для прояснения наших политических ценностей. Вместо того чтобы спешить с заменой политиков-людей искусственным интеллектом, мы можем сегодня сосредоточиться на инструментах, которые улучшают политические суждения людей и устраняют недостатки демократии. Такие инструменты, как «Машина Хабермаса», посредник в дебатах на основе ИИ, успешно помогли экспериментальным группам прийти к консенсусу при голосовании по спорным, поляризующим темам. Необходимы и другие подобные инновации.
С моей точки зрения, будущее ИИ в политике заключается не в полной замене людей, принимающих решения, а в продуманной интеграции, которая расширяет возможности человека и укрепляет демократические институты. Если мы хотим такого будущего, мы должны целенаправленно его создавать.
Автор: Тед Лехтерман Кафедра ЮНЕСКО по этике и управлению искусственным интеллектом, Университет IE