В недавнем интервью телеканалу Al Jazeera Генеральный секретарь ООН Антонио Гутерриш предупредил, что искусственному интеллекту нельзя позволять принимать решения, от которых зависит жизнь или смерть, и заявил, что автономные «роботы-убийцы» должны быть запрещены.
Назвав подобные технологии «политически неприемлемыми и морально отвратительными», глава ООН вновь призвал к глобальному запрету на смертоносные автономные системы вооружения — машины, способные отнимать человеческие жизни без человеческого контроля.
«Машины, обладающие властью и правом отнимать человеческие жизни без участия человека, должны быть запрещены международным правом», — заявил Гутерриш.
В этом отношении генеральный секретарь ООН Антониу Гутерриш прямо повторяет опасения Папы Льва XIV в Magnifica Humanitas.
Чтобы проиллюстрировать свою точку зрения, Гутерриш вспомнил удивительную историю Станислава Петрова, советского офицера, который, возможно, спас мир в 1983 году.
В один из напряженных моментов холодной войны советские системы раннего предупреждения сообщили о запуске Соединенными Штатами ядерных ракет. Протокол требовал от Петрова немедленно передать предупреждение — шаг, который мог спровоцировать разрушительный ядерный ответный удар.
Однако Петров колебался.
Он заметил, что предупреждение не имело смысла. Почему реальная ядерная атака должна включать лишь горстку ракет, а не сотни? Доверившись человеческому суждению, а не данным, сгенерированным машиной, он пришел к выводу, что тревога была ложной. И он оказался прав. Спутниковая система ошибочно приняла солнечный свет, отражающийся от облаков, за приближающиеся ракеты. Если бы Петров просто последовал выводу машины, мир мог бы столкнуться с ядерной катастрофой.
Эта история преподносит глубокий урок. Машины умеют вычислять, но не могут сомневаться. Они могут обрабатывать сигналы, но не могут проявлять осмотрительность. Они могут выполнять инструкции, но не могут нести ответственность. Человек может сделать паузу. Машина — нет.
Предложение двух мировых лидеров
Именно это беспокойство разделяют и Папа Лев XIV, и Антонио Гутерриш. Когда речь идет о человеческих жизнях, для принятия решения требуется нечто большее, чем просто данные. Необходимы мудрость, совесть, сочувствие и моральная ответственность.
Вместо простой критики Гутерриш всегда предлагает альтернативное моральное видение, основанное на дипломатии, диалоге и многостороннем сотрудничестве.
Аналогичным образом Папа Лев XIV неоднократно настаивал на том, что мир — это не пассивный идеализм, а дисциплинированная моральная работа, требующая мужества и общей ответственности.
В своей энциклике он также призывает к «разоружению» искусственного интеллекта от систем господства и ведения войны. Его предложения могут повлиять на будущие дискуссии по контролю над вооружениями, международному праву и управлению ИИ, особенно в отношении летального автономного оружия.
Однако сегодня человечество сталкивается с возможностью делегирования этих решений алгоритмам, которые не понимают и не ценят людей, на которых они влияют.
Начиная с призыва Павла VI перед Организацией Объединенных Наций: «Нет войне, войны никогда больше!», и заканчивая предупреждением Льва XIV о том, что сама концепция справедливой войны становится неадекватной, траектория развития Церкви становится все более ясной. Бремя доказывания решительно сместилось от войны к миру.
Главное предостережение заключается в следующем: человечество не может подчинить свою совесть машинам или позволить технологической мощи затмить моральную ответственность. В эпоху, когда война становится все более автоматизированной и психологически отстраненной, и Гутерриш, и Папа Лев XIV настаивают на том, что в центре истории должна оставаться личность человека, а не алгоритм.
Сейчас необходимы не более эффективные способы ведения войны, а более смелая приверженность миру.
Автор: Доктор Хосе Марио Баутиста Максимиано является главным координатором международного движения «Люби нашего Папу» (LOPM). Хосе Марио Баутиста Максимиано, проживающий в столице Филиппин Маниле, — католический ученый, общественный деятель и колумнист. Он является автором трехтомного труда «Хронологические и тематические эссе: 500 лет христианства на Филиппинах».
Фото: Cтанислав Петров