Лев XIV предупреждает о слишком быстром и безрассудном развитии искусственного интеллекта. На его стороне соучредитель Anthropic. Представители других ИИ-компаний также, как сообщает Spiegel, встретились с Папой.
Данный материал основывается на переводе публикации зарубежного СМИ и не отражает позицию редакции проекта Финансы Mail
В материале сообщается, что Папа Лев XIV в своем первом крупном вероучительном послании потребовал усилить регулирование искусственного интеллекта (ИИ) и замедлить развитие систем, управляемых ИИ. В опубликованной в понедельник энциклике «Magnifica Humanitas», что переводится как «возвышенная» или «великая человечность», Папа предупреждает, что технология ИИ распространяет дезинформацию и может ввергнуть мир в бесконечные войны.
Необходимо более активное политическое участие, чтобы замедлить ход событий, когда все ускоряется, говорит он. Лев XIV также требует установления строгих этических границ для использования ИИ в военных целях и особенно в дистанционной войне. Он подчеркнул, что недопустимо позволять машинам принимать решения о жизни и смерти. Этой позицией Лев XIV, родившийся в США, отличается от администрации Трампа. Последняя выступает за дерегулирование в развитии ИИ, но имеет с Папой и другие разногласия.
«Искусственный интеллект должен быть обезоружен, освобожден от логик, которые превращают его в инструмент господства, исключения и смерти», — заявил Лев XIV во время презентации энциклики в Ватикане.
В своем труде Папа неоднократно осуждает концентрацию власти и данных в руках немногих людей в частном секторе как опасность. Он потребовал внешнего регулирования их работы. «Недостаточно абстрактно ссылаться на этику. Необходимы прочные правовые рамки, независимый надзор, информированные пользователи и политическая система, которая не отказывается от своей ответственности», — заявил Лев XIV. «Более моральный ИИ недостаточен, если эта мораль определяется немногими».
К разработчикам ИИ и ответственным за регулирование ИИ политическим лицам, принимающим решения, Папа обращается с призывом сбавить темп и подумать о своих действиях. Он настоятельно призывает их ориентироваться на этические и духовные принципы и работать не ради собственной прибыли или власти, а на благо человечества.
На презентации энциклики также выступил Кристофер Ола. Он является соучредителем ИИ-компании Anthropic, которая в настоящее время находится в правовом споре с администрацией Трампа о доступе к ее ИИ-технологии и ее использовании для массовой слежки или для полностью автономного оружия.
Ола приветствовал критику и обеспокоенность Папы, а также его призыв к внешнему контролю, особенно учитывая, что существует «реальная возможность» того, что «ИИ вытеснит человеческую рабочую силу в очень большом масштабе». Технологические концерны находятся под сильным коммерческим и геополитическим давлением. Оно может противоречить интересам общества. Поэтому внешний контроль абсолютно необходим.
«Нам нужно больше действующих лиц по всему миру — религиозные сообщества, гражданское общество, ученые, правительства — которые делают то, что Его Святейшество сделал здесь: серьезно относятся к ситуации, внимательно смотрят и направляют события в лучшую сторону», — сказал Ола. «Нам нужны моральные голоса, которые не поддаются стимулам».
Соучредитель Anthropic назвал три области, требующие срочного внимания: риск массовой потери рабочих мест, справедливое распределение преимуществ ИИ по всему миру, а также нерешенный вопрос о том, как интерпретировать все более сложное поведение систем.
Ола — один из семи соучредителей Anthropic, американской ИИ-компании, которая сделала тему безопасности центральной частью своего публичного профиля. Все семеро ранее работали в OpenAI и покинули компанию, в том числе из-за опасений по поводу слишком быстрого развития ИИ с недостаточным тестированием.
На мероприятии в Ватикане Ола был единственным представителем крупных технологических концернов. Как сообщает «Politico», Папа Лев XIV уже встречался в конце апреля, то есть перед публикацией энциклики, с представителями Amazon, Meta* и Google. OpenAI, компания, стоящая за ChatGPT, не была упомянута. Как и некоторые другие технологические руководители, глава OpenAI Сэм Альтман пока не высказался публично о вероучительном послании Папы.
Некоторые эксперты заявили, что «Magnifica Humanitas» может служить ориентиром для политических деятелей, исследователей и широкой общественности. «Я убежден, что этот документ окажется путеводным для нашего времени, как глубокий и пророческий документ», — сказал Паоло Кароцца, профессор права в юридической школе Нотр-Дама и председатель наблюдательного совета Meta. «Папа Лев говорит ясным, всеобъемлющим и последовательным голосом и призывает нас взять на себя ответственность за формирование мира, в котором технология служит человеку, а не унижает его», — сказал он.
Тейлор Блэк, менеджер по ИИ в Microsoft и директор Института ИИ Католического университета Америки, сказал, что документ заставит людей «на вершине этих технологий» задавать себе такие вопросы, как: «Что значит быть человеком?»
Первое вероучительное послание в период правления нового Папы во многом считается своего рода правительственной декларацией его понтификата, оно должно дать верующим во всем мире моральный компас.
Влияние ИИ на человечество является центральной темой для Льва XIV. Он выбрал свое папское имя в связи с промышленной революцией, в ходе которой его предшественник по имени, Папа Лев XIII, опубликовал энциклику «Rerum novarum» о защите рабочих перед лицом технологического прогресса. Ровно 135 лет спустя, 15 мая, Папа Лев XIV подписал свою первую энциклику.
Как преемник покойного Папы Франциска, Папа Лев XIV занимает свою должность с мая прошлого года. Он первый американец во главе мировой католической церкви.
*Компания Meta признана в России экстремистской и запрещена
Декларация: как правильно отчитаться перед государствомВсе компании, а в отдельных случаях и граждане обязаны ежегодно сдавать декларацию. Нарушение этого требования грозит крупным штрафом. В этой статье мы расскажем, каким бывает этот документ и как правильно его заполнить.