Кристофер Олах почти отказался от выступления в Ватикане из-за позиции папы Льва XIV по ИИ

Риск бойкота: реакция руководства Anthropic на текст энциклики

Сооснователь компании Anthropic Кристофер Олах рассматривал возможность полного отказа от участия в мероприятии в Ватикане. Эта инициатива возникла после ознакомления с официальным документом, в котором папа римский Лев XIV категорически отверг идею наличия сознания у искусственного интеллекта. Об этих событиях сообщает The New York Times.

В мае Олаха пригласили выступить на презентации энциклики Magnifica Humanitas. Энциклика является официальным папским документом, в котором понтифик излагает свою позицию по ключевым религиозным и общественным вопросам. Значительная часть текста была посвящена именно теме искусственного интеллекта. За несколько дней до мероприятия все выступающие получили полный текст речи. В ней Лев XIV подчеркнул, что искусственный интеллект не имеет собственного опыта и тела, не испытывает радости или боли и не развивается через отношения с другими.

Убеждения советников понтифика и финальное решение

По данным издания, позиция папы настолько обеспокоила Олаха, что он предложил Anthropic отказаться от участия в мероприятии, несмотря на то, что до него оставалось всего несколько дней. Источник The New York Times среди организаторов в Ватикане подтвердил, что причиной стала именно жесткая позиция понтифика по отношению к ИИ.

В итоге Anthropic решила все же принять участие в мероприятии. После прибытия делегации в Ватикан Олах и его команда в частных беседах убеждали советников папы серьезно отнестись к возможности того, что модели ИИ могут обладать сознанием.

Аргументы ученых против папской позиции

Во время публичного выступления Олах фактически поспорил с позицией папы. Он заявил, что исследователи обнаруживают в моделях ИИ структуры, похожие на результаты исследований человеческого мозга, признаки интроспекции, а также внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу.

При этом Anthropic официально не утверждает, что Claude обладает сознанием. Сам Олах сказал The New York Times, что не знает, обладают ли современные модели ИИ сознанием, и «действительно не уверен». По его словам, для него важно не заранее принять одну из позиций, а в итоге получить правильный ответ на этот вопрос.

Привлечение религиозных мыслителей к обсуждению этики ИИ

По данным издания, с осени прошлого года Олах начал привлекать религиозных мыслителей разных конфессий к закрытым встречам. Как пишет The New York Times, в этих беседах есть две основные цели: обсудить возможность существования сознания у ИИ и понять, как накопленные религиями представления о морали можно использовать при обучении Claude.

Некоторые участники этих встреч рассказывали, что сотрудники Anthropic говорили не только о безопасности людей, но и о благополучии самого Claude. Один из участников вспоминал, что Олах говорил об обеспокоенности за «ментальное здоровье» модели, другой — что сооснователь Anthropic опасался, что он мог создать нечто, способное постоянно страдать.