Крістофер Олах майже відмовився від виступу у Ватикані через позицію папи Льва XIV щодо ШІ

Ризик бойкоту: реакція керівництва Anthropic на текст енцикліки

Співзасновник компанії Anthropic Крістофер Олах розглядав можливість повної відмови від участі у заході у Ватикані. Ця ініціатива виникла після ознайомлення з офіційним документом, у якому папа римський Лев XIV категорично відкинув ідею наявності свідомості у штучного інтелекту. Про ці події повідомляє The New York Times.

У травні Олаха запросили виступити на презентації енцикліки Magnifica Humanitas. Енцикліка є офіційним папським документом, де понтифік викладає свою позицію щодо ключових релігійних і суспільних питань. Значна частина тексту була присвячена саме темі штучного інтелекту. За кілька днів до заходу всі виступаючі отримали повний текст промови. У ній Лев XIV наголосив, що штучний інтелект не має власного досвіду й тіла, не відчуває радості чи болю і не розвивається через стосунки з іншими.

Переконання радників понтифіка та фінальне рішення

За даними видання, позиція папи настільки стурбувала Олаха, що він запропонував Anthropic відмовитися від участі в заході, попри те що до нього залишалося лише кілька днів. Джерело The New York Times серед організаторів у Ватикані підтвердило, що причиною стала саме жорстка позиція понтифіка щодо ШІ.

Урешті Anthropic вирішила все ж узяти участь у заході. Після приїзду делегації до Ватикану Олах і його команда в приватних розмовах переконували радників папи серйозно поставитися до можливості того, що ШІ-моделі можуть мати свідомість.

Аргументи науковців проти папської позиції

Під час публічного виступу Олах фактично посперечався з позицією папи. Він заявив, що дослідники виявляють у ШІ-моделях структури, схожі на результати досліджень людського мозку, ознаки інтроспекції, а також внутрішні стани, які функціонально нагадують радість, задоволення, страх, горе та тривогу.

Водночас Anthropic офіційно не стверджує, що Claude має свідомість. Сам Олах сказав The New York Times, що не знає, чи свідомі сучасні ШІ-моделі, і «дійсно не впевнений». За його словами, для нього важливо не заздалегідь прийняти одну з позицій, а в підсумку отримати правильну відповідь на це питання.

Залучення релігійних мислителів до обговорення етики ШІ

За даними видання, з осені минулого року Олах почав залучати релігійних мислителів різних конфесій до закритих зустрічей. Як пише The New York Times, у цих розмовах є дві основні мети: обговорити можливість існування свідомості у ШІ та зрозуміти, як накопичені релігіями уявлення про мораль можна використовувати під час навчання Claude.

Деякі учасники цих зустрічей розповідали, що співробітники Anthropic говорили не лише про безпеку людей, а й про благополуччя самого Claude. Один із учасників згадував, що Олах говорив про занепокоєння за «ментальне здоров’я» моделі, інший — що співзасновник Anthropic побоювався, що він міг створити щось, здатне постійно страждати.