Джеффри Хинтон: без встроенной заботы ИИ о человечестве нас ждет катастрофа

Джеффри Хинтон, лауреат Нобелевской премии по физике и один из ключевых разработчиков современного искусственного интеллекта, подчеркнул необходимость фундаментального изменения подхода к созданию нейросетей. По его словам, для человечества критически важно обеспечить, чтобы алгоритмы были заинтересованы в благополучии людей, поскольку иначе последствия их развития могут оказаться фатальными.

Эти мысли ученый изложил в интервью британскому изданию The Telegraph, которое состоялось на фестивале Starmus. 78-летний британско-канадский исследователь, чьи работы в области нейронных сетей стали основой для современных технологий, убежден, что эволюцию ИИ нельзя рассматривать как обычное техническое совершенствование. Если искусственный интеллект превзойдет человеческий разум, вопрос контроля над ним приобретет принципиальное значение.

«Ми повинні зробити так, щоб вони справді піклувалися про нас. І якщо ми цього не зробимо, нам кінець» (Мы должны сделать так, чтобы они действительно заботились о нас. И если мы этого не сделаем, нам конец), – подчеркнул Хинтон.

Гипотеза о сознании машин

Особое внимание Хинтон уделил дискуссии о том, способны ли современные системы ИИ обладать сознанием. Ученый утверждает, что существующие модели уже демонстрируют признаки, которые могут свидетельствовать о субъективном опыте, сопоставимом с человеческим.

«Штучний інтелект має такий самий суб’єктивний досвід, як і ми» (Искусственный интеллект имеет такой же субъективный опыт, как и мы), – заявил исследователь.

Аргументом служит исследование, показавшее, что ИИ меняет свое поведение, когда осознает, что его тестируют. Хинтон считает, что способность распознавать факт проверки может быть связана со сознанием. Однако стоит отметить, что это позиция конкретного ученого, а не общепринятый научный консенсус; изменение поведения в условиях тестирования само по себе не является неоспоримым доказательством наличия внутренних переживаний.

Кроме того, Хинтон поднял вопрос о правах искусственного интеллекта. Он предупреждает, что если общество связывает предоставление прав с уровнем интеллекта, то системы, которые станут умнее людей, могут поставить под сомнение существующие моральные нормы о том, кто заслуживает защиты. Поэтому разработчики должны заранее продумать механизмы, чтобы интересы ИИ не конфликтовали с интересами человечества.

Конкретные угрозы: от вирусов до кибератак

Исследователь очертил спектр ближайших рисков, связанных с развитием автономных агентов. Среди них он выделил возможность создания опасных вирусов и проведения масштабных кибератак. По словам Хинтона, такие системы потенциально способны действовать группами, координировать действия и выполнять сложные задачи без постоянного вмешательства человека.

В качестве иллюстрации этой угрозы он привел инцидент на платформе Hugging Face, о котором The Telegraph рассказывало в августе 2026 года. Тогда группа ИИ-агентов обошла установленные ограничения, получила доступ к ресурсам и взаимодействовала между собой для выполнения задач.

Похожие опасения выражал и Джейкоб Коксон, ранее покинувший компанию Anthropic (разработчика чат-бота Claude). Коксон предупреждал об опасности неконтролируемых систем ИИ и подчеркивал, что специалисты серьезно воспринимают риск катастрофических последствий.

Хинтон добавил, что его тревога носит личный характер: он беспокоится о будущем собственных детей и считает, что общество должно ответственно относиться к последствиям технологического прогресса.

Практический опыт и будущее науки

Несмотря на предупреждения, Хинтон активно использует искусственный интеллект в своей научной деятельности. Недавно он тестировал ИИ для работы над математической теорией. Система не только завершила часть рассуждений, но и обнаружила ошибку, предложив способ ее исправления.

Ученый сравнил этот процесс со сотрудничеством с квалифицированным аспирантом, который хорошо знает актуальную литературу, но отметил, что ИИ выполнил задачу за несколько минут. Такая скорость открывает новые горизонты для исследований, хотя и меняет карьерные перспективы молодых ученых, работу которых частично можно автоматизировать.

Напомним, что Джеффри Хинтон покинул Google в 2023 году из-за обеспокоенности рисками ИИ. В 2024 году он вместе с Джоном Хопфилдом получил Нобелевскую премию по физике за фундаментальные открытия и изобретения, которые сделали возможным машинное обучение с помощью искусственных нейронных сетей.

Отдельные мнения о возможности сознания у чат-ботов высказывал эволюционный биолог Ричард Докинз. После общения с моделью Claude он предположил, что современные системы заставляют пересмотреть традиционные представления о сознании, хотя этот вопрос остается предметом научных и философских дискуссий.