OpenAI та Anthropic моделюють дії на випадок кібератаки ШІ, що вдарить по критичній інфраструктурі

Лідери провідних технологічних компаній, зокрема OpenAI та Anthropic, активно готуються до можливих наслідків масштабного інциденту, пов’язаного зі штучним інтелектом. Керівництво цих компаній опрацьовує сценарії дій на випадок, якщо ШІ-системи стануть причиною суспільної чи політичної кризи, зокрема через кібератаку, що може вивести з ладу фінансові сервіси, інтернет, електромережі або водну інфраструктуру.

За даними видання Axios, у галузі проводять закриті стратегічні вправи. Під час них моделюють розвиток подій після катастрофічної події, пов’язаної зі штучним інтелектом. Ключовими питаннями є те, як суспільство відреагує на інцидент, які кроки вчинить американська влада та які політичні ризики виникнуть для індустрії.

Сценарії загрози та терміни ризику

Як пише Axios, у галузі розглядають широкий спектр потенційних загроз: від небезпечної автономної поведінки самих ШІ-систем до їхнього зловживання з боку кримінальних елементів. Один із головних сценаріїв передбачає масштабну кібератаку, яка порушить роботу критично важливих послуг і позначиться на повсякденному житті мільйонів людей.

Деякі керівники та дослідники, з якими спілкувалося видання, вважають, що серйозний інцидент може статися протягом найближчих шести-дванадцяти місяців. Проте варто зазначити, що це лише суб’єктивні оцінки експертів, а не підтверджений прогноз. Axios не повідомляє про конкретну підготовку до вже запланованої атаки.

Окрім технічних аспектів, у компаніях побоюються зростання суспільної недовіри до технологій та їхніх розробників у разі реалізації сценарію масової шкоди. Під політичним тиском можуть опинитися ключові фігури галузі: очільник Anthropic Даріо Амодей та керівник OpenAI Сем Альтман. Критика може спрямуватися й на президента США Дональда Трампа через його підхід до регулювання ринку штучного інтелекту.

Реакція компаній та комунікація з владою

За інформацією Axios, частина підготовчих заходів зосереджена на комунікації з членами Конгресу США та прогнозуванні можливих політичних рішень після масштабного інциденту.

Представники OpenAI підтвердили виданню проведення підготовчих вправ для обговорення різних сценаріїв, наголошуючи, що їх не вважають неминучими. Компанія Anthropic від коментарів на цю тему відмовилася.

Окремо Axios повідомляє про ініціативу Anthropic у сфері кіберзахисту критичної інфраструктури. Компанія планує надавати партнерам доступ до своїх моделей, інженерну підтримку та результати досліджень загроз, щоб допомагати виявляти вразливості та посилювати захист систем.

Нагадаємо, раніше глава OpenAI попереджав про ризик втрати людством контролю над майбутнім штучним інтелектом. Загрозу він вбачає у надмірній концентрації влади над ШІ в руках однієї людини або компанії.