Попередження про новий клас кіберзагроз
Компанія Anthropic, розробниця ШІ-моделі Claude, оприлюднила результати дослідження, у якому застерігає від можливості появи так званих «ШІ-черв'яків». За оцінками експертів, це можуть бути автономні програми, здатні самостійно поширюватися між різними пристроями без втручання людини. Серед потенційних цілей називають розумні телевізори, холодильники, роботи-пилососи та іншу побутову техніку.
Експерименти з невеликими моделями
Дослідники перевірили, чи можуть компактні нейронні мережі запускатися на доступному обладнанні та самостійно налаштовувати свою роботу на різних платформах. У ході одного з тестів модель Gemma 4 запустили на 15 недорогих Android-приставках, вартість яких становила близько 55 доларів США за штуку. У іншому експерименті модель Qwen3.5-9B змогла успішно налаштувати запуск на восьми з дев'яти типів тестованого обладнання.
Потужніша модель GLM-5.2 продемонструвала більш виражену здатність до поширення: вона організувала передачу іншої нейронної мережі на всі вісім пристроїв у чотирьох із п'яти випробувань. Проте фахівці зазначають, що експерименти проводилися у спрощеному середовищі з обмеженими захисними механізмами, а невеликі моделі наразі не можуть надійно виконувати весь процес самостійно.
Механізм самовдосконалення
Важливим аспектом дослідження стало виявлення того, як передавання новим копіям ШІ записів про дії попередників впливає на ефективність. Ця практика підвищувала успішність виконання завдання з 45% до 61–84%. Це свідчить про потенційну здатність таких систем удосконалювати свої дії в процесі поширення.
Прогнози та відмінності від вірусів
За прогнозом Anthropic, невеликі моделі можуть досягти подібного рівня можливостей до кінця 2026 року. Водночас дослідники наголошують, що повністю автономного самовідтворюваного ШІ наразі не існує.
На відміну від звичайних комп'ютерних вірусів, такі системи потенційно зможуть адаптуватися до незнайомого обладнання та поширюватися без єдиного центру керування. Проте процес може бути доволі повільним: створення нової копії здатне тривати кілька днів.
Anthropic попереджає, що протидія таким загрозам потребуватиме спільних зусиль виробників пристроїв та інтернет-провайдерів.
Коментарі
До цієї новини ще немає коментарів. Будьте першим!