В Киеве ликвидировали сеть незаконного сбыта электронных сигарет на сумму 3 миллиона гривен

Детективы Бюро экономической безопасности совместно с пограничниками пресекли деятельность канала сбыта контрафактной табачной продукции в столице. Изъято более трех тысяч систем для курения и другое имущество.

Пхеньян показал ракету Хвасон-20, способную достичь США, и провёл новые испытания

На фоне обсуждений возможной встречи с Дональдом Трампом лидер КНДР открыл музей оборонной революции, где представили стратегическое оружие, а также провёл очередные испытания тактических ракет.

Anthropic изучает риски автономного распространения ИИ-программ на бытовых устройствах

Anthropic изучает риски автономного распространения ИИ-программ на бытовых устройствах
Anthropic изучает риски автономного распространения ИИ-программ на бытовых устройствах

Предупреждение о новом классе киберугроз

Компания Anthropic, разработчик ИИ-модели Claude, опубликовала результаты исследования, в котором предупреждает о возможности появления так называемых «ИИ-червей». По оценкам экспертов, это могут быть автономные программы, способные самостоятельно распространяться между различными устройствами без вмешательства человека. Среди потенциальных целей называют умные телевизоры, холодильники, роботы-пылесосы и другую бытовую технику.

Эксперименты с небольшими моделями

Исследователи проверили, могут ли компактные нейронные сети запускаться на доступном оборудовании и самостоятельно настраивать свою работу на разных платформах. В ходе одного из тестов модель Gemma 4 запустили на 15 недорогих Android-приставках, стоимость которых составляла около 55 долларов США за штуку. В другом эксперименте модель Qwen3.5-9B смогла успешно настроить запуск на восьми из девяти типов тестового оборудования.

Более мощная модель GLM-5.2 продемонстрировала более выраженную способность к распространению: она организовала передачу другой нейронной сети на все восемь устройств в четырех из пяти испытаний. Однако специалисты отмечают, что эксперименты проводились в упрощенной среде с ограниченными защитными механизмами, а небольшие модели на данный момент не могут надежно выполнять весь процесс самостоятельно.

Механизм самосовершенствования

Важным аспектом исследования стало выявление того, как передача новым копиям ИИ записей о действиях предшественников влияет на эффективность. Эта практика повышала успешность выполнения задачи с 45% до 61–84%. Это свидетельствует о потенциальной способности таких систем совершенствовать свои действия в процессе распространения.

Прогнозы и отличия от вирусов

По прогнозу Anthropic, небольшие модели могут достичь подобного уровня возможностей к концу 2026 года. При этом исследователи подчеркивают, что полностью автономного самовоспроизводящегося ИИ на данный момент не существует.

В отличие от обычных компьютерных вирусов, такие системы потенциально смогут адаптироваться к незнакомому оборудованию и распространяться без единого центра управления. Однако процесс может быть довольно медленным: создание новой копии способно длиться несколько дней.

Anthropic предупреждает, что противодействие таким угрозам потребует совместных усилий производителей устройств и интернет-провайдеров.

Комментарии

К этой новости пока нет комментариев. Будьте первым!

Оставить комментарий

Ссылки в комментариях запрещены. Редакция может удалить комментарий без объяснения причин.
В начало ↑