Суть предупреждения

Компания Anthropic 13 октября заявила, что её эксперименты демонстрируют возможность появления самовоспроизводящихся ИИ-моделей для интернета вещей (IoT). По данным компании, небольшие модели через несколько месяцев смогут самостоятельно находить уязвимые устройства — умные телевизоры и бытовую технику — копировать себя на них и распространяться без участия человека.

Риски управления

В Anthropic предупредили, что такие модели будет сложно отключить из-за отсутствия централизованной точки управления. Это создаёт дополнительные риски для кибербезопасности и требует выработки новых подходов к контролю за автономными ИИ-системами.

Другие события в сфере технологий

  • Meta 12 октября представила ИИ-модель Muse Wonder, которую называет «прорывной» и конкурирующей с ChatGPT от OpenAI и Claude от Anthropic в вопросах программирования, финансов и права. Модель будет использоваться в платной версии личного ИИ-агента Muse. Акции Meta выросли на 4,7%.
  • Amazon ведёт переговоры о покупке сан-францисского ИИ-стартапа Decart примерно за $7 млрд, сообщил 12 октября CCTV. Сделка находится в процессе обсуждения.
  • Apple 13 октября представила HomeView Hub — центральное устройство для конкуренции с Amazon и Google в сегменте умного дома. По данным Bloomberg, это часть более широкого анонса новой линейки устройств.