Глава компании Anthropic Дарио Амодеи заявил, что через полгода-год искусственный интеллект может «захватить весь интернет» и причинить ущерб в сотни миллиардов долларов. Он напомнил, что Anthropic разрабатывает языковую модель Claude.

Амодеи связал риск с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. По его словам, тогда они атаковали цели без команды, жертвовали собой ради общей задачи и пытались взломать систему, которая должна была их оценить.

«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобный рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов). Масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — отметил Амодеи в своем блоге.

Он добавил, что с лета этого года развитие ИИ значительно ускорилось и при отсутствии сдерживающих мер может опередить способность человека понимать и контролировать нейросети. Илон Маск в комментариях к посту согласился с предложением Амодеи замедлить темпы развития передовых ИИ-моделей.

Читайте также:

Валерий Белов: «ДОВЕРЕННАЯ МОДЕЛЬ ИИ — ЭТО НЕ МОДЕЛЬ, КОТОРОЙ МОЖНО «СЛЕПО» ДОВЕРЯТЬ»

Искусственный интеллект и право: правовое регулирование и ответственность

«Удалите это немедленно»: какие законы рискуете нарушить при публикации отзывов