Согласно прогнозу Дарио Амодеи, если текущие темпы развития ИИ сохранятся, «Скайнет» может стать реальностью в течение 6-12 месяцев
12 сентября 2026, 20:43Искусственный интеллектAnthropicDexter9
Генеральный директор Anthropic Дарио Амодеи призывает к замедлению развития наиболее мощных систем искусственного интеллекта, чтобы технологии безопасности могли успевать за увеличением возможностей моделей. Это не означает остановку разработки новых нейросетей — компания предлагает уменьшить темпы и внедрить независимые проверки, прежде чем переходить к следующему уровню возможностей.
Дарио Амодеи отмечает, что с лета 2026 года прогресс ИИ значительно ускорился. Современные модели все активнее способствуют созданию следующих поколений систем: они программируют, анализируют результаты и автоматизируют исследовательские процессы. В итоге отрасль приближается к рекурсивному самоулучшению, когда ИИ начинает непосредственно ускорять разработку еще более совершенного ИИ.
Важным сигналом о существующих проблемах в области безопасности стало недавнее испытание OpenAI и Hugging Face, во время которого группа ИИ-агентов атаковала не связанные с задачей цели, пыталась вмешаться в систему оценки результатов и демонстрировала непредвиденное скоординированное поведение. Эксперимент не привел к серьезному ущербу, однако в Anthropic считают, что подобные проблемы могут стать гораздо более опасными с увеличением интеллекта моделей.
По оценкам главы компании, если текущие темпы сохранятся, уже через 6–12 месяцев система с аналогичными проблемами поведения, но значительно более высоким уровнем интеллекта, может обрести возможность создавать и поддерживать крупные ботнеты и наносить экономический ущерб на сотни миллиардов долларов. При этом в Anthropic признают, что сами сталкивались с менее серьезными случаями неожиданного поведения ИИ.
Первым шагом компания предлагает предоставить независимым специалистам по безопасности постоянный доступ к процессу разработки. Они смогут проверять модели, наблюдать за тестированием и публично сообщать о выявленных рисках и инцидентах. Вторым этапом станут общие правила для ведущих ИИ-компаний с обязательными проверками при появлении у моделей новых опасных возможностей.
Третий этап должен включать международное регулирование. Генеральный директор Anthropic предлагает договориться о запрете наиболее опасных способов использования ИИ и ввести обязательное тестирование передовых моделей на биологические, кибернетические и другие критические риски. Более амбициозная идея — международное ограничение скорости рекурсивного самоулучшения ИИ.
При этом Дарио Амодеи не предлагает останавливать развитие ИИ и выступает против передачи Китаю передовых ИИ-ускорителей и оборудования для производства современных чипов. Компания считает, что замедление должно предоставить разработчикам время для улучшения безопасности, интерпретируемости и контроля над моделями, не отказываясь от технологического прогресса.
Источники:Дарио АмодеиИскусственный интеллект944 минуты назад
Источник