Власти получат право приостанавливать разработку ИИ при крупной угрозе
Компания Anthropic внесла в Конгресс США законопроект, который даст властям возможность временно останавливать разработку и применение систем искусственного интеллекта в случаях, когда они представляют серьезную угрозу для людей или экономики, сообщает Politico.
Критерии, при которых возможна блокировка
В тексте документа прописаны конкретные пороги риска: меры могут применяться при потенциальных убытках от $1 млрд и более либо если речь идёт о риске массовой гибели — гибели более 50 человек или причинении им тяжёлых травм. Законопроект ориентируется на ситуации разной природы, включая создание биологического оружия, выход модели из-под контроля разработчика и возможные кибератаки.
Кто будет оценивать опасность и как приниматься решения
Оценку потенциальной опасности должны проводить независимые эксперты, аккредитованные в Министерстве торговли США. По их заключению Министерство сможет обратиться в суд с требованием приостановить соответствующий проект или использование конкретной системы ИИ.
Обязательные требования к разработчикам
Проект также обязывает разработчиков создавать внутренние подразделения по безопасности, публиковать отчёты о работе своих ИИ-моделей и оперативно информировать регулятор о серьёзных сбоях. В закон включена норма о защите сотрудников, сообщающих о нарушениях, от преследования.
Связь с калифорнийскими нормами
По информации Politico, некоторые положения предлагаемых мер перекликаются с законами штата Калифорния по регулированию ИИ, принятыми в 2025 году. Anthropic, разработчик языковых моделей серии Claude, характеризует инициативу как разумный подход к контролю над наиболее мощными системами ИИ.
17 октября 2026, 07:23 — Jin
Источник: Politico
