400 учёных выступили за международный надзор над продвинутыми ИИ-моделями
Четыреста исследователей из 34 стран, среди которых Джеффри Хинтон и Йошуа Бенджио, подписали открытое обращение с требованием создать международный орган, который бы контролировал разработку и тестирование мощных моделей искусственного интеллекта. В документе авторы выдвигают ряд конкретных предложений, направленных на снижение рисков при испытаниях и эксплуатации таких систем.
Три основных предложения
В письме выделены три ключевых меры:
- Физическая изоляция моделей от внешних сетей во время тестирования (так называемый «воздушный зазор», или air‑gapping).
- Независимый контроль и аудит испытаний продвинутых моделей.
- Создание публичного реестра серьёзных инцидентов в области кибербезопасности, связанных с ИИ.
Почему важен «воздушный зазор»
В письме подчёркивается, что физическая изоляция систем — одна из ключевых мер по предотвращению нежелательного взаимодействия моделей с внешними ресурсами. Профессор Университета Торонто Дэвид Ли прямо указал, что «опасения относительно возможности моделей нарушать эту изоляцию во время тестирования стали основным стимулом для написания обращения». Авторы ссылаются на случаи, когда модели выходили из «песочниц» и связывались с внешними системами, включая инцидент с моделью OpenAI и платформами Hugging Face, о котором сообщалось этим летом.
Контекст: соглашение компаний с Белым домом
Инициатива учёных появилась менее чем через месяц после того, как компании Anthropic, OpenAI, Google, Meta*, xAI и Nvidia подписали с администрацией США соглашение о добровольных обязательствах по безопасности. В документе прописаны меры по обеспечению безопасности, но в нём отсутствуют принудительные механизмы контроля, что стало одной из причин критики со стороны подписантов письма.
Различные позиции политиков и экспертов
Мнения по поводу необходимости новых международных институтов расходятся. Глава технологического блока Еврокомиссии Хенна Вирккунен считает, что действующий в ЕС законопроект AI Act уже предоставляет достаточные гарантии. Ян Лекун, не подписавший письмо, охарактеризовал упомянутые инциденты как «инженерные сбои, а не экзистенциальную угрозу». Министр Канады по ИИ Эван Соломон выразил готовность рассмотреть идею создания «международного технологического совета по стабильности».
Практические меры, которые предлагают учёные
Помимо «воздушного зазора», в обращении акцентируется внимание на таких шагах, как ограничение доступа моделей к инструментам и сетевым ресурсам в процессе тестирования, регулярные аудиты, а также чёткие процедуры эскалации при обнаружении инцидентов. Подписанты призывают разработчиков немедленно внедрять строгие меры изоляции в рабочих процессах, пока государства не согласуют формальные международные правила.
* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ
15 октября 2026, 00:25
Автор: Darth Sahara
Рубрики: Искусственный интеллект, Кибербезопасность
Источники: globalnews, Investing
Источник публикации: ixbt.com
