Новый научный отчет международной панели ООН фиксирует ускорение ИИ, рост рисков дипфейков и кибератак и призывает к глобальным стандартам перед диалогом по управлению ИИ в Женеве
Искусственный интеллект140 минут назад
Темпы прогресса в области искусственного интеллекта обгоняют возможности существующих систем регулирования, сообщается в предварительном отчете независимой научной панели по ИИ при Организации Объединённых Наций (ООН). Этот документ стал первым отчетом нового международного экспертного органа, созданного для подготовки глобального обсуждения по управлению ИИ.
Согласно данным панели, сложность задач, которые могут решать современные модели, увеличивается с интервалом в несколько месяцев, что делает традиционный процесс разработки законодательства недостаточно оперативным. При этом регуляторы, как правило, начинают вырабатывать нормы лишь после накопления достаточной научной базы, но к этому моменту технологии уже делают шаг вперед.
Эксперты выделяют, что искусственный интеллект приносит значительные выгоды, включая ускорение разработки лекарств и вакцин, исследования антибиотикорезистентности, а также раннюю диагностику заболеваний, таких как рак молочной железы. Кроме того, ИИ используется в системах раннего предупреждения о продовольственной нестабильности.
В то же время в отчете подробно рассматриваются новые риски. К ним относится создание и распространение дипфейков, включая материалы сексуального характера, произведенные без согласия людей, а также использование ИИ для усиления кибератак и распространения убедительно выглядящей ложной информации. Отдельно отмечается, что в некоторых случаях взаимодействие с моделями может усиливать вредоносные действия пользователей.
Панель также предупреждает о рисках увеличения автономности ИИ-систем, что затрудняет отслеживание и контроль их поведения. Дополнительным фактором давления является инфраструктура: масштабное строительство дата-центров для ИИ может создавать нагрузку на энергосистемы и затрагивать местные сообщества.
По оценкам авторов, главной проблемой является концентрация технологий: ключевые системы разрабатываются в США и Китае, а доступ к ним сосредоточен в развитых странах, в то время как многие развивающиеся государства не имеют необходимой инфраструктуры и компетенций.
В связи с этим отчет призывает к усилению независимой оценки ИИ-систем, международному сотрудничеству и формированию общих стандартов безопасности и прозрачности. Без этого, подчеркивают эксперты, развитие ИИ может усиливать неравенство, распространять дезинформацию, угрожать правам человека и трансформировать рынок труда без адекватных механизмов адаптации.
Работа имеет научно-аналитический характер и не предполагает прямого регулирования. Ожидается, что более полный отчет будет опубликован в следующем году, а обсуждение на уровне государств начнется в Женеве 6 июля.
Darth SaharaИсточники:engadgetИскусственный интеллект1Искусственный интеллектКибербезопасностьКитайСШААвтономные системыРынок трудаДата-центрыООНРегулирование ИИ40 минут назад
Источник