Новый научный отчет международной панели ООН фиксирует ускорение развития ИИ, увеличение рисков дипфейков и кибератак, а также призывает к созданию глобальных стандартов перед диалогом о регулировании ИИ в Женеве
Искусственный интеллект139 минут назад
Темпы прогресса в области искусственного интеллекта опережают возможности существующих систем регулирования, как указано в предварительном отчете независимой научной панели по ИИ при Организации Объединённых Наций (ООН). Этот документ стал первым отчетом нового международного экспертного органа, созданного для подготовки глобального обсуждения по управлению ИИ.
Согласно данным панели, сложность задач, которые могут решать современные модели, возрастает с интервалом в несколько месяцев, что делает традиционный процесс разработки законодательства недостаточно быстрым. В то же время регуляторы, как правило, начинают разрабатывать нормы только после накопления достаточной научной информации, однако к этому моменту технологии уже значительно продвигаются.
Эксперты подчеркивают, что искусственный интеллект приносит значительные выгоды, включая ускорение создания лекарств и вакцин, исследование антибиотикорезистентности, а также раннюю диагностику заболеваний, таких как рак молочной железы. Кроме того, ИИ используется в системах раннего предупреждения о продовольственной нестабильности.
В то же время в отчете подробно рассматриваются новые риски. К ним относятся генерация и распространение дипфейков, включая материалы сексуального характера, созданные без согласия лиц, а также использование ИИ для усиления кибератак и распространения убедительно выглядящей дезинформации. Отдельно отмечается, что в некоторых случаях взаимодействие с моделями может способствовать вредоносному поведению пользователей.
Панель также предостерегает о рисках возрастающей автономности ИИ-систем, что затрудняет отслеживание и контроль их поведения. Дополнительным фактором давления является инфраструктура: массовое строительство дата-центров для ИИ может создавать нагрузку на энергосети и затрагивать местные сообщества.
По оценкам авторов, основная проблема заключается в концентрации технологий: ключевые системы разрабатываются в США и Китае, а доступ к ним сосредоточен в развитых странах, тогда как многие развивающиеся государства не обладают необходимой инфраструктурой и компетенциями.
В связи с этим отчет призывает к усилению независимой оценки ИИ-систем, международному сотрудничеству и формированию общих стандартов безопасности и прозрачности. Без этого, отмечают эксперты, развитие ИИ может усугублять неравенство, распространять дезинформацию, угрожать правам человека и трансформировать рынок труда без достаточных механизмов адаптации.
Работа имеет научно-аналитический характер и не предполагает непосредственного регулирования. Ожидается, что более полный отчет будет опубликован в следующем году, а обсуждение на уровне государств начнется в Женеве 6 июля.
Darth SaharaИсточники:engadgetИскусственный интеллект1Искусственный интеллектКибербезопасностьКитайСШААвтономные системыРынок трудаДата-центрыООНРегулирование ИИ39 минут назад
Источник