Демис Хассабис предложил основать контрольный орган, способный принудительно замедлять распространение передовых ИИ-систем
Искусственный интеллект022:47
Демис Хассабис, руководитель Google DeepMind, полагает, что миру необходим независимый орган, который сможет оценивать наиболее мощные модели искусственного интеллекта перед их запуском и при необходимости координировать временные ограничения на их распространение.
Хассабис отметил, что разработкой глобальных норм для передовых ИИ-систем больше нельзя пренебрегать. В блоге, который он опубликовал, он предложил создать «международную организацию по надзору за передовыми моделями искусственного интеллекта, которая могла бы исполнять функции независимого контрольного органа».
По мнению Хассабиса, инициатором создания такой структуры должны стать США — благодаря их ведущей роли в разработке ИИ и влиянию на технологический рынок. Предлагаемый орган, по его замыслу, должен объединить экспертов по безопасности ИИ, представителей научного сообщества и разработчиков открытого программного обеспечения. Среди его полномочий могли бы быть независимая оценка самых мощных моделей перед их запуском и рекомендации по замедлению их распространения, если они будут признаны потенциально опасными.
Идея Хассабиса была изложена в статье «A Framework for Frontier AI and the Dawning of a New Age». Он подчеркнул, что развитие ИИ приближается к фазе появления систем, близких к искусственному общему интеллекту (AGI), способного выполнять широкий спектр интеллектуальных задач на уровне человека или выше. По его словам, текущий период может стать началом кардинальных изменений в экономике и обществе, поэтому механизмы контроля необходимо создавать заранее.
Согласно данным Axios, Хассабис уже несколько месяцев ведет обсуждения по этой инициативе с представителями американской администрации, другими ИИ-лабораториями и европейскими чиновниками. Он надеется, что новая организация сможет начать свою деятельность до конца года, однако на данный момент не существует согласованного международного формата для такого регулятора, а также единой системы правил для ИИ в США.
Предложение Google DeepMind стало частью более обширной дискуссии о регулировании самых мощных моделей ИИ. Ранее Хассабис вместе с другими лидерами технологических компаний выступал за усиление защиты от потенциального использования искусственного интеллекта для создания биологического оружия. Одновременно представители отрасли и экономики предупреждают о необходимости заранее подготовиться к возможным изменениям на рынке труда и в мировой экономике в результате быстрого прогресса ИИ.
Тем не менее создание глобального контрольного органа остается сложной задачей: страны по-разному оценивают риски ИИ, а ведущие технологические компании одновременно выступают за регулирование и продолжают активно развивать свои модели. Идея Хассабиса фактически ставит вопрос о том, кто и каким образом будет определять допустимые пределы развития самых мощных систем искусственного интеллекта.
Darth SaharaИсточники:the vergelinkedinИскусственный интеллект0Искусственный интеллектAGIGoogle DeepMind22:47
Источник