Глава корпорации против централизованного контроля над искусственным интеллектом, возвращает открытый исходный код и передаёт решение о выпуске алгоритмов совету директоров
Искусственный интеллект017 минут назад
Компания Meta* опубликовала 10 августа манифест Марка Цукерберга с заголовком «Будущее для всех: путь к позитивному будущему ИИ» ("The Future is for Everyone: The Path to a Positive AI Future"). В документе глава корпорации выступил против сосредоточения контроля над будущим суперинтеллектом (AGI, гипотетическим искусственным интеллектом, превосходящим человеческие умственные способности) в руках ограниченного круга институтов или правительств.
В манифесте изложены 3 основных принципа: расширение возможностей каждого человека, изобретательство как главная цель суперинтеллекта и баланс сил как основа безопасности. Цукерберг отметил, что пользователи должны нести ответственность за использование технологий, а не подчиняться централизованным ограничениям. Он также выступил в защиту дистилляции моделей — процесса обучения более компактных нейросетей на основе ответов крупных и мощных алгоритмов — заявив, что разработчики должны иметь возможность учиться на основе наблюдаемых результатов.
Для обеспечения безопасности Meta* внедрила совет директоров в процесс одобрения релизов: теперь решение о выпуске моделей будет приниматься на основании критериев, утверждённых советом. В области государственного регулирования глава компании призвал к раннему и активному сотрудничеству между лабораториями ИИ и властями вместо жестких бюрократических проверок с фиксированными сроками.
Meta* также сообщила о возобновлении выпуска моделей с открытым исходным кодом и о создании фонда «Будущее для всех» ("Future Is For Everyone Fund") объёмом $1 млрд для поддержки сообществ, расположенных рядом с центрами обработки данных компании.
Данная финансовая инициатива направлена на снижение нагрузки на регионы, где расположены дата-центры, которые, по утверждению компании, проектируются с высокой эффективностью расхода воды. В то же время публикация вызвала дискуссию в специализированных изданиях: в 404 Media и Gizmodo отметили, что концепция свободной доступности моделей не отвечает на риски злоупотребления автономными агентами и фактически защищает бизнес-модель самой Meta* по распространению открытых весов на фоне растущих опасений экспертов по безопасности.
Подход с открытым доступом к весам нейросетей предоставляет возможности для локального запуска, точной настройки и внешнего аудита алгоритмов независимыми специалистами. Однако доступность исходных параметров усложняет отзыв опасных функций и контроль за применением ИИ после его загрузки на пользовательское оборудование. Манифест зафиксировал прямой конфликт двух концепций развития отрасли: закрытых экосистем с жёстким централизованным контролем и открытой модели, которая перекладывает ответственность на конечного пользователя и регулирующие органы.
* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ
Darth SaharaИсточники:Metagizmodo404mediaИскусственный интеллект0Искусственный интеллектMetaAGIЦентры обработки данныхСуперинтеллектМарк ЦукербергДистилляция моделейОткрытый исходный код17 минут назад
Источник