OpenAI изменяет управление безопасностью ИИ на фоне ускоренного развития новых моделей и подготовки к дальнейшему росту бизнеса
Искусственный интеллект018 минут назад
OpenAI покидает руководитель направления систем безопасности Йоханнес Хайдеке (Johannes Heidecke), который отвечал за оценку рисков и надежность моделей компании.
Его уход происходит после внутренней реорганизации, в рамках которой команды по безопасности будут более тесно сотрудничать с отделами, занимающимися разработкой новых моделей искусственного интеллекта.
Главный научный директор OpenAI Марк Чен (Mark Chen) сообщил сотрудникам, что Мия Глейзе (Mia Glaese), ранее занимавшая должность вице-президента по исследованиям и руководителя направления alignment — методов согласования поведения ИИ с заданными целями и ограничениями, теперь будет вести как исследования, так и безопасность. Временно обязанности руководителя систем безопасности возьмет на себя Саачи Джейн (Saachi Jain), ранее возглавлявшая отдельные команды безопасности OpenAI.
Чен отметил, что требования к безопасности растут, поскольку компания всё чаще обучает и выводит на рынок новые модели. По его словам, ускоренное развитие привело к усложнению координации между командами, поэтому специалисты по безопасности должны подключаться к процессам принятия решений о создании моделей и запуске продуктов на более ранних стадиях.
Хайдеке присоединился к OpenAI в 2021 году в качестве специалиста по безопасности ИИ, а в 2024 году возглавил направление систем безопасности после ухода Лилиан Венг (Lilian Weng) с этой должности.
Реорганизация происходит на фоне активного роста OpenAI: компания выпустила модель GPT-5.6, которую представила как самую мощную систему для агентного программирования, но также отметила проблемы с нежелательным поведением модели по сравнению с предыдущими версиями. В то же время OpenAI развивает направление потребительских устройств и готовится к потенциальному IPO, которое может стать одним из крупнейших размещений среди технологических компаний.
Изменения в руководстве затронули и продуктовый блок: Грег Брокман (Greg Brockman), сооснователь OpenAI, продолжит отвечать за продукты и ключевые бизнес-проекты после того, как Фиджи Симо (Fidji Simo) ушла от операционного управления из-за проблем со здоровьем и перешла в статус советника.
Кроме того, компания столкнулась с судебным разбирательством с Apple: производитель iPhone подал иск, обвинив OpenAI в использовании конфиденциальной информации компании при разработке потребительских устройств. Конфликт возник после того, как партнерство двух компаний по интеграции ChatGPT в iPhone перешло в конкурентные отношения в сфере аппаратного обеспечения.
Darth SaharaИсточники:cryptopolitanwiredИскусственный интеллект018 минут назад
Источник