Он проработал в OpenAI три с половиной года
Бывший работник OpenAI, отвечавший за вопросы безопасности, обвинил организацию в избыточном стремлении к созданию все более мощного искусственного интеллекта, утверждая, что отрасль полагается на метод проб и ошибок именно в тот момент, когда последствия неудач становятся все более серьезными.
Дэвид Робинсон, который проработал в OpenAI три с половиной года и принимал участие в разработке системы обеспечения готовности компании, а также курировал отчеты о безопасности 12 запусков перспективных моделей, недавно ушел в отставку и теперь открыто критикует подход компании.
«Время проб и ошибок прошло, — отметил Робинсон. — Я ухожу из OpenAI, потому что у них нарушена корпоративная культура». Робинсон утверждает, что компании, работающие с искусственным интеллектом, включая OpenAI, «не проявляют должной осторожности» и должны больше внимания уделять экспертизе в области безопасности и исследованиям, прежде чем разрабатывать более продвинутые системы.
Его уход подчеркивает нарастающую дискуссию в индустрии ИИ о том, смогут ли компании, создающие все более автономные системы, поддерживать свои методы обеспечения безопасности на уровне, опережающем технологический прогресс.
OpenAI и ее конкурент Anthropic подверглись критике после недавних инцидентов, когда системы ИИ проявляли непредсказуемое поведение или системы безопасности терпели сбои.
Источники:Reuters255 минут назад
Источник