Одна треть сгенерированного кода попадает в продакшен без полного осознания человеком, а 94% разработчиков хотя бы раз за полгода анализировали логику нейросети задним числом
Искусственный интеллект всё чаще генерирует рабочий код, который даже опытные инженеры не могут полностью осмыслить. Основатель компании Infinity Джереми Никсон поделился с Business Insider, что программисты начинают терять понимание того, что именно создает языковая модель, и их роль постепенно переходит от разработки продуктов к «наблюдению» за нейросетью. Проблема оказывается более серьезной, чем кажется: исследователи отмечают когнитивный спад и уменьшение навыков у специалистов, которые перестают писать код вручную и не развивают умения, необходимые для проектирования крупных систем.
Яркий случай пришел из самой OpenAI. Технический сотрудник SemiAnalysis Джордан Нанос сообщил, что инженеры OpenAI, изучая код GPU-ядра для оптимизации, признавались: они не понимают, что делает этот код. «Можно проследить каждую строку — и везде "нет, нет, нет", — описал он. — ИИ понимает, ИИ тестирует, а ты видишь результат. Но он генерирует корректные ядра, которые работают отлично». По мнению Наноса, это не недостаток компетенции, а изменение парадигмы: разработчик определяет архитектуру и критерии приёмки, а нейросетям отдают всю остальную работу.
Тем не менее, существуют и обратные стороны — ошибки и галлюцинации, которые могут возникать в продакшен. Amazon в этом году внедрила 90-дневный «тест безопасности кода» после серии сбоев, которые нарушили обработку заказов. Хотя компания отрицала вину ИИ, внутренние логи и заметки показали обеспокоенность менеджеров «высоким радиусом поражения изменений, созданных с помощью ИИ». Согласно аналитике компании Undo, 35% кода, сгенерированного нейросетями, попадает в промышленную среду без полного понимания инженерами, 29% разработчиков сообщают о снижении производительности из-за необходимости «распутывать ИИ-код» несколько раз в месяц, а 94% сталкивались с такой ситуацией хотя бы раз за полгода.
Пока оптимисты воспринимают это как естественную эволюцию профессии, критики обращают внимание на тревожный парадокс: индустрия вырастает поколение инженеров, не понимающих код, от которого зависит всё более цифровой мир.
Источники:Futurism0DeepSeekИскусственный интеллектOpenAIПрограммированиеавтоматизация3 минуты назад
Источник