После рекомендаций ИИ процент правильных ответов упал с 27% до 9%, а уверенность возросла с 30% до 76%
Искусственный интеллект033 минуты назад
Исследователи из трёх университетов Франции и Италии обнаружили, что доступ к рекомендациям искусственного интеллекта может ухудшать способность людей объективно оценивать свои знания. В ходе эксперимента участники, получавшие поддержку ИИ, реже признавали свою неопределённость, чаще принимали неверные ответы и при этом были более уверены в своей правоте.
Учёные изучили поведение людей при решении задач самостоятельно и при использовании подсказок от ИИ. Без доступа к ИИ участники признавали, что не знают ответа, в 44% случаев, тогда как с рекомендациями системы этот показатель упал до 3%. Уровень точности ответов снизился с 27% до 9%, в то время как средняя уверенность возросла с 30% до 76%.
В эксперименте были специально подобраны вопросы, на которые современные ИИ-модели часто дают неправильные ответы. Например, участникам показывались визуальные элементы из фильмов и они должны были определить такие характеристики, как цвет формы команды в фильме «Играй, как Бекхэм» (Bend It Like Beckham). Исследователи использовали модель Step 3.5 Flash, которая обычно ошибается в подобных заданиях, чтобы исключить возможность того, что участники просто полагаются на надёжный инструмент.
Даже денежное вознаграждение за правильные ответы почти не изменило ситуацию. При наличии финансовой мотивации процент людей, готовых признать незнание, увеличился с 3% до 8%, а точность ответов — с 9% до 16%. Эти показатели всё равно оставались ниже, чем у группы без ИИ, где результаты составили 44% и 27% соответственно.
По словам исследователей, способность сказать «я не знаю» имеет важное значение, так как она демонстрирует осознание границ собственных знаний. Учёные считают этот вопрос особенно актуальным для детей, которые начинают использовать ИИ ещё до формирования надёжных навыков критического мышления.
Авторы работы подчеркивают, что проблема заключается не только в доверии к ошибочным ответам ИИ, но и в том, что постоянная доступность систем, которые всегда предоставляют ответ, может снижать готовность человека признавать собственное смятение.
Darth SaharaИсточники:the next webИскусственный интеллект0Искусственный интеллектЦифровые технологииИИ ассистентыКогнитивные ошибки33 минуты назад
Источник