Полиция Ванкувера подтвердила использование ИИ для обработки снимка с места задержания, после того как пользователи заметили на изображении несуществующие банкноты и другие признаки искусственной генерации
Искусственный интеллект928 июн 18:37
Полиция Ванкувера оказалась в центре скандала после публикации в социальной сети X изображения, связанного с задержанием по делу о наркотиках, которое было отмечено как созданное с применением искусственного интеллекта. После того как пользователи выявили на фотографии признаки генерации, правоохранительным органам пришлось удалить изображение и заменить его оригиналом.
Опубликованное полицией изображение должно было демонстрировать изъятые наличные деньги и наркотические вещества. На первый взгляд, фотография выглядела правдоподобно, однако при более тщательном рассмотрении пользователи заметили характерные ошибки, часто встречающиеся в генеративных моделях. В частности, на снимке были банкноты номиналом $50, ошибочно подписанные как 20-долларовые, а на одной из купюр достоинством $100 вместо номинала отображалось только «00».
После появления критики канадский телеканал CTV News обратился за разъяснениями в полицию Ванкувера. Сержант Адам Доналсон (Adam Donalson) сообщил, что искусственный интеллект использовался для удаления имён обвиняемых с фотографии перед её публикацией. Однако это объяснение вызвало дополнительные вопросы, так как исходное изображение представляло собой фотографию изъятых предметов, разложенных на картоне и подписанных маркером.
Несколько позже представитель полиции сообщил, что изображение, обработанное с помощью ИИ, было удалено и заменено оригинальной фотографией, обрезанной таким образом, чтобы исключить персональные данные подозреваемых.
Инцидент вызвал особенно резкую реакцию на фоне возросших опасений относительно использования генеративного искусственного интеллекта в работе правоохранительных органов. В последние годы в разных странах уже фиксировались случаи, когда сотрудники полиции использовали нейросети при составлении документов, анализе данных наблюдения и даже обработке доказательств, что неоднократно приводило к ошибкам и спорам о допустимости таких методов.
Некоторые пользователи социальных сетей обвинили полицию Ванкувера в подрыве доверия к расследованию. Один из комментаторов отметил, что публикация изображения с элементами, созданными искусственным интеллектом, могла повлиять на восприятие дела потенциальными присяжными. Другие пользователи иронично указывали, что удаление спорной публикации лишь усилило недоверие к действиям полиции.
Ситуация в Ванкувере стала очередным примером того, как внедрение генеративного искусственного интеллекта в работу правоохранительных органов сталкивается с основополагающей проблемой: даже незначительное изменение доказательных материалов с помощью ИИ может поставить под сомнение достоверность всей представленной информации.
Darth SaharaИсточники:futurismФотоИскусственный интеллект9Искусственный интеллектНейросетиКомпьютерное зрениеЦифровые доказательстваПравоохранительные органыОбщественное доверие28 июн 18:37
Источник