Новый инструмент позволял создавать фальшивые спутниковые изображения на основе реальных координат, что вызвало беспокойство из-за потенциального распространения дезинформации
Искусственный интеллект209:00
Google менее чем через 24 часа после запуска отключила новую функцию генерации изображений в веб-версии Google Earth.
Инструмент, разработанный на основе модели Gemini Nano Banana 2, предоставлял возможность создавать новые спутниковые сцены по текстовому описанию, используя реальные географические координаты.
Первоначально технология рассматривалась как средство для городского планирования, воссоздания исторических событий и подготовки образовательных материалов. Однако вскоре исследователи и эксперты по проверке фактов выяснили, что система практически не ограничивает запросы и может генерировать крайне правдоподобные изображения несуществующих катастроф, военных конфликтов и других чрезвычайных ситуаций.
В ходе тестирования были получены изображения затопленного Капитолия США, разрушений инфраструктуры, массовых лагерей беженцев и прочих событий, которых на самом деле не происходило.
Особую тревогу вызвало то, что изображения создавались на основе реальных спутниковых снимков Google Earth, которым традиционно доверяют журналисты, аналитики и различные организации. Google сообщила, что все сгенерированные изображения содержат невидимый водяной знак SynthID и не отображаются на публичных картах сервиса. Однако компания признала, что этого недостаточно для предотвращения распространения скриншотов в интернете, и 31 июля приняла решение временно отключить функцию до разработки более надежной системы защиты от злоупотреблений.
Сроки повторного запуска пока не известны.
JinИсточники:mydriversИскусственный интеллект209:00
Источник