Google地球的“Create image”功能为什么被紧急撤回?
该功能上线后,大量用户生成的截图涉嫌违反社区政策,出现模拟9·11事件、哥斯拉入侵城市等乱象,Google因此紧急回滚功能,补上安全防护后再评估是否重新开放。
#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
Google地球网页版上线基于真实卫星影像的AI生图功能“Create image”,用户输入提示词即可对实景二次创作。功能开放后遭滥用,出现模拟9·11事件、哥斯拉入侵等乱象,Google紧急回滚。文章分析该事件对Google地球二十年公信力的冲击,并对比Meta Muse Image等类似争议,指出平台应在前置安全规则上尽责,而非让用户自行辨别真伪。
该功能上线后,大量用户生成的截图涉嫌违反社区政策,出现模拟9·11事件、哥斯拉入侵城市等乱象,Google因此紧急回滚功能,补上安全防护后再评估是否重新开放。
文章认为这类功能让凭空捏造的场景具有“现场真实感”,削弱了Google地球二十年积累的公信力,使人们今后看到截图时可能本能地质疑真伪。
Meta允许用户在Meta AI中@公开Instagram账号,将他人照片作为AI生图参考,且账号所有者不会收到任何通知,因此该功能上线仅三天后就被紧急撤回。