爱范儿 / APPSO 发布于 08/25 15:31

Google AI 把「地球」玩坏了,这是对 10 亿人的不负责

查看原文

资讯摘要

#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。

AI 摘要

Google地球网页版上线基于真实卫星影像的AI生图功能“Create image”,用户输入提示词即可对实景二次创作。功能开放后遭滥用,出现模拟9·11事件、哥斯拉入侵等乱象,Google紧急回滚。文章分析该事件对Google地球二十年公信力的冲击,并对比Meta Muse Image等类似争议,指出平台应在前置安全规则上尽责,而非让用户自行辨别真伪。

AI 问答

Google地球的“Create image”功能为什么被紧急撤回?

该功能上线后,大量用户生成的截图涉嫌违反社区政策,出现模拟9·11事件、哥斯拉入侵城市等乱象,Google因此紧急回滚功能,补上安全防护后再评估是否重新开放。

文章认为AI生成图像对公众信任有什么影响?

文章认为这类功能让凭空捏造的场景具有“现场真实感”,削弱了Google地球二十年积累的公信力,使人们今后看到截图时可能本能地质疑真伪。

Meta的Muse Image功能存在什么争议?

Meta允许用户在Meta AI中@公开Instagram账号,将他人照片作为AI生图参考,且账号所有者不会收到任何通知,因此该功能上线仅三天后就被紧急撤回。

打开原文