你刷到的这条新闻,可能是AI写的。你听的那段播客,可能是AI读的。那张老板发来的工作照,可能是AI换脸合成的。
听起来有点疯?确实挺疯的。但现实就是这么魔幻。斯坦福AI Index 2024报告显示,全球78%的AI生成内容根本没有标记来源,差不多每10条内容里就有8条你分不清是真人还是AI干的。
有意思的是,谷歌、OpenAI、Nvidia这三家平时互相看不顺眼的对手,最近竟然站到了同一条战线上。他们抢着学的,是谷歌搞出来的SynthID技术。
说白了,SynthID就是给AI生成的内容打一个”隐形身份证”,在图片、音频、文本、视频里嵌入一种人眼完全看不见、但算法能识别的信号。像给真钞防水印一样,普通人分不清真假,但验钞机一照就知道。
OpenAI已经把这套玩明白了,向超过200万企业用户开放了DALL-E图像水印API,在ChatGPT里生成的图,底层都带着标记。Nvidia更激进,直接把SynthID集成进企业级AI框架NeMo,帮企业识别自家员工有没有用AI伪造素材骗甲方。谷歌自己也没闲着,把SynthID部署到Google Cloud Vertex AI上的150多个模型,基本用谷歌云跑AI应用,出来的内容全都自带溯源码。
他们这么拼是有原因的。FBI 2024年报告显示,AI伪造内容相关的欺诈案件在2023年增长了340%。换脸诈骗、虚假新闻、AI代写的学术论文,到处都是。社会信任这玩意儿,正在被动摇。
不过事情没那么简单。水印技术说到底就是一场猫鼠游戏,已经有黑客证明,只要用简单的压缩或者往图片里加点噪点,SynthID的水印就能被抹掉。防盗门和开锁匠的关系,永远在较劲。
还有个问题更让人头疼:这些水印会不会被用来监控和内容审查?AI生成的内容全都可溯源了,谁有权力决定哪些内容可以被追踪、谁可以查?这背后的伦理争议,比技术本身要复杂得多。
所以,当技术巨头们联手给AI内容贴上”隐形标签”的时候,我们普通人到底是更安全了,还是在不知不觉中交出了更多隐私筹码?
这场关于AI身份识别的博弈,才刚刚开始。