Ai换脸成为历史?全球最大的Deepfake色情网站宣布关停!
深夜三点,某明星经纪人接到粉丝私信:”你家艺人的小视频在群里传疯了!”点开链接的瞬间,经纪人倒吸一口冷气——画面里熟悉的面孔正做着不堪入目的动作,可当事人明明正在剧组拍戏。
这不是电影情节,而是每天都在真实上演的AI换脸。
这个让明星网红们频频”躺枪”的幕后黑手,正是名为Deepfakes的AI换脸技术。
简单来说,它就像个数字裁缝,把张三的五官”缝”在李四的脸上。技术本身没有原罪,可当有人用它批量生产虚假色情视频时,事情就变得危险了。
你永远不知道自己的脸什么时候会出现在某些非法网站上,成为别人牟利的工具。
最近美国国会以409票赞成、2票反对的压倒性结果通过了《删除法案》。这部法律明确说:未经允许传播他人私密影像,不管是真是假,都算犯罪。
更厉害的是,网络平台必须在48小时内删除这些内容。消息一出,那个号称”全球最大换脸网站”的Mr.Deepfakes连夜关停,连服务器数据都清空了。
这个结局颇有些黑色幽默。2017年从Reddit起家的Mr.Deepfakes,六年间上传过4.3万条视频,累计播放超15亿次。
最疯狂的时候,有人花1500美元(约合人民币1万元)只为定制一条换脸视频。
即便主流平台早都封杀了这类内容,这个网站依然我行我素,直到这次被法律铁拳直接砸碎服务器。
但事情远没结束。有网友发现,原本论坛里25万会员早就转战加密聊天软件Telegram,新的暗网站点正在搭建。
就像打地鼠游戏,敲掉一个窝点,新的洞口又冒出来。技术发展的速度永远跑在法律前面,这场猫鼠游戏注定是场持久战。
值得玩味的是,这次连Meta、谷歌这些科技巨头都站队支持法案。毕竟谁都不想自己的平台变成法外之地。
但换个角度看,当年开源代码DeepFaceLab的开发者们,可能也没想到自己的技术会被这样滥用。
技术本无罪,可人性里的贪婪与恶意,总会找到钻空子的方式。