Ai换脸成为历史?全球最大的Deepfake色情网站宣布关停!

深夜三点,某明星经纪人接到粉丝私信:”你家艺人的小视频在群里传疯了!”点开链接的瞬间,经纪人倒吸一口冷气——画面里熟悉的面孔正做着不堪入目的动作,可当事人明明正在剧组拍戏。

这不是电影情节,而是每天都在真实上演的AI换脸。

这个让明星网红们频频”躺枪”的幕后黑手,正是名为Deepfakes的AI换脸技术。

简单来说,它就像个数字裁缝,把张三的五官”缝”在李四的脸上。技术本身没有原罪,可当有人用它批量生产虚假色情视频时,事情就变得危险了。

你永远不知道自己的脸什么时候会出现在某些非法网站上,成为别人牟利的工具。

Ai换脸成为历史?全球最大的Deepfake色情网站宣布关停!

最近美国国会以409票赞成、2票反对的压倒性结果通过了《删除法案》。这部法律明确说:未经允许传播他人私密影像,不管是真是假,都算犯罪。

更厉害的是,网络平台必须在48小时内删除这些内容。消息一出,那个号称”全球最大换脸网站”的Mr.Deepfakes连夜关停,连服务器数据都清空了。

这个结局颇有些黑色幽默。2017年从Reddit起家的Mr.Deepfakes,六年间上传过4.3万条视频,累计播放超15亿次。

最疯狂的时候,有人花1500美元(约合人民币1万元)只为定制一条换脸视频。

即便主流平台早都封杀了这类内容,这个网站依然我行我素,直到这次被法律铁拳直接砸碎服务器。

但事情远没结束。有网友发现,原本论坛里25万会员早就转战加密聊天软件Telegram,新的暗网站点正在搭建。

就像打地鼠游戏,敲掉一个窝点,新的洞口又冒出来。技术发展的速度永远跑在法律前面,这场猫鼠游戏注定是场持久战。

值得玩味的是,这次连Meta、谷歌这些科技巨头都站队支持法案。毕竟谁都不想自己的平台变成法外之地。

但换个角度看,当年开源代码DeepFaceLab的开发者们,可能也没想到自己的技术会被这样滥用。

技术本无罪,可人性里的贪婪与恶意,总会找到钻空子的方式。

有问题反馈加微信:mue233 私聊问我 微信公众号:焦虑自愈教程,分享过去走出来的经验
52软件资源库 » Ai换脸成为历史?全球最大的Deepfake色情网站宣布关停!

发表评论