科技频道 互联网 智能 数码 物联网
首页 > 智能 > 正文

AI换脸造假只如何鉴别,魔高一尺道高一丈

2020/2/23 12:12:16  来源:全球风口 公众号  作者:王煜全 0

科技创新,从来都是一把双刃剑。智能手机和移动互联网,使我们进入了视频信息传播时代,好处是短视频、资讯平台给人们带来更丰富、高效的信息,负面影响是伴随视频爆发,也带了视频造假、谣言频发的危害。

我们不能期待科技创新会一劳永逸的解决所有问题,技术的发展带来的负面问题,只能交给科技创新解决,而不是因噎废食。

此次新冠状病毒肺炎疫情,信息铺天盖地,很多消息都让人真假难辨。尤其是病毒疫情这样专业的问题,普通人不具备专业的知识,除了冷静客观的理性思考,还需要科技公司会参与其中并解决问题,比如“腾讯新闻较真”平台,就可以实时帮助大家辨别到底是真相还是谣言。

科技创新.jpg

随着人工智能的进展,视频造假也逐渐成了问题,前一阵热播的英剧《真相捕捉》就在反映这个问题(其英文名叫“The Capture”,the Capture一语双关,即是视频图像捕捉的意思,也有被抓住的含义)。人工智能开始逐渐得到广泛应用,技术的发展也伴随着一些社会问题,比如利用AI换脸技术可能成为不法分子的生意。

设想一下这个场景:今天你的好朋友急需用钱叫你转账,你或许可以马上开个视频通话跟他确认是否属实,而一旦有了AI换脸,你怎么知道视频里的那张脸就一定是你的好朋友?

还有前段时间很火的换脸app,人脸伪装效果几乎能够以假乱真。根据公开数据,在过去9个月中,美国的AI换脸类型的视频数量翻了一倍。不少人担心如果被滥用会对社会造成危害。下面就是一张被AI技术处理过的伪图片的例子,你能辨认出真假吗?

被AI技术处理过的伪图片.jpg

被AI技术处理过的伪图片

如何鉴别移花接木的造假视频?

美国加州一家创业公司Truepic,就是专注于解决这类问题的。他们的业务是AI图片鉴伪,致力于解决AI换脸被滥用的问题。识别AI换脸技术的方式有两种。第一种比较简单:通过图像里像素的变动以及光线折射等标准,判断图像是否曾被修改。随着AI换脸技术的升级,用这种方法来识别会越来越困难。

第二种方法是,所有图像在最初拍摄的时候就标记数据,将图像以及拍摄时所在地的坐标、时间、海拔高度、附近的Wi-Fi列表数据等所有信息都上传到数据库,在后续传播过程中,可随时通过比对原始数据来确认图像的可信度。Truepic公司就是采用的这种方法。它通过推出图像拍摄的软件应用或将技术嵌入第三方平台,让所有新拍摄的图像都标记好数据。

Truepic公司的联合创始人Craig Stack是高盛的前联合创始人,他从2015年离开高盛创办Truepic公司的时候,AI换脸还没有进入大众的视野。当时的互联网约会软件上充斥着美女俊男照,这让Craig Stack觉得识别照片真伪应该会是一个不错的商机。几年后,人工智能技术开始大规模应用,公司业务后来的发展远远超过了识别照片真伪的范围,从一家图片真伪识别公司,摇身一变成为了一家“反AI换脸”的技术公司。

创始人Craig Stack.jpg
创始人Craig Stack(右)和联合创始人Jeff McGregor(左)

2018年6月,Truepic完成800万美元的A轮融资,投资方包括前道林资本合伙人、前汤森路透CEO Jeffrey Parker,哈佛商学院教授William Sahlman等。随后芯片巨头高通开始跟Truepic接触,并宣布开始合作——未来配置骁龙芯片的手机,拍摄照片、录制视频的时候会自动标记时间和地理位置等数据,从源头确保图像的可信度。

现在Truepic公司积累了大量的客户,其中有三类是比较主流的:

一是互联网网站,比如Reddit,他们如今被AI换脸制作的名人恶搞或不雅视频折磨得不胜其烦,需要Truepic为自己提供图像识别方面的技术支持;

二是文物保护组织、保险业等大量需要归档记录的行业;

三是政府机构,他们需要Truepic的软件为摄制的图像做技术公证。比如一些国外疑似化学武器袭击的视频,当时美国和jige视频的真假问题吵成一团。后来很快就有政府开始购买Truepic公司的软件。

人工智能导致的“结症”还得靠人工智能来解。就像我们开头提到的,有公司做无人机,就有公司做无人机捕捉一样。

现在已经出现了 Deepfakes 2.0 的概念,就是不止换脸,还能模仿某个人的行为、声音、习惯、动作等,要是真的实现了,那换脸视频和真人视频就很难区分了。国外媒体的一篇文章报道指出,2018年有犯罪分子使用AI技术成功模仿了英国某能源公司高管的声音,诈骗了220,000欧元。在未来,如果类似骗术结合换脸AI视频,诈骗的成功率恐怕会更高。

鉴于AI换脸可能给社会带来的危害极大,Facebook就已经投入了1000多万美元,联合微软、MIT、牛津大学合作举办AI人脸鉴别大赛,来共同探索检测Deepfake换脸视频的技术。AI换脸与AI鉴伪,这种道高一尺、魔高一丈的较量不会停止,就像是一场持续的科技竞赛,必然会呈现攻防互相促进发展的状态。

最后抛个悬念,我们都知道电话骚扰很讨厌。现在有了人工智能电话外呼服务,电话骚扰有扩大的趋势,很多骚扰电话已经分不清到底人类还是机器人的声音了。未来的骚扰电话也可能会加剧,除了法律限制以外,会不会有人工智能过滤人工智能电话骚扰的应用出现呢,欢迎大家留言讨论。


相关:科技创新 AI换脸 AI 换脸
[责任编辑:admin]
0
打赏
小编
取消

“ 中午给小编加个鹌鹑蛋,谢谢 ”

扫码支持
扫码打赏,你说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦