• 英迈思集团
  • 首页
  • 应用商店
  • 代理合作
  • 客服中心
  • 资讯中心
  • 深圳VIP热线
    0755-2801 8888
  • 销售热线
    4000-998-667
  • 售后热线
    0755-88856856
  • 最热文章
  • 最新文章
  • 好文推荐
相关文章

【行业】AI模拟笔迹真假难辨,是否学坏引人担忧

日期: 2017-10-27
浏览次数: 316

有时候你是否想过,我们每日使用的“安全”智能人脸识别系统,会在三分钟内变成任意人都能正确识别;而声纹识别系统,会被一段合成的语音打败;3d打印机模拟真人写下的欠条也是真假难辨;甚至刚上市的iphone8也被破解,可以完全控制手机盗取任何内容。

 

【行业】AI模拟笔迹真假难辨,是否学坏引人担忧


这些我们曾经没有想过的场景,却在GeekPwn国际安全极客大赛上被展现。此次大赛,并不是极客们想恶意利用计算机系统或网络系统中安全漏洞,而是通过提示和公布等方式,促进漏洞的修补,加强人们对于安全系统的重视。

 

当生活中智能无处不在时,人工智能、基础设施安全系统问题、物联网智能设备也逐渐暴露,与传统IT安全攻防技术不同的是,AI时代的安全对抗已经从单纯的信息技术的比拼,上升到人工智能算法的较量。对于当今AI发展热潮,极客在传统技术上的破解,人们更在意AI方面的安全性。

 

【行业】AI模拟笔迹真假难辨,是否学坏引人担忧


AI伪造真人字迹以假乱真

在此次GeekPwn国际安全极客大赛上,来自中国的选手,利用AI机械臂成功复制了人类的笔迹,并写下了一张真假难分的“欠条”事实上,由于个人书写习惯等因素影响,AI机械臂在学习过程中,需要学习和模仿字迹特有的笔触、线条宽度、书写习惯、字体倾斜程度等,才能成功复制人的书写笔迹。

 

据选手介绍,这种技术称之为GAN(生成对抗网络),会提前输入真的书写数据,让AI进行学习,随后利用生成算法来模拟生成一部分假数据,再把两个数据交由判别算法进行辨别,这个机器裁判就像人类笔迹鉴定专家,直到机器裁判都判断不出真假时训练才停止。笔迹是我们日常生活中经常使用的,应用范围之广可以想象,但一旦不法分子成功仿造笔迹,将有可能会盗刷信用卡、签署文件甚至造假等一些列安全问题。早在今年2月,OpenAI 在发表的最新研究中就曾指出AI安全领域的另一大隐忧对抗样本。针对图像识别问题中,攻击者将对抗样本输入机器学习模型,让机器在视觉上产生幻觉,从而让系统产生误判。

 

【行业】AI模拟笔迹真假难辨,是否学坏引人担忧


对于AI是否会学坏的问题

既然人工智能可以通过神经网络学习人类的行为和笔迹、那么是否需同样会自我学习做坏的事情?事实上由于机器人自身程序运行异常而制造的混乱在全球范围内不断出现。

 

在2016年时,俄罗斯彼尔姆市就有一个只能销售机器人跑出实验室并奔向马路,后来才知道是由于工程师外出工作忘记关闭院子大门所致,而同年七月,美国硅谷斯坦福购物中心一个安保机器人击打了一个只有16个月大的小孩的头部,导致其扑倒在地。甚至,据美国食品药品监督管理局统计,在2000年至2013年间,将AI融入到手术中的手术机器人引起死亡的事件至少就有144起,伤害案例更是多大1000多个,其中包括脱落的零件掉入患者体内,电火花引起的组织烧伤以及系统故障导致的手术时间过长等。

 

对此,GeekPwn发起者称“本次大赛展现的是人工智能技术在安全场景中的应用,而AI会搞破坏,本质上还是人在坐坏,而真正的难点在于AI目前只是个‘婴儿’,成长过程中是否会学坏,还很难断定”。

 

对此,小编认为人工智能领域的安全之难,在于机器进行深度学习的时候,运行过程就像一个“黑匣子”,我们无法论证它是如何学习、如何成功的,也反推不过来它是怎么失败的。而通过“神经网络”学习的机器人,也是因为人类输入了相关的资料与学习信息,如果不在某个节点上对安全进行把控,必将会带来不良的影响,所以人工智能时代必须做到安全先行。

 

【行业】AI模拟笔迹真假难辨,是否学坏引人担忧


AI会通过学习越来越“聪明”,做更多的事并不断进步,本质还是在于“学习了什么”,就如同AI应用在不同场景一样,而英迈思AI研究院对于网赢战车的AI机器人研究,更多的是对于人工智能创作的方向发展。通过AI技术的研究和迭代升级,不断完善优化网赢战车在搜索引擎营销方面的技能,更好的为企业做好搜索营销,做好SEO推广。


网赢战车作为全球领先的搜索营销机器人,坐拥“云词、云链、云赞、云数”四大人工智能算法机器人。能够帮助企业更快的进行网站品牌内容填充与更新,并且适用于全球三大主流搜索引擎,充分利用自身AI技术优势,将“AI、大数据、内容”完美结合进行内容创作,更好的实现与品牌契合的内容写作,创作速度最高可达到每60分钟创作28800篇原创产品文章。通过其余三大机器人自主将内容发布至相关论坛网站,提高权重从而带来更多的流量。同时还支持网站SEO排名优化,目前更是支持“超长词”与“广告短语”的关键字、句优化,价格也更加实惠。让企业能以更低的成本达到更好的效果,并将更多的精力与时间投入到其他工作上。帮助客户走向成功。


【行业】AI模拟笔迹真假难辨,是否学坏引人担忧

扫码关注犀牛云

了解更多资讯,欢迎致电犀牛云全国统一销售热线:400-071-8888