好玩的AI换脸 也可能威胁国家安全？

发布时间：2019-09-03 00:00
作者：
来源：新浪科技
阅读量：1688

ZAO可能产生的潜在危险和不安全性，也是人工智能为社会提供产品的同时人们必然面临的挑战。

　　名为ZAO的AI换脸软件红遍网络，然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。

　　实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，称Deepfakes，是深度机器学习（deep machine learning）和假照片（fake photo）的简称（合称），最生动的称呼是深度（照片）造假。

　　既然是造假，当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全，如果涉及犯罪，轻而易举的换脸操作也会让真假罪犯难辨，同时加大司法成本。当然，在一些国家，如美国，换脸还可能成为反恐的梦魇，既可以让恐怖分子很容易通过换脸作案和逃脱，也加大了安全部门反恐的难度。

　　所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性，这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此，如何监管才是最现实和最严峻的问题。

　　现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸，美国欧盟等认为，即便是潜在的威胁，也极其严重，必须先出手防范。

　　今年1月28日，美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes？》，指出，以Deepfakes为代表的换脸技术具有一系列潜在的危害，包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等，希望各国明确定义Deepfakes的不正当使用，亟须社会定义什么可以接受，什么不可以接受，这既有利于社会和法律的管理，也有利于社交媒体规范其平台，管理网上内容。

今年6月13日，美国众议院情报委员会对Deepfakes举行了听证会，会上该委员会主席、众议员亚当·希夫称，篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景，让议员、新闻媒体和公众“难以分辨什么是真实的，什么是虚假的”。因此，他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条（互联网服务不必为其用户的行为负责）进行修改，以打击Deepfakes，保护用户免受假新闻的误导。

　　针对Deepfakes换脸技术产生的具有破坏性的危险性内容，欧盟也在2019年初出台了应对指南，以帮助公众分辨某条信息的来源，信息是如何产生的以及信息是否值得信赖。

　　可以看到，对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止，只是在进行论证。但迫于压力，美国的Reddit上关于换脸技术的讨论版被删除，换脸技术也在美国被全网封禁，其GitHub开源代码也被清除。

　　尽管目前看来，ZAO软件还没有造成实际上的危害，但是，正如网友所指出，一个潜在危害非常实在：“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你家人通话了。”因此，公众的担心并非杞人忧天，有必要及早以明确的法律条款予以规范。


（备注：文章来源于网络，信息仅供参考，不代表本网站观点，如有侵权请联系删除！）

上一篇：室内信号覆盖成难题，但别让5G信号入户难拖5G后腿

下一篇：华为 Mate 30 官宣：麒麟 990 带来的无限可能

在线留言询价

相关阅读
利用AI可在6小时内设计出芯片？谷歌再曝黑科技
行业新闻

利用AI可在6小时内设计出芯片？谷歌再曝黑科技

一直以来，芯片都是不少科技公司研发的重点，尤其在芯片市场竞争异常火热的今天。 芯片研发周期长、成本高，重度依赖设计，优秀的芯片设计师非常稀缺，基本都被几家老牌芯片大厂垄断，后起之秀很难在短期内挖到足够的资深设计师。 随着技术的不断升级，AI 的作用也越来越重要，很多科技企业都在对 AI 进行不断的投入研发。近日，Google AI 负责人 Jeff Dean 和谷歌研究部门、谷歌芯片实现和基础设施团队共同撰写了一篇论文，论文中描述了一种基于学习的芯片设计方法，并声称可以平均在 6 个小时内完成芯片的设计。     该论文的发布，意味着片上晶体管的放置可以在很大程度上实现自动化。如果技术成果可以公开发表，那么这项技术可以让资金紧张的初创公司开发出自己的芯片，用来进行人工智能或其他行业的研究应用。此外，该技术还可以帮助缩短芯片的设计周期，使硬件能够更好地适应理论研究的快速发展。 Jeff Dean 在去年年底的一次采访中曾透露过这一项技术，并介绍到"从你想要的设计，到实际将其铺设在芯片上，并在面积、功率和线长等方面有适当的限制，满足所有的设计或制造过程，这是一个持续很长时间的过程，而我们基本上设计出了一款机器学习模型，它可以学习如何为一个特定的芯片进行元件布局。" 该 AI 模型的方法旨在将逻辑门、存储器和更多的网格图放置到芯片画布上，从而使设计在遵守放置密度和路由拥塞限制的同时，优化功耗、性能和面积（PPA）。图谱的大小从几百万到几十亿个节点组成的集群不等，通常情况下，评估目标指标需要数小时到一天以上的时间。 Jeff Dean 提到，数十年来，推动计算技术发展的基本思想是：给要解决的问题匹配足够的算力。问题越大，算力越大。但当我们进入 AI 时代后突然发现，算力并没有那么重要了。 事实证明，AI/ML 不需要典型的 CPU/GPU 的复杂功能，所需的数学运算也更简单，而且要求的精度也低很多。 事实证明，AI 在设计芯片方面天赋异禀。AI 设计芯片的水平越来越高，完全自动化地布置芯片上晶体管也毫无压力。现在，AI 设计芯片平均只需要 6 个小时。而同样的活儿，人工做要花费几周时间。  研究人员将逻辑门和存储器组成的芯片网表放在一个芯片画布上，这样就可以一目了然地优化设计中的功耗、性能和面积(PPA），同时遵守对布置密度和走线阻塞的限制。这些网表大小不等，由成千上万个集群中的数百万到数十亿个节点组成，通常，评估达成目标需要花费几个小时到一天以上的时间。 研究人员设计了一个框架，指导 AI 智能体进行强化学习训练，来优化芯片的布置位置。(强化学习通过奖励政策来刺激 AI 智能体完成目标，在这种情况下，AI 智能体会根据奖励最大化的情况进行布置。) 根据芯片网表，当前节点的 ID，以及网表和半导体技术的元数据，一个政策 AI 模型会在可用的布置位置上输出一个概率分布，而价值模型则对当前布置的预期报酬做出估计。 就这样，从一个空芯片开始，AI 智能体完成网络列表，然后按顺序布置组件。最终 AI 智能体会收到系统的奖励。为了引导 AI 智能体先选择布置哪些组件，组件按降序大小排列; 先布置较大的组件，会减少以后无法布置组件的可能性。 培训 AI 智能体，需要创建一个包含 10,000 个芯片布置情况的数据集，其中输入与给定布置相关的状态，标签是布置相对应的奖励(即，线路长度和阻塞)。研究人员首先挑选了 5 个不同的芯片网表，然后应用 AI 算法为每个网络列表创建 2000 个不同的布置位置。 在实验中，研究人员报告说，在越多的芯片上训练框架，就能够越快地进行训练，产生更高质量的结果。他们声称，与主流芯片相比，谷歌 TPU (人工智能加速器芯片)的产品实现了更好的 PPA。 研究人员得出结论，现有的方法总是从零开始优化每个新芯片布置位置，我们的工作利用了先前布置芯片所积累的知识，随着时间的推移训练效果变得越来越好。
2020-04-29 00:00 阅读量：1427
AI为何被称为第四次工业革命的“催化剂”？
行业新闻

AI为何被称为第四次工业革命的“催化剂”？

随着蒸汽机和动力织机的发明，世界工业化开始于 18 世纪后期，从根本上改变了制造商品的方式。一个世纪后，电力和装配生产线实现了大规模生产。在 20 世纪 70 年代，随着计算机驱动自动化的发展使我们能够对机器和网络进行编程，第三次工业革命开始了。 今天，第四次工业革命正在改变经济、就业乃至社会本身。在工业 4.0 的广泛标题下，许多物理和数字技术通过分析、人工智能、认知技术和物联网（IoT）相结合，创造出既互联又能做出更明智决策的数字企业。数字企业可以交流、分析和使用数据来推动物理世界中的智能行为。简而言之，这场革命不仅在组织内嵌入了智能互联技术，而且嵌入了我们的日常生活。  人工智能，机器学习，物联网，区块链—随着这些技术的问世，当今人类正在经历一场继互联网之后的重大科技变革。根据 Tractica 的一份人工智能市场预测报告，到 2025 年全球人工智能产业市值有望从当前的 95 亿美元扩张到 1186 亿美元。 其中，人工智能的出现意味着第四次工业革命的序幕悄然拉开，人类历史即将再一次被颠覆。全球 IT 巨头纷纷布局人工智能领域：谷歌相继收购 DeepMind、Kaggle 为代表的人工智能公司、IBM 打造 Watson 平台、百度进军无人汽车、阿里联合杭州市政府打造“城市数据大脑”、腾讯成立 AI 实验室……毋庸置疑，人工智能时代已经到来。之所以说它是一个时代，而不是单纯的“风口”。 人工智能则运用机器学习，通过神经网络来模拟人类神经系统的结构和功能。根据每个系统不同的智能程度，人工智能可分为 3 个级别：弱人工智能，通用人工智能以及超级人工智能。弱人工智能可以运用算法来执行某一个特定的任务；通用人工智能则致力于将系统的认知能力提升到人类的高度；而超级人工智能作为最后的阶段，可以实现智能机器比普通人更加“智能”的愿景。 回顾前三次工业革命发展历程，历史的车轮继续向前，出现了与蒸汽机、电力、计算机的发明同等量级的新事物——人工智能，正在以迅雷不及掩耳之势席卷全球。什么是人工智能?大数据+机器的深度学习。大数据是人工智能的基础，通过大数据的收集分析为人工智能提供素材，机器基于素材的积累实现深度学习——以人的思维方式思考、解决问题。人工智能出现的意义绝不仅仅是机器人的批量生产与应用，而是作为核心驱动力驱动产业结构、城市形态、生活方式和科技格局的颠覆式变革。 一方面，围绕人工智能积极布局新兴领域，包括智能软硬件(例如语音识别、机器翻译、智能交互)、智能机器人(例如智能工业机器人、智能服务机器人)、智能运载工具(例如自动驾驶汽车、无人机、无人船)、虚拟现实与增强现实、智能终端(例如智能手表、智能耳机、智能眼镜)、物联网基础器件(例如传感器件、芯片)，形成人工智能主题的高端产业和产业高端的聚集。 另一方面，以人工智能推动制造业、农业、物流、金融、商务、家居产业在内的传统产业转型升级，形成智能制造、智能农业、智能物流、智能金融、智能商务、智能家居产业。通过智能工厂的推广大幅提高生产效率，推动人工智能在各行各业的规模化应用，全面提升产业发展的智能化水平。 人工智能技术的成熟对产业结构、城市形态、生活方式、科技格局等带来了改变。 目前全球人工智能企业最为集中的三个国家分别为美国、中国、英国，三国的人工智能企业数量占全球总数的 65.73%，其中“BAT”在人工智能领域的布局跻身全球第一梯队。中国人工智能专利申请数累计达到 15745 项，位列全球第二。中国人工智能论文引用量排名世界第一。中国人工智能领域融资规模约为 26 亿美元，远高于以色列和印度……这些数据的背后是中国强大人工智能实力的彰显，也决定了中国将凭借人工智能登上世界科技舞台。 人类文明的每一次进步，都伴随着科技的重大突破。轰轰烈烈的第四次工业革命大幕已经拉开，人工智能正在引领人类社会进入新纪元。
2019-12-03 00:00 阅读量：1627
这个“黑客帝国”的痴梦，未来究竟以怎样的线路图演进？
行业新闻

这个“黑客帝国”的痴梦，未来究竟以怎样的线路图演进？

硅谷钢铁侠的倾情安利，让脑机接口成了一个火到烫耳的热词。 7月17日旧金山的一场公开活动中，马斯克投资的神经科学公司Neuralink公布了最新的脑机接口装置。“无损植入”“装备完整”“成功应用”，是被重点强调的特殊之处。 一时间全网都在喊《黑客帝国》来了，话题更是一度延伸到了科技伦理、人机共生等哲学层面。不过不出所料，很快就有专业人士出来打脸，认为产品远没有达到可应用的预期。别问，问就是“画饼”。  必须承认，马斯克是一个非常善于打破次元壁、将科幻搬进现实的公关天才。可惜现实与科幻作品最大的区别就是，艺术可以尽情放飞脑洞，但技术想要从0变成100，中间的1到99都是无法省略的步骤。尤其脑机接口这样牵涉甚广的交叉学科，更不会跳过打怪升级的过程直接一步封神。 这也是为什么，马斯克为我们描绘了一个人机共生的震撼未来，却又很难具象与明确。那么，马斯克的成果与真实的脑科学之间，究竟是以何种关系共生的？脑机接口未来又将以怎样的路线图演进？ 脑机接口的“马斯克形态”：科学还是玄学？事故后只剩下大脑，也能操控机械骨骼；用脑神经指挥机甲与敌人搏斗；甚至将大脑中的意识提取并转移，实现另一种概念上的永生…… 乍一听，你可能会觉得自己走错了片场——“这也太玄乎了吧！”，而这正是马斯克与Neuralink公司为人类安排的未来。 按照马斯克的规划，他们打造的脑机连接设备，包含了为脑机接口系统特质的柔性电线、类似缝纫机的穿线机器人，以及读取大脑信号的电子芯片，安装完成后，可以通过USB连接大脑，并用iPhone进行控制。往近了说能帮助一些脑损伤患者（例如中风、癌症或者先天障碍）提升生活质量；长远目标则是让所有人实现移动、视觉、语言交流等运动的“脑部操作”。  针对前一目标，我们已经看到了不少实际的应用案例。比如利用神经脉冲恢复听觉的人工耳蜗；帮助13 名瘫痪者控制肢体的 BrainGate 系统；Facebook靠脑输出的语音文本界面……但如果设定一个高可靠、规模化的执行标准，“马斯克形态”的脑机接口，似乎只能呆在实验室里，或者科幻小说中。 首先要知道，理想中的脑机接口都是如何实现的？ 简单来说，就是通过设备刺激脑部神经元，捕捉相应的感知信号，对其进行读取和记录，进而转换成指令发送给外部设备，比如机械臂、电子屏幕甚至物联网装置。 所以脑机接口技术的核心突破点，就在于三个关键指标： 1.脑。 检测到脑部活动并不难，核磁共振、脑电图等都可以检测到大规模神经元的运动表现。但想要通过人力对大脑进行结构重建和功能模拟，需要完整的脑部路线图来确保人工指令的精准触发与送达。但以目前的脑认知水平，基于自发脑电的任务识别率只有80%，诱发脑电的控制精度同样也达不到使用要求。也难怪马斯克和Neuralink谈到自家设备时，究竟能做什么，刺激哪些部位，怎么实现的，一律含糊其词了。 2.机。 脑机接口设备采集到的脑电信号之后，最关键的一步就是对其进行处理，转换成机器语言被电脑接收，进而达到辅助人类的目标。但脑机接口的通信速率还比较低，而且不可避免地会遇到环境干扰。由于需要在PC平台上处理信息，所以目前BCI产品的便携性也很差。 举个例子，目前基于视觉信号诱发的BCI通信速率最高，但也只有60-100bit/min。像是通过跟踪电脑屏幕上虚拟键盘的视觉信号，来显示对应的文字，以目前的技术只能做到每分钟输出10个单词，还必须精神高度集中。这样的信息转换效率，说一句话、递一杯水都累个半死，远远达不到正常交流、操控自如的水平。  3.接口。 生物相容性，是脑机接口的先决条件。而目前的技术解决方案都有不少问题，非植入设备对脑电波信号的捕捉极其不稳定，无法实现准确读取和控制。而植入设备，要么采用硬金属或半导体，很容易引起人体的排异反应；要么则是Neuralink所采用的超细聚合物管线，硬度不足，需要靠“缝纫机”机器人把它“编织”进大脑，这种介入是否会导致神经胶质增生的组织损伤，马斯克并没有拿出足够有说服力的证明。  这三点限制反映了脑机接口的先天难题：无法真正复制大脑神经云的工作原理及运动细节，现有电子技术无法处理高清脑信号，工业体系无法实现安全无创随取随用的移植，使得脑机接口虽然看上去很酷，却始终只能在应用的边缘徘徊。 如果我们将脑机智能看做是一个蕴藏着巨大财富的技术世界，如今的马斯克就像是拿到了一张局部高糊地图，就呼吁大家上车跟他一起去寻宝…… 相比“脑部改造”，更重要的是脑认知与脑模拟 “两开花”想要在人类大脑上“为所欲为”，一个真实可靠高精度的技术路线图是必不可少的。而这里脑机接口的存在感很低，主要依赖两个重点领域——认路，即理解大脑的结构和功能，以及神经信息处理的机制；造路，通过智能技术模拟大脑运动，推动信息产业的发展。  其中，脑认知的诉求带动了基础脑科学的突破，这在各国的脑计划中都是重中之重。比如美国的脑计划就提出一个口号——记录神经环路中每一个神经元的每一个锋电位，填补宏观意识与微观电子之间的“明显的鸿沟”。2016年发布的“中国脑计划”， 也将研究脑认知的神经原理作为学科制高点。 而类脑智能则从算法角度为人类探索大脑提供了一种途径。核心在于“模拟大脑”的超级能力，背后包含了一系列应用落地的技术和硬件体系。脑机接口的计算技术和器件，脑机融合的新模型新方法等等只是类脑智能的其中一个分支。 换句话说，脑认知与脑模拟是智能的“一体两面“，未来想要占领智能的高地，很大程度上要看哪个国家或企业能率先做到这两个领域真正地融合发展。只有二者在现实场景中不期而遇，脑机接口的“大脑改造计划”才有可能梦想成真。 接下来，脑机接口还需要点亮哪些技能树？站在这个角度审视脑机接口，会发现当前阶段它更合理的角色，是成为脑认知与脑模拟的辅助技术中的一员，而不是直接上位“大脑指挥官”。 当然，终极版的“脑机接口”是那么神奇而迷人，也让我们忍不住来设想一下，想要抵达大脑这片“无垠之海”，还需要点亮哪些技能： 1.人类脑图谱。传统核磁共振等脑成像技术让人们了解了大脑宏观结构和功能区块，而要实现脑机接口想要实现复杂的多元任务目标，就依赖于细胞级分辨率（微米级）神经网络图谱和高时间分辨率（毫秒级）的神经元集群的电活动图谱。这有点无人驾驶领域的高精度地图，有了它才能平稳飙车。目前各国都在这一领域加紧布局，日本的大脑图谱MINDS就对“普通狨猴”展开了结构和功能地图测绘；2016年中科院绘制的一张全新人类脑图谱，就包含了246个精细脑区亚区。未来研究成果的完善与扩大，揭开脑电与脑功能的因果关系，脑机接口的精确操控或许才成为可能。  2.微电极技术。传统脑机接口之所以发展不起来，一个关键原因就在于临床上还没有出现能记录和处理大量信息的微电极阵列。现有的半导体尺寸都很大，一些脑机器械需要专家才能操作。如果必须让一个神经学硕士站在患者旁边帮他操作，这项技术显然就没有太大使用价值。最后真正拥有机会的，一定是低损伤甚至无损伤的微型电极。 3.半导体技术。传统的脑机芯片计算效率很低，只能处理很小一部分神经元信号。实验室中科学家可以通过PC等外部设备花费大量时间进行数据离线处理，但在实际应用时，实时脑机接口则要求最大化的解码效率，同时还要尽可能少地耗能，总不能隔三差五取出来充电吧。Neuralink最后选择了自研芯片可能也是出于这种考虑，但持久度如何还有待检验。  4.人工智能算法。与其依赖大脑自行完成操作，并为漫无边际、时有波动的脑电波信号感到困扰，不如将解决的希望放在算法上。相比人脑，算法的可塑性更强。斯坦福大学就通过机器学习模型来预测用户眼动的意图，帮助光标自动移动到特定位置，从而提升了大脑打字的效率。受临床实验的限制，目前此类算法的数据规模还比较少，准确率还有待提升，热衷于靠脑机+AI改造人类的马斯克将研究重点放在这里或许可行性与商业价值更大。  通过上述技术突破点不难看出，马斯克预想中的“半机器人”时代，对基础科学、材料学、通讯技术及相关软硬件的需求都很强烈。或许相比脑机接口这样炸裂而遥远的“大风口”，这些关联技术的接连爆发，才是真正的“金矿”。 与其急于圆一个“黑客帝国”的痴梦，倒不如沿着枯燥而真实的技术演进路线去一步步打磨与淬炼。
2019-07-22 00:00 阅读量：1667
热门分类
盒子，外壳，机架 电缆，电线 电路保护 连接器，互连器件 开发套件 机电产品 嵌入式解决方案 风扇，热管理 光电元件 其它 无源元件 电源 半导体 传感器，变送器 测试与测量
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
MC33074DR2G onsemi
BD71847AMWV-E2 ROHM Semiconductor
TL431ACLPR Texas Instruments
CDZVT2R20B ROHM Semiconductor
RB751G-40T2R ROHM Semiconductor
型号 品牌 抢购
BU33JA2MNVX-CTL ROHM Semiconductor
TPS63050YFFR Texas Instruments
BP3621 ROHM Semiconductor
IPZ40N04S5L4R8ATMA1 Infineon Technologies
STM32F429IGT6 STMicroelectronics
ESR03EZPJ151 ROHM Semiconductor
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
原厂授权品牌
更多授权品牌>>
资讯排行榜
  • 周排行榜
  • 月排行榜

相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年，现 有超过3500家优质供应商，收录600万种产品型号数据，100 多万种元器件库存可供选购，产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等，为广大客户提供一站式购 销服务。