随着人工智能技术的出现，该领域的研究也在不断加强，其应用早已融入许多领域，成为不可分割的一部分。目前，人工智能已经涵盖了许多知识领域，如数学和计算机科学，并且在每个方向都有详细的技术探索过程。只有原始的恒星倾向。但人工智能技术是一把“双刃剑”，它给生活带来了便利，带来了相关的问题。作为当前安全问题的主题，本白皮书从基本概念和含义入手，主要结合实例分析人工智能技术当前的安全风险，并提出相关建议。
人工智能的基本概念
在1956年的美国达特茅斯会议上，科学家约翰麦卡锡首次提出了“人工智能”（AI）这一术语。人工智能是一种技术，使机器的运动看起来像一个人所代表的智能运动。当提出人工智能的概念时，科学家们主要确定了智能识别和研究目标的标准，但没有回答智能的具体含义。从那以后，许多着名学者就人工智能的意义发表了自己的看法，反映了人工智能的基本思想和基础，人类智能行为计算机模拟的基本理论，方法和技术。但是，由于人工智能概念的不断发展，目前尚无统一的定义。
人工智能安全内容
人工智能安全意味着将人工智能等人工智能应用于安全，以支持或替代越来越多的行业中的人类。另一方面，人工智能本身的安全问题是本文的重点。促进人工智能应用的方式更安全，更符合道德规范，始终是长期思考和深化的建议。在这个阶段，人工智能的不成熟性可能会带来许多安全隐患。例如，您如何选择自动驾驶汽车是否需要在打老人和打孩子之间做出选择？是什么原因？哪些因素值得选择？你能不言而喻吗？这只是无法向人类解释的数学运算的结果。此外，数据和人工恶意应用程序的强烈依赖性是由技术不成熟引起的安全风险，还有其他系统需要安全性以及人工智能系统。使用人工智能攻击其他系统并检测其他系统中的漏洞可能会给网络空间和国家社区带来安全风险[1]。因此，AI安全语义[2]：构建安全保护系统，降低不成熟的人工智能技术带来的安全隐患，并利用人工智能减少人为恶意应用造成的损害。
人工智能安全风险分析在分析之前，我们先简要介绍一下人工智能的应用。人工智能已广泛用于网络保护，数据管理，信息审查，智能安全，财务风险管理和舆情监测。在这方面通常存在许多安全风险，一般风险是：
1.框架安全风险
最近，众所周知的深度学习框架和依赖库（如TensorFlow，Caffe等）反复发现安全漏洞，攻击者可能会导致系统安全问题。采用生成模型[3]，原始操作原理如下。输入x由编码器映射到低维表示z，然后由解码器返回到高维重建x。如下：
攻击发生后，可能会发生以下情况：假设输入为7，则攻击者攻击网络后输出可以为8。如下：
您还可以使用人工智能编写计算机病毒和特洛伊木马，原始恶意脚本由人工手动编写，人工智能技术可以自动执行这些过程并插入恶意样本以绕过安全检测。同样，人工智能技术可以自动生成智能僵尸网络[5]并通过扩展和自动化针对其他系统的攻击来大大加剧网络攻击，而无需等待来自僵尸网络控制器的命令。伤害程度。
2.数据安全风险
攻击者可以通过网络内部参数反转网络训练数据集。 [6]人工智能技术增强了数据挖掘功能，增加了个人信息泄露的风险，例如Facebook数据在2018年3月泄露。
3.算法安全风险
深度学习网络目标函数的定义中的不准确性，不合理性或不准确性也可能导致不正确的结果。错误的目标函数，计算成本高的目标函数以及表达能力有限的网络可能会在网络中产生错误的结果。例如，在2018年3月，优步自动驾驶汽车引发了一场导致行人死亡的事故，因为机器视觉系统无法识别行人突然出现在路上。算法中的偏见和人工智能的莫名其妙的性质也是重要的问题。在美国使用人工智能算法预测犯罪之前，该名单已经发布，许多人被解散，大多数被拘留者变成了黑人，为什么即使制定了决策算法也做出了决定？你也不能给出合理的解释。恶意样本的出现可能导致算法错误判断情况。如下所示，添加了少量噪音，AI识别出可靠性高的熊猫。4.信息安全风险
只要有足够的训练数据，它就会产生有关人工智能侵权的虚假信息。将出现FaceFraft DeepFakes，Transition Time DeepNude等人工智能技术。一些罪犯使用虚假的声音和视频来阻止欺诈。目前聊天机器人谷歌完全能够愚弄人类，在本发明时与人们进行电话聊天。
5.社会保障风险
这是目前最具争议的部分之一。首先，在当前的发展趋势中，在近期发展中人工智能将取代许多工人的工作，这是对的，如果相关员工职位没有获得新技能，他们将面临失业，导致严重的社会问题。其次，由于技术，汽车，无人驾驶飞机和其他人类的不成熟行为，人工智能系统可能构成安全风险并可能威胁到人类安全。 2016年特斯拉汽车公司不承认白色面包车在蓝天背景下导致事故行人2018年优步自动车机视觉系统未及时识别道路，突然出现与行人行人死亡相撞多年来，中国经历了超过干扰无人机飞行造成的紧急降落事件。此外，人工智能的产物可能会影响现有的社会伦理[7]：1）人工智能算法偏见黑色犯罪率2）为什么AI算法远高于白人，例如影响社会公平和正义有吗？道德约束，只知道他们的目的，不会考虑他人的利益。例如，某些应用程序会自动发送用户最近的活动，使用人工智能系统在用户的短信广告中宣传他们的产品，它有一定的权利来确保其内容的真实性和行为以及是否违反了用户的利益。 3）AI类夫妻，父女双方在出现不同情绪时，质疑现代伦理。
6.国家安全风险
人工智能可以用来影响公共意识形态。例如，在美国大选中，候选人会受到影响选举结果的P2P虚假新闻推动的公共意识形态的影响。例如，2018年8月，委内瑞拉总统在一次公共活动期间轰炸了一枚无人机炸弹，这是世界上第一次在恐怖活动中使用人工智能产品。
人工智能作为引领未来的战略技术，已成为各种社会领域发展的重要引擎。但是，人工智能是一把“双刃剑”，有必要加强安全风险的研究和预防，促进其在安全领域的应用，引领下一代人工智能的发展，力争带头。为此，有一些关于开发人工智能安全性的建议。
1.加强技术应用研究，提高网络空间安全防御能力
2.密切关注法律和技术研究，以促进隐私管理3.增强人工智能应用的安全性，避免人身安全风险
4.优化学科专业化和在线培训，以降低社会失业风险
5.加强国际交流，共同应对安全风险。
上海IT外包服务网 链接：http://www.linemore.com
中文
电话咨询
微信咨询
公众号
