六合图库2018官网
当前位置:举报首页 > 网络安全知识>

“智能+?#20445;?#26356;应重视安全挑战

来源:人民日报 作者: 2019-03-27 09:23:26

观众在首届中国国际智能产业博览会上体验医疗人工智能产品。新华社发

  人工智能?#38469;?#21644;应用飞速发展,在推动经济社会创新发展的同时,也带来安全、伦理、法律法规等方面的风险挑战。

  随着数据越来越多被收集,应用场景增加,用户个人信息泄露的风险也随之提升。

  人工智能的研究和应用要?#26032;?#29702;和法律界限,即应以人类的根本利益和责任为原则。

  刚?#25112;?#26463;的全国两会上,“拓展‘智能+’”首次被写入今年的《政府工作报告》,作为未来的重要基础性?#38469;酰?#20154;工智能已连续三年出现在《政府工作报告》中。可以预见,随着人工智能、大数据的深入应用,生产生活的数字化转型是大势所趋。

  人们在?#24403;?#20154;工智能、迈向数字社会的同时,也需要正视人工智能等新?#38469;?#24212;用在安全、伦理、法律法规、社会治理等方面的挑战。只有未雨绸缪,?#20449;?#21644;防范潜在风险,才能安享“智能+”的时代红利。

  人工智能应用方兴未艾,同时也带来安全风险隐患

  前不久,一项人工智能深度换脸?#38469;?#24341;发争议。原来,这项?#38469;?#33021;做到几乎毫无痕迹地给视频中的人物“换?#22330;保?#24341;发人们对隐私和肖像权被侵犯的担忧。更深的担忧在于,如果这?#24739;际?#34987;滥用,是否意味着大量视频会被“移花接木?#20445;?/span>

  今年全国两会上,人工智能、大数据等?#38469;?#24212;用带来的安全风险,成为代表委员关注的焦点之一。全国政协委员、360集团董事长兼首席执行官周鸿祎就表示,安全应该成为人工智能发展的基础与前提。全国人大代表、苏宁控股集团董事长张近东也提出,数据安全是数字中国建设的重中之重,发展高质量的数字经济,需要加强对数据的安全保护和合规共享。

  从信息安全角度看,当前人工智能应用的安全风险点主要?#24515;?#20123;?

  中国信息通信研究院移动安全联盟秘书长杨正军?#25285;?#20154;工智能高度?#35272;?#28023;量数据的采集和训练分析。随着数据越来越多被收集,应用场景增加,用户个人信息泄露的风险也随之提升。

  “人工智能算法不仅能直接采集用户个人信息,?#19981;?#28145;度挖掘分析看似不相关的数据。”杨正军介绍,他们开展的一项调研显示,当前滥用个人信息现象较为普遍。同时,人工智能及大数据场景下无所不在的数据收集、专业化多样化的数据处理?#38469;酰?#20351;得信息主体难以?#31169;狻?#25511;制其信息是如何被收集和利用的。信息安全保护已经成为人工智能发展的重要课题。

  专家表示,?#38469;?#26412;身是中性的,只要利用得当,人工智能也能用来提升网络安全水平。比如,人工智能在识别恶意代码方面就很有优势。

  北京神州绿盟科技有限公司安全研究员吴子建?#25285;?#24694;意代码往往是基于一些开源代码修改而成,它们通常有相似的行为模式。借助人工智能?#38469;?#35757;练的检测工具,能够比较高效地发现恶意代码。

  人工智能?#38469;?#20063;普遍用于企业内网安全防护。吴子建介绍,传统的防护手段是在网络的入口处设置防御措施,但内网之间很少进行防御。采用人工智能等?#38469;?#25163;段关联数据,可以?#34892;?#26816;测内网中的异常。与传统的方法相比,这种方法不仅能发现已知威胁,还可以检测到未知风险。

  吴子建认为,业内还需要做更多深入的研究,不断提升人工智能在安全防护上的价值。

  应提前?#20449;?#26234;能时代的法律伦理风险,引导人机良性合作

  人工智能的应用越来越多,衍生出一系?#26032;?#29702;、法律难题。比如,无人驾驶汽车发生交通事故时如何界定责任,医疗外科手术机器人出现意外怎样处置……

  “人工智能的研究和应用要?#26032;?#29702;和法律界限,即应以人类的根本利益和责任为原则,以实现人类根本利益为终极目标。这一要求也是人工智能和人的关系决定的。”中国人民大学法学院副教授郭锐认为。

  “当前?#38469;?#26465;件下,智能机器尚未具备伦理决策的能力,但其决策会引发?#26032;?#29702;意义的后果。”郭锐认为,通常法律针对的是能够遵循这些原则的主体,也就是自然人或者法律看作是主体的组织(法人),但考虑到人工智能的特征是对人的智能的模拟、延伸和扩展,因此伦理原则应当?#35270;?#20110;人工智能系?#22330;?/span>

  北京师范大学哲学学院教授田海平认为,人工智能的主体构成不是孤立的个体,而是多种关联形态的总和。“人工智能的构成主体分为研发者(包括算法的开发者)、生产商、运营商、电信网络服务商等。一旦发生交通或医疗事故,由于无法?#19994;?#26576;个?#33539;?#30340;责任主体,给责任界定带来很大困难,因此需要确立代理人来界定责任与权利。”

  近年来,学界和产业界日益重视人工智能中的伦理与法律问题,并推动制定相关?#38469;?#26631;?#25216;?#31038;会规范。专家表示,人工智能伦理法律涉及科学界、企业界,哲学、法学等多个领域,有必要成立应对人工智能发展的联盟组织,吸纳各方面的力量,共同推进相关研究。

  郭锐建议,要考虑到人工智能开发和部署过程中的权责归属,通过为?#38469;?#24320;发者、产品生产者或者服务提供者、使用者界定权利和义务,让自动驾驶、无人机等人工智能应用安全落地。

  专家表示,人工智能大规模进入人们生活之前,还应建立相对统一的风险评估指标体?#25285;?#35774;立具体、可操作的指标,为相关研究及应用提供指引。

  专家特别提醒,人和机器各有优势,要互相?#31169;?#25165;能实现人机协作,但人还是人机关系的主导者。惟其如此,才能将人工智能引向人机合作的良性发展道路。

  全球人工智能法律治理面临共同难题,当前应加强个人隐私安全管理

  针对人工智能应用在安全、伦理等领域的潜在威胁,世界各国已经开始了相关法律治理研究。

  杨正军介绍,各国对人工智能风险的关注重点和重视程度有所不同。以安全为例,美国关注人工智能对国家安全的影响,2018年3月美国国会发起提案,建议成立国家人工智能安全委员会,并将制定相关法案;欧盟和英国关注人工智能对隐私、就业及伦理的影响;俄罗斯、以色列、印度则重点关注人工智能在国防领域的应用以及对军事安全的影响。

  北京师范大学刑科院暨法学院副教授、中国互联网协会研究中心秘书长吴沈括表示,在规范人工智能发展方面,我国起步?#26174;紜?017年7月,国务院颁布《新一代人工智能发展规划》;2017年12月,工信部发布《促进新一代人工智能产业发展三年行动计划(2018—2020年)》,都对人工智能产业的规范发展提出了要求。

  “这些政策能够引导和助推相关产业的发展。关于人工智能?#38469;?#26631;?#36857;?#25105;国也发布过一些文件。然而,当前立法中对于人工智能带来的安全问题还存在比较大的空白,这也是全球人工智能的法律治理面临的共同难题。”吴沈括说。

  随着人工智能应用的深入,其附属?#21335;?#20851;风险也日益凸显,加强对人工智能相关的法律治理至关重要。人工智能法律治理呈现出哪些趋势,现实中又?#24515;?#20123;需要迫切注意的问题?

  吴沈括认为,人工智能立法治理上可能会呈现出三个趋势:一是立法将更加细化,更有针对性。比如,针对自动驾驶、机器人、生物识别等领域颁布一些规范性文件,立法监管?#19981;?#26356;加多元;二是立法将与产业特?#36234;?#23494;结合;三是立法将以规范为主,监管则重在为产业发展提供指引。

  “由于法律往往存在一定的滞后性,考虑到人工智能等新?#38469;?#24212;用前景广阔,立法需要预留一定的空间,尽量实现产业应用与风险前瞻的恰当平衡。在?#33539;?#30417;管什么内容、如何监管以及怎样执行时,要把握好力度,不宜影响产业的发展活力。”吴沈括说。

  杨正军?#25285;?#20174;行业调研情况来看,当前应该加强个人隐私安全管理。他建议,隐私保护应从立法监管和?#38469;?#33021;力提升两方面入手:一方面,针对我国个人信息保护法律条款分散、不成体系?#21335;?#29366;,加快统一立法,明确数据不当收集、使用、泄露等的责任,同时也要界定好数据归属权等问题;另一方面,应加强新?#38469;?#22312;个人隐私保护方面的应用。

  数据的合理合法收集是数据利用的前提。专家表示,我们不应回避智能化与隐私安全保护的冲突,而应积极作为,?#19994;?#26234;能时代?#38469;?#24212;用与风险防护的最大公?#38469;?#20026;智能生活保驾护航。(记者 喻思南 刘诗瑶)


六合图库2018官网
平特一肖独家平 极速pk10单双技巧 五星直选技巧 四肖博八码网址 11选5计划软件 十一 浙江快乐彩技巧稳赚 后二组选每天稳赚技巧 手机购彩最新消息 彩票如何双向刷流水 大乐透预测精准十专家