信安标委发布AI安全标准化白皮书:AI有敏感信息采集合规问题_人工智能

信安标委发布AI安全标准化白皮书:AI有敏感信息采集合规问题_人工智能
信安标委发布AI安全规范化白皮书:AI有灵敏信息采调集规问题 10月31日,全国信息安全规范化技能委员会(简称全国信安标委)网站发布《人工智能安全规范化白皮书(2019版)》(简称“白皮书”)。 现在的人工智能根据深度计算技能、依赖于大数据的“喂食”,白皮书指出,在数据收集环节,人工智能存在过度收集数据、个人灵敏信息采调集规等问题,需展开隐私维护要求及技能类规范研讨作业。 人工智能面临合规、乱用、数据走漏等安全危险 近年来,人工智能在算法、算力、和大数据要素的影响下,迎来第三次展开浪潮。它在改动人类出产生活方式的一起,也给社会带来不行忽视的危险应战。 现在的人工智能依赖于大数据的“喂食”。白皮书指出,人工智能在数据收集环节,存在过度收集数据、数据收集与用户授权不一致、个人灵敏收集信息合规问题等;还易遭受数据投毒、仿照进犯等。 在数据运用环节,数据标示带来安全隐患和合规问题。如外包公司的规范人员可直接触摸原始数据,假如办理不规范,或许存在内部人员盗取数据、数据走漏等危险。 在使用方面,使用人工智能技能仿照人类,如换脸、手写假造、人声假造等,除引发道德道德危险外,还或许加快技能在黑灰色地带的使用,含糊技能使用的合理鸿沟,加重人工智能乱用危险。 其他方面,人工智能系统还存在数据存储安全隐患、同享安全隐患、数据传输安全隐患等。 我国没有有正式立项的人工智能本身安全的规范 面临人工智能带来的各种安全危险,各国拟定了相关的法律法规和方针。比方美国总统签署行政令,发动“美国人工智能主张”;英国树立数据道德与立异中心为政府供给咨询;日本建立人工智能委员会,展开人工智能道德道德研讨 。 我国亦发布了一系列相关方针,如《新一代人工智能展开规划》 、《国家新一代人工智能立异展开试验区建造作业指引》等,在特定范畴如无人机、自动驾驶等范畴出台相应规范性文件。此外,特定职业和范畴公布或立项相应规范,如生物辨认范畴的《信息安全技能 虹膜辨认系统技能要求》等。 不过,我国没有有正式立项的人工智能本身安全或根底共性的安全规范。 人工智能在个人信息维护等方面存在规范化需求 结合安全剖析成果和当时规范化现状等要素,白皮书指出,人工智能在算法模型、数据安全和个人信息维护、根底设施安全、产品和使用安全等方面存在规范化需求。 针对杰出的数据安全与隐私维护危险 ,白皮书主张平衡隐私维护和人工智能剖析作用,防备逆向工程、隐私乱用等安全危险,展开人工智能隐私维护要求及技能类规范研讨作业。 依照“充沛研讨,急用先行,安全事情推进”的思路,白皮书主张 优先立项《人工智能安全参阅结构》、《人工智能数据集安全》、《人工智能数据标示安全》、《机器学习算法模型可信赖》、《人工智能使用安全攻略》、《人工智能安全服务才能要求》等规范。 附白皮书全文链接:《人工智能安全规范化白皮书(2019版)》 文/尤一炜 修改:冯群星

发表评论

电子邮件地址不会被公开。 必填项已用*标注