建设人工智能“上海高地”

7月8日至10日，2021世界人工智能大会在上海召开。在拥有比较成熟的产业技术和商业模式的基础上，上海还应致力于人工智能的安全漏洞风险防范，全方位建设真正意义上的人工智能高地。

加紧制定通用安全标准

提案方     赵柏基  上海市政协委员

背景情况            从自动驾驶到智能安防，从语音助手到虚拟现实，人工智能技术正在迅速发展，潜力巨大。习近平总书记在十九届中央政治局第九次集体学习时明确指出，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。

问题及分析      众多科技巨头先后在上海设立功能型总部和研发中心，一大批国内外人工智能头部企业的落户，汇聚了权威专家资源，为上海在人工智能安全治理方面的先行先试提供了良好的土壤。隨着人工智能落地场景的增多，使用范围的扩大，一系列系统性风险也逐渐浮出水面。

1.合规风险。数据是人工智能的基础，在应用人工智能时，企业需要满足包括数据收集、隐私保护在内的各项合规要求。然而，目前针对人工智能的合规要求散见于数据安全和隐私保护等领域，不够集中和清晰，存在很多“灰色地带”，暗藏风险。例如，2017年，谷歌旗下的人工智能子公司DeepMind所开发的移动应用Streams，因收集患者医疗病历被英国信息委员会裁定违反了英国数据保护法;2019年8月，瑞典北部的谢莱夫特奥市政府因允许该市某高中试用人脸识别技术进行考勤，被瑞典数据保护局以违反欧盟《通用数据保护条例》（GDPR）为由处以罚款。……