数据安全面临着哪些新的挑战

发表时间:2024-07-21 16:03

        伴随数据要素化进程的高速发展,数据广泛、实时流动,在释放数据价值的同时,数据安全威胁也日益严峻。除面临传统的泄露、窃取、破坏等安全威胁外,还呈现出如下新的风险态势:

        数据跨境流动引发国家和公民安全隐患。随着经济全球化的发展,全球贸易往来、金融投资和技术交流日益频繁,在数据跨境传输、访问和使用过程中,跨境数据流动的种类、数量与频次持续大幅度上升,涉及的内容也不再局限于个人隐私信息,还包括国家安全、社会治理、企业商业机密等方方面面。伴随数据价值的攀升,数据被觊觎的风险也持续加大,由于技术漏洞、管理缺位和政策法规不完善等因素,海量的数据跨境流动带来了潜在的重大系统性风险,不仅会对个人隐私产生严重影响,这些数据若被境外情报机关获取并用于对我国的战略分析,还会使得我国战略动作易被观察预测,产生国防安全的重大隐患。

数据安全.jpg

        滥采滥用个人信息并实施数据垄断。由于互联网平台企业的业务大都由数据驱动,商业推广、精准营销、产品迭代等均依赖对数据的海量收集和开发利用,数据成为了平台企业发展和盈利的核心资源。基于数据收集使用创新商业营收模式,实现利益最大化,成为了各个平台企业追逐的商业目标,由此又加剧了个人信息滥采滥用、数据垄断乱象频发的数据安全威胁。

        大数据杀熟与价格歧视。平台企业利用所掌握的数据以及大数据技术,对消费者的消费行为进行精准刻画,进而在用户不知情的情况下,对不同用户采取不同的价格机制与定价策略,从而最大程度上攫取利益。

        信息茧房与视野窄化。算法推送技术导致推荐内容过于单调,它不仅让受众个体的视野被固化,会在受众当中形成分区,扩大了不同群体之间的知识鸿沟,甚至导致群体极化事件发生。

        人工智能技术面临多重安全风险。一方面模型算法攻击挑战严峻,模型算法在深入挖掘数据价值的同时,被攻击、修改、窃取的风险也随之加剧,例如在网购平台推荐算法中,恶意混入误导性数据,导致推荐错误;以及利用人脸图片,欺骗人工智能系统,让其做出错误的判断。另一方面,基于人工智能的新型攻击凸显,基于人工智能具备的机器学习特性,会被黑客利用开展新型攻击。例如,针对具体人、具体场景,有针对性地生成钓鱼邮件,进行精准钓鱼;以及使用人工智能技术合成亲属语音,进行网络诈骗。再一方面,生成式人工智能引起新型数据泄露及滥用风险,伴随 ChatGPT的兴起,生成式 AI 技术的商业化趋势已经来临,众多企业通过将文本理解分析,多模态检索等智能分析能力融入到在线服务、智能客服等产品和服务中,全面提升自身产品和服务的 AI 化,在此过程中,涉及的数据非法获取、数据泄露及恶意滥用等数据安全问题也日益凸显,例如:ChatGPT 不设限爬取、采集我国各大重要媒体、电商等平台中的敏感数据、用户行为轨迹等信息,深度训练分析我国社情民意,严重危害国家安全;以及在应用 ChatGPT进行双向互动请求过程中,会被要求输入个人敏感信息、业务数据或涉及商业秘密等内容,加剧了数据泄露的风险。

                                                                                 

                                                                                文章节选:数据安全治理白皮书 5.0

ADDRESS/地址:北京市海淀区苏州街12号西屋国际D座
TEL/联系电话:400-619-6125
Mail/邮箱:424346148@qq.com