金沙贵宾会尊享每一刻0029(中国)百度百科

  • 企业动态
    企业动态
    企业动态

首页 > 金沙贵宾会尊享每一刻0029 > 企业动态 > 公司新闻 > AI时代,网络安全面临的威胁与...

AI时代,网络安全面临的威胁与应对之道

发布时间:2023-06-15

当前,人工智能浪潮持续蔓延,聊天机器人和生成式人工智能成为主流。AI技术在快速改变人们日常生活的同时,也带来大量有关安全合规、应用安全等方面的新风险、新挑战。


      近日,在全国信息安全标准化技术委员会2023年“人工智能安全与标准研讨会”上,信安标委大数据安全标准特别工作组发布了《人工智能安全标准化白皮书(2023版)》。该标准梳理了人工智能技术与应用发展现状,分析了人工智能面临的新的安全风险,并指出了人工智能安全标准需求,确保AI发展与安全相辅相成。


      深度学习需要利用大量数据进行训练,人工智能服务能力很大程度上也依赖于背后的海量数据。目前,应用市场上存在许多热门的人工智能聊天机器,如AI聊天创作机器人、AI问答机器人等,其背后就是大语言模型,核心逻辑便是对海量数据进行处理、加工和输出的过程。然而,这也意味着该类应用很可能在用户不知情的情况下收集用户查询的相关内容,并用于后续模型的开发。出于对信息的保护,一些欧洲国家的公司和机构禁止使用此类人工智能产品,以防止公司机密数据泄露。


       AI技术的不断完善,使其成为生产力进步的有力抓手。许多企业组织将人工智能视为企业数字化转型的得力助手,将其应用于移动应用APP,以更好地开展移动办公,为客户提供更好的业务服务,同时提高工作效率及降低成本。然而,黑产组织对AI应用的蓄意攻击也在不断增加,通过侵入系统破坏组织的业务运作,不仅可以窃取用户和企业数据,还能够对企业的人工智能模型等核心资产进行篡改。因而,对企业核心资产安全的保护加强也尤为重要。




· 个人需加强信息保护意识,遵守企业制定的相关规范,避免个人及企业数据遭受到安全威胁。

· 企业在使用AI应用的同时,也需要加强管理制度规范及员工安全防范意识培训。

· AI服务提供方需积极落实《数据安全法》、《个人信息保护法》等相关规范,确保用户及业务数据的安全性,同时更需加强人工智能模型参数等相关技术的机密性,以保障企业利益不受侵犯。


上讯信息针对人工智能移动业务安全提供应用和数据的全周期安全防护。

· 通过对移动应用APP程序文件进行全面的、多维度的、自动化安全扫描,发现程序代码中存在的安全漏洞和数据泄露风险。同时使用隐私合规检测功能,尽可能在应用开发阶段,解决应用安全合规问题。

· 在操作系统原有安全体系基础上,利用动态加载、动态代理、虚拟机保护和加解密等技术手段,对应用程序进行统一安全加固,保证移动应用的安全性和完整性,防止移动应用被反编译、动态调试和篡改打包,确保移动应用上线发布后的安全可靠运行。

· 通过应用自动化沙箱加壳,实现应用独立隔离运行环境,提供应用权限控制、应用隐私保护、数据防泄漏、数据加密保护等,增强移动应用业务数据和运行时的安全性,保障应用业务安全可靠。


在当前快速发展的人工智能时代,AI的双刃剑效应不可避免。为确保AI系统不被滥用或操纵,需要各方积极采取措施,将安全性置于首要位置,通过严格的隐私保护和数据安全措施,共同构建值得信赖的AI生态系统。


分享:
×
隐私条款
×

此处放标题

内容暂无















免费咨询热线:400-880-5062
电话:86-21-51905999
传真:86-21-51905959
邮编:201203
地址:上海市浦东新区张江高科技园区郭守敬路498号20号楼
我同意