上海网络安全产业规模突破260亿，Sora等推动的大模型生态安全受关注

网络安全是推动数字经济和实体经济融合发展的关键支撑，近年来，网络安全产业市场需求和潜力加速释放。

2月28日，上海市经信委总工程师葛东波在2024上海网络安全产业创新大会透露，上海网络安全产业规模已突破260亿元，实现三年倍增，年复合增长率超过25%，带动相关产业增长超过2500亿元。

聚焦零信任安全、隐私计算、人工智能安全等方向，上海已形成一批网络安全关键技术、产品和服务创新成果。

大会现场发布了《2023年上海市网络安全产业创新攻关目录》，涵盖人工智能安全、隐私计算、新一代数字身份认证、软件供应链安全、数据流通安全等11个方向，共计16个创新成果。

葛东波表示，上海将聚焦隐私、量子计算等技术方向，5G工业互联网、车联网等领域，面向全国开展创新攻关，推动网络安全关键产品研发和示范应用，形成一批创新成果。上海还将引导产业发展投资基金，为网络安全企业创业投资、股权融资创造便利条件，支持标杆形企业上市融资。

此外，上海支持保险机构、安全企业提供高端定制化服务和保险方案，面向党政、医疗卫生、工业互联网、车联网等领域探索开展网络安全保险试点，建立网络安全保险服务模式。

随着人工智能技术在众多领域的深入应用，网络安全和数据安全的问题也日益突出。

中国计算机学会计算机安全专委会日前发布的2024年网络安全十大发展趋势提到，人工智能安全技术将成为研究焦点，预计生成式人工智能技术将在网络安全领域得到广泛应用并初步展现其显著效能。

中国信通院华东分院院长廖运发指出，从ChatGPT到Sora的横空出世，都引发广泛讨论，当前上海正打造大模型产业生态，推动大模型人工智能快速发展。另一方面，中国信通院华东分院已与上海人工智能实验室成立大模型创新中心，重点关注大模型的安全，涉及基础设施、云服务以及机房、通信等安全问题，以及随之而来的数据隐私泄漏问题。

商汤科技信息安全委员会负责人吴友胜认为，人工智能赋能安全方面路途还很遥远。“我们训练数据的规模、质量、标签化的要求，可能说一般企业根本达不到这些数据。在算力层面，并非所有企业都能满足GPU硬件要求。”吴友胜说。

在人工智能技术的推动下，网络攻击的方式和手段也在不断演变，呈现出分布式、智能化和自动化的特点。吴友胜表示，一些黑客会利用AI技术发现漏洞，从而利用工具的快速迭代绕过漏洞，这也给网络安全从业者带来巨大挑战。

“风险与挑战并存，在重视和利用技术的同时，需要监管层面更好地确保这把利剑赋能行业，而不是给行业带来灾难。”吴友胜说。