Google等科技業者合組「CoSAI」人工智慧安全聯盟 改善潛在風險問題

包含微软、Google、Meta、OpenAI、亚马逊、Anthropic在内业者去年合组「前沿模型论坛」，借此推动更安全、负责的人工智慧发展之后，稍早更由Google与亚马逊、Anthropic、Cisco、IBM、Intel、微软、NVIDIA、OpenAI、PayPal、Wiz、Chainguard、GenLab、Cohere在内业者合组人工智慧安全联盟「CoSAI」，借此改善人工智慧潜在风险问题。

「CoSAI」建立在Google去年提出的人工智慧安全框架「SAIF」的基础之上，并且以开源、标准化框架与工具协助开发者建立更安全的人工智慧，同时避免人工智慧模型被盗用、滥用，甚至包含以恶意资料影响模型训练准确性，或是以恶意指令输入 (Prompt injection)影响模型输出结果。

在初期运作中，「CoSAI」将制订人工智慧系统软体供应链的安全规范，并且从基础上确保人工智慧系统是以安全可靠的软体、资料建立，并且能更快及早发现问题，另外也设置保障措施识别、应对随时出现的人工智慧安全威胁。

同时，「CoSAI」也将透过规范定义如何开发一款人工智慧系统，并且确保其可被安全使用，另外也计划透过评估系统让开发者能判断人工智慧系统是否足够安全。而「CoSAI」也将透过专案管理委员会协助推进、管理专案发展，另外也将由学界与业者人工智慧专家合组技术指导委员会协助监督。

《原文刊登于合作媒体mashdigi，联合新闻网获授权转载。》