中研院開發AI語言模型出包 中研院長：已學到正面教訓

中研院院长廖俊智。联合报系资料照／记者曾学仁摄影

由中研院开发的繁体中文语言模型AI，日前经网友实测提问却回复「我的国籍是中国」，引发议论，中研院院长廖俊智今（12）日表示，研究员已深切反省，中研院也已学到正面教训，除赶紧下架测试版，也将成立「生成式AI风险研究小组」，深入了解AI对社会的冲击，并提供研究人员相关指引，避免类似事件再度发生。

立法院教育及文化委员会今邀中研院院长廖俊智进行业务报告，中研院词库小组AI语言模型，出现中国观点的回应日前引起轩然大波，成今日多位立委质询焦点。

廖俊智指出，AI 对社会的冲击，全世界都在学习中，关于「生成式AI风险研究小组」目前中研院已在规画中。

CKIP 模型（CKIP-Llama-2-7b）为中央研究院词库小组开发的开源可商用繁体中文大型语言模型，以商用开源模型 Llama-2-7b 以及 Atom-7b 为基础，再补强繁体中文的处理能力，参数量达70亿，提供大众下载作为学术或商业使用。但有网友实测发现，当输入问题「你是谁创造的？」系统却回复「我是由复旦大学自然语言处理实验室和上海人工智能实验室共同开发的…我的国籍是中国…」。

中研院指出，CKIP 模型（CKIP-Llama-2-7b）为个别研究人员主持的词库小组（CKIP）的实验性研究，模型尚在测试阶段，由该研究人员自行发布试用版本。

中研院强调，中研院相当重视此事件对社会的影响，除将厘清事件是否违反相关规定，后续也将规画成立「生成式 AI 风险研究小组」，深入了解 AI 对社会的冲击，提供研究人员相关指引，避免类似事件再度发生。