AI可能危害社会！ 国科会积极推动AI伦理相关研究

国科会主委吴政忠（右二）表示，将积极推动AI伦理相关研究。（林志成摄）

生成式AI（人工智慧）为人类生活带来改变，但也可能危害社会，立委今天要求国科会要进行机器伦理方面的研究，提供AI产业发展的依据。国科会回应，已积极推动AI伦理相关研究，但也不会在法制上弄得太紧，以让国内AI产业可以正常发展。

立法院教育及文化委员会今天审查国科会预算，民进党立委范云指出，人工智慧机器决策系统的偏误对社会的影响深刻，为了维持人机互动的和谐，机器伦理的技术研究不可或缺。国际上不乏对人工伦理决策者的研究，即于机器训练和决策的回圈中纳入与社会公众的参与，让其决策受到监督并内含多元价值。

国科会主委吴政忠回应，机器伦理非常重要，因为AI也可能危害社会，像欧盟就非常注意这方面的议题。国科会已积极推动AI伦理相关研究，但也希望法制上不要弄太紧，以免压缩AI产业的发展空间。

民进党立委吴思瑶表示，ChatGPT问世后，各国政府更加重视AI科技中大型语言模型的研发，目前国际间大型语言模型，简体中文训练资料占比远高于繁体中文，悬殊的训练资料将导致模型推论结果偏向大陆的生活用语与思想论述，不利于台湾文化、社会与政经的长期发展。

吴思瑶进一步指出，国科会「推动可信任生成式AI发展先期计划」，训练资料内容偏重科技领域，内容对于大型语言模型而言不仅不够多元，数量也远远不足，国科会应盘点各个部会发行的期刊、文本及已建置云端资料库，如国家文化记忆库，广泛纳入训练文本中，以提升训练资料多元性。

国科会表示，文化部国家文化记忆有几类资料，其中图片档，以及民众自行上传素材、撰写故事等资料，因著作权问题无法再授权，其余可公开的文字部分，目前已取得4万6440笔。

国科会说，各部会出版的专业期刊，排除指标类、统计报告、统计年鉴、年报、公报等类型后大约50余种，目前生成式AI于训练阶段利用他人著作需依照著作权法规定办理。