《国际产业》化解AI偏见 ChatGPT爆红后要拚「客制化」

这家获得软体巨头微软重金投资的新创公司表示，公司一直都在致力于减少政治与其他方面的AI偏见，同时也希望能容纳更多不同的观点。

微软在据传砸下百亿美元投资OpenAI后，于日前宣布新版Bing搜寻引擎将与最新的ChatGPT技术进行整合。ChatGPT已经成为史上成长最快的消费类应用程式，在去年11月底推出后短短2个月内，其用户数就突破1亿人。

OpenAI周四在官网上表示，开放客制化ChatGPT意味着可能出现我们或其他人强烈反对的系统输出。客制化是未来的方向，但系统在表现上仍将存在一些限制。

微软最近推出与新一代ChatGPT技术进行整合的Bing测试版本，但有些媒体报导，新版Bing给出的答案可能有些危险，或许这项技术还没有为「黄金期」做好准备。

有报导指出，据实测结果，当某些用户输入具恶搞或有挑衅意味的提示时，新版Bing搜寻引擎测试版会使用一些表达愤怒、哀伤的词句予以回答，如指责对方「没有同理心、没有良知、不道德」等，有时候在答题错误时会坚持己见，有时在回答时会胡言乱语、不知所云。

受此打击，周四微软股价下跌2.66%，收在262.15美元。

如何为这项新兴技术设置「护栏」，已经成为生成式AI（generative AI）技术开发公司正在努力的重点。微软周三表示，用户的反馈将有助于微软在全面推出Bing之前改善问题，去了解什么情况下，自家AI聊天机器人会被「激怒」并给出并非故意的答案。

OpenAI在官网上解释ChatGPT如何生成答案，称ChatGPT的回复首先会在网路上的大型文本数据集（dataset）中进行准备。第二步则由人工检阅一个较小的数据集，并给出在不同情况下应该怎么做的指引。例如当用户要求的是成人、暴力或内含仇恨言论的内容时，人工检阅者应指示ChatGPT给出「我无法回答」之类的答复。

如果用户提问的是具有争议的话题，人工检阅者应该让ChatGPT 回答，但内容应该要提出人们的观点与相关行动，而非试图对这些复杂的题目给出「正确的观点」。