變相散佈假消息？美國紐約市政府AI聊天機器人回應竟錯誤百出

图片及资料来源：The Markup、engadget

在2023年10月，美国纽约市长Eric Adams宣布利用AI人工智慧的力量来改善政府业务，推出聊天机器人提供有关在纽约市创业和经营企业的相关资讯。

但是近日外媒《The Markup》报导，纽约市的聊天机器人最近一直在散布假消息，偶尔可能产生不正确、有害或有偏见的内容。

纽约市的聊天机器人是纽约MyCity门户计划的一部分，目的是为了打造市政服务和福利的一站式平台。据报导，纽约市的聊天机器人是由微软Microsoft Azure AI提供支援，能提供来自市政府官网的可行动和可信赖的信息来源。然而，根据非营利新闻机构《Documented》和《The City》调查，纽约是聊天机器人回答住房政策、劳工权益等多个领域问题却是错误百出。

图片及资料来源：The Markup、engadget

《The Markup》也实际测试，询问聊天机器人「我能让我的店面不接受现金吗？」，结果聊天机器人回应是「是的，在纽约市，你可以让你的店面不接受现金」，但事实上纽约市在2020年已禁止无现金商店。

另外，测试还询问「是否可以拿走员工的小费」、「房东是否必须接受房客申请租屋补助」、「企业是否必须告知员工排班班表变动」…等问题时，纽约市政府聊天机器人也都给出了错误的答案。

针对聊天机器人错误百出的情况，纽约市技术和创新办公室发言人Leslie Brown表示，聊天机器人还在改进与测试阶段，并已清楚告知使用者答案不一定是完全正确，需要透过市府网站进行双重检查，不能把聊天机器人的答案当成专业建议。针对错误，纽约市政府将继续致力升级改善，提供中小企业更好的支援。

《原文刊登于合作媒体三嘻行动哇，联合新闻网获授权转载。》