AI技术用于美军备惹议 Clarifai创办人：将拯救更多士兵和平民
▲人工智慧。（图／CFP，下同）
AI新创公司Clarifai正与美国防部合作，将无人机视频的辨识技术用于军备相关。面对外界质疑AI技术不该用于军备，Clarifai创办人Matt Zeiler宣称，与美军合作旨在拯救更多士兵和平民，公司将增设新的管理职位，以确保所有项目符合道德标准。不过外媒披露，新的审查职位至今尚未出现，这也引发Clarifai内部反弹声浪。
根据外媒报导，部分Clarifai人员担心工作成果遭滥用，今年一月已向Zeiler递交公开信。信中提到，Clarifai必须维持企业操守「才能在大众的信赖下开发技术」，向外界说明企业伦理「是应该承担的社会责任」。Zeiler则在数天后召开内部会议，并宣称设置审核职位不符合公司利益，还直言开发AI武器就是未来的发展方向。
外媒话锋一转表示，越来越多的研究人员对AI技术的使用提出警告，迫使掌握相关技术的公司出面回应。除了Clarifai以外，包括Google和Microsoft等企业也正在制定企业规范，旨在确保其AI技术能符合道德标准，某些还设立审查委员会负责监督。
有关Clarifai方面，报导指出，该公司的强项在于分析即时辨识相片和影片物件的能力，这种技术能用于运输、医疗及科研等领域，也可成为国家监控网路、散布假新闻或是提升军备等用途；并非所有Clarifai员工都反对将AI技术用于军备，其中支持者认为，结合AI技术的武器比起人类操作将更加准确，终可挽救更多的生命，更是减少平民伤亡和火灾事故的重要工具。
报导还说，研究人员已经意识到某些公司和政府在部署AI技术上存在偏差，例如使用人脸辨识技术识别女性或肤色较深者「可能出现不准确的情况」，至于无人驾驶汽车也可能受到AI系统混淆，其他偏差可能与过去不同的安全漏洞有关。
值得一提的是，聚焦探讨AI技术用于新型武器的国际会议25日在瑞士日内瓦召开，各国在会中针对设置限制的必要性及法律责任问题进行热议。根据日媒报导，日本政府认为「人类参与武器操作不可或缺」，美国、中国、俄罗斯等国家对设置限制持保留态度，预计难以达成协定。
日媒指出，各国在限制非人道武器的《特定常规武器公约》的框架下，从2014年开始围绕AI武器的理想方式进行讨论，25日则是第4次举行会议，各方将在29日之前针对制定国际性规则的必要性、伦理、技术管理、军事效果等问题交换意见。