「你好丑喔」Instagram AI秒侦测关键字!防霸凌工具提醒用户快收回

▲Instagram准备推出「恶意内容」侦测系统。(图/路透社

科技中心综合报导

多数民众网友互动时,有时会被言论抨击,甚至遭酸民围剿留言灌爆。脸书(Facebook)旗下的Instagram正在思考所谓「言论自由」的界线,是否要针对网路霸凌加一道防护网,例如当用户发文若是涉及恶意的内容,在还没有发送之前,就会收到Instagram的「提醒」。

综合外电报导,Facebook F8开发者大会即宣布准备新的功能打击言语霸凌,如今Instagram在8日发布了一项新AI智慧功能,当用户在评论中输入「你长得好丑」、「看起来好蠢」等欺凌用语时,系统随即就会发出通知询问:「你确定要这个内容吗?」

▲Instagram新款AI人工智慧将会鼓励用户撤销仇恨言论。(图/翻摄自Instagram)

「这个AI人工智慧侦测功能可用来鼓励用户撤销他们的仇恨言论,并且反思分享一些较无害的言论。」Instagram表示,这样的措施可以防止「心直口快」的民众发生欺凌行为,让「平时挂嘴边的仇恨言论」在经过思考后,更审慎地决定接下来说的话。

此外,Instagram还测试名为「约束」(Restrict)的新功能,允许用户可以隐藏特定网友的辱骂性留言,此功能不会通知遭屏蔽的网友,也不会让他人知道是否已经让其他用户阅读了这些言论,避免不必要的互动。

▲民众使用社群平台时,有时会遭遇到网路霸凌。(图/记者李佳蓉摄,示意图,与本文当事人无关)

青少年面对言论欺凌频传,许多民众相当担心孩子现实生活中认识霸凌者,Instagram负责人莫塞里(Adam Mosseri)表示,只有霸凌事件才会损害Instagram的品牌形象,「创建安全的环境是我们的责任。这段时间以来,这件事情一直是我们的重要优先事项之一,我们将会继续研究并且解决这个问题,期待分享更多更新。」