OpenAI透露本身具有檢查文章內容是否以AI生成的技術 但不打算對外提供

OpenAI稍早说明其已经具备可识别文章内容是否借由其ChatGPT技术生成,但现阶段却不打算对外提供的原因。

在进一步说明中,OpenAI表示除了借由浮水印 (watermark)技术判断文章内容是否以ChatGPT技术产生,判断内容是否以人工智慧产生的方式还包含以分类器 (classifiers)、元数据 (metadata)等方式。

而浮水印虽然可以快速比对内容是否透过人工智慧技术产生,但依然会有一定程度上的偏差,例如将生成内容再以翻译工具转换成不同语言,或是借由另一套人工智慧工具进行汇整,甚至在生成文字内容进行一定程度以上的变更,就会让浮水印系统检查结果失效。

另一方面,OpenAI也认为一旦严格追查文字内容是否以人工智慧产生,形式上也会影响人工智慧应用工具使用意愿,甚至也可能扩大影响个人写作内容遭质疑是否原创情形。

因此在诸多考量之下,目前仅会提供影音内容验证工具,文字内容部分则会以更慎重态度考量是否提供相应验证工具。

《原文刊登于合作媒体mashdigi,联合新闻网获授权转载。》