Google在其Vertex AI服務增加基礎比對功能 避免人工智慧運作過程產生「幻覺」

为了避免人工智慧运作过程产生「幻觉」，Google宣布在Google Cloud的Vertex AI服务增加以Google搜寻、第三方资料混合比对的基础比对功能，避免人工智慧传达错误资讯。

其实在今年Google NEXT’24活动时，Google就曾提出检索强化生成(retrieval augmented generation，RAG)功能，让结合Gemini人工智慧模型的服务输出互动结果时，可透过Google搜寻比对资料结果、新旧，借此降低人工智慧常见「幻觉」现象。

而此次更新则是加强可透过Google搜寻与第三方资料混合比对，以及扩大垂直比对搜寻等方式验证生成资料，让人工智慧自动生成资料符合真实。

透过这样的方式，将能简单降低人工智慧产生「幻觉」，但相对也会增加人工智慧运作时的运算成本，因此在后续作法会让Gemini动态决定是否透过Google搜寻比对资料，但先决条件是Gemini必须建立在充足训练基础上，在超出其知识范围所生成解答才需要透过Google搜寻、第三方资料比对验证，借此在回应速度与运算成本之间取得平衡。

另外，Google也将透过高真实度比对方式，依照特定条件下的内容生成资料，例如依照规定严谨的金融场合、医疗或保险业务生成符合真实的内容，或是借由参考特定资料产生更严谨内容。至于针对特定应用场景部分，则是增加扩充垂直搜寻方式扩大资料比对结果，让人工智慧能用于特定内容推荐、广告发送等服务。

目前新版Vertex AI已经开放公测，预计搜集更多开发人员、企业测试反馈意见进行后续调整。

《原文刊登于合作媒体mashdigi，联合新闻网获授权转载。》