國父變黑人！生成歷史人物卻太過政治正確 Google暫停Gemini AI人像生成

Google近日因Gemini AI人物生成争议，暂停人物生成功能。（翻摄自Google YouTube）

在生成不准确的历史图片后，Google暂停了Gemini生成人物图片的功能，并表示很快就会发布改进的版本。

所谓不准确的历史图片，指的是一些Gemini使用者在请该AI模型描绘历史群体或人物（如开国元勋）的图片时，发现Gemini似乎有意识地避开生成白人的图片，包括如果要求Gemini生成「1800年代美国参议员」，得到的结果会包括黑人和美国原住民女性，不过历史上第一位女性美国参议员却是在1922年才有，且还是白人。此外，在生成「二战德军」的图片时，居然出现了由黑人、亚裔女性穿着德军军装的照片，与历史严重不符，Gemini更被认为是「在消除种族与性别歧视的历史」。

AI新创公司Hugging Face首席道德科学家Margaret Mitchell表示，Gemini之所以产生不符历史事实的例子，可能是由以下几种类型干预造成的。她表示，Google可能「在幕后」为使用者的prompt添加了种族多样性的术语。在这种情况下，像「厨师的肖像」的prompt，就可能会变成「原住民厨师的肖像」。在这种情况下，Google可能随机选择附加的术语，并且也可能添加多个多样性术语。

Mitchell说，Google也可能更优先显示深色肤色生成的图片。例如，如果Gemini为每个prompt产生10张图片，Google会让系统分析图片中描绘的人物的肤色，并将肤色较深的人的图片推到队列中的优先位置。因此，如果Gemini只显示前4张图片，那么最有可能看到肤色较深的图片。

这则新闻已经在美国社群媒体上引起热烈讨论，尤其是右翼人士对此猛烈批评，过去他们经常批评如今的社群媒体环境以及 AI 工具都太偏向自由主义，不过 Google 以及其他科技公司却对于AI可能加深种族偏见感到担忧，因此相当强调少数族裔以及有色人种的代表性，但如今却出现了过度纠正的问题。

现在生成人物图片的能力已经被 Google 暂时撤下，若使用者要求，会看到Gemini回应：「我们正在提升Gemini生成人物影像的能力，预计此功能很快就会回归，并会在发布更新时通知您。」

Gemini生成图片的能力是Google在本月稍早时开放的，以和OpenAI以及微软Copilot等对手竞争。

《本文作者Sisley，原文刊登于合作媒体INSIDE，联合新闻网获授权转载。》