馬斯克允許上傳AI機器人Grok生成圖像 名人偽照在X平台上氾濫

聊天机器人Grok允许用户根据文字提示，由AI生成图像并发布到X社群平台；前总统川普、副总统贺锦丽等公众人物伪造照片或图像，已在X平台泛滥。(路透)

由马斯克(Elon Musk)旗下人工智慧新创公司xAI创建的聊天机器人Grok， 13日开始允许用户根据文字提示，创建出人工智慧AI生成图像并将它们发布到X社群平台。包括前总统川普、副总统贺锦丽乃至马斯克本人在内的公众人物伪造照片或图像，立即在X平台泛滥，有些甚至被塑造成参与911攻击事件等令人不安的逼真画面。

美国有线电视新闻网(CNN)测试Grok之后报导指出，Grok和其他主流生成式AI图像工具最大的不同，在于Grok似乎没有任何防护界线；使用者可以很轻易要求Grok生成几可乱真的政治人物或名人虚构图像。

总统大选在即，包括立法者、民间团体甚至科技领袖都发出警告，指出滥用此类AI工具、在网路传播大量虚假或误导性讯息，可能会误导选民，造成混乱，情况益发让人担忧。

例如，X平台有一篇被浏览近40万次的贴文，是一名用户分享一张由Grok创建的图片，显示川普从卡车车顶探出身来、拿着步枪开枪。 与此同时，马斯克14日在X发文大赞Grok，称「Grok是世界上最好玩的AI」。

目前，许多其他主要AI公司已采取部分措施，防止其AI图像生成工具被用来制造政治错误讯息；OpenAI、Meta和微软(Microsoft)等公司还提供技术或标签，帮助观众识别使用其AI工具制作的图像。YouTube、TikTok、Instagram和Facebook等相互竞争的社群平台也已采取措施，在用户的动态中标记AI生成内容。

CNN报导，xAI面对外界批评以及用户创建和发布令人不安的图像，到了16日，似乎已对Grok设下一些限制。Grok现在拒绝创建出政治候选人或广为人知的卡通人物，因其智慧产权属于其他公司；暴力行为与仇恨言论符号的图像，也不容许和这些人物图像一起出现。不过，有些用户指出，这些限制似乎仅限于某些用语和图像主题。