Anthropic公开AI模型Claude的系统提示词,推动有道德的AI发展

根据TechCrunch报道,AI公司Anthropic公开了其最新AI模型Claude系列的"系统提示",以提高透明度并展示其对有道德的AI的承诺。这些提示词定义了AI模型的行为准则和个性特征,如礼貌、诚实、中立和对争议话题的客观性。Anthropic希望通过公开这些提示词,推动行业标准和竞争对手的透明度。

Anthropic首次公开了其AI模型Claude 3.5 Opus, Sonnet和Haiku的系统提示词。这些系统提示可用于指导AI模型的行为,防止不当行为,如避免打开URL、链接或视频,禁止面部识别等。提示中还定义了AI模型应展现的特质,如聪明、好奇、对各种话题持中立态度,以及在回应时避免使用"certainly"或"absolutely"等词汇。

Anthropic的这一举措可能会对竞争对手产生压力,促使他们公开自己的系统提示,从而推动整个行业的透明度和道德标准。