微软近日正式推出了Azure AI Content Safety，该产品是其在今年5月开始测试的内容审核工具。这款工具整合了经过训练的AI模型，能够检测图片或文本中与偏见、仇恨、暴力等负面内容相关的信息，并能够理解并检测包含八种语言的图片或文本。
该审核工具为被标记的内容提供了严重性的评分，并指示人工审核员对需要采取行动的内容进行处理。最初，这个审核工具被整合到了Azure OpenAI服务中，而现在它将以独立系统方式推出。
微软在官方博文中指出：“这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能生成内容，以及调用部分用户生成的内容，进一步扩展实用性。”
微软表示，在处理数据和内容时，虽然该款产品在公正性和理解上下文方面有所改进，但仍然需要依赖人工审核人员来标记数据和内容。这也就意味着最终的公正性取决于人类。然而，在处理数据和内容时，人工审核人员可能因为自己的偏见而无法做到完全中立审慎。
相关阅读：
《微软推出 Azure AI Content Safety，可自动检测仇恨暴力等负面网络内容》