微软正式发布AI内容审核工具Azure AI Content Safety

微软为了营造健康和谐的社区环境，减少图片或文本中关于偏见、仇恨、暴力等相关的负面内容，于今年5月测试推出了AI内容审核工具Azure AI Content Safety，该工具经过多月测试之后于今天正式发布。Azure AI Content Safety提供了一系列经过训练的AI模型，能够检测图片或文本中与偏见、仇恨、暴力等相关的负面内容，并可以理解并检测包含八种语言的图片或文本，为被标记的内容严重性进行打分，指示人工审核员哪些内容需要采取行动。