人民网北京12月10日电 眼前这篇论文是AI写的吗？这篇稿子的信源是AI提供的吗？大批人工智能创作工具广泛使用，网络内容治理、学术规范面临全新挑战。

12月9日，人民网正式发布“天目”智能识别系统，探索“用AI治理AI”的内容风控新模式。（体验入口：http://117.80.234.9:5080/welcome）。

“天目”由传播内容认知全国重点实验室（人民网）研发，能够对人工智能生成内容进行识别，对深度伪造内容进行检测，对合成手段进行追根溯源。公开测试数据显示，“天目”对国内外主要人工智能大模型生成中文文本的识别准确率达到93%。系统支持单次最多10万字的数据检测，对疑似AI生成句段明确标识，一键生成检测报告。同时，系统不留存、不转用任何检测数据，充分保护用户的数据隐私与安全。

图为“天目”系统检测页面。

传播内容认知全国重点实验室首席科学家张勇东表示：“我们以语言模型的困惑度、词频特征为切入点，研究发现AI生成模型倾向于采用高频词，而人类写作的选词则更具有随机性。”基于此，人民网研发了语义与风格特征融合的语言模型评价方法，推出“天目”系统，用于快速区分机器生成内容与人工创作内容。

“我们肯定AI的技术价值，积极研发，主动运用。我们也同样重视人的创新创作创意。”人民网内容风控负责人辛瑞佳表示，人类的灵感和创造力无法被机器替代，也不应被机器替代，过度依赖AI可能会削弱人的独特性。“识别AI生成的信息，从更深层讲，也是保护人类的创造价值。”

此外，人民网内容风控的另一个智能产品“人民审校”，于近期同步升级4.0版本，新增了标识审校、地标审校、商标审校、版式审校等能力，优化自定义词库功能，在涉政信息表述审校精度和广度方面实现全面提升。

下一步，人民网将加大力度研发建设主流价值语料库，帮助国产AI系统建设安全合规的语料体系，更好实现价值观对齐，助力AI产业健康安全发展。

分享让更多人看到