人民網北京12月10日電 眼前這篇論文是AI寫的嗎？這篇稿子的信源是AI提供的嗎？大批人工智能創作工具廣泛使用，網絡內容治理、學術規范面臨全新挑戰。

12月9日，人民網正式發布“天目”智能識別系統，探索“用AI治理AI”的內容風控新模式。（體驗入口：http://117.80.234.9:5080/welcome）。

“天目”由傳播內容認知全國重點實驗室（人民網）研發，能夠對人工智能生成內容進行識別，對深度偽造內容進行檢測，對合成手段進行追根溯源。公開測試數據顯示，“天目”對國內外主要人工智能大模型生成中文文本的識別准確率達到93%。系統支持單次最多10萬字的數據檢測，對疑似AI生成句段明確標識，一鍵生成檢測報告。同時，系統不留存、不轉用任何檢測數據，充分保護用戶的數據隱私與安全。

圖為“天目”系統檢測頁面。

傳播內容認知全國重點實驗室首席科學家張勇東表示：“我們以語言模型的困惑度、詞頻特征為切入點，研究發現AI生成模型傾向於採用高頻詞，而人類寫作的選詞則更具有隨機性。”基於此，人民網研發了語義與風格特征融合的語言模型評價方法，推出“天目”系統，用於快速區分機器生成內容與人工創作內容。

“我們肯定AI的技術價值，積極研發，主動運用。我們也同樣重視人的創新創作創意。”人民網內容風控負責人辛瑞佳表示，人類的靈感和創造力無法被機器替代，也不應被機器替代，過度依賴AI可能會削弱人的獨特性。“識別AI生成的信息，從更深層講，也是保護人類的創造價值。”

此外，人民網內容風控的另一個智能產品“人民審校”，於近期同步升級4.0版本，新增了標識審校、地標審校、商標審校、版式審校等能力，優化自定義詞庫功能，在涉政信息表述審校精度和廣度方面實現全面提升。

下一步，人民網將加大力度研發建設主流價值語料庫，幫助國產AI系統建設安全合規的語料體系，更好實現價值觀對齊，助力AI產業健康安全發展。

分享讓更多人看到