塔斯娱乐资讯网

OpenAI推出新工具 帮调查员筛除深度伪造噪音 OpenAI宣布推出一款新工

OpenAI推出新工具 帮调查员筛除深度伪造噪音

OpenAI宣布推出一款新工具,声称能够帮助儿童性侵害调查人员从大量举报线索中筛除噪音,更快找到需要立即处理的有害内容。公司在周一的发布会上介绍了这一工具,名为CSAM分类器。
据The Verge报道,随着生成式AI让深度伪造内容泛滥,各类举报热线被海量虚假或低质量线索淹没,调查人员难以从中识别出真实、可采取行动的材料。OpenAI表示,新工具通过对内容进行分类与排序,帮助调查者把有限精力集中在最紧急的个案上。
这一举措也反映出AI公司在治理生成内容滥用方面的压力。一方面生成技术降低了造假门槛,另一方面平台又寄望于AI工具来清理自己造成的信息噪音,如何在防护与效率之间取得平衡仍是行业难题