随着AI技术在文生文、文生图、文生视频等领域的广泛应用，其带来的信任问题也日益凸显。为了应对这一挑战，腾讯近日宣布正式推出AI生成文本检测与AI生成图像检测工具，以科技手段应对科技带来的问题。
腾讯官方介绍，尽管AI生成的图像在细节和纹理上已经达到了极高的逼真度，但仍有其独特的特征可供识别。为此，朱雀实验室研发了一款AI生成图片检测系统，用户只需将图片上传，系统即可在几秒钟内完成验证，并准确判断该图片是否由AI生成。这一过程就像是用魔法来对抗魔法，用AI技术来“检测”AI生成的内容。
该检测系统的核心逻辑在于捕捉真实图片与AI生成图片之间的差异。这些差异可能包括AI生成图片有时不符合常识逻辑、需要添加特定的“水印”或包含隐层特征等。然而，腾讯也指出，鉴别AI生成的内容往往不能仅凭单一依据。因此，该检测系统利用了AI模型来全面捕捉真实图片与AI生成图片之间在纹理、语义及隐形特征等方面的差异。
为了提升检测效果，腾讯使用了高达140万份的正负样本对模型进行训练，并考虑了多种生成内容的场景，如人体、人像、风景、地标、植物、电影、游戏、新闻等。经过这样的训练，该检测系统在测试中的检出率已经达到了95%以上，并且仍在持续优化和提升中。
除了图片检测系统外，朱雀实验室还同步开发了AI生成文本检测系统。该系统通过对AI生成文本和人类写作内容的海量数据进行学习，实现了对文本的准确检测。与图片检测系统类似，文本检测系统也搜集了大量正负样本进行训练，并涵盖了不同领域和不同大语言模型的生成文本。
为了进一步提高检测能力，文本检测系统还采用了对比的方式，将检测文本与大模型预测的内容进行重叠度对比，从而推断出文章的AI生成概率。目前，该系统已经涵盖了新闻通讯、公文、小说、散文等多种文体，并计划在未来对诗歌等体裁进行补强，以提高文本识别的准确率。
关注我们
