Pangram融资900万美元检测AI生成内容

随着AI内容充斥互联网，Pangram融资900万美元用于检测

纽约的AI检测初创公司Pangram致力于对抗蔓延在互联网上的AI垃圾内容泛滥，它刚刚筹得900万美元，赌注是区分人类生成内容和AI生成文本的工具需求只会增长。

Pangram的融资由Menlo Ventures领投，Haystack、ScOp、Script Capital和Cadenza参投，同时公司还推出了新一代AI文本检测模型Pangram 4，以及AI图像检测模型Pangram Image。

Pangram表示新文本检测模型在发现AI辅助写作和混合人类-AI内容时准确率超过99%，并且能更轻松地检测AI人性化工具。AI图像检测器目前仅通过研究预览版提供；Pangram计划在未来几周更广泛地发布它。

来自斯坦福大学AI和机器学习专业的Max Spero和Bradley Emi约两年前创办了Pangram，正值ChatGPT的推出打开了互联网的闸门，充斥着机器人、AI生成的SEO垃圾内容，以及Spero所说的"LLM驱动的俄罗斯虚假信息宣传和阿联酋操纵的Twitter宣传活动"。

"我认为知道你看到的东西是否是AI生成的这一点非常有价值，"Spero告诉TechCrunch。"特别是你正在阅读的文本，因为它改变了人们如何对待这段文本的方式。这是我需要警惕幻觉并持怀疑态度的内容，还是我相信这是来自真正记者充分调研的内容？"

Pangram的AI检测系统本质上是一个大型机器学习模型，它在数千万个已知的人类文档上训练而成。该公司随后为每个文档创建了一个"合成镜像"，复制了主题、长度和语气，但由前沿LLM撰写。

"我们的模型学习AI一致做出的文体差异和选择，能够利用这一点来高度可信地判断什么使内容是AI生成的，"Spero说，补充道AI检测器不依赖复制粘贴元数据或隐藏水印。

对于Pangram来说，AI检测不仅仅是判断一段文本是否完全由AI写的。它还涉及区分不同程度的AI协助——比如有人自己写了某些内容，然后要求AI编辑或润色的情况。Spero认为AI协助是可以接受的，只要写作者披露他们对AI的使用。

Pangram的出现恰逢AI使用变得更加普遍的时代。在某些情况下，比如加拿大政客在议员面前的演讲中朗读AI提示的情况，错误导致了嘲笑。在其他情况下，如某些律师使用ChatGPT生成的虚假引用进行诉讼的情况，后果可能是制裁和罚款。

这种反对声浪也开始在制度规则中显现。

开放获取档案库arXiv今年引入了新的执行政策，声明包含作者未能审查LLM输出的证据的提交（如虚幻的参考文献或元注释如"你想要我做任何改动吗？"）可能会触发一年的提交禁令。

Pangram并不是唯一赌注AI检测会变得更受欢迎的公司。竞争对手如Winston AI、Originality.ai、Copyleaks和GPTZero也在追逐相同的市场需求，各自构建自己的检测器。

Pangram的技术虽然不完美，但可能会帮助推动对充斥互联网、法庭和学术论文的AI生成内容的抵抗。

用户可以通过网络上的$20/月订阅访问Pangram，或下载Chrome扩展，它会在X、LinkedIn、Substack、Reddit和Medium上自动实时标记帖子。它还提供一个提要健康评分，显示你屏幕上的人类内容与AI内容的百分比分布。

Pangram还通过API提供其技术。值得注意的是，Substack最近将Pangram的技术集成到其平台中，向读者展示他们最喜欢的作者是否使用AI撰写他们的新闻通讯。其他API客户包括Quora、学校和大学、出版商和代理、招聘人员等，根据Spero。

Spero说大约万分之一的人类文档被Pangram模型错误标记为AI，所以我决定测试一下。文本检测模型非常令人印象深刻但也非完美。它轻松标记了由ChatGPT和Claude写的完全AI生成的新闻文章，很少被我试图编辑AI生成文本使其听起来更像人类的尝试所迷惑。然而，Pangram确实标记了我完全改写的句子为AI编写的。Pangram也完全没有被我试图提示ChatGPT和Claude在生成内容时规避AI检测器的尝试所欺骗。

我还给了ChatGPT和Claude我的一篇文章，要求他们进行润色。Pangram给了它13%的AI协助评分，这可能相当准确，但模型能够在一些句子中检测到细微的词汇选择变化，而在其他句子中则忽略它们。它还标记了一些实际上是人类写的句子为AI协助的。这很值得注意，因为当我将那篇完整文章提交给Pangram时，就像我写的那样，它得到了100%的人类评分。

也许问题在于新闻文章本身可能有点生硬，容易听起来像AI。所以我尝试了不同的策略。我在我自己更有个人风格的Substack新闻通讯内容上测试了Pangram，将文本的前半部分粘贴到Pangram中，然后要求ChatGPT和Claude复制我的风格并写第二部分。在大多数情况下，Pangram轻松区分了人类写的文本和AI写的文本。

我对Pangram新图像检测模型的有限测试同样令人印象深刻。

Pangram的AI图像检测系统承诺在各种AI模型中发现AI生成的图像，不像OpenAI或Google DeepMind的基于水印的检查那样只能检测它们自己的输出。它基于像素级分布工作，学习真实照片和AI生成图像之间的细微统计差异。Spero说该模型甚至可以检测出现在真实世界照片内部的AI图像。

在我的测试中，该模型轻松检测了AI生成的图像，无论是逼真的还是卡通的。我也可以确认该模型能够检测出现在真实世界照片中的AI图像——Pangram提供的热力图清晰地在图像上亮起——尽管在一个实例中，它错误地将AI生成图像的照片标记为人类内容。

Spero说他不想让他的技术煽动针对使用AI进行写作的人的猎巫，但需要某种机制来对抗垃圾内容的泛滥。

"我看到的未来是AI内容继续泛滥，"Spero说。"我们获得新GPU的速度比新人出生的速度还要快。如果我们不主动倾向于人类内容，那么我们只会看到越来越多的AI，它只会淹没我们拥有的任何人类信号。"