llms.txt是专为LLM设计的机器可读Markdown站点地图,可直接提供给AI爬虫解析,省去DOM渲染开销,提升引用准确性。
过去两年里,人们在互联网上发现信息的方式发生了根本性转变。传统的 Google "10 条蓝色链接" 越来越多地被 ChatGPT Search、Perplexity、Claude 和 Google AI Overviews 的生成式回答所补充或取代。
为了帮助 AI 系统解析和引用 Web 文档,同时避免在导航菜单、广告和样板 HTML 上浪费 tokens,开放 Web 社区提出了一个新标准:llms.txt。
在本指南中,我们将介绍什么是 llms.txt、它是如何工作的,以及如何使用免费的、客户端工具在您的 Web 应用中实现它。
把 llms.txt 想象成一个专门为大型语言模型(LLM)策划的、markdown 原生的 sitemap。
当 AI 爬虫(如 GPTBot、PerplexityBot 或 ClaudeBot)访问您的域名时,它会在您的站点根目录请求 /llms.txt。LLM 不再爬取复杂的 DOM 树和渲染重量级的客户端 JavaScript,而是读取一个轻量级的 Markdown 文件,其中提供:
产品的简要概述、文档或公司介绍。
核心页面或文档的 markdown 版本直接链接。
用于准确引用的机器可读上下文。
📄 标准 llms.txt 的结构
llms.txt 文件遵循结构化的 Markdown 格式:
# YourProjectName
> A concise, one-sentence summary of what your project or website does.
## Core Documentation
- [Quickstart Guide](https://example.com/docs/quickstart.md): Get started in 5 minutes.
- [API Reference](https://example.com/docs/api.md): Complete endpoints and data schemas.
- [Architecture Overview](https://example.com/docs/architecture.md): Deep dive into technical design.
## Optional & Full Context
- [Full LLM Documentation](https://example.com/llms-full.txt): Complete consolidated docs in one file.
🛠️ 在 Next.js 15 (App Router) 中实现 llms.txt
如果您使用的是 Next.js 15 / 14,可以在 app/llms.txt/route.ts 创建一个动态路由:
import { NextResponse } from "next/server";
export async function GET() {
const content = `# My Web App
> High-performance developer platform.
## Documentation
- [Getting Started](https://myapp.com/docs/intro.md): Overview and installation.
- [Components](https://myapp.com/docs/components.md): UI kit documentation.
`;
return new NextResponse(content, {
headers: {
"Content-Type": "text/plain; charset=utf-8",
"Cache-Control": "public, max-age=86400, s-maxage=86400",
},
});
}
⚡ 用于生成和验证 llms.txt 的免费工具
手动格式化 markdown 文件容易导致链接损坏或标题层级不规范。您可以使用 GEOKit 上提供的免费工具:
🛠️ llms.txt Generator:可视化表单构建器,可即时生成符合规范的 llms.txt 文件。
✅ llms.txt Validator:针对 schema 标准测试您实时的 llms.txt URL,并检查链接 404 问题。
📊 AI Readiness Checker:对您网站的标题、元数据和 AI 可读性进行全面的审计。
实现 llms.txt 只需不到 10 分钟,但能为您的网站在生成式引擎优化(GEO)的新兴时代带来显著优势。
您已经开始为 AI 搜索引擎优化您的网站了吗?在评论区分享您的想法和问题吧!