当页面数量从几十页涨到几百上千页,手工做的第一件事往往不是“做不完”,而是“做得不一致”。我的判断是:凡是需要跨页面重复判断、且结果会影响抓取和索引的工作,就该从手工执行改成规则化或脚本化;而涉及策略取舍、内容价值判断的部分,仍然值得保留人工。下面按“保留、改写、退出”三类说清楚边界。
有些工作无论网站多大,人工都不会成为瓶颈,因为它们的产出不随页面数线性增长。典型的是:栏目结构设计、内部链接的主题分组逻辑、关键词与页面的对应关系、以及内容是否值得存在的取舍。这些工作一次决策可以覆盖成百上千个页面,规模扩大反而让决策的收益更高。
保留人工的前提是:这个判断依赖对业务和用户的理解,而不是对每条数据的机械处理。比如决定某个产品线要不要单独建栏目,需要知道用户搜索意图和转化路径,这不是脚本能替代的。但如果你的“人工”其实是在做同一套判断的第 200 次重复,那它已经不属于这一类了。
几十个页面时,逐页写 title 和 meta description 是合理的,因为你能记住每一页的差异。到几百页时,手工写会出现两种退化:要么大量重复,要么为了“不重复”而写出无意义的变体。这时应该改成模板加变量,比如 <title>{产品名} - {核心用途} - {站点名}</title>,再由人工抽查边界情况。
适用条件:页面之间有稳定的字段结构(产品名、地区、型号等)。如果页面之间没有可复用的字段,模板会产出垃圾,此时宁可先统一字段,而不是硬套模板。动作上,可以先导出全部页面的现有标题,按重复率排序,重复率最高的那批优先规则化。
手工加内链在规模小的时候有效,因为你能保证每条链接都有语境。规模扩大后,手工内链会集中在少数几个“记得住”的页面,长尾页面拿不到链接。这时更适合用规则处理:按栏目归属、标签共现或字段匹配生成候选链接,再由人工剔除明显不相关的。
要注意边界:规则生成的内链如果只按关键词匹配,很容易把不相关的页面连在一起,反而稀释了页面的主题集中度。所以这一步是“规则生成候选 + 人工否决”,不是全自动上线。
这类工作手工做几乎没有意义,因为它的判断标准是确定的:返回码是不是 200、是否有多个 URL 指向同一内容、是否有页面被 robots 或 canonical 意外排除。规模越大,人工漏检的概率越高。改成定时巡检后,输出一份待处理清单,人工只需要决定“这条是修、是删、还是保留”。
这里要区分抓取、索引和排名:巡检工具报告“未收录”或“抓取异常”,只能说明抓取或索引环节可能有障碍,不能直接推出排名会因此下降,也不能证明某个处理动作一定有效。请求量归零也可能是日志采集本身出了问题、站点临时不可访问、或抓取预算被其他部分占用,需要结合服务器日志和站点变更记录一起看。
假设一个站点从 80 个页面扩展到 800 个页面,其中 600 个是同一模板的产品页。手工阶段每页写独立描述,扩展后编辑每天只能处理 20 页,需要 30 天才能覆盖一轮,而产品信息每周都在变。这种情况下,继续手工写描述的边际价值已经很低,应该退出,改为字段驱动的模板,把人工集中到少数高价值页面(比如核心产品线首页、对比页、解决方案页)。
但如果这 600 个页面里,只有 50 个有实际搜索需求,其余只是内部编号页,那正确的动作不是优化描述,而是先决定这 550 个页面要不要保留。规模扩大后的取舍顺序应该是:先判断页面该不该存在,再决定怎么批量处理,最后才是怎么手工打磨剩下的部分。
如果你把部分工作交给外部服务方,需要说清楚哪些环节是规则化处理、哪些必须人工确认。比如可以要求:批量标题和描述由规则生成,但核心栏目页的标题由你方确认;内链候选由规则产出,但上线前提供可否决的清单;巡检报告只作为待办来源,不直接触发批量删除。
这样做的结果是,你能把有限的人工投入到真正影响判断的环节,而重复性工作有了可复核的产出。下一步的检查点也很明确:规则化上线后,观察这批页面的抓取和索引状态是否稳定,如果出现异常,先排查规则是否误伤了本应保留的页面,再决定是否扩大规则适用范围。