🌾 禾搜后台

搜索爬虫采集与索引管理系统

禾搜 管理后台

总览

-
已采集页面
-
已索引页面
-
索引词条
-
种子站点
今日搜索(次)

抓取状态

状态
-
已抓取
-
已索引
-
失败
-
队列
-
开始时间
-
结束时间
-

最近日志

站点管理(抓取种子)

添加种子站点

抓取时将从这些站点开始,自动跟随页面内链接扩散抓取。支持任何公开网站,不写协议会自动补全 https://。
批量模式每行一个站点(可上百个),不写协议自动补全 https://;重复项与无效行自动跳过,已存在的不会重复添加。

种子列表

IDURL备注状态添加时间连通性操作
每页 条

抓取控制

启动抓取

深度=1 只抓种子页面;深度=3 表示种子页 → 链接页 → 链接页。总并发 = 线程数 × 每线程并发(在「设置」里调整),多线程多站点同时抓取。

定时抓取(计划任务,支持多条并行)

ID名称频率时长上限模式上次执行状态操作
每个定时任务独立运行、互不干扰,到点自动启动,可多个任务同时并行;运行日志可查看每次执行记录。

实时进度

状态
-
线程
-
已抓取
-
已索引
-
失败
-
待抓
-
抓取中
-
完成
-

页面管理

「清空页面数据」只删采集的页面/索引/队列,保留种子站点与广告配置。「删除选中」/「整域删除」会连同索引一并清理。
ID标题URL深度词数抓取时间操作

索引管理

索引词条

排序:
ID词条文档数词频操作

抓取队列

IDURL域名深度状态优先级入队时间操作

监控中心

-
CPU 使用率
-
内存
-
磁盘
-
网络(↓ / ↑)

本机硬件

CPU 使用率
内存
磁盘

蜘蛛抓取状态

状态
-
线程
-
已抓取
-
已索引
-
失败
-
待抓
-

访问监控(DOS 检测)

来源 IP60秒请求数状态

热词与推送

网络热榜(热搜词)

#热词热度

关键词搜索采集(任意关键词)

每词条数
用搜索引擎搜关键词,提取结果链接自动入队抓取,可在「一键抓取待抓」执行。

🔥 热搜优先采集(新内容优先抓)

发现热榜新词(24h 内未采过)自动用 Bing 挖链接,以高权重 100 入队,爬虫优先抓取;新内容/热搜内容先于普通链接被采集。间隔最小 10 分钟,防止频繁请求源站。

定时热词采集与推送

推送到搜索引擎

采集热词后自动生成热词内容页 /hot/词,百度/谷歌可通过 sitemap 收录;推送需公网可访问的站点地址 + 百度站长平台 token(ziyuan.baidu.com 普通收录接口)。sitemap:

运行日志

自动每 3 秒刷新

搜索记录

-
今日搜索(次)
-
今日真实用户(去重去爬虫)
-
今日独立词
-
今日零结果搜索

趋势与来源

今日 24 小时分布
来源分布:
爬虫 TOP(今日):

热词榜 | |

词次数零结果爬虫出现天数最近一次操作
共 0 个词 · 真实用户口径

零结果词(用户搜了但没有内容,建议拿去采集)

词零结果次数总搜索次数最近一次操作
点「采集」即按该词去搜索引擎取链接入队抓取(权重 1),爬完后这个词就有结果了。 勾多个可「批量采集」(每批 20 个词、批间隔 0.8s, 别把搜索引擎打急)。 本机脚本(无 UA)会算成爬虫,所以「含爬虫」口径常常才是本站真实的内容缺口。

搜索明细

时间搜索词来源结果耗时IP / 地区设备类型操作

广告系统(凤巢式 CPC 竞价)

-
总收入(元)
-
总点击
-
总展示
-
点击率 CTR

收入趋势(近7天)

广告主管理

ID名称余额(元)广告数展示点击消费(元)状态操作

落地页管理

ID名称URL广告主备注状态操作

广告管理(关键词出价投放)

落地页可选库里的现成页面(自动填 URL),也可手动输入;计费:广义第二价格(GSP)= 下一名折算价 + 0.01。
ID标题广告主关键词出价日预算展示点击CTR消费状态操作

点击流水(计费记录)

时间广告搜索词扣费(元)IP

用户管理

用户搜索按次扣费(价格在设置→开放 API 设置旁配置);可手动调整余额作为人工充值/补偿。
ID用户名邮箱余额(元)搜索次数收藏Key注册时间操作

充值订单

ID订单号用户金额(元)状态时间

API Key 管理(全部用户)

管理员可查看/停用/删除任意用户的 API Key,操作即时生效。
ID用户应用名API Key日配额今日用量总用量状态创建时间操作

短链管理

短链目标 URL来源搜索词点击创建时间操作
每页 条

设置

抓取参数

总并发 = 线程数 × 每线程并发。例如 4 线程 × 4 并发 = 16 路同时抓取,多网站齐头并进。

短网址

搜索记录

去重窗口内的同一 IP 重复搜同一个词只记一次统计(明细仍保留、标「重复」),防刷榜; 超过保留天数的明细由后台清理或自动清理删掉。日志写库走独立队列,不影响检索速度。

网站设置

对外域名用于 sitemap/热词页/推送链接;统计代码会注入搜索页和热词页。

开放 API 设置

开放平台地址: /apikey · 文档: /apidocs · 接口需在请求头携带 X-API-Key 或参数 key,配额每日 0 点重置。

AI 总结设置(搜索结果页)

云端接口为 DeepSeek(OpenAI 兼容),Key 仅存本站数据库。本地走 OpenAI 兼容无鉴权端点:llamacpp=8181 / Ollama=11434,模型名按后端填(本地用 gguf 文件名,Ollama 用标签如 qwen2.5:7b)。总结结果按页面缓存 24 小时。选【本地大模型】时无需 API Key。

收录提交设置(Bing 站长 API / 百度主动推送 / IndexNow)

看 key 文件
Bing 站长 API Key: Bing Webmaster Tools → 设置 → API 访问 → 生成(用户级, 一个 key 管所有站); 百度 token: 站长平台 → 普通收录 → 主动推送。填完周报的「收录」段会自动带上真数据(Bing 已抓取的 URL/展示点击)、 每日挖词后自动把新词页推给 IndexNow(和百度, 若配了 token)。IndexNow key 文件由本站按 https://search.cybq.com/<key>.txt 直接提供, 无需放静态文件。

知识付费设置(用户搜索扣费)

登录用户每次搜索从余额扣「搜索价格」;余额不足提示充值。游客搜索免费不扣费。充值当前为模拟支付(下单即到账),接真实支付时替换后端确认逻辑。

网盘设置

用户中心「网盘」tab 上传/管理文件;可生成外链分享 /d/令牌,任何人可下载,取消分享即失效。

上传安全限制(后缀)

🛡️ 安全防护:① 危险后缀直接拒绝(exe/bat/php/js/asp 等可执行或脚本类型);② 声明为图片但文件头不匹配的伪装文件拦截;③ 其他类型内容含脚本代码特征(<?php/<script 等)拦截。上传的文件存为随机名,不以原名暴露,下载强制 attachment。

抓取黑名单(禁止抓取某类网址)

命中规则的网址不会被入队/抓取(子串匹配,即时生效)。
ID规则备注添加时间操作

robots 例外(无视 robots.txt 限制抓取)

命中例外的站点即使 robots.txt 禁止也会完整抓取。robots 禁止且未设例外的站:种子首页照抓,内页自动跳过。
ID规则备注添加时间操作

极限词过滤(广告法合规)

命中极限词的搜索结果自动处理,防止因极限词引发的投诉/网监问题。已内置 50+ 常见广告法极限词。
ID极限词替换为操作

修改管理密码