分享好友 最新动态首页 最新动态分类 切换频道
shell爬虫--抓取某在线文档所有页面
2024-12-27 10:38

在线教程一般像流水线一样,页面有上一页下一页的按钮,因此,可以利用shell写一个爬虫读取下一页链接地址,配合wget将教程所有内容抓取。

shell爬虫--抓取某在线文档所有页面

以postgresql中文网为例。下面是实例代码

#!/bin/sh
start_URL="http://www.postgres.cn/docs/9.6/preface.html"
end_URL="http://www.postgres.cn/docs/9.6/bookindex.html"
URL=$start_URL

while [ $URL != $end_URL ];do

curl -s  $URL >tmp.txt
wget $URL -P psql
grep -n 'ACCESSKEY="N"'  tmp.txt > tmp2.txt
cut -f1 -d":" tmp2.txt | head -n 1 > tmp3.txt
let LINE=`cat tmp3.txt`
let LINE--
sed -n "${LINE}p" tmp.txt > tmp4.txt
sed -i 's/HREF="https://g' tmp4.txt
sed -i 's/"https://g' tmp4.txt
sURL=`cat tmp4.txt`
cat tmp4.txt >> allurl.txt
FULLURL="http://www.postgres.cn/docs/9.6/$sURL"
URL=$FULLURL

done

rm -rf tmp.txt tmp2.txt tmp3.txt tmp4.txt

 

 说明:

1、URL 要下载的html文件路径

2、sURL html文件的相对路径

3、FULLURL  sURL和模板拼接后的完整url

4、tmp.txt  用于保存curl取得的页面数据

 

 

 

最新文章
正在报名!2025西交大少年班初试全国模考12月14日开考!
广东考帮按:据悉2025年西交大少年班招生简章将在近期发布,元旦进行测试。为帮助广大梦想考入西交少年班的考生增强对笔试难度和自身水平的清晰认知。我们提前组织“西交大少年班模考活动”,2025年西少模考试卷以西少初试近10年真题为蓝本
唐界传媒解析品牌如何跨越消费代际构建全龄段市场吸引力代际共鸣
在当今消费市场中,代际差异正逐渐成为企业营销战略中的核心考量因素。随着年轻消费者与中老年消费群体的需求、价值观和行为模式逐渐分化,品牌要在多元化市场中实现可持续的增长,必须跨越代际鸿沟,精准定位各消费群体的心理诉求,并构建
视频号直播投流常见问题解答(一)
Q1:新号如何冷启动?A1:Q2:跑量出现瓶颈怎么办?A2:Q3:付费流量是否会压制自然流量?A3:如果品牌和商家发现自然流量下滑明显,应先检查内容质量。内容质量不佳时,付费流量硬拉会导致流量质量变差且竞价成本变高。应通过优化内容互动
规则引擎之drools入门
现实生活中,规则无处不在。对于某些企业级应用,诸如欺诈检测软件,购物车,活动监视器,信用和保密应用之类的系统,经常会有大量的、错综复杂的业务规则配置,而且随着企业管理者的决策变化,这些业务规则也会随之发生更改。我们开发人员
穿越美漫:超级角色模拟器
“小飞,我和你爸已经到老家了,你在那边好好上学,等你毕业之后,看看是回来还是留在那边。”“知道了,老妈,我你就不用担心了。”“三万。”“胡了,大三元,混一色。”“小飞,你是又和赵轩在那边打麻将吗?你可悠着点打,你们两个十岁
网站SEO优化,网站SEO优化的方向在哪里,网站优化
1:什么是seo优化网站如何seo优化?那么,网站如何才能做到SEO优化呢?下面我们就来看看具体的方法。2:网站seo优化的方法3:seo优化后的效果一般来说,网站的SEO优化都会带来一定的效果。但是,具体的效果如何,则要根据实际情况来定。有
延期公告 | “我心目中的颜春岭生态公园”主题绘画比赛作品征集延期至12月31日
(来源:海口环保)“我心目中的颜春岭生态公园”主题绘画比赛自征稿起收到来自各个学校学生的优秀绘画作品为让更多热爱绘画的青少年参与到活动中来保质保量完成此次作品征集活动组委会一致决定比赛征稿截止时间延期至12月31日初选评审、成
广电总局发文规范AI“魔改”视频 经典影视作品已成“重灾区”
来源:@财联社APP微博《科创板日报》12月10日讯(记者 张洋洋)针对AI“魔改”影视剧引发的争议,广电总局正式出手管理。近日,广电总局网络视听司发布《管理提示(AI魔改)》。《管理提示》指出,近期,AI“魔改”视频以假乱真、“魔改”
未来机动车检测站管理之探索
未来机动车检测站管理需要从多方面进行探索。当前存在一些问题如地方保护主义导致检测站无法有效竞争检测信息不对称影响市场正常运行检测信息无法共享造成检测与维修脱节。为做好未来机动车检测宏观管理工作要实现机动车检测技术标准化、行
相关文章
推荐文章
发表评论
0评