请回答1994原创文学网 - 纯净的绿色文学家园 !

请回答1994(全文在线阅读>

请回答1994

土司工坊价格调整引发热议,企业承诺持续提供优质服务_我的网站

学警狙击

A |     

     阿里云优惠券 先领券再下单        前面有写过一篇瀑布流的采集方法,今天在添加一个POST方法来采集Ajax刷新页面的教程。    近期,土司工坊(Toast Box)的价格调整引起了公众的广泛关注和讨论。自7月底起,部分分店的价格出现了不同程度的上涨,其中滨海湾金沙分店的咖啡冰价格涨幅尤为显著,一杯售价高达4元2角,引发了热议。记者在8月28日下午和29日早上走访了包括滨海湾金沙、比达达利桦丽坊、313@Somerset商场、百胜楼和大巴窑建屋局中心等多家土司工坊分店,发现金沙分店的价格最高。

B |     之前的文章请看:火车头采集动态加载Ajax数据(无分页瀑布流网站)    如果遇到POST方法来架子Ajax数据,这和我之前写的是两个类型,瀑布流是直接刷新出数据的页面。    采集网站分析    采集任何一个新站前我们都要对他进行一番分析才好下手。    列表页分析    这个网站的列表页,前面并不是通过Ajax加载的。CTRL+U可以直接看到列表内容,通过浏览器也看不到相关请求地址。

C |     

    因为习惯原因,我直接看了下尾页列表页。例如,咖啡乌冰的价格从3元上涨至3元5角,咖啡冰则从3元2角增至3元7角,涨幅约为16%。然后顺手CTRL+U看看网站代码结构有没有大的变化。公众魏灿女士在滨海湾金沙分店用餐时,对价格上涨表示惊讶。

D | 她表示,虽然注意到了价格的变动,但因为已经点餐,所以没有取消。另一位常客林燕玲女士则表示,尽管她经常光顾该店,但价格的涨幅仍然让她感到震惊。土司工坊的发言人对此作出了回应,解释称食材原料和运营成本的上涨是导致价格调整的主要原因。防止后期采集出错。发言人强调,这一决定并非轻率之举,而是在当前经济形势下的必要举措。

E | 结果就发现无法看到列表内容。浏览器可以看到一个通过post请求的地址。

F |     

    这时候就意识到这网站列表页可能后面的应该全是通过Ajax加载的。    通过笨方法,手动访问页面看看Ajax加载大概是哪些。

G | 同时,企业承诺将继续提供优质的产品和服务,并感谢顾客的支持和理解。最后找到大概从2200页左右开始Ajax加载。    那我们采集的时候,前面的列表页就可以使用普通方式去采集(速度更快)。这一事件再次凸显了成本上涨对餐饮业的影响,以及企业在应对成本压力和满足消费者期望之间的平衡。

H |     2200页开始到尾页就通过post请求Ajax页面数据。    抓包获取Post数据    这个Ajax地址我在浏览器看不到任何跟页码有关的数据。最后只能使用抓包工具看一下详细的请求内容了。    

    使用抓包工具Fiddler    Fiddler下载地址:OneDrive-Fiddler-Setup_v5.0.20204.45441.zip    安装设置完成后我们打开浏览器。

I | 重新访问一下采集页面,Fiddler会抓到很多请求地址。    查看分析Post数据    Ctrl+F 我们搜索那个Ajax地址    

火车头使用Post方法采集Ajax页面教程
    Fiddler会以黄色将搜索到的结果显示出来,我们点击一下他。    
火车头使用Post方法采集Ajax页面教程
    在Fiddler右侧会显示这个请求地址的相关详细信息。    
    信息顶部可以看到是post请求方法。

J |     可以看到有我们请求的页码相关内容。

K |     

    访问不同页码的页面,经过研究发现规律。    
    currentPageIndex的值和页码相关,值等于页码减一。我们访问6139页时,currentPageIndex值是6138。    这就找到了规律,我们打开火车头采集器。

L |     火车头采集器配置分页设置    起始网址填入Ajax请求地址    

    点“高级模式”。    
    点“分页设置”,http请求方式“post”。

M |     

    把我们Fiddler抓包获取的内容填进去。    
    将currentPageIndex值的内容替换成火车头采集器的“分页”标签。    
    下面填入页码。    页面地址是从2200到6140,上面我们分析得出post请求内容的currentPageIndex值是实际页码减一。所以这里面我们填2199到6139.    
    网址获取选项设置    为了筛选出我们需要的内容,我们设置一下网址获取选项。    打开浏览器F12开发工具,预览一下Ajax获取的内容。    
    可以看到链接的形式是    自考成考报名条件有哪些?    完整的链接地址是    https://域名/chengrenzikao/20200611152022.html    那我们就可以使用下面的规则提取地址。    
    我们测试一下网址采集。    测试网址采集    点击测试可能提示“post请求必须选择网页编码”我们在火车头其他设置中将编码选为“UTF8”即可。    
    可以看到已经正确获取到了链接。不放心可以复制链接实际访问一下看看是否正确。    
    注意事项    采集过程注意运行线程和请求间隔时间。

N | 教程在测试时因为开的线程较多,频率过高导致对方网站开启了防CC设置。拉黑了我一个服务器IP,此教程写完用了两台服务器。    我们实际采集可以只开1个线程,并设置合适的间隔时间,比如1000ms到1500ms左右。    本文来自2号站长网,转载请注明出处:https://www.zz2zz.com/331414.html

        
    

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!。

Current article:http://www.jiaopeikongbenlo.pics/7vzt6/4v5.xlsx

Published on:19:42:29


顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
栏目列表