使用八爪魚采集器采集滾動加載和點擊加載數(shù)據(jù)的教程
現(xiàn)在很多網(wǎng)站的列表,需要向下滾動頁面,才能加載出新數(shù)據(jù)。使用廣泛的火車頭采集器相對無力,使用八爪魚采集器可以采集滾動刷新和點擊刷新。
適用場景:將滾動條直接下來到網(wǎng)頁底部,出現(xiàn)類似【加載中】字樣,稍后馬上有新數(shù)據(jù)出現(xiàn),且滾動條變短回彈。
我們需采集新聞列表數(shù)據(jù)。就需要在打開網(wǎng)頁后不斷向下滾動,加載新數(shù)據(jù)。
在八爪魚中怎么實現(xiàn)呢?以下為具體操作步驟。
步驟一、進入自定義任務(wù)編輯頁面
把網(wǎng)址復(fù)制到八爪魚客戶端首頁的輸入框中,點擊開始采集進入自定義任務(wù)配置頁面。
步驟二、設(shè)置滾動方式,調(diào)整滾動次數(shù)、每次間隔時間
點擊打開網(wǎng)頁步驟,在下方步驟設(shè)置區(qū)域點擊高級設(shè)置,找到頁面滾動,點擊勾選頁面滾動。此網(wǎng)頁是無限滾動的,八爪魚默認設(shè)置的【滾動方式】是滾動到底部,默認【滾動次數(shù)】100次、默認【每次間隔】1秒。大家可根據(jù)實際需求進行調(diào)整。【每次間隔】時間需稍大于網(wǎng)頁上數(shù)據(jù)加載的時間(網(wǎng)頁上數(shù)據(jù)加載的時間又跟網(wǎng)速等因素有關(guān))。
結(jié)合這個網(wǎng)站的加載特征,這里修改【滾動方式】為向下滾動一屏(一般情況滾動方式都建議大家選擇向下滾動一屏);為方便演示,在這里,設(shè)置【滾動次數(shù)】5次。
步驟三:配置列表數(shù)據(jù)采集。
啟動采集來看一下采集結(jié)果。八爪魚自動執(zhí)行了【直接滾動到底部】5次,然后采集滾動5次后的數(shù)據(jù)。
特別說明:
1、此網(wǎng)頁是無限向下滾動加載數(shù)據(jù)的,八爪魚無法一次采集到所有數(shù)據(jù)。上面示例是設(shè)置了滾動5次,實際采集過程中可根據(jù)需求來設(shè)置滾動次數(shù)。
2、此類網(wǎng)頁常見于數(shù)據(jù)實時性高的新聞類網(wǎng)站,在八爪魚中可以使用云采集,設(shè)置定時啟動,少量多次采集最新數(shù)據(jù)。
3、有時候網(wǎng)頁很快,類似【加載中】的提示不明顯?!臼欠裼行聰?shù)據(jù)出現(xiàn)】、【觀察滾動條的回彈次數(shù)】是比較好用的判斷標準,請注意觀察網(wǎng)頁。
4. 【向下滾動一屏】的一屏,跟運行采集任務(wù)時的窗口展示區(qū)域有關(guān)。如下圖,左側(cè)滾動的一屏 > 右側(cè)滾動的一屏。
5.若設(shè)置滾動后啟動采集不滾動的,可能是頁面是局部滾動的,需要設(shè)置局部滾動不是全局滾動。局部滾動判斷方式,在目標網(wǎng)頁打開【調(diào)試控制臺】輸入:document.scrollingElement.scrollBy(0, 100) 回車運行。如果頁面沒有向下滾動,說明不是全局滾動。
到此這篇關(guān)于使用八爪魚采集器采集滾動刷新和點擊刷新的教程的文章就介紹到這了,更多相關(guān)八爪魚采集器采集滾動刷新和點擊刷新內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
C++/QT/Python/MATLAB獲取文件行數(shù)的示例詳解
這篇文章主要為大家學(xué)習(xí)介紹了如何利用C++、QT、Python、MATLAB分別實現(xiàn)獲取文件行數(shù)的功能,文中的示例代碼講解詳細,需要的可以參考一下2023-08-08Chrome拓展(Chrome Extension)開發(fā)定時任務(wù)插件
文章講述了如何在ChromeExtension中實現(xiàn)定時任務(wù),包括使用chrome.alarmsAPI、結(jié)合contentscript的狀態(tài)感知定時器和基于事件觸發(fā)的模擬定時,文章強調(diào)了任務(wù)的冪等性、狀態(tài)的持久化存儲、記錄執(zhí)行日志和防止重復(fù)執(zhí)行的重要性2025-04-04使用roolup構(gòu)建你的lib(實現(xiàn)步驟)
大家都知道Rollup更加適合用于構(gòu)建lib 而 Webpack, Precel 更加適合開發(fā)應(yīng)用。本文,將結(jié)合一個簡單的例子說說如何使用Rollup構(gòu)建自己的lib,感興趣的朋友一起看看吧2021-08-08MacOS上Homebrew?安裝、配置、更改國內(nèi)鏡像源及使用圖文詳解
Homebrew是一個強大的包管理器,適用于macOS和Linux系統(tǒng),可以簡化軟件的安裝、升級和卸載過程,它包括brew、homebrew-core、homebrew-cask和homebrew-bottles四個主要部分,通過tap和cask可以擴展功能,安裝圖形界面應(yīng)用,Homebrew還提供了各種命令來管理和維護已安裝的軟件包2024-11-11