python基于selenium爬取斗魚彈幕
更新時間:2021年02月20日 16:17:21 作者:Martina_oh
這篇文章主要介紹了python如何基于selenium爬取斗魚彈幕,幫助大家更好的理解和學習使用python,感興趣的朋友可以了解下
針對彈幕的爬取我們如果只需要獲取看到的網頁里面的而數據,使用selenium就能實現,對于直播平臺來說,往往有第三方平臺api讓你獲取數據(可以獲取發(fā)彈幕,發(fā)彈幕者的名字禮物等等,這需要客戶端向彈幕服務器發(fā)送登錄請求,心跳信息的發(fā)送等等)只獲取彈幕信息儲存到txt文件中,上代碼,上圖片
代碼如下:
import time from selenium import webdriver chrome_options = webdriver.ChromeOptions() # 使用headless無界面瀏覽器模式 # chrome_options.add_argument('--headless') # chrome_options.add_argument('--disable-gpu') prefs = {"profile.managed_default_content_settings.images": 2} chrome_options.add_experimental_option("prefs", prefs) browser = webdriver.Chrome(chrome_options=chrome_options) url = 'https://www.douyu.com/' def getDanmu(homeId): homeHref = url+str(homeId) browser.get(homeHref) while 1: time.sleep(2) try: for i in browser.find_elements_by_xpath('.//div[@class=" danmu-6e95c1"]/div/div'): if len(i.text) > 0: try: print(i.text) except: pass saveDanmu(i.text) else: continue except: time.sleep(2) for i in browser.find_elements_by_xpath('.//div[@class=" danmu-6e95c1"]/div/div'): if len(i.text) > 0: try: print(i.text) except: pass saveDanmu(i.text) else: continue def saveDanmu(danmu): with open('danmu.txt', 'a+', encoding='utf-8')as f: f.write(danmu+'\n') if __name__ == '__main__': num = input('請輸入需要查詢的房間號:') getDanmu(num)
以上就是python基于selenium爬取斗魚彈幕的詳細內容,更多關于python 爬取斗魚彈幕的資料請關注腳本之家其它相關文章!
相關文章
Python Django2 model 查詢介紹(條件、范圍、模糊查詢)
這篇文章主要介紹了Python Django2 model 查詢介紹(條件、范圍、模糊查詢),具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-03-03python opencv 圖像處理之圖像算數運算及修改顏色空間
這篇文章主要介紹了python opencv 圖像處理之圖像算數運算及修改顏色空間,文章圍繞主題展開詳細的內容介紹,具有一定的參考價值,需要的朋友可以參考一下2022-08-08用python監(jiān)控服務器的cpu,磁盤空間,內存,超過郵件報警
這篇文章主要介紹了如果用python監(jiān)控服務器的cpu,磁盤空間,內存,超過郵件報警,幫助大家更好的理解和使用python,感興趣的朋友可以了解下2021-01-01