Python爬取某拍短視頻
一、抓取目標(biāo)
目標(biāo)網(wǎng)址:美拍視頻
二、工具使用
開發(fā)環(huán)境:win10、python3.7
開發(fā)工具:pycharm、Chrome
工具包:requests、xpath、base64
三、重點(diǎn)學(xué)習(xí)內(nèi)容
爬蟲采集數(shù)據(jù)的解析過程
js代碼調(diào)試技巧
js逆向解析代碼
Python代碼的轉(zhuǎn)換
四、項(xiàng)目思路解析
進(jìn)入到網(wǎng)站的首頁
挑選你感興趣的分類
根據(jù)首頁地址獲取到進(jìn)入詳情頁面的超鏈接的跳轉(zhuǎn)地址
找到對(duì)應(yīng)加密的視頻播放地址數(shù)據(jù)
這個(gè)數(shù)據(jù)是靜態(tài)的網(wǎng)頁數(shù)據(jù),通過js代碼進(jìn)行解碼的
找到對(duì)應(yīng)的解析代碼
先找到視頻的播放地址
找到解析視頻地址的加密js文件
點(diǎn)擊播放的時(shí)候會(huì)觸發(fā)文件
大致能看出來這個(gè)是base64加密之后的數(shù)據(jù)
在對(duì)應(yīng)的js文件里搜索關(guān)鍵字
找到j(luò)s的加密方式
js函數(shù)的一些函數(shù)的用法
# eplace()方法用于在字符串中用一些字符替換另一些字符 # parseInt 數(shù)據(jù)轉(zhuǎn)換成對(duì)應(yīng)的整型 # base64.atob 對(duì)base64編碼過的字符串進(jìn)行解碼 # substring 方法可在字符串中抽取從 start 下標(biāo)開始的指定數(shù)目的字符
將js代碼轉(zhuǎn)換成Python代碼
import base64 def decode(data): def getHex(a): return { 'str': a[4:], 'hex': ''.join(list(a[:4])[::-1]), } def getDec(a): b = str(int(a, 16)) return { 'pre': list(b[:2]), 'tail': list(b[2:]), } def substr(a, b): c = a[0: int(b[0])] d = a[int(b[0]): int(b[0]) + int(b[1])] return c + a[int(b[0]):].replace(d, "") def getPos(a, b): b[0] = len(a) - int(b[0]) - int(b[1]) return b b = getHex(data) c = getDec(b['hex']) d = substr(b['str'], c['pre']) return base64.b64decode(substr(d, getPos(d, c['tail']))) print(decode("e121Ly9tBrI84RdnZpZGVvMTAubWVpdHVkYXRhLmNvbS82MGJjZDcwNTE3NGZieXBueG5udnRwMTA5N19IMjY0XzFfNWY3YThmM2U0MTEwNy5tc2JVjAu3EDQ="))
得出最終視頻播放地址
五、簡(jiǎn)易源碼分享
import requests from lxml import etree import base64 def decode_mp4(data): def getHex(a): return { 'str': a[4:], 'hex': ''.join(list(a[:4])[::-1]), } def getDec(a): b = str(int(a, 16)) return { 'pre': list(b[:2]), 'tail': list(b[2:]), } def substr(a, b): c = a[0: int(b[0])] d = a[int(b[0]): int(b[0]) + int(b[1])] return c + a[int(b[0]):].replace(d, "") def getPos(a, b): b[0] = len(a) - int(b[0]) - int(b[1]) return b b = getHex(data) c = getDec(b['hex']) d = substr(b['str'], c['pre']) return base64.b64decode(substr(d, getPos(d, c['tail']))) # 運(yùn)行主函數(shù) def main(): url = 'https://www.meipai.com' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.142 Safari/537.36', } response = requests.get(url=url, headers=headers) html_data = etree.HTML(response.text) href_list = html_data.xpath('//div/a/@href') # print(href_list) for href in href_list: res = requests.get('https://www.meipai.com' + href, headers=headers) html = etree.HTML(res.text) name = html.xpath('//div[@id="detailVideo"]/img/@alt')[0] mp4_data = html.xpath('//div[@id="detailVideo"]/@data-video')[0] # print(name, mp4_data) mp4_url = decode_mp4(mp4_data).decode('utf-8') print(mp4_url) result = requests.get("http:" + mp4_url) with open(name + ".mp4", 'wb') as f: f.write(result.content) f.close() if __name__ == '__main__': main()
到此這篇關(guān)于Python爬取某拍短視頻的文章就介紹到這了,更多相關(guān)Python爬取視頻內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
一篇文章帶你學(xué)習(xí)python的函數(shù)與類
這篇文章主要為大家介紹了python的函數(shù)與類,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下,希望能夠給你帶來幫助2022-01-01python更新數(shù)據(jù)庫中某個(gè)字段的數(shù)據(jù)(方法詳解)
這篇文章主要介紹了python更新數(shù)據(jù)庫中某個(gè)字段的數(shù)據(jù)方法,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-11-11Python 列表(List)的底層實(shí)現(xiàn)原理分析
這篇文章主要介紹了Python 列表(List)的底層實(shí)現(xiàn)原理分析,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-03-03Python中關(guān)于面向?qū)ο笏接袑傩苑椒ǖ脑敿?xì)講解
在實(shí)際開發(fā)中,對(duì)象的某些屬性或方法可能只希望在對(duì)象的內(nèi)部被使用,而不希望在外部被訪問到,私有屬性就是對(duì)象不希望公開的屬性,私有方法就是對(duì)象不希望公開的方法2021-10-10解決python路徑錯(cuò)誤,運(yùn)行.py文件,找不到路徑的問題
這篇文章主要介紹了解決python路徑錯(cuò)誤,運(yùn)行.py文件,找不到路徑的問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-03-03解決Python在導(dǎo)入文件時(shí)的FileNotFoundError問題
這篇文章主要介紹了解決Python在導(dǎo)入文件時(shí)的FileNotFoundError問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-04-04Gradio機(jī)器學(xué)習(xí)模型快速部署工具應(yīng)用分享前篇
這篇文章主要為大家介紹了Gradio機(jī)器學(xué)習(xí)模型快速部署工具應(yīng)用分享前篇,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-04-04