快捷導(dǎo)航

python 爬取知乎回答下的微信8.0狀態(tài)視頻

更新時(shí)間：2021年03月22日 15:41:04 作者：somenzz

這篇文章主要介紹了python 爬取知乎的微信8.0狀態(tài)視頻的方法，幫助大家更好的理解和學(xué)習(xí)使用python，感興趣的朋友可以了解下

尋找 url

一個(gè)回答下面可能有多個(gè)視頻，先分析一個(gè)視頻，打開谷歌瀏覽器的開發(fā)者工具窗口，找到 network，勾選 preserve log、disable cache，選擇 xhr，刷新，很容易找到如下圖所示的接口:

從上圖接口返回的數(shù)據(jù)就可以獲取視頻播放的 url、標(biāo)題、格式等信息，這就夠了，復(fù)制 play_url，放在瀏覽器上看一下，發(fā)現(xiàn)可以直接下載，說明那么這個(gè) url 就是我們需要的。

接下來，寫代碼，獲取接口返回的數(shù)據(jù)：

def get(url: str) -> list:
  """
  獲取知乎視頻的 url
  返回格式
  [{'url':'', 'title','format':'',},{}]
  """
  data = []
  headers = {
    "user-agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 11_1_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.88 Safari/537.36",
  }
  with requests.get(url, headers=headers, timeout=10) as rep:
    if rep.status_code == 200:
      ids = re.findall(r"www.zhihu.com/zvideo/(\d{1,})", rep.text)
      ids = list(set(ids)) # 去掉重復(fù)元素
    else:
      print(f"網(wǎng)絡(luò)連接失敗，狀態(tài)碼 { rep.status_code }")
      return []

  if not ids:
    print("視頻獲取失敗，可能是這個(gè)頁面沒有視頻")
    return []

  for id in ids:
    print(id)
    with requests.get(
      f"https://www.zhihu.com/api/v4/zvideos/{id}/card",
      headers=headers,
      timeout=10,
    ) as rep:
      if rep.status_code == 200:
        ret_data = rep.json()
        playlist = ret_data["video"]["playlist"]
        title = ret_data.get("title")
        temp = playlist.get("ld") or playlist.get("sd")
        if temp:
          sigle_video = {}
          sigle_video["url"] = temp.get("play_url")
          sigle_video["title"] = title
          sigle_video["format"] = temp.get("format")
          data.append(sigle_video)
      else:
        print(f"網(wǎng)絡(luò)連接失敗，狀態(tài)碼 { rep.status_code }")
        return []
  return data

下載視頻

這個(gè)比較簡單了，直接請求視頻播放的 url，將流式的內(nèi)容保存到文件中，最多再加個(gè)進(jìn)度條的展示。部分視頻獲取的 title 為空，這時(shí)就使用時(shí)間戳來命名文件。

請看代碼：

def download( file_url, file_name=None, file_type=None, save_path="download", headers=None, timeout=15,): 
  """
  :param file_url: 下載資源鏈接
  :param file_name: 保存文件名，默認(rèn)為當(dāng)前日期時(shí)間
  :param file_type: 文件類型(擴(kuò)展名)
  :param save_path: 保存路徑，默認(rèn)為download,后面不要"/"
  :param headers: http請求頭
  """
  if file_name is None or file_name == "":
    file_name = str(datetime.now())

  if file_type is None:
    if "." in file_url:
      file_type = file_url.split(".")[-1]
    else:
      file_type = "uknown"

  file_name = file_name + "." + file_type

  if headers is None:
    headers = {
      "User-Agent": "Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B137 Safari/601.1"
    }

  if os.path.exists(save_path):
    pass
  else:
    os.mkdir(save_path)

  # 下載提示

  if os.path.exists(f"{save_path}/{file_name}"):
    print(f"\033[33m{file_name}已存在，不再下載！\033[0m")
    return True

  print(f"Downloading {file_name}")
  try:
    with requests.get(
      file_url, headers=headers, stream=True, timeout=timeout
    ) as rep:
      file_size = int(rep.headers["Content-Length"])
      if rep.status_code != 200:
        print("\033[31m下載失敗\033[0m")
        return False
      label = "{:.2f}MB".format(file_size / (1024 * 1024))
      with click.progressbar(length=file_size, label=label) as progressbar:
        with open(f"{save_path}/{file_name}", "wb") as f:
          for chunk in rep.iter_content(chunk_size=1024):
            if chunk:
              f.write(chunk)
              progressbar.update(1024)
      print(f"\033[32m{file_name}下載成功\033[0m")
  except Exception as e:
    print("下載失敗: ", e)
  return True

執(zhí)行代碼下載：

import os, sys
import re
import click
import requests
from datetime import datetime

def get(url: str) -> list:
  #見上文
  ...

def download( file_url, file_name=None, file_type=None, save_path="download", headers=None, timeout=15,): 
  #見上文
  ...



if __name__ == "__main__":
  videos = get(sys.argv[1])
  for video in videos:
    download(file_url = video['url'],file_name= video['title'] ,file_type= video['format'],save_path='./download')

執(zhí)行結(jié)果如下圖所示：