深入分析python數(shù)據(jù)挖掘 Json結(jié)構(gòu)分析
json是一種輕量級(jí)的數(shù)據(jù)交換格式,也可以說是一種配置文件的格式
這種格式的文件是我們?cè)跀?shù)據(jù)處理經(jīng)常會(huì)遇到的
python提供內(nèi)置的模塊json,只需要在使用前導(dǎo)入即可
你可以通過幫助函數(shù)查看json的幫助文檔
json常用的方法有l(wèi)oad、loads、dump以及dumps,這個(gè)都屬于python初級(jí),我不做過多解釋
json可以結(jié)合數(shù)據(jù)庫一起使用,在這以后要處理大量數(shù)據(jù)時(shí)非常有用
下面我們正式來利用數(shù)據(jù)挖掘?qū)son文件進(jìn)行處理
現(xiàn)在很多網(wǎng)站都運(yùn)用了Ajax,所以一般很多都是XHR文件
通過這里我想利用一個(gè)地圖網(wǎng)站來演示
我們通過瀏覽器的調(diào)試獲取了相關(guān)url
https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ
下面我們通過requests模塊中的get方法,模擬瀏覽器發(fā)出的http請(qǐng)求,并返回的到的結(jié)果對(duì)象
代碼如下
# coding=utf-8 __Author__ = "susmote" import requests url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) print(resp.text[0:200])
在終端中運(yùn)行結(jié)果如下
數(shù)據(jù)已經(jīng)獲取到了,但是為了接下來能使用這些數(shù)據(jù),我們需要利用json模塊對(duì)這些數(shù)據(jù)進(jìn)行分析
代碼如下
import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) print(type(json_dict)) print(json_dict.keys())
簡單講一下上面的代碼:
導(dǎo)入json模塊,然后調(diào)用loads方法,將返回的文本作為方法的參數(shù)傳入
在終端中運(yùn)行結(jié)果如下
可以看出,轉(zhuǎn)換的結(jié)果是與json字符串對(duì)應(yīng)的字典,因?yàn)閠ype(json_dict)返回的是<class 'dict'>
因?yàn)閷?duì)象是一個(gè)字典,所以我們可以調(diào)用字典的方法,在這里我們調(diào)用的就是keys方法
結(jié)果返回三個(gè)鍵,即status、searcOpt、data
下面我們來查看data鍵里面的數(shù)據(jù)
import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) print(json_dict['data'])
下面在終端中運(yùn)行這一段代碼
可以看到里面有很多我們需要的數(shù)據(jù),如
不一一標(biāo)出,通過跟網(wǎng)頁顯示的相比較,就能清楚哪些是有用的了
下面我們通過代碼獲取有用的信息,把它清晰的輸出
# coding=utf-8 __Author__ = "susmote" import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) data_dict = json_dict['data'] data_list = data_dict['poi_list'] dis_data = data_list[0] print('城市: ', dis_data['cityname']) print('名稱: ', dis_data['name']) print('電話: ', dis_data['tel']) print('區(qū)號(hào): ', dis_data['areacode']) print('地址: ', dis_data['address']) print('經(jīng)度: ', dis_data['longitude']) print('緯度: ', dis_data['latitude'])
因?yàn)榉祷氐氖且粋€(gè)字典,通過對(duì)文件結(jié)構(gòu)的研究,字典中嵌套著列表,列表中又嵌套著字典,通過層層解套,成功獲取數(shù)據(jù)
我這里把步驟分開列出了,所以你會(huì)看的更加清楚
下面我們通過終端運(yùn)行程序,獲取我們想要的信息
是不是非常簡單了,這個(gè)程序可以作為一個(gè)模版,獲取其他地方的信息時(shí)只需要改一個(gè)url即可
例如以下幾個(gè)范例
北京大學(xué)
或者是騰訊大廈
數(shù)據(jù)挖掘是沒有盡頭的,希望大家多分析數(shù)據(jù),找到你想要的數(shù)據(jù)
相關(guān)文章
OpenCV利用手勢(shì)識(shí)別實(shí)現(xiàn)虛擬拖放效果
這篇文章主要介紹了利用OpenCV實(shí)現(xiàn)手勢(shì)識(shí)別,從而進(jìn)行虛擬拖放效果,我們可以使用這個(gè)技術(shù)實(shí)現(xiàn)一些游戲,控制機(jī)械臂等很多有趣的事情。感興趣的可以學(xué)習(xí)一下2022-01-01選擇Python寫網(wǎng)絡(luò)爬蟲的優(yōu)勢(shì)和理由
在本篇文章里小編給各位整理了一篇關(guān)于選擇Python寫網(wǎng)絡(luò)爬蟲的優(yōu)勢(shì)和理由以及相關(guān)代碼實(shí)例,有興趣的朋友們閱讀下吧。2019-07-07Python獲取暗黑破壞神3戰(zhàn)網(wǎng)前1000命位玩家的英雄技能統(tǒng)計(jì)
這篇文章主要介紹了Python獲取暗黑3戰(zhàn)網(wǎng)前1000命位玩家的英雄技能統(tǒng)計(jì)的方法,借助urllib2模塊以類似爬蟲的機(jī)制來實(shí)現(xiàn),需要的朋友可以參考下2016-07-07Pytorch神經(jīng)網(wǎng)絡(luò)參數(shù)管理方法詳細(xì)講解
這篇文章主要介紹了Pytorch神經(jīng)網(wǎng)絡(luò)參數(shù)管理方法,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)吧2023-05-05pycharm中代碼回滾到指定版本的兩種實(shí)現(xiàn)方法(附帶截圖展示)
在編寫代碼的時(shí)候,經(jīng)常會(huì)出現(xiàn)寫的代碼存在一些問題,但是比較難以發(fā)現(xiàn)具體存在的問題在哪里,需要將帶代碼恢復(fù)到指定的版本,下面這篇文章主要給大家介紹了關(guān)于pycharm中代碼回滾到指定版本的兩種實(shí)現(xiàn)方法,需要的朋友可以參考下2022-06-06python解析中國天氣網(wǎng)的天氣數(shù)據(jù)
最近學(xué)習(xí)python 感覺這門腳本語言十分靈活 而且功能十分強(qiáng)大 尤其是他re庫用于正則匹配十分強(qiáng)大,寫了個(gè)例子解析中國天氣網(wǎng)2014-03-03python 實(shí)現(xiàn)定時(shí)任務(wù)的四種方式
這篇文章主要介紹了python 實(shí)現(xiàn)定時(shí)任務(wù)的四種方式,幫助大家更好的理解和學(xué)習(xí)使用python,感興趣的朋友可以了解下2021-04-04