亚洲乱码中文字幕综合,中国熟女仑乱hd,亚洲精品乱拍国产一区二区三区,一本大道卡一卡二卡三乱码全集资源,又粗又黄又硬又爽的免费视频

Python實現(xiàn)一個自助取數(shù)查詢工具

 更新時間:2021年06月05日 17:30:23   作者:Brook  
在數(shù)據生產應用部門,取數(shù)分析是一個很常見的需求,實際上業(yè)務人員需求時刻變化,最高效的方式是讓業(yè)務部門自己來取,減少不必要的重復勞動,本文介紹如何用Python實現(xiàn)一個自助取數(shù)查詢工具

基于底層數(shù)據來開發(fā)不難,無非是將用戶輸入變量作為篩選條件,將參數(shù)映射到 sql 語句,并生成一個 sql 語句然后再去數(shù)據庫執(zhí)行

最后再利用 QT 開發(fā)一個 GUI 界面,用戶界面的點擊和篩選條件,信號觸發(fā)對應按鈕與綁定的傳參槽函數(shù)執(zhí)行

具體思路:

一、數(shù)據庫連接類

此處利用 pandas 讀寫操作 oracle 數(shù)據庫

二、主函數(shù)模塊

1)輸入參數(shù)模塊,外部輸入條件參數(shù),建立數(shù)據庫關鍵字段映射

--注:讀取外部 txt 文件,將篩選字段可能需要進行鍵值對轉換

2)sql 語句集合模塊,將待執(zhí)行的業(yè)務 sql 語句統(tǒng)一存放到這里

3)數(shù)據處理函數(shù)工廠

4)使用多線程提取數(shù)據

一、數(shù)據庫連接類

cx_Oracle 是一個 Python 擴展模塊,相當于 python 的 Oracle 數(shù)據庫的驅動,通過使用所有數(shù)據庫訪問模塊通用的數(shù)據庫 API 來實現(xiàn) Oracle 數(shù)據庫的查詢和更新

Pandas 是基于 NumPy 開發(fā),為了解決數(shù)據分析任務的模塊,Pandas 引入了大量庫和一些標準的數(shù)據模型,提供了高效地操作大型數(shù)據集所需的方法類和函數(shù)

pandas 調用數(shù)據庫主要有 read_sql_table,read_sql_query,read_sql 三種方式

本文主要介紹一下 Pandas 中 read_sql_query 方法的使用

1:pd.read_sql_query()
讀取自定義數(shù)據,返還DataFrame格式,通過SQL查詢腳本包括增刪改查。
pd.read_sql_query(sql, con, index_col=None,coerce_float=True, params=None, parse_dates=None,chunksize=None)
sql:要執(zhí)行的sql腳本,文本類型
con:數(shù)據庫連接
index_col:選擇返回結果集索引的列,文本/文本列表
coerce_float:非常有用,將數(shù)字形式的字符串直接以float型讀入
parse_dates:將某一列日期型字符串轉換為datetime型數(shù)據,與pd.to_datetime函數(shù)功能類似。
params:向sql腳本中傳入的參數(shù),官方類型有列表,元組和字典。用于傳遞參數(shù)的語法是數(shù)據庫驅動程序相關的。
chunksize:如果提供了一個整數(shù)值,那么就會返回一個generator,每次輸出的行數(shù)就是提供的值的大小

read_sql_query()中可以接受SQL語句,DELETE,INSERT INTO、UPDATE操作沒有返回值(但是會在數(shù)據庫中執(zhí)行),程序會拋出SourceCodeCloseError,并終止程序。SELECT會返回結果。如果想繼續(xù)運行,可以try捕捉此異常。
 
2:pd.read_sql_table()
讀取數(shù)據庫中的表,返還DataFrame格式(通過表名)
import pandas as pd
pd.read_sql_table(table_name, con, schema=None,index_col=None, coerce_float=True, parse_dates=None, columns=None,chunksize=None)
 
3:pd.read_sql()
讀數(shù)據庫通過SQL腳本或者表名
import pandas as pd
pd.read_sql(sql, con, index_col=None,coerce_float=True, params=None, parse_dates=None, columns=None, chunksize=None)

以下創(chuàng)建連接 oracel 數(shù)據庫的連接類 Oracle_DB

主要提供 2 種操作數(shù)據的函數(shù)方法。

import cx_Oracle
# Pandas讀寫操作Oracle數(shù)據庫
import pandas as pd

# 避免編碼問題帶來的亂碼
import os
os.environ['NLS_LANG'] = 'SIMPLIFIED CHINESE_CHINA.UTF8'


class Oracle_DB(object):
    def __init__(self):
        try:
            # 連接oracle
            # 方法1:sqlalchemy 提供的create_engine()
            # from sqlalchemy import create_engine
            # engine = create_engine('oracle+cx_oracle://username:password@ip:1521/ORCL')
            # #方法2:cx_Oracle.connect()
            self.engine = cx_Oracle.connect('username', 'password', 'ip:1521/database')

        except cx_Oracle.Error as e:
            print("Error %d:%s" % (e.args[0], e.args[1]))
            exit()
            
    # 查詢部分信息
    def search_one(self, sql,sparm):
        try:
            # #查詢獲取數(shù)據用sql語句
            # 代傳參數(shù):sparm--查詢指定字段參數(shù)
            df = pd.read_sql_query(sql, self.engine,params=sparm)

            self.engine.close()

        except Exception as e:
            return "Error " + e.args[0]

        return df

    # 查詢全部信息
    def search_all(self, sql):
        try:

            # #查詢獲取數(shù)據用sql語句

            df = pd.read_sql_query(sql, self.engine)

            self.engine.close()

        except Exception as e:
            return "Error " + e.args[0]

        return df

二、數(shù)據提取主函數(shù)模塊

cx_Oracle 是一個 Python 擴展模塊,相當于 python 的 Oracle 數(shù)據庫的驅動,通過使用所有數(shù)據庫訪問模塊通用的數(shù)據庫 API 來實現(xiàn) Oracle 數(shù)據庫的查詢和更新。

1)外部輸入參數(shù)模塊

txt 文本中,就包含一列數(shù)據,第一行列名,讀取的時候忽略第一行

#建立ID——編號字典
def buildid():
    sqlid = """select * from b_build_info"""
    db = Oracle_DB()  # 實例化一個對象
    b_build_info = db.search_all(sqlid)
    ID_bUILDCODE = b_build_info.set_index("BUILDCODE")["ID"].to_dict()
    return ID_bUILDCODE
    
#通過文本傳入待導出數(shù)據清單
def read_task_list():
    build_code=buildid()
    tasklist=[]
    is_first_line=True
    with open("./b_lst.txt") as lst:
        for line in lst:
            if is_first_line:
                is_first_line=False
                continue
            tasklist.append(build_code.get(line.strip('\n')))  #鍵值對轉換
    return tasklist

2)業(yè)務 sql 語句集合

注意in后面{0}不要加引號,這里傳入為元組,params 參數(shù)傳入sparm

= {'Start_time':'2021-04-01','End_time':'2021-05-01'},此處參數(shù)可根據需要改變

def sql_d(lst):
    # 逐月數(shù)據
    sql_d_energy_item_month = """select * from d_energy_item_month
           where recorddate >= to_date(:Start_time, 'yyyy-MM-dd')
           and recorddate < to_date(:End_time, 'yyyy-MM-dd')
           and  buildid  in {0}
           order by recorddate asc""".format(lst)

    # 逐月數(shù)據
    sql_d_energy_month = """select d.*,t.name from d_energy_month d join t_device_info t on d.branchid = t.id
           where d.recorddate >= to_date(:Start_time, 'yyyy-MM-dd')
           and d.recorddate < to_date(:End_time, 'yyyy-MM-dd')
           and d.buildid = '{0}'
           order by d.recorddate asc""".format(lst)

    # 查詢當日數(shù)據
    sql_energy_item_hour_cheak = """select * from d_energy_item_hour
            where trunc(sysdate)=trunc(recorddate)
            order by recorddate asc""".format(lst)

    sql_collection = [sql_d_energy_item_month, sql_d_energy_item_day, sql_d_energy_item_hour, sql_d_energy_month,
                      sql_d_energy_day, sql_d_energy_hour, sql_energy_hour_cheak]
                      #此處省略部分sql語句
    return sql_collection

3)業(yè)務數(shù)據處理

業(yè)務數(shù)據處理流程,原始數(shù)據后處理,這里不作介紹:

def db_extranction(lst,sparm,sql_type):   
    """sql_type--輸入需要操作的sql業(yè)務序號"""
    sql_=sql_d(lst)[sql_type]  #輸出sql語句
    db = Oracle_DB()  # 實例化一個對象
    res=db.search_one(sql_,sparm)
    # 數(shù)據處理加工
    RES=Data_item_factory(res)  #此處省略
    # res = db.search_all(sql_d_energy_item_month)
    print(RES)
    return RES

多線程提取數(shù)據部分,這里 tasklist 列表多線程提取數(shù)據

import threading
# Pandas讀寫操作Oracle數(shù)據庫
from tools.Data_Update_oracle import Oracle_DB
import pandas as pd
from concurrent import futures  

if __name__ == '__main__':
    #外部傳入
    tasklist= read_task_list()
    print(tasklist)
    # 輸入時間查找范圍參數(shù),可手動修改
    sparm = {'Start_time':'2021-04-01','End_time':'2021-05-01'}
    lst = tuple(list(tasklist))
    
    #業(yè)務類型序號,可手動修改
    sql_type=0
    
    #全部提取
    db_extranction(lst,sparm,sql_type)  

    #多線程按字段分批提取
    方法一:使用threading模塊的Thread類的構造器創(chuàng)建線程
    #threads=[threading.Thread(target=db_extranction,args=(lst,sparm,sql_type)) for lst in tasklist]
    # [threads[i].start() for i in range(len(threads))]
    
    方法二:使用python的concurrent庫,這是官方基于 threading 封裝,先安裝該庫
    # with futures.ThreadPoolExecutor(len(tasklist)) as executor:
    #     executor.map([db_extranction(lst,sparm,sql_type) for lst in tasklist],tasklist)  

到此整個數(shù)據庫取數(shù)工具開發(fā)流程介紹完畢,就差最后一步分享給小伙伴使用了,做成 GUI 應用此處不做詳細介紹,構建獨立的 python 環(huán)境,快速發(fā)布你的應用

以上就是Python實現(xiàn)一個自助取數(shù)查詢工具的詳細內容,更多關于python 自助取數(shù)查詢的資料請關注腳本之家其它相關文章!

相關文章

  • 終止python代碼運行的3種方式詳析

    終止python代碼運行的3種方式詳析

    這篇文章主要給大家介紹了關于終止python代碼運行的3種方式,python是解釋運行的程序,程序進入死循環(huán)或者其它異常都會導致程序無法正常結束,需要的朋友可以參考下
    2023-07-07
  • 使用Python實現(xiàn)屏幕截圖的兩種方法

    使用Python實現(xiàn)屏幕截圖的兩種方法

    Python作為一種高效的編程語言,可以通過一些庫來實現(xiàn)對屏幕的截圖操作,本文主要介紹了使用Python實現(xiàn)屏幕截圖的兩種方法,具有一定的 參考價值,感興趣的可以了解一下
    2023-12-12
  • pyqt5?子線程如何操作主線程GUI(示例代碼)

    pyqt5?子線程如何操作主線程GUI(示例代碼)

    這篇文章主要介紹了pyqt5?子線程如何操作主線程GUI,在使用pyqt5編寫gui時遇到兩個問題,會導致界面崩潰,今天就圍繞這兩個問題來簡單說明和改進,需要的朋友可以參考下
    2024-05-05
  • 使用NumPy和pandas對CSV文件進行寫操作的實例

    使用NumPy和pandas對CSV文件進行寫操作的實例

    今天小編就為大家分享一篇使用NumPy和pandas對CSV文件進行寫操作的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-06-06
  • Python按條件刪除Excel表格數(shù)據的方法(示例詳解)

    Python按條件刪除Excel表格數(shù)據的方法(示例詳解)

    本文介紹基于Python語言,讀取Excel表格文件,基于我們給定的規(guī)則,對其中的數(shù)據加以篩選,將不在指定數(shù)據范圍內的數(shù)據剔除,保留符合我們需要的數(shù)據的方法,感興趣的朋友跟隨小編一起看看吧
    2024-08-08
  • Python?count()函數(shù)用法詳解

    Python?count()函數(shù)用法詳解

    這篇文章主要給大家介紹了關于Python?count()函數(shù)用法的相關資料,Python?count()方法用于統(tǒng)計字符串里某個字符出現(xiàn)的次數(shù),可選參數(shù)為在字符串搜索的開始與結束位置,需要的朋友可以參考下
    2024-02-02
  • PyTorch實現(xiàn)AlexNet示例

    PyTorch實現(xiàn)AlexNet示例

    今天小編就為大家分享一篇PyTorch實現(xiàn)AlexNet示例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-01-01
  • python3中zip()函數(shù)使用詳解

    python3中zip()函數(shù)使用詳解

    zip函數(shù)接受任意多個可迭代對象作為參數(shù),將對象中對應的元素打包成一個tuple,然后返回一個可迭代的zip對象.這個可迭代對象可以使用循環(huán)的方式列出其元素,若多個可迭代對象的長度不一致,則所返回的列表與長度最短的可迭代對象相同.
    2018-06-06
  • Python實現(xiàn)識別圖片內容的方法分析

    Python實現(xiàn)識別圖片內容的方法分析

    這篇文章主要介紹了Python實現(xiàn)識別圖片內容的方法,結合實例形式分析了tesseract模塊的下載、安裝配置及使用tesseract模塊進行圖片識別的相關操作技巧,需要的朋友可以參考下
    2018-07-07
  • 詳解Python字符串對象的實現(xiàn)

    詳解Python字符串對象的實現(xiàn)

    本文介紹了 python 內部是如何管理字符串對象,以及字符串查找操作是如何實現(xiàn)的,感興趣的小伙伴們可以參考一下
    2015-12-12

最新評論