如何在django里上傳csv文件并進行入庫處理的方法
運維平臺導入數(shù)據(jù)這一功能實在是太重要了,我敢說在沒有建自己的cmdb平臺前,大多數(shù)公司管理服務器信息肯定是表格,用表格最麻煩的就是有點更新就得每個人發(fā)一份,這樣大家信息才能統(tǒng)一,很不方便,終于有一天受不了了,搞了一個服務器信息管理平臺,那面臨的第一個問題不是說功能好或不不好,而是怎么才能把表里的數(shù)據(jù)導入到數(shù)據(jù)庫中,所以你說重要不重要,當然如果你就喜歡自己手工錄入(找虐的感覺),這個咱也不能說啥,各有所好嘛,那具體如何錄的最快,這個不在我們今天的討論范圍,我只討論如何自動導入。
提到導入,那一般有二個方法,一個是在前端上傳完后存儲在服務器上的某個目錄里,然后讀取文件進行分析處理。
另一種是上傳文件后直接讀取文件內(nèi)容而不存儲在服務器上,這二種方法都可以實現(xiàn)我們得目的,這篇主要是討論的后面這種。
上傳文件,首先我們建一個html文件,內(nèi)容代碼如下:
<form action="{% url "myapp:upload_csv" %}" method="POST" enctype="multipart/form-data" class="form-horizontal"> {% csrf_token %} <div class="form-group"> <label for="name" class="col-md-3 col-sm-3 col-xs-12 control-label">File: </label> <div class="col-md-8"> <input type="file" name="csv_file" id="csv_file" required="True" class="form-control"> </div> </div> <div class="form-group"> <div class="col-md-3 col-sm-3 col-xs-12 col-md-offset-3" style="margin-bottom:10px;"> <button class="btn btn-primary"> <span class="glyphicon glyphicon-upload" style="margin-right:5px;"></span>Upload </button> </div> </div> </form>
這些都是基本的Html,只要主要enctype=”multipart/form-data”這個參數(shù)就可以,其它無特別說明。
展示如圖:
加入路由,
url(r'^upload/csv/$', views.upload_csv, name='upload_csv'),
那接下來就是處理上傳的文件并入庫了,這個代碼在views.py文件里,代碼如下:
def upload_csv(request): data = {} if "GET" == request.method: return render(request, "myapp/upload_csv.html", data) # if not GET, then proceed try: csv_file = request.FILES["csv_file"] if not csv_file.name.endswith('.csv'): messages.error(request,'File is not CSV type') return HttpResponseRedirect(reverse("myapp:upload_csv")) #if file is too large, return if csv_file.multiple_chunks(): messages.error(request,"Uploaded file is too big (%.2f MB)." % (csv_file.size/(1000*1000),)) return HttpResponseRedirect(reverse("myapp:upload_csv")) file_data = csv_file.read().decode("utf-8") lines = file_data.split("\n") #loop over the lines and save them in db. If error , store as string and then display for line in lines: fields = line.split(",") data_dict = {} data_dict["name"] = fields[0] data_dict["start_date_time"] = fields[1] data_dict["end_date_time"] = fields[2] data_dict["notes"] = fields[3] try: form = EventsForm(data_dict) if form.is_valid(): form.save() else: logging.getLogger("error_logger").error(form.errors.as_json()) except Exception as e: logging.getLogger("error_logger").error(repr(e)) pass except Exception as e: logging.getLogger("error_logger").error("Unable to upload file. "+repr(e)) messages.error(request,"Unable to upload file. "+repr(e)) return HttpResponseRedirect(reverse("myapp:upload_csv"))
代碼解釋:
最開始判斷如果是get請求直接渲染upload_csv.html文件,如果是post請求那么進行分析處理,首先是檢查文件名是否是以csv結(jié)尾的,如果是就處理,不是就提示錯誤信息,再就是檢查下上傳文件的大小,其實這些檢查也還好,如果是自己整理的表導入基本也不用做這些檢查了,如果是有多人操作這些檢查就有必要了,然后開始循環(huán)迭代文件行,內(nèi)容是以逗號分隔,這里假設就是4列,如果你的表格列很多可以做修改,最后保存入庫,如果有錯誤就記錄錯誤信息到日志文件中。
至此我們需要的功能就完成了,雖然簡單但非常實用。
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關文章
jupyter?notebook內(nèi)核啟動失敗問題及解決方法
這篇文章主要介紹了解決jupyter?notebook內(nèi)核啟動失敗問題,本文給大家介紹了問題原因分析及解決方案,圖文并茂的形式給大家介紹的非常詳細,需要的朋友可以參考下2022-04-04使用Python獲取CPU、內(nèi)存和硬盤等windowns系統(tǒng)信息的2個例子
這篇文章主要介紹了使用Python獲取CPU、內(nèi)存和硬盤等windowns系統(tǒng)信息的2個例子,使用的python wmi模塊,需要的朋友可以參考下2014-04-04python 使用多線程創(chuàng)建一個Buffer緩存器的實現(xiàn)思路
這篇文章主要介紹了python 使用多線程創(chuàng)建一個Buffer緩存器的實現(xiàn)思路,本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-07-07翻轉(zhuǎn)數(shù)列python實現(xiàn),求前n項和,并能輸出整個數(shù)列的案例
這篇文章主要介紹了翻轉(zhuǎn)數(shù)列python實現(xiàn),求前n項和,并能輸出整個數(shù)列的案例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-05-05用Python按時間分割txt文件中的數(shù)據(jù)方法步驟
這篇文章主要給大家介紹了如何用Python按時間分割txt文件中的數(shù)據(jù)的方法步驟,文中通過代碼示例給大家講解的非常詳細,對大家學習Python處理txt文件有一定的幫助,需要的朋友可以參考下2023-12-12