如何在Django中添加沒有微秒的 DateTimeField 屬性詳解
前言
今天在項目中遇到一個Django的大坑,一個很簡單的分頁問題,造成了數(shù)據(jù)重復。最后排查發(fā)現(xiàn)是DateTimeField 屬性引起的。
下面描述下問題,下面是我需要用到的一個 Task Model 基本定義:
class Task(models.Model): # ...... 省略了其他字段 title = models.CharField(max_length=256, verbose_name=u'標題') created_at = models.DateTimeField(auto_now_add=True, verbose_name=u'創(chuàng)建時間')
問題描述
前端這邊的分頁方式不是常規(guī)的 page、page_size 方式,而是使用標志位的方式進行分頁,我這里采用的就是通過創(chuàng)建時間的時間戳作為分頁標記。比如下面是返回的第一頁的數(shù)據(jù):
{
"data": {
"count": 5,
"has_next": 1,
"tasks": [
{
"title": "這是一個作業(yè)標題1",
"ts": 1546829224000,
"id": 1
},
{
"title": "這是一個作業(yè)標題2",
"ts": 1546829641000,
"id": 2
}
]
},
"result": 1
}
要請求第2頁的數(shù)據(jù)只需要在請求的 API 中傳遞上一頁最后一條數(shù)據(jù)的時間戳即可,這里我們就傳遞 1546829641000,這樣當我后臺接收到這個值過后就直接過濾大于該時間戳的數(shù)據(jù),再取一頁數(shù)據(jù)返回前端即可,邏輯上很簡單。過濾核心代碼如下:
ts = string_utils.get_num(request.GET.get('ts', 0), 0)
alltask = Task.objects.filter(created_at__gt=date_utils.timestamp2datetime(ts))
這段代碼很簡單,主要就是將前臺傳遞過來的時間戳轉換成 DateTime 類型的數(shù)據(jù),然后利用created_at__gt來過濾,就是大于這個時間點的就可以。然后問題來了,查詢出來的數(shù)據(jù)始終包含了上一頁最后一條數(shù)據(jù),感覺很奇怪,我這里明明用的是gt而不是gte,怎么會重復這條數(shù)據(jù)呢。
于是,我們把上一頁最后一條數(shù)據(jù)的 created_at 字段打印出來和傳遞過來的時間戳進行對比下:
>>> task = Task.objects.get(pk=2) >>> task.created_at datetime.datetime(2019, 1, 7, 10, 54, 1, 343136)
然后將時間戳轉換成 DateTime 類型的數(shù)據(jù):
>>> ts = int(1546829641000/1000) >>> date_utils.timestamp2datetime(ts) datetime.datetime(2019, 1, 7, 10, 54, 1)
現(xiàn)在看到區(qū)別沒有,從數(shù)據(jù)庫中查詢出來的 created_at 字段的值包含了一個微秒,就是后面的 343136,而時間戳轉換成 DateTime 類型的值是不包含這個微秒值的,所以我們上面查詢的使用created_at__gt來進行過濾很顯然 created_at 的值是大于下面的值的,因為多了一個微秒,所以就造成了數(shù)據(jù)重復了,終于破案了。
解決方法
那么要怎么解決這個問題呢?當然我們可以直接在數(shù)據(jù)庫中就保存一個時間戳的字段,用這個字段直接來進行查詢過濾,肯定是可以解決這個問題的。
如果就用現(xiàn)在的 created_at 這個 DateTimeField 類型呢?如果保存的數(shù)據(jù)沒有這個微秒是不是也可以解決這個問題?。?/p>
我們可以去查看下源碼為什么 DateTimeField 類型的數(shù)據(jù)會包含微秒,下面是django/db/backends/mysql/base.py文件中的部分代碼說明:
class DatabaseWrapper(BaseDatabaseWrapper):
vendor = 'mysql'
# This dictionary maps Field objects to their associated MySQL column
# types, as strings. Column-type strings can contain format strings; they'll
# be interpolated against the values of Field.__dict__ before being output.
# If a column type is set to None, it won't be included in the output.
_data_types = {
'AutoField': 'integer AUTO_INCREMENT',
'BinaryField': 'longblob',
'BooleanField': 'bool',
'CharField': 'varchar(%(max_length)s)',
'CommaSeparatedIntegerField': 'varchar(%(max_length)s)',
'DateField': 'date',
'DateTimeField': 'datetime',
'DecimalField': 'numeric(%(max_digits)s, %(decimal_places)s)',
'DurationField': 'bigint',
'FileField': 'varchar(%(max_length)s)',
'FilePathField': 'varchar(%(max_length)s)',
'FloatField': 'double precision',
'IntegerField': 'integer',
'BigIntegerField': 'bigint',
'IPAddressField': 'char(15)',
'GenericIPAddressField': 'char(39)',
'NullBooleanField': 'bool',
'OneToOneField': 'integer',
'PositiveIntegerField': 'integer UNSIGNED',
'PositiveSmallIntegerField': 'smallint UNSIGNED',
'SlugField': 'varchar(%(max_length)s)',
'SmallIntegerField': 'smallint',
'TextField': 'longtext',
'TimeField': 'time',
'UUIDField': 'char(32)',
}
@cached_property
def data_types(self):
if self.features.supports_microsecond_precision:
return dict(self._data_types, DateTimeField='datetime(6)', TimeField='time(6)')
else:
return self._data_types
# ... further class methods
上面的 data_types 方法中在進行 MySQL 版本檢查,屬性supports_microsecond_precision來自于文件django/db/backends/mysql/features.py:
class DatabaseFeatures(BaseDatabaseFeatures): # ... properties and methods def supports_microsecond_precision(self): # See https://github.com/farcepest/MySQLdb1/issues/24 for the reason # about requiring MySQLdb 1.2.5 return self.connection.mysql_version >= (5, 6, 4) and Database.version_info >= (1, 2, 5)
從上面代碼可以看出如果使用的 MySQL 大于等于 5.6.4 版本,屬性DateTimeField會被映射成為數(shù)據(jù)庫中的datetime(6),所以保存的數(shù)據(jù)就包含了微秒。
在 Django 中暫時沒有發(fā)現(xiàn)可以針對改配置進行設置的方法,所以我們要想保存的數(shù)據(jù)不包含微秒,我們這里則可以將上面的data_types屬性進行覆蓋即可:
from django.db.backends.mysql.base import DatabaseWrapper DatabaseWrapper.data_types = DatabaseWrapper._data_types
將上面的代碼放置在合適的地方,比如models.py或者__init__.py或者其他地方,當我們運行 migrations 命令來創(chuàng)建 DateTimeField 列的時候對應在數(shù)據(jù)庫中的字段就被隱射成為了datetime,而不是datetime(6),即使你用的是 5.6.4 版本以上的數(shù)據(jù)庫。
當然要立即解決當前的問題,只需要更改下數(shù)據(jù)庫中的 created_at 字段的類型即可:
mysql> ALTER TABLE `task` CHANGE COLUMN `created_at` `created_at` datetime NOT NULL; Query OK, 156 rows affected (0.14 sec) Records: 156 Duplicates: 0 Warnings: 0
這樣數(shù)據(jù)重復的 BUG 就解決了。
參考鏈接:https://stackoverflow.com/questions/46539755/how-to-add-datetimefield-in-django-without-microsecond
總結
以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對腳本之家的支持。
相關文章
基于python SMTP實現(xiàn)自動發(fā)送郵件教程解析
這篇文章主要介紹了基于python實現(xiàn)自動發(fā)送郵件教程解析,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-06-06
python實現(xiàn)通過pil模塊對圖片格式進行轉換的方法
這篇文章主要介紹了python實現(xiàn)通過pil模塊對圖片格式進行轉換的方法,涉及Python中pil模塊的使用技巧,具有一定參考借鑒價值,需要的朋友可以參考下2015-03-03
Python操作Elasticsearch處理timeout超時
這篇文章主要介紹了Python操作Elasticsearch處理timeout超時,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-07-07
pytorch實現(xiàn)onehot編碼轉為普通label標簽
今天小編就為大家分享一篇pytorch實現(xiàn)onehot編碼轉為普通label標簽,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-01-01
Django?Rest?Framework實現(xiàn)身份認證源碼詳解
這篇文章主要為大家介紹了Django?Rest?Framework實現(xiàn)身份認證源碼詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2022-05-05

