對象序列化

在數據存儲的上下文中,序列化是將數據結構或對象狀態轉換爲可以存儲(例如,在文件或存儲緩衝器中)或稍後傳輸和重構的格式的過程。

在序列化中,對象被轉換爲可以存儲的格式,以便以後能夠對其進行反序列化並從序列化格式重新創建原始對象。

Pickle

Pickling是將Python對象層次結構轉換爲要寫入文件的字節流(通常不是人類可讀的)的過程,這也稱爲序列化。Unpickling是反向操作,將字節流轉換回工作的Python對象層次結構。

Pickle是操作上最簡單的存儲對象的方法。 Python Pickle模塊是一種面向對象的方式,可以直接以特殊的存儲格式存儲對象。

它能做什麼?

  • Pickle可以非常輕鬆地存儲和複製字典和列表。
  • 存儲對象屬性並將它們還原到同一個狀態。

Pickle不能做什麼?

  • 它不保存對象代碼,只有它的屬性值。
  • 它無法存儲文件句柄或連接套接字。

簡而言之,pickling是一種在文件中存儲和檢索數據變量的方法,其中變量可以是列表,類等。

要使用Pickle,必須要 -

  • 導入Pickle
  • 將變量寫入文件

例如

pickle.dump(mystring, outfile, protocol),

其中第三個參數:protocol是可選的,

要使用unpickling,必須要 -

  • 導入Pickle
  • 將變量寫入文件

例如

myString = pickle.load(inputfile)

pickle 接口提供四種不同的方法。

  • dump() - 序列化到打開的文件(類文件對象)。
  • dumps() - 序列化爲字符串
  • load() - 從類似開放的對象反序列化。
  • loads() - 從字符串反序列化。

基於以上程序,下面是「pickle」的一個例子。

import pickle

class Animal:
    def __init__(self, number_of_legs, color):
        self.number_of_legs = number_of_legs
        self.color = color

class Cat(Animal):
    def __init__(self, color):
        Animal.__init__(self, 4, color)

pussy  = Cat('White')
print(str.format('My Cat pussy is {0} and has {1} legs', pussy.color, pussy.number_of_legs))

pickled_pussy = pickle.dumps(pussy)

print("Would you like to see her pickled? Here she is - ")

print(pickled_pussy)

執行上面示例代碼,得到以下結果 -

My Cat pussy is White and has 4 legs
Would you like to see her pickled? Here she is - 
b'\x80\x03c__main__\nCat\nq\x00)\x81q\x01}q\x02(X\x0e\x00\x00\x00number_of_legsq\x03K\x04X\x05\x00\x00\x00colorq\x04X\x05\x00\x00\x00Whiteq\x05ub.'

因此,在上面的示例中,創建了一個Cat類的實例,然後將它pickled,將「Cat」實例轉換爲一個簡單的字節數組。

這樣,可以輕鬆地將字節數組存儲在二進制文件或數據庫字段中,並在以後從存儲支持將其恢復爲原始格式。

此外,如果要創建帶有pickle對象的文件,可以使用dump()方法(而不是dumps *()* one)同時傳遞打開的二進制文件,並且pickling結果將自動存儲在文件中。

[….]
binary_file = open(my_pickled_Pussy.bin', mode='wb')
my_pickled_Pussy = pickle.dump(Pussy, binary_file)
binary_file.close()

Unpickling

採用二進制數組並將其轉換爲對象層次結構的過程稱爲unpickling

通過使用pickle模塊的load()函數完成unpickling過程,並從簡單的字節數組返回一個完整的對象層次結構。

在前面的例子中使用load函數。

import pickle

class Animal:
    def __init__(self, number_of_legs, color):
        self.number_of_legs = number_of_legs
        self.color = color

class Cat(Animal):
    def __init__(self, color):
        Animal.__init__(self, 4, color)

pussy  = Cat('White')
print(str.format('My Cat pussy is {0} and has {1} legs', pussy.color, pussy.number_of_legs))
pickled_pussy = pickle.dumps(pussy)
# print("Would you like to see her pickled? Here she is - ")
# print(pickled_pussy)
pcat = pickle.loads(pickled_pussy)
pcat.color = "black"
print(str.format("PCat is {0}", pcat.color))
print(str.format("Pussy is {0}", pussy.color))

執行上面示例代碼,得到以下結果 -

E:\worksp\pycharm\venv\Scripts\python.exe E:/worksp/pycharm/main.py
My Cat pussy is White and has 4 legs
PCat is black
Pussy is White

JSON

JSON(JavaScript Object Notation)已經成爲Python標準庫的一部分,是一種輕量級的數據交換格式。 人類很容易讀寫。 它很容易解析和生成。

由於其簡單性,JSON是我們存儲和交換數據的一種方式,它通過其JSON語法實現,並在許多Web應用程序中使用。 因爲它是人類可讀的格式,這可能是在數據傳輸中使用它的原因之一,除了它在使用API時的有效性。

JSON格式數據的示例如下 -

{"EmployID": 40203, "Name": "Maxsu", "Age":54, "isEmployed": True}

Python使用的模塊是JSON模塊使得使用Json文件變得簡單。應該在Python安裝中包含(內置)此模塊。

下面來看看如何將Python字典轉換爲JSON並將其寫入文本文件。

JSON到Python

讀JSON意味着將JSON轉換爲Python值(對象)。 json庫將JSON解析爲Python中的字典或列表。要做到這一點,可使用loads()函數(從字符串加載),如下所示 -

import json

json_data = '{"EmployeeID": 10010, "EmployeeName": "Maxsu", "Department":"技術部"}'
json2python = json.loads(json_data)

執行上面示例代碼,得到以下結果 -

E:\worksp\pycharm\venv\Scripts\python.exe E:/worksp/pycharm/main.py
{'EmployeeID': 10010, 'EmployeeName': 'Maxsu', 'Department': '技術部'}

下面是一個示例json文件:data1.json

{"menu": {
   "id": "file",
   "value": "File",
   "popup": {
      "menuitem": [
         {"value": "New", "onclick": "CreateNewDoc()"},
         {"value": "Open", "onclick": "OpenDoc()"},
         {"value": "Close", "onclick": "CloseDoc()"}
      ]
   }
}}

上面的內容(data1.json)看起來像傳統的字典。 可以使用pickle來存儲這個文件,但它的輸出不是人類可讀的形式。

JSON(Java Script Object Notification)是一種非常簡單的格式,這也是它受歡迎的原因之一。 現在通過以下程序來打印上面json文件的輸出。

import json

with open('data1.json') as f:
    config = json.load(f)
print(config)
print('+++++++++++++++++++++++++++++++++++++++++++++++++')
print(type(config))
print('+++++++++++++++++++++++++++++++++++++++++++++++++')
config['newkey'] = 10086

with open("data2.json", 'w') as wf:
    json.dump(config, wf)

print(config)

執行上面示例代碼,得到以下結果 -

E:\worksp\pycharm\venv\Scripts\python.exe E:/worksp/pycharm/main.py
{'menu': {'id': 'file', 'value': 'File', 'popup': {'menuitem': [{'value': 'New', 'onclick': 'CreateNewDoc()'}, {'value': 'Open', 'onclick': 'OpenDoc()'}, {'value': 'Close', 'onclick': 'CloseDoc()'}]}}}
+++++++++++++++++++++++++++++++++++++++++++++++++
<class 'dict'>
+++++++++++++++++++++++++++++++++++++++++++++++++
{'menu': {'id': 'file', 'value': 'File', 'popup': {'menuitem': [{'value': 'New', 'onclick': 'CreateNewDoc()'}, {'value': 'Open', 'onclick': 'OpenDoc()'}, {'value': 'Close', 'onclick': 'CloseDoc()'}]}}, 'newkey': 10086}

Process finished with exit code 0

上面程序打開json文件(data1.json)進行讀取,獲取文件處理程序並傳遞給json.load並獲取對象。 當打印對象的輸出時,可以看到它與json文件相同。 雖然對象的類型是字典,它此時是Python對象。上面加載json文件,添加另一個鍵值對並將其寫回到到另一個json文件中。 現在,如果打開文件:data2.json,它看起來不同。與之前看到的格式不同。

要想使輸出看起來相同(人類可讀的格式),將幾個參數添加到程序的最後一行,參考如上代碼 -

json.dump(conf, fh, indent = 4, separators = (',', ': '))

pickle類似,可以使用轉儲打印字符串並使用load加載。 以下是一個例子,

對象序列化

YAML

YAML可能是所有編程語言中最人性化的數據序列化標準。

Python yaml模塊叫作:pyaml

YAML是JSON的替代品 -

  • 人類可讀的代碼 - YAML是人類可讀的格式,因此即使其首頁內容也顯示在YAML中以表明這一點。
  • 緊湊的代碼 - 在YAML中,我們使用空格縮進來表示結構而不是括號。
  • 關係數據的語法 - 對於內部引用,使用錨點()和別名(*)。
  • 廣泛使用的一個領域是查看/編輯數據結構 - 例如配置文件,調試期間的轉儲和文檔頭。

安裝YAML

由於yaml不是內置模塊,需要手動安裝它。 在Windows機器上安裝yaml的最佳方法是通過pip。 在windows終端上運行以下命令安裝yaml,

# Windows
pip install pyaml
# *nix and Mac
sudo pip install pyaml

在運行上面的命令時,將根據當前的最新版本顯示如下所示的內容。

Collecting pyaml
Using cached pyaml-17.12.1-py2.py3-none-any.whl
Collecting PyYAML (from pyaml)
Using cached PyYAML-3.12.tar.gz
Installing collected packages: PyYAML, pyaml
Running setup.py install for PyYAML ... done
Successfully installed PyYAML-3.12 pyaml-17.12.1

要測試它,轉到Python shell並導入yaml模塊,導入yaml,如果沒有提示錯誤,那麼就是安裝成功了。

安裝pyaml後,讓我們看下面的代碼,文件:script_yaml1.py -

import yaml

mydict = {'a': 2, 'b': 3, 'c': 6}
mylist = [1, 2, 3, 4, 5, 6]
mytuple = ('a', 'b', 'c', 'x', 'y', 'z')

print(yaml.dump(mydict, default_flow_style=False))
print(yaml.dump(mylist, default_flow_style=False))
print(yaml.dump(mytuple, default_flow_style=False))

上面創建了三種不同的數據結構,字典,列表和元組。 在每個結構上,使用yaml.dump
執行上面示例代碼後,得到以下結果 -

a: 2
b: 3
c: 6

- 1
- 2
- 3
- 4
- 5
- 6

!!python/tuple
- a
- b
- c
- x
- y
- z

字典輸出看起來很乾淨,即它們的值。

用於分隔不同對象的空白區域。

列表標有破折號( - )

元組首先用!!python/tuple表示,然後以與列表相同的格式表示。

加載yaml文件示例

所以,假設有一個yaml文件,如下所示 -

---
# An employee record
name: Raagvendra Joshi
job: Developer
skill: Oracle
employed: True
foods:
   - Apple
   - Orange
   - Strawberry
   - Mango
languages:
   Oracle: Elite
   power_builder: Elite
   Full Stack Developer: Lame
education:
   4 GCSEs
   3 A-Levels
   MCA in something called com

現在編寫一個代碼來通過yaml.load函數加載這個yaml文件。如下代碼 -

import yaml

with open('data1.yaml') as f:
    struct = yaml.load(f)

print(struct)
print('======================================')
print("To make the output in more readable format. add the json format.")

import json

print(json.dumps(struct, indent=4, separators=(',', ':')))

由於輸出看起來不那麼可讀,最後通過使用json來美化它。 比較得到的輸出結果和實際yaml文件。

{'name': 'Raagvendra Joshi', 'job': 'Developer', 'skill': 'Oracle', 'employed': True, 'foods': ['Apple', 'Orange', 'Strawberry', 'Mango'], 'languages': {'Oracle': 'Elite', 'power_builder': 'Elite', 'Full Stack Developer': 'Lame'}, 'education': '4 GCSEs 3 A-Levels MCA in something called com'}
======================================
To make the output in more readable format. add the json format.
{
    "name":"Raagvendra Joshi",
    "job":"Developer",
    "skill":"Oracle",
    "employed":true,
    "foods":[
        "Apple",
        "Orange",
        "Strawberry",
        "Mango"
    ],
    "languages":{
        "Oracle":"Elite",
        "power_builder":"Elite",
        "Full Stack Developer":"Lame"
    },
    "education":"4 GCSEs 3 A-Levels MCA in something called com"
}

軟件開發最重要的一個方面是調試。 在本節中,我們將看到使用內置調試器或第三方調試器進行Python調試的不同方法。

PDB - Python調試器

模塊PDB支持設置斷點。 斷點是程序的故意暫停,您可以在其中獲取有關程序狀態的更多信息。

要設置斷點,請插入該行 -

pdb.set_trace()

示例代碼

pdb_example1.py
import pdb
x = 9
y = 7
pdb.set_trace()
total = x + y
pdb.set_trace()

在這個程序中插入了幾個斷點。 程序將在每個斷點處暫停(pdb.set_trace())。 要查看變量內容,只需鍵入變量名稱即可。

c:\Python\Python361>Python pdb_example1.py
> c:\Python\Python361\pdb_example1.py(8)<module>()
-> total = x + y
(Pdb) x
9
(Pdb) y
7
(Pdb) total
*** NameError: name 'total' is not defined
(Pdb)

c或繼續執行程序直到下一個斷點。

(Pdb) c
--Return--
> c:\Python\Python361\pdb_example1.py(8)<module>()->None
-> total = x + y
(Pdb) total
16

最終,需要調試更大的程序 - 使用子程序的程序。 有時候,試圖找到的問題將存在於子程序中。 考慮以下程序。

import pdb
def squar(x, y):
   out_squared = x^2 + y^2
   return out_squared
if __name__ == "__main__":
   #pdb.set_trace()
   print (squar(4, 5))

現在運行上面的程序,

c:\Python\Python361>Python pdb_example2.py
> c:\Python\Python361\pdb_example2.py(10)<module>()
-> print (squar(4, 5))
(Pdb)

可以用問號(?)獲得幫助,但箭頭表示即將執行的行。 在這一點上,按s進入該行。

(Pdb) s
--Call--
>c:\Python\Python361\pdb_example2.py(3)squar()
-> def squar(x, y):

這是對函數的調用。 如果想要了解代碼中的位置,請按l -

(Pdb) l
1 import pdb
2
3 def squar(x, y):
4 -> out_squared = x^2 + y^2
5
6 return out_squared
7
8 if __name__ == "__main__":
9 pdb.set_trace()
10 print (squar(4, 5))
[EOF]
(Pdb)

可以點擊n進入下一行。 此時,位於out_squared方法內,並且可以訪問函數聲明的變量。即:xy

(Pdb) x
4
(Pdb) y
5
(Pdb) x^2
6
(Pdb) y^2
7
(Pdb) x**2
16
(Pdb) y**2
25
(Pdb)

所以可以看到^運算符不是我們想要的,而是需要使用**運算符來計算正方形。

這樣就可以在函數/方法中調試程序。

日誌記錄

自Python 2.3版以來,日誌記錄模塊已成爲Python標準庫的一部分。 由於它是一個內置模塊,所有Python模塊都可以參與日誌記錄,因此應用程序日誌可以包含自己的消息,該消息與來自第三方模塊的消息集成在一起。 它提供了很多靈活性和功能。

日誌記錄的好處

  • 診斷日誌記錄 - 它記錄與應用程序操作相關的事件。
  • 審覈日誌記錄 - 它記錄業務分析的事件。

消息以「嚴重性」和最小值的級別寫入和記錄

  • DEBUG (debug()) - 用於開發的診斷消息。
  • INFO (info()) - 標準的「進度」消息。
  • WARNING (warning()) - 檢測到非嚴重問題。
  • ERROR (error()) - 遇到錯誤,可能很嚴重。
  • CRITICAL (critical()) - 通常是致命錯誤(程序停止)。

看看下面的簡單程序,

import logging

logging.basicConfig(level=logging.INFO)

logging.debug('this message will be ignored') # This will not print
logging.info('This should be logged') # it'll print
logging.warning('And this, too') # It'll print

上面在嚴重性級別上記錄消息。首先導入模塊,調用basicConfig並設置日誌記錄級別。在上面設置的級別是INFO。 然後有三個不同的語句:debug語句,info語句和warning語句。

上面代碼的輸出結果 -

INFO:root:This should be logged
WARNING:root:And this, too

由於info語句低於debug語句,我們無法看到調試消息。 要在Output終端中獲取調試語句,需要更改的是basicConfig級別。

logging.basicConfig(level = logging.DEBUG)

可以看到,如下所示的輸出 -

DEBUG:root:this message will be ignored
INFO:root:This should be logged
WARNING:root:And this, too

此外,默認行爲意味着如果不設置任何日誌記錄級別是警告。只需註釋掉上面程序中的第二行並運行代碼即可。

#logging.basicConfig(level = logging.DEBUG)

輸出結果如下所示 -

WARNING:root:And this, too

內置日誌記錄級別的Python實際上是整數。

>>> import logging
>>>
>>> logging.DEBUG
10
>>> logging.CRITICAL
50
>>> logging.WARNING
30
>>> logging.INFO
20
>>> logging.ERROR
40
>>>

還可以將日誌消息保存到文件中。如下代碼指定保存的文件 -

logging.basicConfig(level = logging.DEBUG, filename = 'logging.log')

現在所有日誌消息都將轉到當前工作目錄中的文件(logging.log)而不是屏幕。 這是一個更好的方法,因爲它允許對得到的消息進行後期分析。

還可以使用日誌消息設置日期戳。

logging.basicConfig(level=logging.DEBUG, format = '%(asctime)s %(levelname)s:%(message)s')

輸出會得到類似如下結果,

2018-03-08 19:30:00,066 DEBUG:this message will be ignored
2018-03-08 19:30:00,176 INFO:This should be logged
2018-03-08 19:30:00,201 WARNING:And this, too

基準測試

基準測試或分析基本上是爲了測試代碼的執行速度和瓶頸在哪裏? 這樣做的主要原因是爲了優化。

timeit
Python附帶了一個名爲timeit的內置模塊。可以使用它來計算小代碼片段的時間。 timeit模塊使用特定於平臺的時間函數,以便可以獲得最準確的時序。

因此,它允許比較每個代碼的兩個代碼,然後優化腳本以獲得更好的性能。

timeit模塊具有命令行界面,但也可以導入。

調用腳本有兩種方法。這裏首先使用如何使用腳本,運行下面的代碼並查看輸出。

import timeit
print ( 'by index: ', timeit.timeit(stmt = "mydict['c']", setup = "mydict = {'a':5, 'b':10, 'c':15}", number = 1000000))
print ( 'by get: ', timeit.timeit(stmt = 'mydict.get("c")', setup = 'mydict = {"a":5, "b":10, "c":15}', number = 1000000))

執行上面示例代碼,得到以下結果 -

by index: 0.1809192126703489
by get: 0.6088525265034692

上面使用兩種不同的方法。 通過下標並獲取訪問字典鍵值。執行語句100萬次,因爲它對於非常小的數據執行得太快。 現在,與get相比,可以看到索引訪問更快。 可以多次運行代碼,並且執行時間會略有不同,以便更好地理解。

另一種方法是在命令行中運行上述測試。如下 -

c:\Python\Python361>Python -m timeit -n 1000000 -s "mydict = {'a': 5, 'b':10, 'c':15}" "mydict['c']"
1000000 loops, best of 3: 0.187 usec per loop

c:\Python\Python361>Python -m timeit -n 1000000 -s "mydict = {'a': 5, 'b':10, 'c':15}" "mydict.get('c')"
1000000 loops, best of 3: 0.659 usec per loop

以上輸出可能因系統硬件以及系統中當前運行的所有應用程序而異。

下面我們可以使用timeit模塊,如果想調用一個函數。 因爲可以在函數內部添加多個語句來測試。

import timeit

def testme(this_dict, key):
   return this_dict[key]

print (timeit.timeit("testme(mydict, key)", setup = "from __main__ import testme; mydict = {'a':9, 'b':18, 'c':27}; key = 'c'", number = 1000000))

執行上面示例代碼,得到以下結果 -

0.7713474590139164
0 條評論,你可以發表評論,我們會進行改進
Comment author placeholder