排序技術¶
- 作者:
Andrew Dalke 和 Raymond Hettinger
Python 列表有一個內建的 list.sort()
方法,該方法會就地修改列表。還有一個內建的 sorted()
函式,它會從一個可迭代物件構建一個新的排序列表。
在本文件中,我們將探索使用 Python 排序資料的各種技術。
排序基礎¶
簡單的升序排序非常容易:只需呼叫 sorted()
函式。它會返回一個新的排序列表
>>> sorted([5, 2, 3, 1, 4])
[1, 2, 3, 4, 5]
你也可以使用 list.sort()
方法。它會就地修改列表(並返回 None
以避免混淆)。通常它不如 sorted()
方便,但如果你不需要原始列表,它會稍微更高效。
>>> a = [5, 2, 3, 1, 4]
>>> a.sort()
>>> a
[1, 2, 3, 4, 5]
另一個區別是 list.sort()
方法只對列表定義。相反,sorted()
函式接受任何可迭代物件。
>>> sorted({1: 'D', 2: 'B', 3: 'B', 4: 'E', 5: 'A'})
[1, 2, 3, 4, 5]
鍵函式¶
list.sort()
方法和函式 sorted()
、min()
、max()
、heapq.nsmallest()
和 heapq.nlargest()
都有一個 *key* 引數,用於指定一個函式(或其他可呼叫物件),在進行比較之前,該函式會作用於每個列表元素。
例如,這是一個使用 str.casefold()
進行不區分大小寫的字串比較的例子
>>> sorted("This is a test string from Andrew".split(), key=str.casefold)
['a', 'Andrew', 'from', 'is', 'string', 'test', 'This']
*key* 引數的值應該是一個函式(或其他可呼叫物件),它接受一個引數並返回一個用於排序的鍵。這種技術很快,因為鍵函式對於每個輸入記錄只會被呼叫一次。
一種常見的模式是使用物件的一些索引作為鍵來排序複雜物件。例如
>>> student_tuples = [
... ('john', 'A', 15),
... ('jane', 'B', 12),
... ('dave', 'B', 10),
... ]
>>> sorted(student_tuples, key=lambda student: student[2]) # sort by age
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
同樣的技術也適用於具有命名屬性的物件。例如
>>> class Student:
... def __init__(self, name, grade, age):
... self.name = name
... self.grade = grade
... self.age = age
... def __repr__(self):
... return repr((self.name, self.grade, self.age))
>>> student_objects = [
... Student('john', 'A', 15),
... Student('jane', 'B', 12),
... Student('dave', 'B', 10),
... ]
>>> sorted(student_objects, key=lambda student: student.age) # sort by age
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
運算子模組函式和部分函式求值¶
上面顯示的 鍵函式 模式非常常見,因此 Python 提供了便捷函式,使訪問器函式更容易、更快。 operator
模組包含 itemgetter()
、attrgetter()
和 methodcaller()
函式。
使用這些函式,上面的例子變得更簡單、更快
>>> from operator import itemgetter, attrgetter
>>> sorted(student_tuples, key=itemgetter(2))
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
>>> sorted(student_objects, key=attrgetter('age'))
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
運算子模組函式允許進行多級排序。例如,按 *grade* 再按 *age* 排序
>>> sorted(student_tuples, key=itemgetter(1,2))
[('john', 'A', 15), ('dave', 'B', 10), ('jane', 'B', 12)]
>>> sorted(student_objects, key=attrgetter('grade', 'age'))
[('john', 'A', 15), ('dave', 'B', 10), ('jane', 'B', 12)]
functools
模組提供了另一個用於建立鍵函式的有用工具。 partial()
函式可以減少多引數函式的 元數,使其適合用作鍵函式。
>>> from functools import partial
>>> from unicodedata import normalize
>>> names = 'Zoë Åbjørn Núñez Élana Zeke Abe Nubia Eloise'.split()
>>> sorted(names, key=partial(normalize, 'NFD'))
['Abe', 'Åbjørn', 'Eloise', 'Élana', 'Nubia', 'Núñez', 'Zeke', 'Zoë']
>>> sorted(names, key=partial(normalize, 'NFC'))
['Abe', 'Eloise', 'Nubia', 'Núñez', 'Zeke', 'Zoë', 'Åbjørn', 'Élana']
升序和降序¶
list.sort()
和 sorted()
都接受一個布林值的 *reverse* 引數。這用於標記降序排序。例如,要按 *age* 降序獲取學生資料
>>> sorted(student_tuples, key=itemgetter(2), reverse=True)
[('john', 'A', 15), ('jane', 'B', 12), ('dave', 'B', 10)]
>>> sorted(student_objects, key=attrgetter('age'), reverse=True)
[('john', 'A', 15), ('jane', 'B', 12), ('dave', 'B', 10)]
排序穩定性和複雜排序¶
排序保證是 穩定的。這意味著當多個記錄具有相同的鍵時,它們原來的順序會保留。
>>> data = [('red', 1), ('blue', 1), ('red', 2), ('blue', 2)]
>>> sorted(data, key=itemgetter(0))
[('blue', 1), ('blue', 2), ('red', 1), ('red', 2)]
請注意,*blue* 的兩條記錄是如何保持其原始順序的,因此 ('blue', 1)
保證在 ('blue', 2)
之前。
這個絕妙的特性允許你透過一系列排序步驟構建複雜的排序。例如,要按降序 *grade* 然後按升序 *age* 排序學生資料,請先進行 *age* 排序,然後再使用 *grade* 進行排序
>>> s = sorted(student_objects, key=attrgetter('age')) # sort on secondary key
>>> sorted(s, key=attrgetter('grade'), reverse=True) # now sort on primary key, descending
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
這可以抽象為一個包裝函式,該函式可以接受一個列表和欄位與順序的元組,以進行多遍排序。
>>> def multisort(xs, specs):
... for key, reverse in reversed(specs):
... xs.sort(key=attrgetter(key), reverse=reverse)
... return xs
>>> multisort(list(student_objects), (('grade', True), ('age', False)))
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
Python 中使用的 Timsort 演算法可以高效地進行多重排序,因為它能夠利用資料集中已經存在的任何排序。
裝飾-排序-去除裝飾¶
這種慣用法以其三個步驟命名為 裝飾-排序-去除裝飾
首先,初始列表用控制排序順序的新值進行裝飾。
其次,對裝飾後的列表進行排序。
最後,去除裝飾,建立一個只包含按新順序排列的初始值的列表。
例如,使用 DSU 方法按 *grade* 排序學生資料
>>> decorated = [(student.grade, i, student) for i, student in enumerate(student_objects)]
>>> decorated.sort()
>>> [student for grade, i, student in decorated] # undecorate
[('john', 'A', 15), ('jane', 'B', 12), ('dave', 'B', 10)]
這種慣用法之所以有效,是因為元組是按字典順序比較的;首先比較第一個元素;如果它們相同,則比較第二個元素,依此類推。
在所有情況下,將索引 *i* 包含在裝飾列表並不是絕對必要的,但包含它有以下兩個好處
排序是穩定的 —— 如果兩個專案具有相同的鍵,它們在排序列表中的順序將得以保留。
原始專案不必是可比較的,因為裝飾元組的順序最多由前兩個專案決定。因此,例如,原始列表可以包含不能直接排序的複數。
這種慣用法的另一個名稱是 Schwartzian 變換,以 Randal L. Schwartz 命名,他在 Perl 程式設計師中推廣了它。
現在 Python 排序提供了鍵函式,這種技術不再經常需要。
比較函式¶
與返回用於排序的絕對值的鍵函式不同,比較函式計算兩個輸入的相對順序。
例如,一個 天平 比較兩個樣本,給出相對順序:更輕、相等或更重。同樣,像 cmp(a, b)
這樣的比較函式對於小於會返回負值,如果輸入相等則返回零,對於大於則返回正值。
在從其他語言翻譯演算法時,經常會遇到比較函式。此外,一些庫將比較函式作為其 API 的一部分提供。例如,locale.strcoll()
就是一個比較函式。
為了適應這些情況,Python 提供了 functools.cmp_to_key
來包裝比較函式,使其可以作為鍵函式使用
sorted(words, key=cmp_to_key(strcoll)) # locale-aware sort order
不可排序型別和值的策略¶
排序時可能會出現許多型別和值問題。以下是一些有用的策略
在排序之前將不可比較的輸入型別轉換為字串
>>> data = ['twelve', '11', 10]
>>> sorted(map(str, data))
['10', '11', 'twelve']
這是必需的,因為大多數跨型別比較都會引發 TypeError
。
在排序之前移除特殊值
>>> from math import isnan
>>> from itertools import filterfalse
>>> data = [3.3, float('nan'), 1.1, 2.2]
>>> sorted(filterfalse(isnan, data))
[1.1, 2.2, 3.3]
這是必需的,因為 IEEE-754 標準 規定:“所有 NaN 都應與任何事物(包括自身)進行無序比較。”
同樣,也可以從資料集中去除 None
>>> data = [3.3, None, 1.1, 2.2]
>>> sorted(x for x in data if x is not None)
[1.1, 2.2, 3.3]
這是必需的,因為 None
不能與其他型別進行比較。
在排序之前將對映型別轉換為已排序的項列表
>>> data = [{'a': 1}, {'b': 2}]
>>> sorted(data, key=lambda d: sorted(d.items()))
[{'a': 1}, {'b': 2}]
這是必需的,因為 dict-to-dict 比較會引發 TypeError
。
在排序之前將集合型別轉換為排序列表
>>> data = [{'a', 'b', 'c'}, {'b', 'c', 'd'}]
>>> sorted(map(sorted, data))
[['a', 'b', 'c'], ['b', 'c', 'd']]
這是必需的,因為集合型別中包含的元素沒有確定的順序。例如,list({'a', 'b'})
可能會產生 ['a', 'b']
或 ['b', 'a']
。
其他雜項¶
對於區域設定感知排序,將
locale.strxfrm()
用作鍵函式,或將locale.strcoll()
用作比較函式。這是必要的,因為即使底層字母表相同,“字母順序”的排序方式在不同文化中也會有所不同。*reverse* 引數仍然保持排序穩定性(因此具有相同鍵的記錄會保留原始順序)。有趣的是,透過兩次使用內建的
reversed()
函式,可以在不使用該引數的情況下模擬這種效果>>> data = [('red', 1), ('blue', 1), ('red', 2), ('blue', 2)] >>> standard_way = sorted(data, key=itemgetter(0), reverse=True) >>> double_reversed = list(reversed(sorted(reversed(data), key=itemgetter(0)))) >>> assert standard_way == double_reversed >>> standard_way [('red', 1), ('red', 2), ('blue', 1), ('blue', 2)]
排序例程在比較兩個物件時使用
<
。因此,透過定義一個__lt__()
方法,可以輕鬆地為類新增一個標準排序順序>>> Student.__lt__ = lambda self, other: self.age < other.age >>> sorted(student_objects) [('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
然而,請注意,如果未實現
__lt__()
,<
可能會回退到使用__gt__()
(有關機制的詳細資訊,請參閱object.__lt__()
)。為避免意外,PEP 8 建議實現所有六個比較方法。total_ordering()
裝飾器就是為了簡化這項任務而提供的。鍵函式不必直接依賴於要排序的物件。鍵函式還可以訪問外部資源。例如,如果學生成績儲存在字典中,它們可以用於對單獨的學生姓名列表進行排序
>>> students = ['dave', 'john', 'jane'] >>> newgrades = {'john': 'F', 'jane':'A', 'dave': 'C'} >>> sorted(students, key=newgrades.__getitem__) ['jane', 'dave', 'john']
部分排序¶
某些應用程式只需要部分資料有序。標準庫提供了幾種比完全排序工作量更少的工具
heapq.nsmallest()
和heapq.nlargest()
分別返回 *n* 個最小和最大的值。這些函式對資料進行一次遍歷,每次只在記憶體中保留 *n* 個元素。對於相對於輸入數量較小的 *n* 值,這些函式比完全排序進行的比較次數少得多。heapq.heappush()
和heapq.heappop()
建立並維護資料的部分排序排列,使最小元素位於位置0
。這些函式適用於實現優先順序佇列,優先順序佇列通常用於任務排程。