摘要： 在機(jī)器學(xué)習(xí)中，你永遠(yuǎn)都繞不過數(shù)學(xué)符號(hào)。通常，只要有一個(gè)代數(shù)項(xiàng)或一個(gè)方程符號(hào)看不懂，你就完全看不懂整個(gè)過程是怎么回事了。這種境況非常令人沮喪，尤其是對(duì)于那些正在成長(zhǎng)中的機(jī)器學(xué)習(xí)初學(xué)者...

在機(jī)器學(xué)習(xí)中，你永遠(yuǎn)都繞不過數(shù)學(xué)符號(hào)。

通常，只要有一個(gè)代數(shù)項(xiàng)或一個(gè)方程符號(hào)看不懂，你就完全看不懂整個(gè)過程是怎么回事了。這種境況非常令人沮喪，尤其是對(duì)于那些正在成長(zhǎng)中的機(jī)器學(xué)習(xí)初學(xué)者來說更是如此。

如果你能了解一些基本的數(shù)學(xué)符號(hào)以及相關(guān)的小技巧，那你就在看懂機(jī)器學(xué)習(xí)方法的論文或書籍描述上前進(jìn)了一大步。

在本教程中，你將學(xué)到機(jī)器學(xué)習(xí)技術(shù)描述中遇到的基本數(shù)學(xué)符號(hào)。

在學(xué)完整個(gè)教程后，你會(huì)知道：

• 算術(shù)符號(hào)，包括若干種乘法、指數(shù)、平方根以及對(duì)數(shù)

• 數(shù)列和集合符號(hào)，包括索引、求和以及集合關(guān)系

• 5 種當(dāng)你看不明白數(shù)學(xué)符號(hào)的時(shí)候可以采用的應(yīng)急方法

讓我們開始學(xué)習(xí)吧！

機(jī)器學(xué)習(xí)中的基本數(shù)學(xué)符號(hào)

教程概覽

本教程分為 7 個(gè)部分，分別是：

1. 看不懂?dāng)?shù)學(xué)符號(hào)的沮喪

2. 算術(shù)符號(hào)

3. 希臘字母

4. 數(shù)列符號(hào)

5. 集合符號(hào)

6. 其他符號(hào)

7. 更多幫助資源

看不懂?dāng)?shù)學(xué)符號(hào)的沮喪

你在閱讀機(jī)器學(xué)習(xí)算法的相關(guān)內(nèi)容時(shí)會(huì)遇到一些數(shù)學(xué)符號(hào)。舉例來說，這些符號(hào)可能會(huì)被用來：

• 描述一個(gè)算法

• 描述數(shù)據(jù)的預(yù)處理

• 描述結(jié)果

• 描述測(cè)試工具

• 描述含義

你可能在論文、教科書、博文以及其他地方看到這些描述。相關(guān)代數(shù)項(xiàng)常常會(huì)給出完整定義，但你還是會(huì)看到不少陌生的數(shù)學(xué)符號(hào)。我曾多次深受其苦，簡(jiǎn)直太令人感到挫敗了！

在本教程中，你會(huì)復(fù)習(xí)到一些幫助你看懂機(jī)器學(xué)習(xí)方法描述的基本數(shù)學(xué)符號(hào)。

算術(shù)符號(hào)

在本節(jié)中，我們將重溫一些基礎(chǔ)算數(shù)中你不太熟悉的符號(hào)，以及畢業(yè)之后一些可能遺忘的概念。

簡(jiǎn)單算術(shù)

算術(shù)的基本符號(hào)你已很熟悉。例如：

• 加法：1 1 = 2

• 減法：2 – 1 = 1

• 乘法：2 x 2 = 4

• 除法：2 / 2 = 1

大多數(shù)的數(shù)學(xué)運(yùn)算都有一個(gè)對(duì)應(yīng)的逆運(yùn)算，進(jìn)行相反的運(yùn)算過程；比如，減法是加法的逆運(yùn)算，而除法是乘法的逆運(yùn)算。

代數(shù)

我們常希望用更抽象的方式來描述運(yùn)算過程，以將其與具體的數(shù)據(jù)或運(yùn)算區(qū)分開來。因此代數(shù)的運(yùn)用隨處可見：也就是用大寫和/或小寫字母來代表一個(gè)項(xiàng)，或者一個(gè)數(shù)學(xué)符號(hào)體系中的概念。用希臘字母來代替英文字母也是很常見的用法。數(shù)學(xué)中的每一個(gè)領(lǐng)域都可能有一些保留字母，這些字母都會(huì)代表一個(gè)特定的東西。盡管如此，代數(shù)中的項(xiàng)總應(yīng)在描述中被定義一下，如果作者沒有去定義，那是他的問題，不是你的錯(cuò)。

乘法符號(hào)

乘法是一個(gè)常見的符號(hào)，有幾種記法。一般是用一個(gè)小小的「ⅹ」或者星號(hào)「*」來代表乘法：

c = a x b

c = a * b

你有時(shí)也會(huì)看到用一個(gè)點(diǎn)來代表乘法，比如：

c = a . b

這個(gè)式子其實(shí)和下式是一樣的意思：

c = a x b

或者你可能會(huì)看到運(yùn)算符被省略，先前被定義的代數(shù)項(xiàng)之間沒有符號(hào)也沒有空格，比如：

c = ab

這還是一樣的意思。

指數(shù)和平方根

指數(shù)就是一個(gè)數(shù)字的冪次。這個(gè)符號(hào)寫作正常大小的原數(shù)（底數(shù)）以及一個(gè)上標(biāo)數(shù)（指數(shù)），例如：

2^3

這個(gè)表達(dá)式的計(jì)算結(jié)果就是 3 個(gè) 2 連乘，或者說是 2 的立方：

2 x 2 x 2 = 8

求一個(gè)數(shù)的冪，就默認(rèn)是求它的平方。

2^2 = 2 x 2 = 4

平方運(yùn)算的效果可以用開方來逆轉(zhuǎn)。開方在數(shù)學(xué)中是在被開方的數(shù)字上面加一個(gè)開方符號(hào)，這里簡(jiǎn)單起見，直接用「sqrt()」函數(shù)來表示了。

sqrt(4) = 2

式中，我們知道了指數(shù)的結(jié)果 4，以及指數(shù)的次數(shù) 2，我們想算出指數(shù)的底數(shù)。事實(shí)上，開方運(yùn)算可以是任意次指數(shù)的逆運(yùn)算，只是開方符號(hào)默認(rèn)次數(shù)為 2，相當(dāng)于在開方符號(hào)的前面有一個(gè)下標(biāo)的 2。我們當(dāng)然可以試著寫出立方的逆運(yùn)算，也就是開立方符號(hào)：

2^3 = 8

3 sqrt(8) = 2

對(duì)數(shù)和 e

當(dāng)我們求 10 的整數(shù)次冪的時(shí)候，我們常稱之為數(shù)量級(jí)。

10^2 = 10 x 10 or 100

對(duì)這個(gè)運(yùn)算求逆的另一方法是求這個(gè)運(yùn)算結(jié)果（100）以 10 為底數(shù)的對(duì)數(shù)；用符號(hào)來表達(dá)的話就寫作 log10()。

log10(100) = 2

這里，我們已知指數(shù)的結(jié)果和底數(shù)，而要求指數(shù)的次數(shù)。這讓我們?cè)跀?shù)量級(jí)上輕松地縮放。除此之外，由于計(jì)算機(jī)中使用二進(jìn)制數(shù)學(xué)，求以 2 為底數(shù)的對(duì)數(shù)也是常用的運(yùn)算。例如：

2^6 = 64

log2(64) = 6

還有一個(gè)非常常見的對(duì)數(shù)是以自然底數(shù) e 為底數(shù)的。符號(hào) e 是一個(gè)專有符號(hào)，代表一個(gè)特殊的數(shù)字或者說一個(gè)稱為歐拉數(shù)的常數(shù)。歐拉數(shù)是一個(gè)無限不循環(huán)小數(shù)，可以追溯到無窮的精度。

e = 2.71828...

求 e 的冪被稱為自然指數(shù)函數(shù)：

e^2 = 7.38905...

求自然對(duì)數(shù)的運(yùn)算就是這個(gè)運(yùn)算的逆運(yùn)算，記作 ln():

ln(7.38905...) = 2

忽略更多數(shù)學(xué)細(xì)節(jié)，自然指數(shù)和自然對(duì)數(shù)在數(shù)學(xué)中非常有用，因?yàn)樗鼈兡苡脕沓橄蟮孛枋瞿骋幌到y(tǒng)的持續(xù)增長(zhǎng)，比如說復(fù)利這樣的指數(shù)級(jí)增長(zhǎng)體系。

希臘字母

希臘字母在數(shù)學(xué)中用來代表變量、常數(shù)、函數(shù)以及其他的概念。比如說，在統(tǒng)計(jì)學(xué)中我們用小寫的希臘字母 mu 來代表平均值，而小寫的希臘字母 sigma 表示標(biāo)準(zhǔn)差。在線性回歸中，我們用小寫字母 beta 來代表系數(shù)，諸如此類。學(xué)會(huì)所有希臘字母的大小寫以及怎么念會(huì)帶來極大的幫助。

希臘字母表。

維基百科詞條「數(shù)學(xué)、科學(xué)及工程中的希臘字母」是個(gè)非常有用的使用指南（https://en.wikipedia.org/wiki/Greek_letters_used_in_mathematics,_science,_and_engineering），因?yàn)樯厦媪谐鰜砹嗽跀?shù)學(xué)和科學(xué)不同領(lǐng)域內(nèi)每一個(gè)希臘字母的常見用法。

數(shù)列符號(hào)

機(jī)器學(xué)習(xí)中的符號(hào)常用來描述數(shù)列運(yùn)算。一個(gè)數(shù)列可以是一列數(shù)據(jù)，或者代數(shù)項(xiàng)。

索引

讀懂?dāng)?shù)列符號(hào)的關(guān)鍵是要弄明白數(shù)列中的索引符號(hào)。一般來說符號(hào)中會(huì)明確數(shù)列的起點(diǎn)和終點(diǎn)，比如從 1 到 n，這里的 n 是數(shù)列的長(zhǎng)度。在數(shù)列中的項(xiàng)都會(huì)用一個(gè)諸如 i、j、k 的下標(biāo)來作為索引，就像數(shù)組的符號(hào)一樣。比如說，a_i 就是數(shù)列 a 中的第 i 個(gè)元素。如果數(shù)列是二維的，那就需要用到 2 個(gè)索引；比如：b_{i,j} 就是數(shù)列 b 的第 i 行, 第 j 列的元素。

數(shù)列運(yùn)算

我們也可以對(duì)一個(gè)數(shù)列進(jìn)行數(shù)學(xué)運(yùn)算。有兩類運(yùn)算時(shí)常被用到，所以有專門的簡(jiǎn)寫運(yùn)算符來表示它們：累加和累乘。

數(shù)列累加

對(duì)一個(gè)數(shù)列的累加用大寫的希臘符號(hào) sigma 來表示，而累加的內(nèi)容則用變量名來表示，同時(shí)在 sigma 符號(hào)的下面明確開始的索引（如 i=1），在 sigma 符號(hào)的上面明確結(jié)束的索引（如 n）。

Sigma i = 1, n a_i

這就是數(shù)列 a 的第一個(gè)元素到第 n 個(gè)元素的累加。

數(shù)列累乘

數(shù)列的累乘是用大寫的希臘字母 pi 來表示的。而對(duì)累乘范圍的描述方式與數(shù)列累加類似，開始的索引寫在符號(hào)下面，結(jié)束的索引在符號(hào)上面。

Pi i = 1, n a_i

這就是數(shù)列 a 的第一個(gè)元素到第 n 個(gè)元素的累乘。

集合符號(hào)

一個(gè)集合就是一組互不相同的元素的整體。在定義機(jī)器學(xué)習(xí)中的一些代數(shù)項(xiàng)的時(shí)候我們可能會(huì)遇到集合符號(hào)。

數(shù)字集合

你最常見的集合是數(shù)字集合，比如說有的代數(shù)項(xiàng)會(huì)定義在整數(shù)集或?qū)崝?shù)集內(nèi)。這些常見的數(shù)字集合包括：

• 所以自然數(shù)的集合: N

• 所有整數(shù)的集合: Z

• 所有實(shí)數(shù)的集合: R

當(dāng)然還有很多其他的數(shù)字集合，你可以參考維基百科中的「特殊集合」詞條。我們?cè)诙x代數(shù)項(xiàng)的時(shí)候常指的是實(shí)值或者實(shí)數(shù)，而不是浮點(diǎn)數(shù)。浮點(diǎn)數(shù)在計(jì)算機(jī)運(yùn)算中實(shí)際上是離散的數(shù)字。

集合關(guān)系

在定義代數(shù)項(xiàng)的時(shí)候常會(huì)看到集合關(guān)系符號(hào)，集合關(guān)系符號(hào)看起來就像是一個(gè)大寫的「E」一樣。

1 a E R

這表示定義 a 屬于 R 集，或者說 a 屬于實(shí)數(shù)集。同樣，也有許多集合運(yùn)算符；常見的兩個(gè)集合運(yùn)算符包括：

• 并集, 就是把兩個(gè)集合的元素都包含進(jìn)來：A U B

• 交集，就是只包括同時(shí)出現(xiàn)在兩個(gè)集合中的元素：A ^

更多相關(guān)內(nèi)容可以參考維基百科中的「集合」詞條：https://en.wikipedia.org/wiki/Set_(mathematics)。

其他符號(hào)

本節(jié)中我會(huì)列出一些較常見的其他符號(hào)。一種常見的情況是我們會(huì)先抽象地定義一個(gè)方法，然后用單獨(dú)的符號(hào)來重新定義一個(gè)具體的實(shí)現(xiàn)。比如，如果我們?cè)诠烙?jì)一個(gè)變量 x，可以在 x 上加一些符號(hào)來代表這些估計(jì)，比如：

• x-bar（x 上方有一橫）

• x-prime（x 右上角有一小撇）

• x-hat（x 上方有一折線）

同一個(gè)符號(hào)在諸如數(shù)學(xué)的子領(lǐng)域或不同對(duì)象的語境下可能含義不同。比如說，|x|就是個(gè)很容易令人不解的符號(hào)，在不同的情況下可以指：

• |x|: x 的絕對(duì)值.

• |x|: 向量 x 的長(zhǎng)度.

• |x|: 集合 x 的勢(shì).

本教程只提及了基礎(chǔ)的數(shù)學(xué)符號(hào)。有很多數(shù)學(xué)的子學(xué)科與機(jī)器學(xué)習(xí)更相關(guān)，需要更詳細(xì)地復(fù)習(xí)一下。包括：

• 線性代數(shù)

• 統(tǒng)計(jì)學(xué)

• 概率論

• 微積分

可能還有一些多變量分析和信息論的內(nèi)容。

5 個(gè)在數(shù)學(xué)符號(hào)方面尋求幫助的小建議

本部分將列示一些當(dāng)你被機(jī)器學(xué)習(xí)中的數(shù)學(xué)符號(hào)折磨時(shí)可以用到的小建議。

考慮一下作者

你在閱讀的論文或者書籍總有一個(gè)作者。這個(gè)作者可能犯錯(cuò)，可能有疏忽，也可能是因?yàn)樗麄冏约阂膊幻靼鬃约涸趯懯裁?，才讓你如此迷惑。從符?hào)的限制中逃離片刻，然后想想作者的目的。他們到底想把什么講清楚？也許你甚至可以用電子郵件、Twitter、Facebook、領(lǐng)英等方式來聯(lián)系作者讓他幫你解釋清楚。你放心，大多數(shù)學(xué)者都希望其他人能夠理解并好好利用他們的研究成果。

上維基百科查一查

維基百科上有符號(hào)列表，可以幫助你縮小符號(hào)含義的可能范圍。我建議你從這兩個(gè)詞條開始：

• 「數(shù)學(xué)符號(hào)表」（https://en.wikipedia.org/wiki/List_of_mathematical_symbols）

• 「數(shù)學(xué)、科學(xué)和工程中的希臘字母」（https://en.wikipedia.org/wiki/Greek_letters_used_in_mathematics,_science,_and_engineering）

用代碼簡(jiǎn)述出來

數(shù)學(xué)運(yùn)算不過就是對(duì)數(shù)據(jù)進(jìn)行函數(shù)處理。把你讀到的任何東西都用變量、for-循環(huán)等寫成偽代碼展示出來。這個(gè)過程中你可能打算使用某個(gè)腳本語言來處理自己隨意寫出來的數(shù)組，或者甚至一張 Excel 表格的數(shù)據(jù)。

當(dāng)你閱讀并理解了文章中的技術(shù)改進(jìn)，那你隨之寫出來的核心代碼才會(huì)取得更好的結(jié)果，最終經(jīng)過不斷的改進(jìn)，你就會(huì)寫出一個(gè)小小的原型機(jī)，可以自己玩耍了！我一度不相信這個(gè)方法行得通，直到看到一個(gè)學(xué)者僅用幾行 MATLAB 代碼和隨意編寫的數(shù)據(jù)就寫出了一篇非常復(fù)雜的論文的核心代碼。這令我大吃一驚，因?yàn)槲乙郧耙恢眻?jiān)信機(jī)器學(xué)習(xí)的系統(tǒng)必須完整地編寫出來并且使用真實(shí)數(shù)據(jù)才能運(yùn)行，所以要學(xué)習(xí)任何一篇文章只有找到原始的代碼和數(shù)據(jù)這一條路可走。但是我真的錯(cuò)了。不過話說回來，那個(gè)學(xué)者真的是個(gè)天才。

現(xiàn)在我一直都在用這種方法學(xué)習(xí)機(jī)器學(xué)習(xí)，不過我是用 Python 寫出新學(xué)到的技巧的核心代碼。

換條路試試

有一個(gè)我在搞懂新技術(shù)時(shí)常用的小技巧，即找到所有引用了包含該技術(shù)的論文的其他論文，看看其他人如何演繹、解釋這個(gè)新技術(shù)時(shí)常能夠解除我在讀原始描述產(chǎn)生的誤解。不過這個(gè)辦法不總是有效，反而會(huì)更加迷惑，引入了更多令人誤解的方法和新符號(hào)。但是總體來說，這個(gè)辦法還是有效的。

在網(wǎng)上向大神請(qǐng)教

說實(shí)話，有很多線上論壇里的人們很愿意向別人解釋數(shù)學(xué)。你可以在屏幕上截張困擾你的符號(hào)圖，寫清楚出處和鏈接，然后連同你的困惑一起發(fā)布在問答網(wǎng)站上。推薦以下兩個(gè)入門網(wǎng)站：

• https://math.stackexchange.com/

• https://stats.stackexchange.com/

你都有哪些弄明白數(shù)學(xué)符號(hào)的小技巧呢？不妨在評(píng)論區(qū)留言。

推薦閱讀

如果你想進(jìn)一步深入了解，這一部分會(huì)告訴你更多相關(guān)資源。

• Section 0.1. Reading Mathematics, Vector Calculus, Linear Algebra, and Differential Forms, 2009：http://www.math.cornell.edu/~hubbard/readingmath.pdf

• The Language and Grammar of Mathematics, Timothy Gowers：http://assets.press.princeton.edu/chapters/gowers/gowers_I_2.pdf

• Understanding Mathematics, a guide, Peter Alfeld：https://math.stackexchange.com/

總結(jié)

在本教程中，你了解了在閱讀機(jī)器學(xué)習(xí)相關(guān)技術(shù)時(shí)可能會(huì)遇到的基礎(chǔ)數(shù)學(xué)符號(hào)。具體來說，你學(xué)到了：

• 算數(shù)符號(hào)，包括各種乘法、指數(shù)、平方根以及對(duì)數(shù)。

• 數(shù)列和集合符號(hào)，包括索引、累加以及集合關(guān)系。

• 5 個(gè)當(dāng)你在理解數(shù)學(xué)符號(hào)遇到困難時(shí)可以幫到你的小技巧。