資料整理: jserv, weihsinyeh
你一定聽過圓周率 ,但你知道在數學和科學領域中,還有個同等重要的常數 —— 歐拉數 嗎?之所以如此重要,是因為 是用來描述連續變化的常數。試想銀行利息不斷複利累積、熱咖啡逐漸變涼、乃至於病毒在人群中擴散等等現象背後的數學模型,都有 的身影。
本文回顧 的起源,一探數學家如何定義它、發現它的奇妙性質 (例如 的導數仍是自身),及它何以稱為「自然對數」的底。讀者也將理解 在碳 14 測定法、微積分、金融、機率統計、物理領域所奠定的根基,並探討其在嵌入式系統、人工智慧等資訊系統中的應用。讀者最終會體會到, 如何優雅地幫助我們理解這個世界的運作。
"The most powerful force in the Universe is compound interest." (宇宙中最強大的力量是複利)。 ── 愛因斯坦
歐拉數 (Euler's number, ,注意 Euler 讀作 [ˈɔɪlɚ]) 廣泛出現於數學、物理、生物、化學和經濟等領域,特別是與指數成長、衰減以及自然對數相關的問題。除了稱為歐拉數, 也稱為自然常數、自然底數 (自然對數的底數)、Napier 常數,這些命名都反映出其作用。不過,歐拉數不能稱呼為「歐拉常數」(Euler's constant,又名 Euler-Mascheroni constant),後者約為 ,歐拉常數的定義是調和級數與自然對數的差值。論及物理與工程系統時,Euler number (縮寫為 ) 與數學中 Euler's number 完全不同,前者出現在流體力學與應用物理中,後者則源自數學分析。
人類自古以來就對未來充滿疑問:下一刻會發生什麼?人們發現有些變化的規律,當數學家從單純的計數問題 (即自然數系統的建立) 進入探討連續變化的領域時,他們需要一個新的工具來描述這種自然的、持續的變化,這便是歐拉數出現的契機。
最初是在研究複利的過程中發現:假設你在銀行存入 元 (下圖藍色圓圈),且恰逢遇到嚴重通貨膨脹,導致銀行存款利率飆升至驚人的 。一般情況下,銀行一年才給付一次利息。令 ,當滿一年後,你能獲得 元利息 (下圖藍綠色圓圈)
存款餘額成為
若銀行改為每半年給付一次利息,並將付給你的利息自動轉為本金,下半年便能和本金一起生息 (下圖紅色圓圈):
存款餘額成為
再進一步,若銀行每 4 個月 (即 年) 給付一次利息 (下圖紅色、紫色圓圈):
存款餘額成為
你或許會貪婪地推論:倘若銀行每分每秒都給付利息,是否會使存款金額趨近無窮大呢?試算如下:
1 | 2 |
2 | 2.25 |
3 | 2.37 |
5 | 2.488 |
10 | 2.5937 |
100 | 2.7048 |
1,000 | 2.7169 |
10,000 | 2.71814 |
100,000 | 2.718268 |
1,000,000 | 2.7182804 |
… | … |
一年約有 秒 (以 365 天計),假設我們總是會每秒收到的利息立即再投入本金:
累積下來的利滾利餘額約為 元,並非原本貪婪設想的無窮大。換言之,上述計算得到的數值相當接近歐拉數 。
這種趨近的極限即定義為 ,數學上可表示為:
金融領域廣泛使用歐拉數來計算連續複利,公式如下:
其中:
例如,若你有 1,000 美元,以年利率 2% 的連續複利投資 3 年,最終金額為 美元。該數值略高於離散方式 (例如每月複利一次) 的計算結果,隨著本金增大、利率增高或時間延長,差距將更加明顯。
當銀行年利率為 ,我們想知道 100 元存款何時可翻倍,只要將問題轉化為以下方程式:
並加以求解,可得
單位是「年」,亦可近似計算 ,這裡的 源自 ,選用 72 的考量是其因數較多,便於心算。這是金融領域的「72 法則」,亦即估算資產翻倍所需的時間。
公元 1683 年,數學家 Jacob Bernoulli 首先研究複利頻率對本金增長的影響,發現上述極限的存在。然而,真正將此數深入研究並證明其無理性質的則是瑞士數學家 Leonhard Euler,他於公元 1748 年的著作《Introductio in Analysin Infinitorum》詳述該數的性質,後人遂以 Euler 之名將該常數命名為「歐拉數」。
人類對自然界的理解,最初依賴宗教與神話。然而,自文藝復興時代起,對時間的精確測量與數學分析逐漸讓人類意識到,自然界的變化並非隨機無序,而是遵循一定的規律,且可用數學表達。當伽利略透過水滴計時,觀察物體從比薩斜塔落下的運動,並發現加速度的恆定性時,人類正式踏上以數學和科學解析自然的道路。
在自然界中,許多現象的變化速率與其目前狀態成正比,例如:
這類現象可用微分方程描述:
其通解為指數函數:
其中的 就是歐拉數,描述這類自然變化模式的常數,其數學定義源於極限與無窮級數,表示如下:
這個展開式橫跨離散數學中的「階乘」與連續數學中的「無窮和」,使 成為離散與連續世界的橋樑。當物理學家研究熱水冷卻的速率、生物學家分析細菌繁殖的過程時,他們最終發現,這些變化的數學模型幾乎無一例外地依賴於 為底的指數函數。
在物理中的波茲曼常數 描述氣體分子在重力場中或一般熱平衡狀態下的能量分佈,表現為 ,其中 為粒子能量, 為玻爾茲曼常數, 為絕對溫度。統計力學中的馬克士威-波茲曼分布描述氣體分子速度的機率分佈,其中指數函數的形式反映高能分子出現的可能性隨速度平方指數遞減的特性。隨機運動方面,布朗運動是微小顆粒在流體中因為分子碰撞而產生的隨機運動,其數學模型依賴於指數衰減函數來描述粒子擴散的機率分佈。
在核物理學中,放射性衰變 (Radioactive decay) 描述不穩定的原子核自發性地轉變成其他種類原子核的自然現象。這種轉變遵循著明確的數學規律,也就是指數衰減定律 (Exponential decay law) ,其數學形式如下:
其中:
放射性原子核數量隨時間呈指數遞減
原子核的數量會隨著時間以指數方式減少,這意味著每經過一段固定的時間,剩下的原子核數量佔原本數量的比例都是相同的。當一個原子核透過放出輻射 (例如 粒子、 粒子或 射線) 釋放能量並轉變為另一個原子核時,這個過程就稱為衰變。
幾乎所有原子序大於 82 的重元素 (如鈾、釷) 的原子核都會發生放射性衰變,而某些較輕元素的不穩定同位素,例如碳-14 (Carbon-14) ,也具備同樣的衰變行為。
圖片出處: Free Webinar: Choosing Optimal Bone Samples for Analysis
放射性碳定年法 (radiocarbon dating) 或 定年法,是種利用碳的放射性同位素 來測定古老有機材料年代的技術。其原理是宇宙射線產生的高能中子撞擊大氣中的氮原子,依循反應式 持續產生放射性的 。這些 原子會迅速氧化成二氧化碳 () ,並與大氣中主要的二氧化碳 () 混合。植物透過光合作用吸收這些二氧化碳,再經由食物鏈傳遞給動物。因此,生物體在存活期間,會不斷與環境交換碳元素,使其體內的 與 比例大致與大氣保持平衡。
當生物死亡後,碳交換停止,生物遺骸即成為封閉系統。體內的 會因進行 衰變 () 而逐漸減少。 的半衰期 (Half-life) 約為 5730 年,意即每經過這段時間,樣品中 的數量會衰減為原來的一半,此方法可有效測定約 5 萬年內的樣本年代。
定年法自公元 1949 年由 Arnold 與 Libby 證實可行性後,其在定年方面的實用性及優越性已被廣泛肯定,對考古學產生革命性影響,為遺址和文化演進提供精確的時間框架。在地質學等領域,它也廣泛應用於測定晚第四紀 (如末次冰期結束) 以來的地質事件年代。
半衰期是描述衰變快慢的常用概念,符號為 ,定義是樣品中一半數量的原子核發生衰變所需要的時間。舉例來說,假設某種放射性同位素的半衰期是 10 年。這就代表:
半衰期 與衰變常數 之間關係如下,說明指數衰減的行為:
從上式可推導出:
亦即,衰變越快 ( 越大),則半衰期 就越短。放射性物質的活性 (Activity) 指單位時間內發生衰變的次數 (即衰變速率),通常用符號 表示。活性 正比於當時存在的原子核數量 ,即 。因此,活性也會隨時間以完全相同的指數速度下降:,其中 是初始活性。
我們知道放射性衰變遵循 這個規律,但這個公式是怎麼來的呢?能否從更基本的假設出發來推導?為何非得要用到 不可呢?
試著從微觀角度來思考。考慮每個不穩定的原子核,它發生衰變是個隨機事件。但在一個很短的時間間隔 內,任何一個尚未衰變的原子核,都有個發生衰變的微小機率,該機率應該正比於時間間隔 的長度,我們可描述為:單一原子核在 時間內衰變的機率 ,此處的 就是前面提到的衰變常數,它反映該種原子核內在的不穩定性。
現在,考慮一大堆 (例如 個) 相同的放射性原子核。根據大數法則,在 這個微小的時間間隔內,發生衰變的原子核數量 (注意 在這裡是負值,因為數量減少) 會大約等於「總原子核數量 」乘以「單一原子核在此時間內衰變的機率 」,亦即:
其中負號表示 隨時間減少。當 趨近於零時,這個近似關係就變成精確的微分方程 ,亦即原子核數量的變化速率 與目前的數量 成正比,比例常數為 。
接著求解這個微分方程。利用變數分離法,將所有跟 有關的項移到等號左邊,跟 有關的項移到等號右邊: ,然後二邊同時進行積分:
積分結果為 ,這裡的 是積分常數。 是以 為底的自然對數。為了得到 的顯式表達式,我們對等號兩邊同時取指數 (以 為底):
由於 也是個常數,我們可用新的符號 來代表它 () 。所以得到通解:
這個常數 的值由初始條件決定。假設在 時,原子核的數量為 。將 代入通解:
於是常數 就是初始原子核數量 。最終解就是
在上述推導與求解過程中,不僅解釋放射性衰變為何符合指數變化規律,也揭開 在此現象中扮演的角色 (源自於 ) 。
指數函數 (或更一般的 ) 與微分運算之間,尚存在非常重要的特性。觀察微分方程 的解 。對解進行微分:
這驗證上方的解,同時也突顯關鍵性質:
亦即,對指數函數 進行微分運算,得到的結果是原函數自身再乘上一個常數 。
倘若我們將微分運算子 看作是作用在函數上的「操作」,那麼指數函數 就好似該操作的「特殊函數」:它在被操作後,其「形態」(指數函數的形式) 保持不變,僅乘上一個數值 。
這與線性代數中的特徵值 (Eigenvalue) 和特徵向量 (Eigenvector) 的概念極為相似。對於一個矩陣 和一個非零向量 ,若它們滿足關係式:
則 就被稱為矩陣 的特徵值,而 則是被稱為對應於 的特徵向量。矩陣 作用在它的特徵向量 上,效果等同於將 乘以純量 。
接著我們可類比:
於是,關係式 就完全對應於 的形式。
在這裡:
這種微分運算子與其特徵函數、特徵值之間的關係,不只是個有趣的類比,還揭露指數函數之所以特殊和重要的原因:在物理學和工程學的許多領域中,基本定律往往以微分方程的形式出現,而這些方程的解,常與特定「運算子」(例如 或更複雜的運算子) 的特徵函數和特徵值緊密相關。
特徵函數通常代表系統的一種「固有」行為模式或狀態。例如,在振動系統中,它們可能代表特定的自然振動頻率;在量子力學中,定態薛丁格方程式 其實就是個典型的特徵值問題:能量運算子 作用在系統的穩定狀態波函數 (特徵函數) 上,得到能量值 (特徵值) 乘以該波函數。理解這種關係,是理解量子世界本質的關鍵。
回到上述碳-14 衰變問題。 這個看似單純的微分方程描述的是「變化率與目前數量成正比」的過程。這不僅適用於放射性衰變,也同樣適用於銀行存款的連續複利計算、物體的冷卻過程 (即牛頓冷卻定律) 等眾多自然與經濟現象。指數函數 正是描述這類過程最自然、最貼切的數學語言。
微積分的建立,正是透過對這種連續變化的嚴謹研究與描述。 並非僅是個數學常數,而是貫穿於自然規律之中的根本法則。愛因斯坦曾提出一個深刻的疑問:「數學,它明明是人類心智的創造,與實際經驗並無直接關聯,那它究竟是如何能夠如此精準地描述我們所處的現實世界?」(How can it be that mathematics, being after all a product of human thought independent of experience, is so admirably adapted to the objects of reality?)
延伸閱讀: e^(iπ) in 3.14 minutes, using dynamics
,又稱為「自然底數」,是自然對數 (以 為底的對數) 所對應的基礎常數。
雖然在人口成長與利息複利等應用問題中,可用指數函數進行推演,但 並非直接來自這些應用,而是微積分領域中的一項關鍵發現。先前我們藉由極限的方式給出 的定義,不過,這並非科學史上研究自然對數的起點。
John Napier [ˈneɪpiər], 1550–1617
公元 1614 年,John Napier 發表對數與對數表,而直到公元 1637 年,法國數學家笛卡兒才引入現代指數記號系統,也就是說,對數的出現,竟然早於指數的形式化定義。真正釐清二者之間的關係,則已是百餘年後的公元 1770 年,由歐拉首次明確指出:「對數乃指數的反運算」。
對數之所以先於指數而被發明,根本原因在於其應用價值:17 世紀的歐洲,隨著天文學與航海技術的發展,人們面對大量數值計算,亟需更有效率的處理方式,對數因應而生。在對數問世以前,天文學與航海領域高度依賴三角函數表來進行繁複的計算,這些表格詳列各角度對應的正餘弦值,精確至小數點後多位,於是數學家利用以下三角恆等式:
將二角的乘積轉化為和差形式,也就是著名的「積化和差公式」,提供間接執行乘法的方法,不過該方法步驟繁瑣,僅是計算 ,需要以下操作:
對數的誕生,汲取積化和差的主體想法,卻將其精煉為更通用、更易操作的數學工具。只要藉由 ,即可將乘法化為單純的加法與一次反查,操作上極為高效。流程如下:
一張對數表足以大幅加速乘除與開根號等運算,其後演化出的對數尺,更是工程師必備工具,猶如現今理工科學生獲贈的科學計算器。
然而,當時的對數計算主要用常用對數 (底數為 ),這已足以解決日常計算需求,不會特別涉及 。
Jost Bürgi 曾擔任天文學家克卜勒的助手,負責大量繁瑣的天文計算工作,受前人 Michael Stifel 研究等差與等比數列關係的啟發,Bürgi 發展對數概念,並於公元 1610 年左右完成對數表,但直到公元 1620 年才正式發表於《Arithmetische und Geometrische Progress Tabulen》(等差與等比數列表) 一書。
遠在蘇格蘭的 Napier 也展開類似的工作,他出身貴族,是愛丁堡附近 Merchiston 城堡的第八代地主,未曾有過正式的職業,但對天文與數學充滿熱情,完全獨立於 Bürgi 的成果。古希臘哲學家提出「自然」(φύσις) 的概念,認為萬物自然而然地變化,哲學家赫拉克利特引入 λόγος (英語: Logos) 一詞,表達自然變化背後所隱含的秩序與規律性。λόγος 原本含義廣泛,可指言語、演講、敘事、論理,或是原則與法則。在哲學語境中,它逐漸轉化為代表萬物背後的尺度、分寸與比例,即強調萬物之間的數量關係。Napier 結合 Logos (比例) 與 Arithmos (數) 二詞並創造出 Logarithm 一詞,意指「比例之數」,也就是後來的「對數」。
Napier 最初構想的對數,與我們今日以指數函數為基礎的對數概念迥然不同,他不是從代數公式出發,而是以幾何的方式定義對數:透過二個以不同速度移動的質點,其行進距離之間的對應關係,來刻畫數量變化的比例性,如下圖:
圖中展示 Napier 定義對數的運動學模型:想像二個質點沿線段運動,上方 Moving Particle,等速運動。下方的速度 Moving Particle 是等比例遞減。接下來想要找一個數學函數去描述這兩個質點位置的關係。先寫成簡單的表格。
時間 | 位置 | 速度 | log( 位置) = B位置 | log( 位置) 變化=B速度 |
---|---|---|---|---|
0 | 速度等比例遞減 | 等速 | ||
1 | ||||
2 | ||||
3 |
這樣就可以發現如果一個質點以「等比例遞減的速度」移動,一個以「等速度」移動。兩者之間的距離關係就是 。
接下來看這段在〈指數與對數發展史簡介〉中的描述。
〈指數與對數發展史簡介〉乙、對數的發明 二、Napier對數
Napier 引進對數的方法並不像前面所說的那麼代數化,他的方法是幾何式的。下面我們來介紹他的定義方法 : 取二線 與 ,令 之長為 。動點 沿 由 點移動至 點,動點 沿 由 點移動至 點。 點的初速度為 ,而在位置 時的速度為 。 點 上保持等速,其初速度也是 ,假設兩個動點同時出發,某段時間後兩動點分別到達 與 的位置,他定義 為 的對數。
示意圖 :
分析上面的話得到下面的資訊 :
如果 P 跟 Q 兩點的初速度都是 ,就會發現
接下來把質點 從位置 移到位置 的過程分成 段,每一段經過的時間為 。
第 段的起始位置為 ,第 段的末位置為 。
因為 很小,所以質點 在 移動的過程等速,且該速度與質點 在位置 時一樣,也就是 。因此寫成下面的式子。
(距離) (時間 x 速度)。
用兩個向量相減的計算得出 : ,再將上面 代入後得下面的式子。
。突然發現每一段相同時間經過的距離會等比例遞減,也就是速度會等比例遞減,跟上面推的是一樣的。也就是說如果一個質子的速度是等比例遞減,另外一個質子的速度為等速的話就可以用上面的表格。這樣兩個速度的變化就是
最後再把示意圖中位置 、、、 與動點 、 都畫在原先的圖上就可以知道第一張圖出現的由來了。
雖然現在透過對數的原理知道一個質子當前速度為 ,上一刻速度為 。代入 求另外一個質子的距離 , 就可以知道另外一個質子每一個一定時間就會多走 ,表示等速。但當時就是為了想要用數學描述這兩者間的關係而有這個對數的數學式子。
圖中展示 Napier 定義對數的運動學模型:想像二個質點沿線段運動,上方 Moving Particle,等速運動,其軌跡對應函數是 ,而下方 Moving Particle,其軌跡對應函數則是 ,皆由左至右移動,對應比例常數 。每個對應位置以垂直線段連結,展現在不同變化速率下的對數關係。上方標記點 與下方的 構成一對一映射,呈現二條運動軌跡在時間參數下的幾何對應。該模型巧妙地將等差運動與等比運動聯繫起來,反映他將對數視為描述運動變化的比例關係,並與當時天文計算所需之三角函數計算緊密結合。
Napier 歷時近二十年編製出史上第一份公開發表的對數表,於公元 1614 年發表其鉅作《Mirifici Logarithmorum Canonis Descriptio》(對數奇妙表的說明),該書甫一出版,便在歐洲科學界引起廣泛關注,倫敦數學家 Henry Briggs 在公元 1615 年前往愛丁堡拜訪 Napier,他們一致認為,對數的使用不應僅限於三角函數表的計算需求,更可延伸至一般十進位數的運算。
Briggs 改以 10 為底的對數,這便是「常用對數」。Briggs 後來成為劍橋大學聖約翰學院院士與牛津大學薩維爾幾何學教授,他以現代化的記號與計算方法,構造出更實用的常用對數表。公元 1624 年,克卜勒親自編輯並補充出版 Napier 的對數表,使其更適合用於天文與數學領域。Napier 與 Briggs的合作成果,成功將對數從單一的天文計算工具擴展為通用的數值分析方法。正因如此,數學家拉普拉斯讚嘆:「對數的發明得以簡化計算,相當於延長天文學家的壽命。」
數學家在編撰對數表的過程中,面對繁瑣的計算步驟,意識到若採用以下形式作為底數:
可顯著簡化計算。Napier 採用的底數近似於 (此值近似 ),而 Bürgi 則選擇 (此值近似 )。儘管當時尚未明確建立「底數」的概念,他們已運用接近 或其倒數的值,儘管 Napier 的系統更複雜,並非直接使用現代意義的底數。
或許讀者會好奇,當初 Napier 為何要選擇如此特別的對數底數?事實上,這是為了提高對數表在計算上的實用性。若底數選擇得太大,則對數表的資料密度 (即計算精度) 將變得稀疏,導致許多數字在表中找不到適合的對數值,內插誤差便難以控制,嚴重影響對數表的效能。
舉例來說,若以 作為對數的底數,當對數值從 增加到 時,對應的原始數值將從 急遽增長到 。在此情況下,若要查找如 這樣的數值,對數表內可能僅有附近的 (即 ) 與 (即 ) 這二個參考點,內插時誤差就會非常大。
因此,我們想尋找一個理想的底數,其性質是當指數以固定幅度增加時,原始數值不會呈倍數暴增,而是以穩定、近似線性的方式成長。換言之,新的問題是:能否將乘法導致的等比變化,轉換為加法產生的等差變化?
我們假設存在某個底數 ,使得其指數函數滿足以下對應關係:
儘管 屬於等比級數,但我們希望其對應的值 則呈現等差級數成長,亦即:
此時,左側的變化是每次乘以固定倍數 ,而右側則是每次加上固定增量 ,也就是將原本的等比變化對應為等差變化。這種對應不僅有助於簡化計算,更提供一種理解指數成長的加法視角,最終形成對數的概念。
然而,絕大多數底數並不具備這種特性。若 過大, 的變化將過於劇烈,無法對應出平滑的等差變化。
數學家如何克服上述問題,從而建立以 10 為底的對數表呢?
根據換底公式:
只要選定一個適合的底數,並針對該底構造出一份覆蓋範圍廣泛的對數表 (例如從 至 ),就可用換底公式,輕易推導出其他底數的對數值。
初看之下, 似乎是個合理選擇。若取 ,雖然 的間距可設為極小值如 ,但其對應的真數 (即對數運算中的輸入值,如 的 ) 值就變得難以計算:需對 等數開 次方根,這在當時不可行。
為簡化真數的生成,我們可反向思考,取某個數的 次方為底,例如 。此時雖可輕易列出真數 ,但由於真數的變化過於劇烈,在高位時增幅失控。
接著嘗試以較小的底,如 ,則表中真數如下:
0.0000 | 1 |
0.0001 | 2 |
0.0002 | 4 |
0.0003 | 8 |
0.0004 | 16 |
雖然表中的數值間距縮小,但仍增加過快,不適合廣泛採用。
直到我們選用更接近 的底數,例如 ,情況才有所改善:
0.0000 | 1.0000 |
0.0001 | 1.5000 |
0.0002 | 2.2500 |
0.0003 | 3.3750 |
0.0004 | 5.0625 |
我們從中發現規律:若底數形如 ,且 為一大整數,則底 越接近 1,真數間距就越均勻,計算上也更合理。若我們選擇 ,結果如下:
0.0000 | 1.0000 |
0.0001 | 1.0001 |
0.0002 | 1.00020001 |
0.0003 | 1.00030003 |
… | … |
0.9999 | 2.71787413941… |
1.0000 | 2.71814592682… |
這樣的表格同時具備二項優點:對數和真數皆呈均勻遞增,計算上只需重複乘以 。
Bürgi 正是採用該方法。要計算出 對應的真數 ,需要進行 次乘法。因此,要填滿表格至 (即 ),總共需要的乘法次數約為 ,已是數千萬次的規模,全靠手工運算。這樣的設計讓早期的對數表建構者得以確保高精度,進而利用以下換底公式推導出常用對數:
其中 的值 滿足 。這個 可以透過類似二進位展開的方式 (這裡 為 或 ) 來逼近,而計算 只需要對 反覆進行平方運算,計算 則需要反覆開平方根。透過比較 與 10 的大小來逐步確定係數 ,可將 計算到所需精度。
換言之,構造高精度對數表的訣竅,在於選擇形如 的底數,並讓 足夠大,如 或以上,如此方能兼顧計算便利與精度要求。
接著我們用現代的數學語言來選擇 ,其中 為極小的正數 (例如 ),並觀察這樣的底數下,指數變化對應的函數值是否能逼近等差關係。同理,也可考慮 的情況,以對稱地探討正負微小變動對函數行為的影響。
為了觀察當底數趨近於 時,指數函數是否能展現近似等差的變化,我們考慮底數為 的二種情況,其中 是極小正數,例如 。分別計算下列:
這些近似來自以下二項式展開:
其中忽略高階項是因為 。此處我們明確觀察到:儘管左側為等比級數,其近似值卻對應到右側的等差級數。再次,我們得知,將等比變化近似對應為等差變化,正是對數設計的主體想法。
設 。為了將等比關係 映射到近似等差的值 ,我們嘗試探索一種關係,使得 的微小變化對應於 的微小變化,且與 相關。考慮令 ,如此 的單位變化就對應 的 變化。代入 :
在極限情況下,當 時,基底 趨近於 (利用 以及 )。因此,極限關係為 ,其反函數即為 。
為了展現上述極限行為,我們可用先前案例中的極小值 (即 ) 來近似,分別對應於以下函數:
這些近似函數幾乎與自然對數函數 以及 重合,如圖一:
圖一:
幾乎與 重合,如圖二:
圖二:
為更嚴謹地刻劃這樣的關係,以下探討函數 的變化率。設 ,則對應的值為 。以差商形式近似導數:
對於 ,有:
簡化得:
當 趨近於 ,有 ,因此導數趨近於:
接下來對 積分可得函數形式:
為滿足初始條件 (例如 ) ,我們取 ,因此:
這條推導路徑顯示,當底數趨近 時,指數函數之變化率呈現出對應等差關係的特徵,進而引出自然對數 作為其反函數的自然形式。
換言之,我們已成功從「將幾何級數近似為算術級數」的出發點,建構出自然對數的定義基礎。這也說明 John Napier 當初選擇底數極接近 的實際考量。他在尚未發展出微積分與極限概念的時代,透過大量近似運算與觀察,已隱然掌握 所代表的極限形式,並以此建構對數表,簡化複雜的連乘與比例運算。
Napier 在微積分尚未成形的時代,獨力以二十年反覆運算與觀察,建立早期的對數表,並在過程中觸及 的極限形式。雖他未能系統化地提出其理論,卻已隱然揭示 的數學意義,這也是為何 有時稱為「Napier 常數」,儘管不精確。他過世後出版的《De arte logistica》(直譯為「計算之術」) 展現其關注如何透過數學工具實際提升計算效率,與現代數學強調結構與理論的取向相當不同。
在十七世紀微積分萌芽的年代,介於 Napier 與牛頓、萊布尼茲之間的數學家,逐步將 納入連續變化與極限計算的架構中,使其從早期的計算工具演變為現代分析、機率與數值方法的關鍵常數。自然對數的誕生,反映科學的計算需求,也是人類對「連乘極限」與「變化率」本質的探索。
延伸閱讀: 對數與約翰.納皮爾 (John Napier)
費馬 (Fermat) 在公元 1636 年之前就已推導出
於是人們自然聯想到:
在公元 1649 年以前,二位耶穌會會士 Grégoire de Saint-Vincent 與 Alphonse Antonio de Sarasa 研究雙曲線 的求積法,藉由計算雙曲扇形的面積,他們推導出後來稱為雙曲對數 (hyperbolic logarithm) 的函數,該函數的性質與現今的自然對數相同。這二位耶穌會會士發現,雙曲線 下方的面積 具有對數的關鍵性質 ,也就是說, 曲線下方的面積和 的對數之間呈正比。
惠更斯 (Christiaan Huygens) 是 17 世紀科學革命的重要人物,橫跨數學、物理、天文、工程與哲學等多個領域,堪稱一代巨擘。受到 Grégoire de Saint-Vincent 的影響,惠更斯在探索等軸雙曲線的過程,串起 Napier 發明的對數與 Grégoire de Saint-Vincent 發現的幾何結構之間的關聯。
作為物理學家,惠更斯建立向心力定律,提出動量守恆原理與光學中的惠更斯原理;作為天文學家,他發現土衛六 (Titan)、獵戶座大星雲、火星極冠與土星環的結構;作為工程師,他改良望遠鏡鏡片設計,發明精密擺鐘與火藥引擎 (內燃機的雛形);作為數學家,他發展漸屈線理論,提出單擺周期公式,並被視為機率論的早期奠基者。
在上述對等軸雙曲線 ,惠更斯注意到幾何性質:若取曲線下某區間的面積,只要滿足兩區間的比值關係一致,其對應面積亦相等。若區間 與 滿足 ,則二者在曲線 下方所圍成的面積相同。
等軸雙曲線 的圖例中,斜線標注的區域表示從 到 所圍成的面積,即為 ,若 ,則面積為負值,表示 。曲線 下從 到 的面積正好等於 ,也就是自然對數的定義:
這類滿足乘積轉加法規律的函數,即為對數函數。惠更斯從此幾何積分觀點出發,辨識出以 為底的自然對數與常用十進位對數之間的本質差異,並將 精確計算至小數點後第 17 位。
關於自然對數的最早記錄,出現在 Nicholas Mercator 於公元 1668 年出版的《Logarithmotechnia》一書,推動自然對數的形式化和應用。在許多實驗與自然現象中,被觀察對象的變化率 (增減速率) 往往與其當下的數量成正比,例如前述的複利和投資獲利,而所謂「自然對數」中的「自然」(natural) 一詞,並非因例子取於自然界,而是數學家在建構這些模型時,發現以 為底的對數,能讓公式最簡潔、最直觀地表達出這種成長或衰減的特性。因此,這個「自然」是指在數學表示中最自然、無須多餘調整的選擇,讀者不用糾結於「自然」一詞和大自然的直接對應,一如有理數 (rational number) 著重於「比例」,而非「有理」與否。
延伸閱讀: 資訊科技詞彙翻譯
到了 Johann Bernoulli (是 Jacob Bernoulli 的弟弟) 時代,積分問題進一步擴展為下式 (2) :
顯然可透過配方與換元法,將其化為與式 (1) 類似的形式。關鍵在於如何解方程 ,其解可能會是複數。
Johann Bernoulli 研究 的性質,認為這是個重要常數,他的學生 Euler 也深受啟發。
另一方面,在 Johann Bernoulli 求解下式 (3) 這個特例時:
發現透過巧妙的代換 (如涉及複數 和變數 的分式代換),可將此積分與對數函數聯繫起來,進而在三角函數 () 與複數對數之間建立關聯,也就是:
式 (3) 的積分結果是 ,而式 (4) 的結果是含虛數的對數,進而在三角函數與所謂的「橢圓對數」之間建立關聯。需要注意的是,John Bernoulli 對複數的理解仍停留在 Gerolamo Cardano 時期的水準,計算過程中常會避免複數的出現。
到了公元 1740 年,Euler 發現
這個指數形式滿足與 相同的基本性質 (或微分方程),因此確立彼此之間的等價關係。接著,Euler 在 1743 年指出三角函數與複指數的關係:
並在公元 1748 年最終提出著名的歐拉公式:
從 Johann Bernoulli 與 Euler 的研究中,我們不難發現,無窮級數的展開對許多函數而言都至關重要。儘管主要是使用冪級數展開,但更為人所知的泰勒展開和牛頓展開,在本質上只差若干系數或運算步驟,後者則在隨後的研究中獲得更廣泛的應用。
延伸閱讀:
回顧歷史後,我們來看 的定義: 是個導數等於其函數自身的指數函數,也就是說,若 ,則 。
為何要如此定義呢?
在探究指數函數 (例如以 2 為底的 ) 的導數時,數學家發現一個極為特殊的底數:若以此作為底數,所對應的指數函數在 處的切線斜率恰為 。亦即,這類函數的導數在任意點皆與函數值相等,滿足以下微分方程:
為理解這個底數的特殊性,我們比較常見底數如 與 所構成的指數函數:
二者的變化率皆與其函數值不一致,顯示無法滿足 的條件。然而,存在一個介於 與 之間的底數 ,使得:
亦即,函數 是唯一導數恆等於自身的指數函數。特別是在 時,其切線斜率為 ,與函數值一致,展現出極致的對稱與自然性。
該結論可從指數函數的一般導數公式中推得。考慮 ,其導數為:
這顯示 的導數總是等於其自身乘上一個常數,該常數與 有關,與 無關。為了使導數與函數值完全一致,我們自然會希望此常數為 ,亦即:
唯一滿足此條件的底數就是 ,也可透過另一個等價的極限來定義:
因此, 的導數為:
該特性使 在數學分析與微積分不可或缺。接著,對任意底數 ,可藉由換底公式將其轉寫為以 為底的形式:
應用鏈式法則可得其導數為:
因此,任意指數函數 的導數皆為其自身乘上一個比例因子 。部分常見底數的對應值如下:
換言之,所有指數函數皆可透過自然對數 表現其導數比例,而 的特殊地位,正來自於其滿足 ,使得 ,這也是所謂的「自然」。
因此, 的出現本質上是為了處理「指數函數的導數究竟該怎麼算」這個問題。它之所以與許多自然及社會現象相關,並非 本身有何特殊魔力,而是因這些現象普遍遵循「成長 (或衰減) 率與目前數值呈正比」的數學規律。
至於「為何用 這個底數?」則是因為 在計算導數或積分的時候最為方便,對任何其他底數,都能轉寫成與 相關的形式。 因其「導數等於函數自身」的獨特性,成為所有指數函數的基礎,於是 不僅是個數值,而是讓指數函數在微分與積分運算中最自然、最簡潔的底數。
延伸閱讀:
牛頓在發展微積分的過程中,研究對數函數的性質,牛頓利用他發展的廣義二項式定理,推導出 的冪級數展開式 (大約在公元 1665 年,但較晚發表):
這個結果是藉由對 逐項積分而得到。
雖然牛頓主要處理的是對數函數,但他意識到對數函數存在一個反函數:若 ,於是 就是 的某種「反對數」函數。藉由對 級數的探索,牛頓間接得到該反函數的級數形式,也就是我們今日所知的指數函數 的級數展開:
然而,在牛頓的時代,數學家著重於函數本身的級數表示及其作為對數反函數的角色,但不會特別關注或定義這個級數在 處的值 (即 ) 作為一個獨立的、基礎性的數學常數。他為指數函數奠定級數基礎,但 這個數本身尚未系統性討論。
真正將自然常數 和指數函數 進行系統研究並賦予其現代形式者,是瑞士數學家歐拉,其貢獻在於:
歐拉的級數收斂很快,便於精確計算 的值,且該級數形式在數學分析中極易處理 (如求導數函數、積分、證明性質等) 。因此,在現代數學分析中,通常將 作為指數函數的基本定義。
以下證明極限 確實存在,正因極限存在,我們才能將 定義為常數。
證明思路
觀察 ,隨著 越大,其當前項相比前項越大,換言之,有序數列 是遞增數列。若再說明該有序數列有一上界存在,則可以使用單調遞增收斂定理說明該有序數列收斂至一最小上界。
首先,證明一個不等式。對於任意滿足 的實數 和 ,我們希望證明:
該不等式成立的原因如下:
其中,第二個等式成立使用到因式分解 。隨後我們分段分析該等式左側的乘數 由於 ,則,觀察乘數中每一項的不等式可以得到以下不等式關係
由於 皆為正數,故不等式加總不會變號,則乘數 有以下不等式關係
兩側不等式乘上被乘數 則得到
移項並整理可得:
:warning: 注意
是特意構造的,目的是帶入特定的代數 ,以使得該表達式 這能讓我們將不等式再化簡。
接下來,構造一個遞增數列。令整數 ,並指定
由於 ,可將其代入不等式 (5),先處理 則:
所以 ,最終得到:
這表示 隨著 單調遞增。
最後,證明數列有上界 (upper bound)。指定
將其代入不等式 (5),先處理 則:
所以
最終可得不等式:
兩邊平方,得到:
由於這對任意 成立,可知數列 中,指數為偶數 的子序列 均小於 。又因已知整個數列 是單調遞增,對於任何 ,總能找到一個偶數 ,使得 。因此,數列 存在上界 (例如 )。
綜合上述結果,我們已證明:
上述關係為單調有界數列收斂原理 (Monotone convergence theorem)的充分條件 (sufficiency),則根據單調有界數列收斂原理,該數列必然收斂,因此極限存在且等於一最小上界,則令該最小上界為 。
只要有極限,任何運算都能用加減乘除處理,就算如下方這樣的普通計算器 (calculator,並非運算能力更強的電腦 [computer]):
其中,自然對數特別容易計算,接下來我們將介紹一種方法,主要靠計算器「開平方」功能。
歐拉數的泰勒展開如下:
對於普通計算器來說,實在難以計算上方的無窮級數。我們換個思路:回顧函數 (其中 且 ) 的導數的推導過程:
可見,最後面那一項極限和 無關,而只跟 有關,也就是個常數。該常數是多少呢?只要令 就能得到:
根據指數函數的圖形:
我們可推想,若有某個 讓在 處的切線斜率剛好是 ,於是該函數的導數就會處處等於函數本身。這個 就定義為 。依據定義,我們知道:
和式 (6) 比較,可得:
式 (7) 的左邊是對數,右邊是乘冪,離我們設定的目標仍很遠,接下來的關鍵想法是把指數式轉換成根式。
也就是把 替換成一連串的「反覆開平方」,最後再用 這個因子修正。對於只有開平方功能的普通計算器,這種方法極易上手,只要反覆開平方就能逼近結果。
例如,取 來估算 ,我們可得:
計算器顯示 ,而事實上 ,誤差約為 。
若改算 ,則約為 ,實際值為 ,誤差約 。
可發現,當 越接近 時,這種方法計算 的誤差越小。若把 與 繪製在同一坐標系上,能明顯看到二者密切貼合。
至此,只要我們懂得利用反覆開平方,再結合極限的概念,就能在普通計算器精準地計算歐拉數和自然對數。
計算歐拉數 的方法多樣,除了傳統的數學分析,我們甚至可在風靡全球的遊戲 Minecraft 中,透過模擬機率實驗來近似 的值。正如 Molly Lynch 與 Michael Weselcouch 在論文〈Approximating Mathematical Constants using Minecraft〉中所展示,我們可利用 Minecraft 遊戲內的機制來模擬隨機排列,並藉此估算 。
該方法的數學基礎源自組合數學中的錯位排列 (derangement):若一個排列中,所有元素皆未出現在其原本的位置上,則稱為錯位排列。例如,排列 312
是 123
的一個錯位排列,因為其中 1, 2, 3 都未位於原始位置;而 321
則不是,因為數字 2 仍然處於原來的第二個位置。其關鍵的特性是,當元素數量 趨近於無限大時,一個隨機產生的 元素排列是錯位排列的機率,會趨近於 ,亦即:
其中 代表 個元素的錯位排列總數, 代表 個元素的全部排列總數。
根據這個極限關係,我們可反過來利用機率實驗近似 :只要產生大量 ( 次) 的隨機排列,並計算其中錯位排列出現的次數 ( 次),則它們的比率 會近似於 。因此:
我們該如何在 Minecraft 中模擬上述呢?可用遊戲中的「紅石」(Redstone) 系統來搭建自動化裝置:
在論文提及的實驗中,產生 647 次排列,其中有 238 次是錯位排列。根據上述公式,得到的 的近似值為:
誤差僅約 0.00766%。不僅展示 與錯位排列機率之間的關聯,也說明 Minecraft 作為計算模擬與實驗平台的潛力,將抽象的數學概念轉化為遊戲中高度視覺化的趣味過程。
展示影片: Approximation of e in Minecraft 及播放清單。
為高精度計算自然對數底 ,我們採用下列無窮級數:
該級數具有快速收斂性,若期望小數點後達 位正確,我們需確保截尾誤差 。因此該找出最小整數 ,使得:
為估算 的對數,可用 Stirling 近似公式:
藉由二分搜尋,可有效找到滿足上述條件的最小 ,將此作為級數展開的項數上限。以 位精度為例,計算所需項數為約 250 萬。我們採取 GMP 多精度整數 (mpz_t
) 與浮點數 (mpf_t
) 為基礎進行實作,主要流程如下:
calc(mpz_t a, mpz_t b, mpz_t p, mpz_t q)
計算 的精確分數表示 (其中 p
, q
為輸出參數)calc(a, m, p_L, q_L)
計算左半區間和 (此處 , 對應程式碼中的輸出參數 p
, q1
)calc(m, b, p_R, q_R)
計算右半區間和 (此處 , 對應程式碼中的輸出參數 p2
, q
)p
與 q
(此處 p
重用 的儲存空間,q
重用 的儲存空間,而 q_L
和 p_R
則用區域變數 q1
和 p2
):
mpz_mul(p, p, q); mpz_add(p, p, p2)
)mpz_mul(q, q, q1)
)mpz_t
) 執行精確的有理數運算,僅在最終計算完成後,才用 mpf_div()
將總和的 轉換為高精度浮點數 (mpf_t
),從而減少浮點捨入誤差的累積GMP 浮點型別需指定位元精度,公式為:
因此,百萬位數需要約 3.3 百萬位元,即約 0.4 MB 記憶體。對一億位數則需約 33 MB。參考程式碼如下:
上述程式碼可在線性時間內完成小數點百萬位的精確計算,對記憶體需求有限,且透過進度條顯示,最終輸出名為 e.out
的檔案:
讀者可指定更多有效位數進行運算。此外,由於 GMP 已針對大整數乘法實作 Karatsuba、Toom-Cook 與 FFT 最佳化,上方程式無須自行處理底層運算效率的議題。
延伸閱讀: 從尤拉數 e 到 Stirling 常數
標準函式庫中的 exp 通常能達到接近 1 ULP 的精確度,然而許多應用場景,如即時系統、訊號處理、機器學習或遊戲引擎等,通常更注重運算時間,且能接受略低的精度,於是就會運用標準函式庫以外的指數函數實作。
〈留意浮點數運算的陷阱〉以 的運算為例,浮點數的捨入誤差不一定需要累積才能導致問題,關鍵在於識別誤差產生的關鍵環節。以下嘗試對效能與精確度進行權衡 (tradeoff),適合於可容忍小誤差、但對速度敏感的場景,並從快速但低精度的版本開始,逐步改進到更精確的實作,探討其中的數學背景及技巧。
為快速近似計算指數函數 ,我們用以下數學恒等式:
透過此恒等式,我們將指數函數從自然底數 轉換到以 2 為底的計算,更適合電腦的二進位架構。
將輸入 分成整數部分 與小數部分 :
其中
接著,我們將 拆成整數與小數二部分:
於是:
運用極小極大逼近多項式 (minimax polynomial) 來估算 。對於 的範圍,該手法可有效近似:
這裡的係數經過調整,可將最大相對誤差控制在 :
在 IEEE-754 單精度浮點數格式中,浮點數的記憶體配置如下:
符號位元 (1 個位元), 指數 (8 個位元), 尾數 (23 個位元)
一個 float 可視為:
我們要產生一個浮點數,滿足以下:
s
) 為 0e
) 設為 m
) 來自 的估算值,而指數部分則透過位元運算設定於是可透過將整數 左移 23 個位元並加到原始 float 的位元表示中,達成對 的計算,而不用乘法或呼叫 pow 函式。
運算流程如下:
因此可得 ,並藉由位元運算以結合二者。
對應的 C 程式碼:
不難發現,程式碼不依賴成本高昂的的數學函式庫呼叫,如 expf 和 powf,唯一用到的函式呼叫是 floorf 以達成浮點數對整數的轉換,隨後可換成處理器對應的指令,在 x86 的 SSE/AVX 或 Arm NEON 都存在這樣的指令。主要的運算由乘法、加法與位移運算構成。
基礎實作針對單精度浮點數,進階的實作則針對倍精度 (double
),適合需要更高精度及較大範圍的科學或一般運算情境,可運用以下常見技巧:
以下逐項探討。
為了近似特定區域 (segment) 的數學函式,最常見的技巧是使用多項式來擬合 (Polynomial Fitting) 該函數的局部區間。我們的目標是找出適當的係數,以建構出近似於 多項式函數。多項式的一般形式如下:
不過,由於多項式函數的形狀與 不同,我們僅能期望多項式在特定的小區間內能有效近似原函數。為了求得多項式的係數,我們可透過以下二種方式。
方法一:SciPy 函式庫
利用 Python 的科學計算函式庫 SciPy 中所提供的 Levenberg–Marquardt algorithm 方法,透過梯度下降 (gradient descent) 來擬合多項式係數。
利用三次多項式進行曲線擬合,參見 exp.py
方法二:Sollya 極小極大多項式
使用專門針對浮點數函式近似而設計的數值工具 Sollya。Sollya 可產生極小極大多項式,此多項式的特性為最大化降低近似函數的「最大誤差」,理論上可提供最佳的近似效果。
以下用 Sollya 找出近似 的係數:
經由上述程式碼可獲得多項式的係數。其產生的多項式在區間 的最大誤差約為 ,代表在該區間內非常準確,但離開該區間後誤差會迅速增加。
多項式近似只能保證在有限區間內的準確度,因此我們需要額外處理更廣的數值範圍。我們透過範圍縮減的技巧 (range reduction) 來處理這個問題。
利用指數函數的特性 ,我們可將任意數值 拆分為整數部分與小數部分。例如,將數字 3.1415 拆分為整數部分 及小數部分 ,亦即 。透過此種拆分方式,我們可分別使用二種方法進行處理:
對於 IEEE-754 倍精度 (double precision) 的浮點數,能表示的最大指數為 。因此,我們可建立一個範圍為 的表格,以提供快速精確的 計算結果:
注意 __attribute__((constructor))
是 GCC/Clang 的 C 語言擴展,指定 init_exp_table
函式在程式碼載入時期,早於 main
函式予以執行,若你不用 GCC 或 Clang 相容編譯器,應當在使用 fast_exp
函式前,先呼叫 init_exp_table
函式。
負數可藉由以下恒等式處理:
然而,實務上若透過條件分支 (branch) 處理,可能造成 CPU 分支預測失誤 (branch misprediction),導致效能下降。因此,更好的方式是將查表法範圍直接延伸至負數,如上述範例,從而避免分支指令的使用。
若要評估多項式近似函數的表現,我們可將近似值與實際值相減,計算近似函數的絕對誤差 (absolute error) 或相對誤差 (relative error),並將結果繪製成誤差圖 (error plot),以直觀評估近似函數在整個區間內的表現。
以下 C 程式目標是在實務中提供足夠的精確度與效能: (沿用上方 init_exp_table
函式和 TABLE_
開頭的巨集)
透過 Horner 表示法,多項式計算效率大幅提升:
此方法運算量少,且易於轉換成中央處理器的 FMA (fused multiply-add) 指令,例如 Intel 和 AMD 都有 FMA。
延伸閱讀: A Fast, Compact Approximation of the Exponential Function
現代計算機普遍採用二進位系統,但這並非唯一的選擇。事實上,三進位計算機曾在歷史上留下珍貴足跡,並於近年重新受到關注。
1950 年代末至 1960 年代,莫斯科國立大學的研究人員設計出早期的三進位電子計算機「Сетунь」(英語發音: Setun) 與其後繼型號「Сетунь 70」。「Сетунь」這個名字來自莫斯科附近的一條河。「Сетунь」電子計算機的設計由數學家 Sergei Sobolev (С·Л·Соболев) 等人於 1956 年左右發起,目的是提供高性價比的計算資源給高等院校與科研機構。研究團隊在資源有限的情況下,設計出基於鐵氧體磁芯 (ferrite cores) 與半導體二極體 (diodes) 的平衡三進位計算機,其邏輯電路利用正電壓 (代表 +1
) 、零電壓 (代表 0
) 與負電壓 (代表 -1
) 表示 3 個狀態,這種設計一度被認為具有潛在的速度、功耗和可靠性優勢。
這台採用時序邏輯的機器配備快速乘法器,使用小型鐵氧體環記憶體 (ferrite ring memory) 作為暫存器/累加器,搭配磁鼓 (magnetic drum) 作為主要記憶體,提供 24 道指令,其中包含預留指令,原型機於 1958 年完成,經過測試後於 1960 年代初期小規模生產。儘管「Сетунь」據稱表現穩定、應用廣泛,甚至獲得國外關注,但由於未能契合當時蘇聯主流的二進位計算機發展規劃,該專案最終未能大規模發展。總共生產約 50 台,分佈於蘇聯各地,用於工程計算、工業控制與教學等。
1970 年,原團隊的部分成員推出改進的「Сетунь 70」機種,並建立更系統化的三進位運算結構,包括:
然而,由於缺乏持續的支持,「Сетунь 70」也僅生產極少量,三進位計算機的發展就此沉寂。「Сетунь」最關鍵的特點正是採用平衡三進位的對稱編碼 ,能自然且統一地表示正負數,無需額外的符號位元或二補數轉換。
電腦科學家 Donald E. Knuth 在《The Art of Computer Programming》第 2 卷說:
"Perhaps the prettiest number system of all is the balanced ternary notation"
(也許所有數值系統中最優雅者,就是平衡三進位表示法)
這裡的 ternary 意思是三個的、三個一組的、三重的,也稱為 base-3,顧名思義,不是只有 或 ,而是將可能的狀態擴充為 0
, 1
, 2
,在 balanced ternary (平衡三進位) 中,就是 -1
, 0
, +1
等三個可能狀態,又可簡寫為 -
, 0
, +
。
這裡的 "ternary"指「三元的」或「以三為基底的」(base-3)。標準三進位使用 ,而平衡三進位則使用對稱的 作為基本單元 (trit) ,常簡記為 或 。
the ternary values as being "balanced" around the mid-point of 0. The same rules apply to ternary as to any other numeral system: The right-most symbol, R, has it's own value and each successive symbol has it's value multiplied by the base, B, raised to the power of it's distance, D from R.
(三進位數值圍繞中點 平衡分佈。其規則與其他數值系統相同:最右邊的符號 R 代表其自身的值,往左每個符號的值需乘以基數 B 的 D 次方,D 為該符號與 R 的距離)
一項用來度量進位系統效率的指標是「基數經濟性」(radix economy),它試圖量化表示給定範圍數值所需的「成本」,通常定義為基數 與所需位數 的乘積: ,此處 表示 個不同數值所需的最少位數,即 。該成本函數 試圖在「單一位數的複雜度」 (基數 越大,單一位數能表示的狀態越多,但也可能越複雜) 與「表示的總長度」 (位數 越少越好) 之間取得平衡。
倘若我們暫時忽略位數 必須是整數的限制,使用 ,並利用對數換底公式 ,於是表示成本的近似理論值可寫為:
對於固定的數值範圍 (此時 為常數) ,要最小化成本 ,就等同於最小化函數 。
我們可藉由微分找出 的最小值:
令導數 ,得到 ,解出 。這意味著從理論上講,以 為基底效率最高。
下圖基於 計算 (另一種成本定義,考慮位數必須是整數),比較不同基底表示特定範圍 的成本:
該圖顯示,雖然 是理論最佳值,但對於實際的整數基底, 比 或 更接近 所代表的最佳效率點。接著比較整數基底的理論效率,也就是基底 和 對應的成本 (忽略常數 ) :
計算 的值:
由於 ,這表明基底 在理論上比基底 更經濟。因此,三進位是整數基底中最具儲存效率的選擇,這正是三進位系統 (特別是平衡三進位) 引人入勝的理論基礎。
平衡三進位使用 作為 trit (三進位元) 的值,其數值表示圍繞 0 對稱:
平衡三進位採用與二進位相似的位置表示法概念,但其關鍵優勢在於負數表示極為簡便:只需將正數表示式中所有非零的 trit 反轉 (亦即 +1
變 -1
,-1
變 +1) 即可得到其負數。
bal3
)由上可知,在平衡三進位中獲取一個數的負數,只需簡單地將所有非零 trit 進行符號反轉,無需像二進位那樣進行位元反轉再加 (二補數系統) 的操作,運算本質上更為快速簡單。考慮以下平衡三進位範例 (使用 :
其負數 的表示法為:
這種對稱性意味著正負數使用統一的規則表示,無需像在二進位系統中區分 signed
和 unsigned
類型。
平衡三進位不僅能一致地表示整數,也可用於表示分數 (近似浮點數) 。以下是十進位 0.2
的一個平衡三進位近似表示:
如同十進位的 之於二進位, 在三進位中是無限循環小數 。因此,任何有限長度的平衡三進位表示都只是近似值。
如何近似表示十進位 0.8
呢?利用 0.8 = 1 - 0.2
及平衡三進位的簡易負數轉換特性:
上述近似計算,顯示平衡三進位中小數運算的對稱性。
接著,我們評估平衡三進位在計算負數時的效率。比較二進位 (採用二補數系統)與平衡三進位。以十進位數值 114
為例,求對應的負值:
10001101
10001110
(結果)若要量化這份差距,主要差異在於二進位的二補數所需的 +1
遞增操作。假設單個位元或 trit 的反轉時間相當,則平衡三進位的優勢在於省去加法步驟。n 位元二進位數加 1 時,發生進位傳播的平均位數期望值 為:
當 增大時,期望值趨近於 。這表示二進位取負運算平均會多出接近一次完整的加法器傳播延遲。因此,在轉換效率上,平衡三進位執行負數操作本質上更快。這個看似微小的延遲差異,在深度學習、大型語言模型訓練與推理等等需要巨量運算的場景中,可望累積顯著的性能提升。
平衡三進位的思想在現代人工智慧領域,特別是大型語言模型 (LLM) 的技術演化上,重新獲得關注。2023 年 10 月,Microsoft 研究院發表〈BitNet: Scaling 1-bit Transformers for Large Language Models〉,初步探索極低位元量化的可行性。隨後在 2024 年 2 月,該團隊發表影響更廣的〈The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits〉,正式提出 BitNet b1.58 方法,並釋出對應的開放原始碼專案 BitNet。此方法正是採用平衡三進位 來表示大語言模型的權重 (weight)。這種方法之所以被稱為「1.58-bit 量化」,是因為表示三種狀態所需的最少資訊量為 位元,巧妙地介於純粹的 1-bit 與 2-bit 之間。
BitNet b1.58 的特點及其體現的平衡三進位優勢,首先在於其三元權重 (Ternary Weights) 的量化策略。此方法將傳統以浮點數 (如 FP16 或 BFloat16) 表示的模型權重,透過縮放與閾值判斷,映射到 這三個離散值之一,並透過 Straight-Through Estimator (STE) 手法來訓練非可微的量化函數,訓練過程中會保留高精度「主權重」用以累積梯度,而前向與反向傳播則使用低位元權重。相較於純粹的 1-bit 量化僅使用 ,BitNet b1.58 最關鍵的優勢在於保留零值 (preserving zeros and sparsity)。由於大型語言模型訓練後,常含有大量接近零的權重,強制將其映射至 -1
或 +1
會引入顯著誤差,並破壞模型內在的稀疏性;而平衡三進位允許這些權重被精確量化為 ,從而有效減少資訊損失,維持模型性能。
這種三元量化直接帶來顯著的計算效率提升和能耗降低。在 LLM 中佔據主導地位的矩陣乘法 (),當權重 僅包含 時,其運算過程得以極大簡化:原本的浮點乘法運算被完全取代,權重為 的部分直接忽略,權重為 和 的部分則分別轉化為高效的整數加法和減法。這種運算邏輯的簡化顯著降低計算延遲,同時,由於權重儲存從 16 位元大幅壓縮至約 1.58 位元,讀取權重所需的記憶體頻寬壓力也大為減輕,進而降低整體能耗,這對於記憶體受限的推理場景及大規模部署尤其重要。
該手法與 2016 年的 BinaryConnect 和 IBM TrueNorth 等低精度類神經網路概念相呼應。這些研究早已證明:即使將權重量化為 1 位元,神經網路仍能正常訓練與推論。不過 BitNet b1.58 採用的平衡三進位在訊號能量與資訊表示上找到理想平衡點。此外,雖然是高度量化, 這三個值具備潛在的表達能力 (potential expressiveness),可直觀對應神經連結的抑制 ()、無作用 () 與激勵 () 三種狀態,其熵值為 ,比 2 進位的 1-bit 多,但遠低於 FP16 或 8-bit。
從神經科學的視角來看,平衡三進位的 權重也有其生物直觀性:例如 -1
可視為抑制性神經元 (inhibitory neuron) 的輸出訊號,+1
則代表興奮性輸出,而 0
則表示未觸發。實際神經元的行為當然更為複雜,它們不依賴時鐘同步運作,並可整合訊號強度與時間累積效應 (如多個突觸電位的整合) 。脈衝的頻率與時間分佈也能影響神經訊號強度,這與我們從視覺感知中所見到的亮度與色彩變化不無關聯。儘管目前的類神經網路模型尚無法完全模擬這些生物特性,然而像 Intel 的 Loihi 2 等神經形態晶片 (neuromorphic chips) 正逐步接近這種非同步、類比式的訊號處理方式。
根據 BitNet b1.58 的研究論文,其效能表現相當亮眼:在 30 億參數規模以上時,其模型性能已能接近 FP16 的基準模型;而相較於同等規模的 Llama 模型,700 億參數的模型能達成約 4 倍的推理速度提升和 7 倍的記憶體節省,並支援更大的批次處理量以提高吞吐率。
如此簡化的運算 (僅需加/減/忽略) 也開啟硬體實作的潛力,非常適合設計專用的硬體加速器 (ASIC 或 FPGA) ,猶如前蘇聯科學家在「Сетунь」電子計算機所投入的三進位硬體探索。
這些研究成果表明,源於對數值系統效率 () 思考且具備優雅對稱性的平衡三進位,在現代人工智慧的脈絡下,不僅是理論上的最佳整數基底探討,包含對 的處理和計算簡化在內的特性,已將平衡三進位轉化為極具潛力的實用技術,為大型模型的壓縮、加速及節能提供全新的途徑。
延伸閱讀:
與歐拉數相關的數學定理和公式極為豐富,遍佈於數學與科學的多個領域,以下列舉其中幾個。
「永無止境地循環下去的數字,和讓人難以捉摸的虛數畫出簡潔的軌跡,在某一點落地。雖然沒有圓的出現, 但來自宇宙的 飄然地來到 的身旁,和害羞的 握著手。他們的身體緊緊地靠在一起,屏住呼吸, 但有人加了 以後,世界就毫無預警地發生了巨大的變化。一切都歸於 。歐拉公式就像是暗夜中閃現的一道流星;也像是刻在漆黑的洞窟裡的一行詩句。」 ── 小川洋子的《博士熱愛的算式》
該恆等式將 5 個基本常數:, , (虛數單位), (加法單位),和 (乘法單位),以最簡潔的形式聯繫在一起,源於複數分析中的指數與三角函數的深層關係,是公式 在 的特例。這不僅展現數學的對稱性與結構美,更是物理學、電路理論、波動方程、訊號處理等領域的根基。
為說明此公式的由來,先考慮一個粒子在實數線上運動,其位置為 ,若假設粒子的速度等於當下位置,即:
這是一階線性常微分方程,其唯一解為
此解代表一種「自我增長」的行為:當粒子的位置越大,其變化速率也越快,呈現典型的指數成長。
接著將此觀念推廣至複平面,設 表示粒子的位置,我們希望建構最簡單的圓周運動模型。假設:
在複數表示中,向量旋轉 相當於乘以虛數單位 :
因此可建構以下運動方程:
此為複數微分方程,其解為
透過泰勒展開或解析法可知:
這正是歐拉公式的本體。若令 ,則:
這不僅是個形式優雅的恆等式,也將指數函數、三角函數與複數自然地統整為一體。
在物理學中, 對應單位圓上的等速圓周運動,其在 軸與 軸上的投影分別為 與 。這類簡諧振動模型構成週期現象的基礎,如聲波、電磁波、光波與量子波動等皆可視為其延伸。
根據傅立葉分析,任何「行為良好」的週期函數 (週期為 )都可展開為一組離散頻率的複指數函數 (其中 是基本角頻率,而 為整數) 的線性組合,稱為傅立葉級數 (Fourier Series):
其中係數 代表函數在頻率 上的複數幅度。
即便是非週期訊號 (或視為週期無限大的函數),亦可藉由傅立葉轉換 (Fourier Transform),表示為連續頻率 的複指數函數 的積分形式 (一種連續的疊加):
其中 稱為 的傅立葉頻譜,由以下傅立葉轉換計算得出:
由此可見,複指數函數 (結合 , , 以及與週期 相關的 ) 不僅是數學分析中的強大工具,更是描述波動、振動、訊號傳播等眾多涉及週期性或頻率特性的自然現象之基本數學語言。
在科學與工程中,面對複雜問題時,「分解」是一種主體策略。傅立葉分析正是基於此思想,將複雜函數或訊號分解到一組更簡單、具有普適性的「基底函數」上。為了有效達成這種分解,我們借鑒向量空間的概念,特別是「正交性」和「內積」。
在三維歐幾里得空間中,一組標準正交基底為 , , ,它們滿足以下特性:
這裡,二個向量 和 的內積定義為:
任何一個三維向量 都可唯一地表示為這組正交基底的線性組合:
其中的係數 (即向量在 方向上的分量)可藉由內積計算得到:
這是因為 (利用基底的正交性 if , 和正規性 )。
因此,內積提供將向量「投影」到基底方向上,以獲得其分量 (係數)的方法。
傅立葉分析將這個概念從有限維的向量空間推廣到無限維的函數空間。我們可以將 (某些類型的)函數視為函數空間中的「向量」。為了定義函數空間中的「正交性」,我們需要推廣內積的概念。對於定義在 上的複數值函數 和 (假設它們屬於適當的函數空間,如平方可積函數 ),它們的內積通常定義為:
其中 表示 的複數共軛。
現在,考慮傅立葉分析中扮演基底角色的複指數函數。令 和 ,計算它們的內積:
這個積分在嚴格數學意義上不收斂,但在廣義函數 (或分佈)的框架下,其結果與狄拉克 δ 函數 (Dirac delta function) 相關:
狄拉克 δ 函數的性質是:當 時 ,而在 時為無窮大 (積分為 1)。這表明,不同頻率的複指數函數 與 在內積意義下是「正交」的 (它們的內積在 時為 0)。因此, 構成一組連續的「正交基底函數」。
有了這組正交基底,我們就可以將任意 (行為良好的)函數 分解 (投影)到這些基底上。其在特定頻率 上的「分量」或「投影係數」,正是由傅立葉轉換 給出:
是個複數,其大小 代表了頻率 在 中的強度 (幅度),其相位 代表了該頻率成分的相對相位。
而傅立葉逆轉換:
則表示原始函數 可由其所有頻率分量 按照頻譜 給出的權重 (複數幅度) 連續疊加 (積分) 而還原回來。
傅立葉分析的本質,就是將一個在時域 (time domain) 中描述的函數 ,透過投影到正交的複指數基底 上,轉換為在頻域 (frequency domain) 中描述的頻譜 。這種轉換讓我們能清晰地看到訊號由哪些頻率成分組成,及各個成分的強度與相位,這對於訊號處理、系統分析、物理建模等領域至關重要。這正是 (透過 ) 所構築的連續變化在頻率分析上的體現。
延伸閱讀: 圖解傅立葉分析
「我認為質數的魅力在於無法說明它出現的秩序。每個質數都沒有因數,似乎隨意地嵌在數列之間。雖然數字越大,想要找出質數也就越困難,卻仍然無法依據任何已知規則來準確預測它們的出現。這種捉摸不定、難以駕馭的特性,對追求完美的博士而言,彷彿就是一種無法抗拒的誘惑。」
這段話出自小說《博士熱愛的算式》,凸顯質數既孤高又神秘,看似雜亂卻富含某種隱約的規律。人類對質數的探索已有二千多年,古希臘時期,歐幾里得以反證法證明質數的無窮多性,這是最早的論述,而既然知曉質數無窮存在,便產生新問題:前 個自然數中究竟包含多少質數、它們又如何分布?
十八、十九世紀,法國數學家 Adrien-Marie Legendre 和德國數學家高斯 (Gauss) 先後提出猜想:前 個自然數裡的質數個數 大致與 或 相當,後者是 Legendre公開的版本。高斯則提出對數積分
用以更精細描述質數的實際增長。這些近似式不完美,但都強調質數分布深受對數 影響。
歐拉曾為「質數數量」的研究奠下重要基礎。他考慮下列乘積:
其中 逐一取自所有質數。他用不夠嚴謹但極具巧思的推導,將此「質數乘積」與「調和級數」 連結,顯示二者同樣發散,也再次印證質數不可能僅有限多個。進一步推廣後,歐拉定義
左邊針對全體質數的無窮乘積,右邊則針對全體自然數的無窮級數。當指數 擴張至複數時,右邊級數成為黎曼 函數,左邊則保存質數的隱性編碼。這種「以質數乘積對應整個自然數系統」的理念在歐拉時代已現端倪,後經黎曼發展為複分析的有力工具,改變研究質數分布的方式。
1859 年,黎曼在成功把 函數解析延拓至整個複平面,將質數分布與 函數零點緊密相連,首次以複分析方法探討實函數 。1896 年,法國數學家 Hadamard 與比利時數學家 de la Vallée Poussin 證明
宣示質數定理成立。Chebyshev 曾顯示若上述比值的極限存在,必為 1,並由此推得Bertrand—Chebyshev 定理 (Bertrand Chebyshev theorem):對任何自然數 ,區間 內必有質數。質數定理雖揭示整體分布規律,許多微觀細節仍不乏謎團,例如,高斯的 在廣泛區域能很好貼近 ,但二者的差 會於極大範圍內多次翻轉正負,首次翻轉位置大到超越現今電腦極限,牽涉斯奎斯數 (Skewes' number) 的研究領域。
經歷長期的純數論研究積累,質數的特性於 1970 年代末期發展成為現代公開金鑰密碼學 (public-Key cryptography) 的關鍵。公元 1977 年,Ron Rivest、Adi Shamir 與 Leonard Adleman 在其發表的論文〈A Method for Obtaining Digital Signatures and Public-Key Cryptosystems〉中,提出以其姓氏首字母命名的 RSA 公鑰加密演算法。該演算法建基於選取二個極大的秘密質數 與 ,計算其公開的乘積模數 。接著,選取一個與歐拉函數值 互質的整數 作為公共指數。數對 構成公鑰並對外發布,而作為基礎的質因數 與 則必須保密 (用於產生私鑰)。RSA 演算法的安全性依賴於大整數質因數分解問題 (integer factorization problem) 的計算複雜度 —— 即從已知的公開模數 反向分解出原始質因數 與 ,在現有計算能力下被認為是不可行的 (computationally infeasible)。質數分解的困難性因此構成 RSA 演算法安全性的理論基石,並促使以質數理論為基礎的公鑰密碼學,在金融交易和雲端運算等多個關鍵領域得到廣泛應用。
質數分佈看似混沌,但質數定理揭示其宏觀規律:質數的平均密度可由以
為底的自然對數 近似描述,將連續變化的標度 引入離散的數論領域。此定理不僅成為連接離散數學與連續分析的橋樑,更將深刻的數論洞見轉化為資訊安全的關鍵方法,充分體現純粹理論與工程實踐的交織。
延伸閱讀:Frans Oort 談質數
其中 為均值、 為標準差、 為變異數。此函數描述隨機變數在平均值附近出現的機率,並且依距離遠近呈對稱分佈。根據中央極限定理,只要有大量彼此獨立且同分佈的隨機變數,其總和在適當正規化後將趨近常態分佈。因此,常態分佈不僅是統計學的基礎模型,也廣泛應用於物理、生物、經濟、訊號處理等科學領域。
其中的指數項 起著關鍵作用。它不僅賦予整體分佈平滑的變化與對稱結構,也反映出「距離越遠,機率越小」的特性。
在物理學中,常態分佈的出現更具有深層意涵。例如,熱擴散方程的基本解即為高斯型 (即常態型) 分佈,這描述粒子在隨機熱運動下擴散的機率密度。該現象的隨機性來自於微觀層級上眾多獨立作用的累積,而其宏觀行為則收斂為常態分佈,這與中央極限定理完全吻合。事實上,在許多與隨機擾動相關的微分方程中,指數函數 經常自然浮現,作為穩定解或平衡態的形式。
接著思考常態分佈中為何會出現 與 ,我們可從基本假設出發。設想一組由 個獨立的隨機事件組成的系統,每個事件只有發生 (記作 ) 與不發生 (記作 ) 兩種結果。當 很大時,整體行為會趨近於連續隨機變數,其總和的分佈逐漸接近常態分佈。此過程中,自然底數 之所以出現,是因為其代表連續極限下的指數變化,與離散事件總數呈 增長相呼應。
至於 的來源,則可由空間對稱性與獨立性兩個條件導出。假設隨機變數在空間中呈旋轉對稱 (機率密度僅依據距離 ,與角度 無關),同時假設各軸方向上的誤差彼此獨立,那麼根據 Herschel 和 Maxwell 的分析,唯一能同時滿足這二個條件的密度函數形式為:
其中 為點到原點的距離, 為常數。
這表示在二維或三維空間中,具有旋轉對稱性與軸向獨立性的隨機分佈,其機率密度會隨距離平方衰減,並自然形成以 為變數的指數函數形式。
常態分佈中 的結構並非偶然,而是以下幾個自然假設的直接推論:
因此, 不僅體現數學形式的優雅,也蘊含物理與統計行為背後的對稱和隨機特性,是自然與數學深刻結合的典範。
描述在固定時間或空間範圍內,隨機事件發生的次數。其機率密度函數為:
這裡的 (即 ) 代表隨機事件「發生零次」的機率,類似於自然界中常見的衰減現象,例如前述的放射性衰變。除了提供描述隨時間 (或空間)隨機變化的數學形式外, 也確保機率總和為 1,是整體分布「標準化」的關鍵。
泊松分布可看作是二項分布在次數 、成功率 且期望值 固定的極限形式。該極限推導自然導出 的出現。
為什麼現實中常出現泊松分布?回顧其定義:若某事件在單位時間內平均發生 次,且每次發生獨立、隨機、不可同時,於是在時間間隔內發生 次的機率為:
這個形式與 的泰勒展開驚人地相似:
二者的結合意義不只在於形式上的巧合。考慮將時間細分為 段,每段事件發生的機率為 ,則根據二項分布:
當 時,上式逼近泊松分布,也自然導出 。這不僅是計算上的結果,更可視為平均每單位時間發生次數為 的一種極限模型。
進一步理解 的意義,有助於揭示泊松分布與 的深層連結。若把時間看作連續且隨機事件可能不斷發生的場域,則 表示某平均值為 的複合增長。從極限定義出發:
這可理解為:每一小段時間內有極小的發生機率,整體隨時間累積出平均次數為 的事件,形成 的指數形式。當所有乘項都是 ,表示從未發生;乘項中有個 ,則表示發生一次,依此類推。這與泊松分布描述在眾多微小獨立機會下,最終觀測到特定事件次數的概念相符。
指紋識別晶片藉由數千個微型電容感測器生成指紋的拓撲圖,並針對每個像素點進行比對,裡頭也能見到泊松分布。
指紋可看作手指的紋路,而常見的感測方式主要可分為光學式感應器與電容式感應器二種,前者透過光源與感光元件組合,儲存手指輪廓所反射的光線變化,後者則是藉由半導體晶片,記錄皮膚表面不同部位所呈現的電荷分布、溫度梯度與壓力差異。以電容式感應最為常見,iPhone 5s 所採用的正是這種技術。
電容式指紋辨識模組的基本原理是,對每個像素點的電容感應顆粒預先充電到某一準位,當手指接觸感測器時,系統會檢測各像素點的放電電流。由於指紋的脊 (凸起) 與峪 (凹下) 會產生不同的電容值,放電速率亦隨之改變,藉此可區分出凹凸紋理的位置,從而重建出完整的指紋圖像。這些圖像資料會儲存於快閃記憶體中作為後續比對使用,辨識流程則包含:從指紋圖中提取特徵點、建立特徵向量,並將其轉換為數位訊號進行比對。
電容式設計薄而輕巧,適合用於行動裝置上,其成本較高,且感應元件易受到汗水或油脂影響,為了解決這個問題,感應器上會額外加裝保護層,例如 iPhone 5s 採用藍寶石玻璃覆蓋其指紋感測器以增加耐久性。這些像素點可視為獨立的伯努利試驗 (Bernoulli trial),每個像素點只有「是否誤配」的兩種結果。在試驗次數眾多、單次誤配機率極低的情況下,根據機率論的極限定理,這樣的重複伯努利試驗所導致的總誤配次數可近似為服從泊松分布。
設 為雜訊造成的平均誤配次數, 為實際誤配的次數,則 滿足:
亦即,系統可藉此計算某次比對中出現恰好 個錯誤對應的機率。當 (平均噪點數) 超過某個閾值時,系統會判定這樣的比對極可能由雜訊造成,並觸發二次驗證機制。這也解釋為何在手指潮濕時,解鎖常常會失敗。
舉例來說,若系統估計正常狀況下雜訊造成的誤配次數為 ,並將比對閾值設為 ,則系統會計算:
這樣的尾部機率可作為安全門檻的參考,決定是否強制啟用第二道驗證。 在這些生物識別技術中不只是數學符號,讓我們能以簡潔的數學形式,處理現實中充滿變數與雜訊的感測資料。
以下用金融案例,解說泊松過程。
在日常生活中,我們經常會遇到排隊等候的場景,例如在銀行辦事時,客戶隨機到達櫃檯。那麼,若在某段時間內統計有多少人加入排隊?這類問題的數學建模可從最簡化的假設出發。
設 為在時間區間 內到達的顧客數,且假設初始時無人排隊,即 。我們對 所代表的隨機過程提出以下假設:
上述條件構成泊松過程的基礎假設。我們可數學化地寫為:
根據此,我們得到:
設 ,則:
兩邊同除以 並令 ,得微分方程:
解得:
也就是 。 的出現揭示:即使泊松過程是個離散計數過程,其背後的變化機制仍可由連續變化的指數函數所支配。
若允許 隨時間變化,則稱為非齊次泊松過程;若 本身也是隨機過程,則形成 Cox 過程 (又稱 doubly stochastic Poisson process)。
泊松過程的應用之一是建構隨機跳變的模型。不同於 Brown 過程 (連續變化),泊松過程適用於處理突發事件,例如資產價格突升、信用違約事件等。
在金融建模中,實際資產價格常會表現出「非連續、突變」的特徵,違反 Black-Scholes 模型中連續路徑的假設。此時,可將價格過程設為:
其中 為泊松過程, 為跳變幅度的隨機變數。下圖中黑底圓圈 1
展現資產收益率不連續的變化:
1 minute USDJPY April 14, 2015。取自: Donnelly, B. (2019). The art of currency trading: a professional's guide to the foreign exchange market. John Wiley & Sons.
這種模型被稱為跳躍擴散模型 (Jump-Diffusion Model),由 Merton 最早提出。這裡的連續成分來自指數函數 ,而跳躍次數則由泊松過程驅動,反映 如何貫穿於連續與離散變化的混合結構中。
在結構化信用風險模型中,違約事件常用 泊松 過程建模。若以 表示違約發生率 (hazard ratio),則某公司在 內發生違約的機率為:
這裡的 結構亦再次彰顯 在描述「累積風險」這類連續變化機制上的自然角色。此模型由 Jarrow-Turnbull (1995) 建立,是現今信用風險評價的其中一種主流架構。
信用違約交換 (CDS, Credit Default Swap) 報價可反推市場對違約率的預期。在最簡模型中:
其中 是 CDS 溢價, 為回收率。這可視為將市場報價轉化為違約機率估計的橋樑。
以下圖表顯示 2010 年歐洲主權債務危機時,各國 CDS 溢價快速上升,市場即透過泊松跳變預期模型來估算違約風險:
Sovereign Credit Default Swaps (2010 年歐債危機)
泊松過程因其簡潔的機率結構與高度可解性,成為排隊理論、風險管理與金融數學中不可或缺的工具,而與歐拉數 的深刻連結,屢屢展現本文強調的觀念:離散事件的累積機率,往往可由連續變化的函數來精確描述。
我們身處的世界,本質是連續的。時間猶如河流般流淌不息,汽車的速度、放射性元素的衰變速率、電容器兩端的電壓等現象,都在時時刻刻發生著平滑而連續的變化。在數學上,我們習慣使用連續變數的函數及微積分來描述這一切,其中,微分運算子 (即 或 ) 用以描述連續的世界。
然而,數位電腦的世界運作方式截然不同。它們的內部時鐘以離散的節拍跳動,透過類比數位轉換器 (ADC) 在特定的時間點進行「採樣」(sampling),並藉由數位類比轉換器 (DAC) 在特定時刻施加控制。電腦僅能在離散的時刻 (其間隔通常固定,記為 或 ) 進行觀測與互動,對於二次採樣之間所發生的連續變化全然不知。
工程師人員面臨的關鍵挑戰,便是如何運用這些離散的觀測結果,來理解、預測,甚至控制本質上連續運行的實體系統。Jack Crenshaw 博士在其於 embedded.com 發表的經典系列文章中,提出極具洞察力的數學工具,他巧妙地將其比作「羅塞達石碑」(Rosetta Stone):
此處 代表連續領域中的微分運算子 (), 代表離散時間域中的前移運算子 (shift Operator,即 ), 是固定的採樣時間間隔。
「羅塞達石碑」源於其在破解古埃及象形文字上的關鍵作用。石碑上刻有同一段內容的三種不同文字 (古埃及象形文、埃及草書、古希臘文) ,使得學者能夠相互對照,最終解開失傳語言之謎,開啟了現代埃及學的大門。Crenshaw 博士借此比喻,強調此方程如同石碑一般,扮演翻譯者的角色:它將描述連續系統動態的語言 (涉及微分運算子 的微分方程) 與描述離散系統行為的語言 (涉及移位運算子 的差分方程或數位濾波器) 聯繫起來,提供一座橫跨二個看似不同世界的數學橋樑,讓我們得以運用數位電腦的離散計算能力,來分析、模擬和駕馭真實世界中的連續動態系統。
「羅塞達石碑」的根基是泰勒級數,它根據函數 在某點 的值及其所有導數,預測 :
其中 表示先取導數,再在 求值。當 很小時,高階項因階乘迅速衰減,級數變得實用。對於多項式,級數甚至精確終止。
源於微分方程 (初值 ) ,其解為:
將 代入,泰勒級數可寫為:
將導數運算子編織成預測工具,奠定「羅塞達石碑」的連續基礎。
在離散世界,電腦處理序列 ,其中 。關鍵運算子包括:
這些運算子相互關聯:
這些關係為離散與連續的橋接提供操作基礎。
在連續世界, 描述函數隨時間推進。在離散世界,。若 ,則 。
英國物理學家和電子工程師 Oliver Heaviside 透過運算子微積分洞察,發現:
和 需透過冪級數展開為實用形式:
雙線性變換進一步實用化。設 (拉普拉斯域) ,則:
這將連續傳遞函數轉換至離散域,廣泛應用於數位濾波器設計。
數值微分從離散資料估計導數。假設汽車巡航系統每 秒採樣速度:
使用 進行近似:
為提升精度,使用後向差分:
其中
微控制器透過環形緩衝區儲存歷史資料,即時計算加速度,調整油門以保持平順駕駛。
數值積分求解常微分方程 (ODE) 。
假設音頻採樣率 44100 Hz (),聲壓 需計算 :
亞當斯預測法提供高精度:
假設 ,迭代計算提升精度,適用於 DSP 即時濾波。結合雙線性變換,可設計數位濾波器消除噪聲。
羅塞達石碑 是連續與離散世界的紐帶。從泰勒級數起步,透過運算子微積分, 孕育出數值微分、外插與積分的實用演算法,作為數位訊號處理與控制系統的基石。該「石碑」讓數位世界與現實和諧共舞。
延伸閱讀:
整整二十年前,筆者因拜讀 Jack Crenshaw 博士於 embedded.com 發表的一系列文章而深受啟發,複習歐拉數 的極限定義 、其獨特的導數性質 、優雅的級數表達 乃至於連結數學基石的歐拉公式 等抽象概念,如何在工程領域 (特別是數值計算、控制與訊號處理) 中展現出如此具體的威力與結構上的必然性。這促使筆者在後續的開發與研究中,持續關注 作為描述連續增長、衰減等基礎現象的核心數學語言。本文彙整對 的多方面探索,涵蓋從 Napier 與 Bürgi 的早期對數工作、歐拉的系統性確立,到其在微積分中的基礎地位、在機率統計 (常態與泊松分佈) 中的關鍵作用,以及在現代計算機上高效近似的方法。期望本文能與讀者一同領略 這個常數的深刻內涵,並理解它如何作為自然規律、數學理論與工程應用之間一座重要的橋樑。