算法1:快速排序算法
快速排序是由東尼·霍爾所發展的1種排序算法。在平均狀態下,排序 n 個項目要Ο(n log n)次比較。在最壞狀態下則需要Ο(n2)次比較,但這類狀態其實不常見。事實上,快速排序通常明顯比其他Ο(n log n) 算法更快,由于它的內部循環(inner loop)可以在大部份的架構上很有效力地被實現出來。
快速排序使用分治法(Divide and conquer)策略來把1個串行(list)分為兩個子串行(sub-lists)。
算法步驟:
1 從數列中挑出1個元素,稱為 “基準”(pivot),
2 重新排序數列,所有元素比基準值小的擺放在基準前面,所有元素比基準值大的擺在基準的后面(相同的數可以到任1邊)。在這個分區退出以后,該基準就處于數列的中間位置。這個稱為分區(partition)操作。
3 遞歸地(recursive)把小于基準值元素的子數列和大于基準值元素的子數列排序。
遞歸的最底部情形,是數列的大小是零或1,也就是永久都已被排序好了。雖然1直遞歸下去,但是這個算法總會退出,由于在每次的迭代(iteration)中,它最少會把1個元素擺到它最后的位置去。
算法2:堆排序算法
堆排序(Heapsort)是指利用堆這類數據結構所設計的1種排序算法。堆積是1個近似完全2叉樹的結構,并同時滿足堆積的性質:即子結點的鍵值或索引總是小于(或大于)它的父節點。
堆排序的平均時間復雜度為Ο(nlogn) 。
算法步驟:
創建1個堆H[0..n⑴]
把堆首(最大值)和堆尾互換
3. 把堆的尺寸縮小1,并調用shift_down(0),目的是把新的數組頂端數據調劑到相應位置
4. 重復步驟2,直到堆的尺寸為1
算法3:歸并排序
歸并排序(Merge sort,臺灣譯作:合并排序)是建立在歸并操作上的1種有效的排序算法。該算法是采取分治法(Divide and Conquer)的1個非常典型的利用。
算法步驟:
1. 申請空間,使其大小為兩個已排序序列之和,該空間用來寄存合并后的序列
2. 設定兩個指針,最初位置分別為兩個已排序序列的起始位置
3. 比較兩個指針所指向的元素,選擇相對小的元素放入到合并空間,并移動指針到下1位置
4. 重復步驟3直到某1指針到達序列尾
5. 將另外一序列剩下的所有元素直接復制到合并序列尾
算法4:2分查找算法
2分查找算法是1種在有序數組中查找某1特定元素的搜索算法。搜素進程從數組的中間元素開始,如果中間元素正好是要查找的元素,則搜 素進程結束;如果某1特定元素大于或小于中間元素,則在數組大于或小于中間元素的那1半中查找,而且跟開始1樣從中間元素開始比較。如果在某1步驟數組 為空,則代表找不到。這類搜索算法每次比較都使搜索范圍縮小1半。折半搜索每次把搜索區域減少1半,時間復雜度為Ο(logn) 。
算法5:BFPRT(線性查找算法)
BFPRT算法解決的問題10分經典,即從某n個元素的序列當選出第k大(第k小)的元素,通過奇妙的分 析,BFPRT可以保證在最壞情況下仍為線性時間復雜度。該算法的思想與快速排序思想相似,固然,為使得算法在最壞情況下,仍然能到達o(n)的時間復雜 度,5位算法作者做了精巧的處理。
算法步驟:
1. 將n個元素每5個1組,分成n/5(上界)組。
2. 取出每組的中位數,任意排序方法,比如插入排序。
3. 遞歸的調用selection算法查找上1步中所有中位數的中位數,設為x,偶數個中位數的情況下設定為選取中間小的1個。
4. 用x來分割數組,設小于等于x的個數為k,大于x的個數即為n-k。
5. 若i==k,返回x;若i<k,在小于x的元素中遞歸查找第i小的元素;若i>k,在大于x的元素中遞歸查找第i-k小的元素。
終止條件:n=1時,返回的即是i小元素。
算法6:DFS(深度優先搜索)
深度優先搜索算法(Depth-First-Search),是搜索算法的1種。它沿著樹的深度遍歷樹的節點,盡量深的搜索樹的分 支。當節點v的所有邊都己被探訪過,搜索將回溯到發現節點v的那條邊的起始節點。這1進程1直進行到已發現從源節點可達的所有節點為止。如果還存在未被發 現的節點,則選擇其中1個作為源節點并重復以上進程,全部進程反復進行直到所有節點都被訪問為止。DFS屬于盲目搜索。
深度優先搜索是圖論中的經典算法,利用深度優先搜索算法可以產生目標圖的相應拓撲排序表,利用拓撲排序表可以方便的解決很多相干的圖論問題,如最大路徑問題等等。1般用堆數據結構來輔助實現DFS算法。
深度優先遍歷圖算法步驟:
1. 訪問頂點v;
2. 順次從v的未被訪問的鄰接點動身,對圖進行深度優先遍歷;直至圖中和v有路徑相通的頂點都被訪問;
3. 若此時圖中尚有頂點未被訪問,則從1個未被訪問的頂點動身,重新進行深度優先遍歷,直到圖中所有頂點均被訪問過為止。
上述描寫可能比較抽象,舉個實例:
DFS 在訪問圖中某1起始頂點 v 后,由 v 動身,訪問它的任1鄰接頂點 w1;再從 w1 動身,訪問與 w1鄰 接但還沒有訪問過的頂點 w2;然后再從 w2 動身,進行類似的訪問,… 如此進行下去,直至到達所有的鄰接頂點都被訪問過的頂點 u 為止。
接著,退回1步,退到前1次剛訪問過的頂點,看是不是還有其它沒有被訪問的鄰接頂點。如果有,則訪問此頂點,以后再從此頂點動身,進行與前述類似的訪問;如果沒有,就再退回1步進行搜索。重復上述進程,直到連通圖中所有頂點都被訪問過為止。
算法7:BFS(廣度優先搜索)
廣度優先搜索算法(Breadth-First-Search),是1種圖形搜索算法。簡單的說,BFS是從根節點開始,沿著樹(圖)的寬度遍歷樹(圖)的節點。如果所有節點均被訪問,則算法中斷。BFS一樣屬于盲目搜索。1般用隊列數據結構來輔助實現BFS算法。
算法步驟:
1. 首先將根節點放入隊列中。
2. 從隊列中取出第1個節點,并檢驗它是不是為目標。
如果找到目標,則結束搜索并回傳結果。
否則將它所有還沒有檢驗過的直接子節點加入隊列中。
3. 若隊列為空,表示整張圖都檢查過了——亦即圖中沒有欲搜索的目標。結束搜索并回傳“找不到目標”。
4. 重復步驟2。
算法8:Dijkstra算法
戴克斯特拉算法(Dijkstra’s algorithm)是由荷蘭計算機科學家艾茲赫爾·戴克斯特拉提出。迪科斯徹算法使用了廣度優先搜索解決非負權有向圖的單源最短路徑問題,算法終究得到1個最短路徑樹。該算法經常使用于路由算法或作為其他圖算法的1個子模塊。
該算法的輸入包括了1個有權重的有向圖 G,和G中的1個來源頂點 S。我們以 V 表示 G 中所有頂點的集合。每個圖中的邊,都是兩個頂點所構成的有序元素對。(u, v) 表示從頂點 u 到 v 有路徑相連。我們以 E 表示G中所有邊的集合,而邊的權重則由權重函數 w: E → [0, ∞] 定義。因此,w(u, v) 就是從頂點 u 到頂點 v 的非負權重(weight)。邊的權重可以想像成兩個頂點之間的距離。任兩點間路徑的權重,就是該路徑上所有邊的權重總和。已知有 V 中有頂點 s 及 t,Dijkstra 算法可以找到 s 到 t的最低權重路徑(例如,最短路徑)。這個算法也能夠在1個圖中,找到從1個頂點 s 到任何其他頂點的最短路徑。對不含負權的有向圖,Dijkstra算法是目前已知的最快的單源最短路徑算法。
算法步驟:
1. 初始時令 S={V0},T={其余頂點},T中頂點對應的距離值
若存在<V0,Vi>,d(V0,Vi)為<V0,Vi>弧上的權值
若不存在<V0,Vi>,d(V0,Vi)為∞
2. 從T當選取1個其距離值為最小的頂點W且不在S中,加入S
3. 對其余T中頂點的距離值進行修改:若加進W作中間頂點,從V0到Vi的距離值縮短,則修改此距離值
重復上述步驟2、3,直到S中包括所有頂點,即W=Vi為止
算法9:動態計劃算法
動態計劃(Dynamic programming)是1種在數學、計算機科學和經濟學中使用的,通過把原問題分解為相對簡單的子問題的方式求解復雜問題的方法。 動態計劃常常適用于有堆疊子問題和最優子結構性質的問題,動態計劃方法所耗時間常常遠少于樸素解法。
動態計劃背后的基本思想非常簡單。大致上,若要解1個給定問題,我們需要解其不同部份(即子問題),再合并子問題的解以得出原問題的解。 通常許多 子問題非常相似,為此動態計劃法試圖僅僅解決每一個子問題1次,從而減少計算量: 1旦某個給定子問題的解已算出,則將其記憶化存儲,以便下次需要同1個 子問題解之時直接查表。 這類做法在重復子問題的數目關于輸入的范圍呈指數增長時特別有用。
關于動態計劃最經典的問題當屬背包問題。
算法步驟:
1. 最優子結構性質。如果問題的最優解所包括的子問題的解也是最優的,我們就稱該問題具有最優子結構性質(即滿足最優化原理)。最優子結構性質為動態計劃算法解決問題提供了重要線索。
2. 子問題堆疊性質。子問題堆疊性質是指在用遞歸算法自頂向下對問題進行求解時,每次產生的子問題其實不總是新問題,有些子問題會被重復計算屢次。 動態計劃算法正是利用了這類子問題的堆疊性質,對每個子問題只計算1次,然后將其計算結果保存在1個表格中,當再次需要計算已計算過的子問題時,只是 在表格中簡單地查看1下結果,從而取得較高的效力。
算法10:樸素貝葉斯分類算法
樸素貝葉斯分類算法是1種基于貝葉斯定理的簡單幾率分類算法。貝葉斯分類的基礎是幾率推理,就是在各種條件的存在不肯定,僅知其出現幾率的情況下, 如何完成推理和決策任務。幾率推理是與肯定性推理相對應的。而樸素貝葉斯分類器是基于獨立假定的,即假定樣本每一個特點與其他特點都不相干。
樸素貝葉斯分類器依托精確的自然幾率模型,在有監督學習的樣本集中能獲得得非常好的分類效果。在許多實際利用中,樸素貝葉斯模型參數估計使用最大似然估計方法,換言之樸素貝葉斯模型能工作并沒有用到貝葉斯幾率或任何貝葉斯模型。
算法1:快速排序算法
快速排序是由東尼·霍爾所發展的1種排序算法。在平均狀態下,排序 n 個項目要Ο(n log n)次比較。在最壞狀態下則需要Ο(n2)次比較,但這類狀態其實不常見。事實上,快速排序通常明顯比其他Ο(n log n) 算法更快,由于它的內部循環(inner loop)可以在大部份的架構上很有效力地被實現出來。
快速排序使用分治法(Divide and conquer)策略來把1個串行(list)分為兩個子串行(sub-lists)。
算法步驟:
1 從數列中挑出1個元素,稱為 “基準”(pivot),
2 重新排序數列,所有元素比基準值小的擺放在基準前面,所有元素比基準值大的擺在基準的后面(相同的數可以到任1邊)。在這個分區退出以后,該基準就處于數列的中間位置。這個稱為分區(partition)操作。
3 遞歸地(recursive)把小于基準值元素的子數列和大于基準值元素的子數列排序。