<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[學習漂流瓶 Drift Bottle - Medium]]></title>
        <description><![CDATA[本刊的文章大都以資料科學為主，希望能為點進來的你留下些東西。 - Medium]]></description>
        <link>https://medium.com/hunter-cheng?source=rss----ee9a585bc327---4</link>
        <image>
            <url>https://cdn-images-1.medium.com/proxy/1*TGH72Nnw24QL3iV9IOm4VA.png</url>
            <title>學習漂流瓶 Drift Bottle - Medium</title>
            <link>https://medium.com/hunter-cheng?source=rss----ee9a585bc327---4</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Tue, 17 Nov 2026 03:59:21 GMT</lastBuildDate>
        <atom:link href="https://medium.com/feed/hunter-cheng" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[特徵篩選（上） — 混合式特徵篩選（Hybrid Feature Selection, HFS）]]></title>
            <link>https://medium.com/hunter-cheng/%E7%89%B9%E5%BE%B5%E7%AF%A9%E9%81%B8-%E4%B8%8A-%E6%B7%B7%E5%90%88%E5%BC%8F%E7%89%B9%E5%BE%B5%E7%AF%A9%E9%81%B8-hybrid-feature-selection-hfs-89a31ab9ab38?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/89a31ab9ab38</guid>
            <category><![CDATA[deep-learning]]></category>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[feature-selection]]></category>
            <category><![CDATA[feature-engineering]]></category>
            <category><![CDATA[hunter資料科學]]></category>
            <dc:creator><![CDATA[Hunter Cheng]]></dc:creator>
            <pubDate>Fri, 30 Sep 2022 08:43:09 GMT</pubDate>
            <atom:updated>2022-09-30T08:58:56.708Z</atom:updated>
            <content:encoded><![CDATA[<h3>特徵篩選（上） — 混合式特徵篩選（Hybrid Feature Selection, HFS）</h3><blockquote>特徵篩選是機器學習中一強大的數據縮減技術，而混合式特徵篩選則是特徵篩選的進階版方法，研究顯示其不只可以降低模型的運算時間，還可以提高準確度，並協助使用者對模型結果的理解。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*dlIaSMpeV_ktpqbb" /><figcaption>Photo by <a href="https://unsplash.com/@z734923105?utm_source=medium&amp;utm_medium=referral">Jerry Zhang</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>本篇的重點為<strong>混合式特徵篩選（Hybrid Feature Selection, HFS）</strong>，是筆者碩士論文中所探討的重點，其概念是基本<strong>特徵篩選（Feature Selection）</strong>的進階版方法。特徵篩選的方法有非常多種，但在本文中只會針對筆者用過的方法進行介紹，並說明概念，不會有程式實戰的部分。</p><blockquote>關於特徵篩選的基本介紹，可參考以下筆者曾寫過的一篇文章，該文章有針對基本特徵篩選的概念進行說明，並且實戰某篇paper所提及的方法。</blockquote><p><a href="https://medium.com/hunter-cheng/python-%E7%89%B9%E5%BE%B5%E9%81%B8%E6%93%87%E4%B9%8Bcfs-correlation-based-feature-selection-aa8ca77b6037">Python — 特徵選擇之CFS (Correlation-based Feature Selection)</a></p><blockquote>本文中會引用基因演算法，但不會詳細說明步驟，因此有興趣的讀者可以自行查閱，以下是筆者之前寫過GA的文章。</blockquote><p><a href="https://medium.com/hunter-cheng/python-%E5%9F%BA%E5%9B%A0%E6%BC%94%E7%AE%97%E6%B3%95-genetic-algorithm-ga-%E6%B1%82%E8%A7%A3%E6%9C%80%E4%BD%B3%E5%8C%96%E5%95%8F%E9%A1%8C-b7e6d635922">Python — 基因演算法(Genetic Algorithm, GA)求解最佳化問題</a></p><p>本文接下來提到的所有文獻以及使用的方法均是以兩篇混合式特徵篩選的paper為主，其連結放在附錄[4]、[5]，有興趣的讀者不妨可以自行查閱。</p><p>以下正文開始～</p><p>本文分成三部分介紹，依序為，<strong><em>使用特徵篩選的原因</em></strong>、<strong><em>演算法架構介紹</em></strong>以及<strong><em>步驟詳解。</em></strong></p><h3>一、使用特徵篩選的原因</h3><blockquote>筆者的研究背景是在不改變既有模型架構（使用深度學習網路）以及參數設定的前提下，使用<strong>特徵工程（Feature Engineering）</strong>的方法來提升模型判斷的準確度，而我最後則是鎖定了feature selection作為我研究的重點。</blockquote><p>我在文獻研究中參考了[5]作者的做法，提出一<strong>使用雙向長短期記憶神經網路的混合式基因演算法（Hybrid Genetic Algorithm-Bidirectional Long Short-Term Memory, HGA-Bi-LSTM）</strong>，結合了feature selection中過濾法（Filter method）和包裝法（Wrapper method）的特點來保留重要特徵。</p><p>重點來了，透過上述可知道我在研究中使用的模型是深度學習中的LSTM，然而<strong>深度學習網路是不需要進行feature engineering的</strong>，那我為何還要使用feature selection呢？因此在闡述研究重點之於，本研究還是需要專家論述、文獻探討部分的支持來進行研究，以下將簡略的將相關概念、專家看法、書籍等進行導入。</p><h4>數據本質的重要性</h4><p>現為Landing.AI主理人的<strong>吳恩達</strong>提到若將重點從單純開發模型、演算法轉移到數據本身，則機器學習的開發就會更進步。他也提到傳統軟體和AI的差異，前者是由<strong>代碼組成</strong>，後者則是<strong>代碼（包括模型與演算法）和數據組成</strong>，因此當系統表現不理想時，工程師會想透過改進代碼的方式來提升系統的表現，但以實際應用來說，更有效的方式應該是專注於數據的改進。其原話為：</p><p>“When a system isn’t performing well, many teams instinctually try to improve the code. But for many practical applications, it’s more effective instead to focus on improving the data,”</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*cDD-WI1gDX36tjaLFUrmWQ.jpeg" /><figcaption>Andrew Ng | <a href="https://medium.com/syncedreview/andrew-ng-offers-ai-for-everyone-eac04877773d">來源</a></figcaption></figure><h4>可解釋人工智慧的崛起</h4><p>近年來<strong>可解釋人工智慧（Explainable AI, XAI）</strong>所受到的關注度越來越高，透過特定方法將機器學習的黑盒子打開，讓使用者能夠更理解AI執行過程的方法與技術。</p><p>以可解釋AI在維基百科[1]所提到的例子來說明，假如設計者要求模型「在資料集裡面精準分析電影如何被正面評價」，此時，AI可能會找到一些通則，像是「評價中包含『爛』這個字眼表示是負面評價」，或是可能找到一些不正確的規則，比如「評價中包含『李小龍』這個字眼表示是正面評價」；<strong>這些規則可能難以解釋，甚至很可能在其他資料集得到錯誤的判斷</strong>，例如你很可能無法在《教父》的電影評價裡看到「李小龍」的字眼，但這不表示它是部爛片。針對這類問題，人類就能透過可解釋AI的技術來監督AI系統所找到的規則，並且判斷這些規則在真實的世界裡是否適用。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*W4WsR5OfvSeo5zOqSII7Cg.jpeg" /><figcaption>XAI概念示意圖｜<a href="https://www.darpa.mil/program/explainable-artificial-intelligence">來源</a></figcaption></figure><p>文獻[3]的作者提到，可藉由提供模型特徵相關性的解釋以及其他相關技術來解決可解釋AI的問題，其中重要特徵的選取以及冗餘特徵的消除是該概念的主要基礎。</p><h4>特徵篩選的重要性</h4><p>除了剛剛提及數據本質的重要性以及可解釋AI的崛起外，最後一個重點還是要回歸到使用feature selection的意義。</p><p>Keras大神<strong>François Chollet</strong>在他出版的書[2]提到機器學習（Machine Learning）和深度學習（Deep Learning）最大的差異在於<strong>DL將機器學習中feature engineering的步驟完全自動化</strong>，因此DL能更容易地解決問題。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/850/1*21sVNZ8M0lwSJ-GY9QYtgw.png" /><figcaption>機器學習和深度學習的差異｜<a href="https://www.researchgate.net/figure/Comparison-between-ML-and-Dl-algorithm_fig5_344628869">來源</a></figcaption></figure><p>即使DL技術減少了對feature engineering的需求，但作者也提到並不是只要使用深度神經網路，就可以完全不用feature engineering，這<strong>答案是否定的</strong>，主要原因有二：</p><ul><li>良好的特徵允許在使<strong>用更少資源的同時更有效地解決問題</strong>。</li><li>良好的特徵可以用<strong>更少的資料解決問</strong>題。DL模型自己學習特徵的能力是依賴於大量的訓練資料，如果只有少量樣本，則其特徵中的資訊變得至關重要。</li></ul><p>本篇文章所要探討的主題是離不開上述提及的全部重點，包括探討數據的本質，給予人工智慧可解釋性，以及應證深度學習對於特徵工程仍無法全面的進行自動化。而下一節將針對HFS的架構與方法進行介紹。</p><h3>二、演算法架構介紹</h3><p>在眾多混合式特徵篩選方法中，最常見的就是<strong>過濾法（Filter method）</strong>和<strong>包裝法（Wrapper method）</strong>的混合版本，首先簡單複習一下過濾法和包裝法各自的方法及特點：</p><ul><li>過濾法：主要是依據<strong>特徵與目標變量的相關性</strong>對各個特徵進行統計指標的<strong>評分</strong>，並設定門檻值或是預選取特徵之個數來決定最佳特徵集合。優點為速度快、能一次處理全部特徵，然而其篩選過程和演算法模型評估是分開進行的關係，因此選出的特徵集合也有可能不是最合適的。</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*kucwLo1YRhGxa4PWVu7D0g.png" /></figure><ul><li>包裝法：為<strong>特徵選擇和模型評估同時進行的方法</strong>，通常以一目標函式作為標準來選取特徵，而不是直接設定一評估指標。藉由輸入各種組合的特徵子集合至演算法訓練、並找出最合適的結果。但由於嘗試組合過多，故缺點為運行時間過長、計算成本過高，且容易使模型過度擬合（Overfitting）。</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*lKk_aNXXqJ4oj5nPDpDehg.png" /></figure><p>簡單整理可知，過濾法的優點為速度快，但缺點是容易忽略重要特徵，包裝法優點則是能到合適的特徵，但缺點為運行時間過長，且具有潛在過擬合的可能性。</p><p>而本節開頭所提到常見混合式方法就是利用這兩種方法各別的優勢進行互補，經驗證可大幅提高整體特徵篩選的效率以及模型準確率。</p><h4>HFS流程架構</h4><p>將預篩選的<strong>原始特徵集合（Original Feature Subset）</strong>輸入至第一階段的過濾法中，並產出一<strong>縮減的特徵集合（Reduced Feature Subset）</strong>後，再將其輸入至第二階段的包裝法中，最後得到<strong>保留優秀特徵的特徵集合（Final Feature Subset）</strong>。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*tAk4cr5xOXrtBjO1pLn-JQ.png" /></figure><p>可大致理解為使用過濾法預先選擇出關聯性排名較高的特徵，藉以提高包裝法中模型準確度的計算以及縮短整體演算法的計算速度。</p><p>以下則是第一部分提到HGA-Bi-LSTM的完整架構，在過濾法中使用了<strong>早期經驗（Earlier experience）</strong>和<strong>相關性衡量（Correlation-based）</strong>的方法，包裝法則是使用<strong>基因演算法（Genetic Algorithm）</strong>。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*MLgzHblYvK2eIu10oUTp_Q.png" /><figcaption>HGA-Bi-LSTM演算法流程圖</figcaption></figure><p>Wrapper method中的GA則是透過將feature subset輸入至Bi-LSTM模型來計算fitness，在下一節終會特別說明。</p><h3>三、步驟詳解</h3><p>本節將會針對演算法流程的各個步驟進行詳解、說明，包括<strong>資料型態的分類</strong>、<strong>第一階段 — 過濾法</strong>以及<strong>第二階段 — 包裝法</strong>。</p><h4>資料型態的分類</h4><blockquote>之所以將這部分特別挑出來講，是因為這部分將決定第一階段過濾法將使用的方法，其對後續步驟來說可謂是非常地重要。</blockquote><p>特徵形態的不同，將決定使用何種方法去評量其與目標特徵間的相關性。如我上一篇提到，特徵均為離散變量(Discrete Variables)時，使用<strong>對稱不確定性(Symmetrical Uncertainty)</strong> 作為相關性的衡量標準，特徵均為連續變量(Continuous Variables)時，則使用 <strong>Pearson’s correlation coefficient </strong>作為相關性的衡量標準。</p><p>當然本篇也不會特別探討如何辨別資料型態，重點只在於將資料正確的歸類，將有助於之後方法判斷的準確性。對這部分有興趣的讀者可以參照下面這張圖，或是參照這張圖的來源，會非常有幫助的：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*vbgIIU79SBufjUXruAIJgg.png" /><figcaption>Input資料與Output資料對應方法參照｜<a href="https://machinelearningmastery.com/one-hot-encoding-for-categorical-data/">來源</a></figcaption></figure><h4>第一階段 — 過濾法</h4><blockquote>本階段任務是從原始特徵中透過使用各種統計指標給予相關性、評分的方式找出價值較高的特徵。</blockquote><p>在上一節已經知道並沒有任何方法是適應各種資料型態的。那究竟該使用何種方法？哪種方法效率最高呢？過去有人提到一個策略為，拿到資料後先測試幾種固有的演算法，並查看結果，並把表現理想的結果進行保留。然而這個方法對混合式的特徵篩選版本來說也只是做到一半而已。</p><ul><li>常見的評量指標有：Pearson correlation coefficient、Spearman correlation coefficient、Kendall correlation coefficient、Information Gain、Gain Ratio、F-score、Fisher Score等等…。</li></ul><p>筆者的研究除了針對不同資料型態的特徵套入指定的評量指標外，還使用了第二部分提到的方法 — <strong>早期經驗（Earlier experience）</strong>，該方法透過文獻的引用或是專家建議來保留重要特徵，除了可以節省搜索時間外，對於後續包裝法也有非常大的幫助。</p><p>當然不論是透過何種方式選擇的特徵，均都有其獨到的考量因素，因此為了更全面地保留各個評估指標的結果，研究文獻提到使用<strong>聯集（Union）</strong>將結果一齊放入<strong>特徵池（Feature Pool）</strong>中。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*a7Je-au4NHx7sqWbpxEhQA.png" /></figure><p>而該feature pool中所有的特徵就是下一階段包裝法要進行篩選的特徵集合。</p><h4>第二階段 — 包裝法</h4><blockquote>相較前一階段會稍顯複雜些，主要是<strong>從</strong>feature pool中所有有價值的特徵中挑選出表現最好的特徵組合（Optimal feature subset），feature pool 的出現縮小了可行解的搜索空間。</blockquote><p>使用經過濾法預先挑選的特徵，能大幅度地減低演算法運行時間，例如真實資料所提供的原始資料特徵可能達高達上千、上萬種，將其套入至包裝法可說是徒勞的，在各種子集合都要嘗試的情況下，所花費的時間無法估量，而在配合過濾法設定閥值、門檻的情況下挑選出優秀特徵集合，可大幅減少包裝法所需的運行時間。</p><p>包裝法中做法有分以下幾種，分別為<strong>窮舉搜索（Exhaustive search）</strong>、<strong>順序搜索（Sequential Search）</strong>和<strong>啟發式搜索（Heuristic Search）。</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*EyM2KlOeG_ND8e5__Atl3g.png" /></figure><ul><li>若原始特徵較少可使用Exhaustive search和Sequential Search，其中常見的方法包括Forward Selection、Backward Selection、Best First Search、Recursive feature elimination等；如果特徵太多則可使用Heuristic Search，方法包括Genetic Algorithm、Tabu Search等等的應用。</li></ul><p>接下來會針對<strong>基因演算法（Genetic Algorithm, GA）</strong>作為包裝法的一種進行介紹。GA作為啟發式搜索演算法已經是各領域的常客了，除了參數設計的彈性之外，也會對有希望的區域進行搜索，並保存多個最佳解。特徵篩選領域已有非常多研究將GA成功應用並取得不錯的成果，除了附錄[4,5]的論文外，還有非常多應用的案例。</p><p>文獻[5]中提到一HFS方法 — <strong>混合基因演算法與神經網路（Hybrid genetic algorithm with neural networks, HGA-NN）</strong>，即在GA演算的流程中使用一般神經網路進行fitness的計算。我的論文中則是選取<strong>雙向長短期記憶神經網路（Bidirectional Long Short-Term Memory, Bi-LSTM）</strong>來作為求取fitness必要參數的Learning Algorithm。</p><p>和文獻[5]不同，該作者使用增強型GA於包裝法中，但由於原始特徵數不多的緣故，因此使用的是基本的GA來進行optimal feature subset的搜索，架構如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*QdHqIrsfhVqiFm-_ek2KDg.png" /><figcaption>筆者於論文中所使用的GA</figcaption></figure><p>首先是從feature set（也就是feature pool）中隨機挑選特徵來生成指定數量的子集合以形成population，並輸入至Bi-LSTM中訓練求取指定的檢驗指標來計算fitness，再按照GA的基本流程也就是selection、crossover &amp; mutation來生成子代，重複這些步驟直到達到終止條件為止，即可輸出optimal feature subset。</p><p>當然除了上述介紹的架構，還有<strong>Initial population的限制</strong>、<strong>Learning Algorithm選擇</strong>、<strong>fitness函數設定</strong>、<strong>終止條件</strong>等等都是研究、實驗的重點，由於本文只以說明概念為主，因此這部分的介紹就會留到下篇進行分享，寫完後筆者也會將連結放上來～</p><h3>結語</h3><p>碩士畢業後耍廢了好久才又開始寫文章哈哈，想說趁還沒入伍的時候，趕快把論文研究的東西寫上來分享，也希望看到這裡對你有很大的幫助。</p><p>最後，feature selection在機器學習中其實是一門很有趣的學問，看似簡單、容易實現，實則還是有許多不合理之處，還等著我們去探討，雖然這概念在上世紀90年代就有人提出，但至今都仍還是在研究階段，也希望有興趣的讀者可以接棒下去研究囉～</p><h3>References</h3><ol><li><a href="https://zh.m.wikipedia.org/zh-tw/%E5%8F%AF%E8%A7%A3%E9%87%8B%E4%BA%BA%E5%B7%A5%E6%99%BA%E6%85%A7">維基百科 — 可解釋人工智慧</a></li><li><a href="https://www.books.com.tw/products/0010822932">Deep learning 深度學習必讀：Keras 大神帶你用 Python 實作</a></li><li><a href="https://ieeexplore.ieee.org/abstract/document/9565722?casa_token=p5Zfk8bi2tAAAAAA:y13D_wiFYfJInJ3_mF9bI2_WukQgX7QG7OwHTvo3D6ROO0X0q4T4sDadWhfJflxm8N-BKP-XwAc">An automated feature selection and classification pipeline to improve explainability of clinical prediction models</a> (Moreno-Sanchez, P. A., 2021)</li><li><a href="https://link.springer.com/article/10.1007/s00500-007-0193-8">A genetic algorithm-based method for feature subset selection</a></li><li><a href="https://www.sciencedirect.com/science/article/pii/S0957417413007239?casa_token=s5t-KCHdEr0AAAAA:eFAFNrWWdKfdo5deQHrNd43yq2l7U9xPv5w3PIRFOq3dRV9UwKec4h7ASAhtkO4x2TmUKbw">Genetic algorithm-based heuristic for feature selection in credit risk assessment</a></li><li><a href="https://analyticsindiamag.com/big-data-to-good-data-andrew-ng-urges-ml-community-to-be-more-data-centric-and-less-model-centric/">Big Data To Good Data: Andrew Ng Urges ML Community To Be More Data-Centric And Less Model-Centric</a></li></ol><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=89a31ab9ab38" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/%E7%89%B9%E5%BE%B5%E7%AF%A9%E9%81%B8-%E4%B8%8A-%E6%B7%B7%E5%90%88%E5%BC%8F%E7%89%B9%E5%BE%B5%E7%AF%A9%E9%81%B8-hybrid-feature-selection-hfs-89a31ab9ab38">特徵篩選（上） — 混合式特徵篩選（Hybrid Feature Selection, HFS）</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[【Python】實現粒子群演算法(Particle Swarm Optimization, PSO) 解Rastrigin Function最小化問題]]></title>
            <link>https://medium.com/hunter-cheng/python-%E5%AF%A6%E7%8F%BE%E7%B2%92%E5%AD%90%E7%BE%A4%E6%BC%94%E7%AE%97%E6%B3%95-particle-swarm-optimization-pso-%E8%A7%A3rastrigin-function%E6%9C%80%E5%B0%8F%E5%8C%96%E5%95%8F%E9%A1%8C-afe3e01de221?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/afe3e01de221</guid>
            <category><![CDATA[hunter-資料科學]]></category>
            <category><![CDATA[python]]></category>
            <category><![CDATA[heuristic-algorithm]]></category>
            <category><![CDATA[optimization]]></category>
            <dc:creator><![CDATA[Ian Lai]]></dc:creator>
            <pubDate>Tue, 12 Apr 2022 08:43:53 GMT</pubDate>
            <atom:updated>2022-03-22T15:15:32.061Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>粒子群演算法(Particle Swarm Optimization)由J. Kennedy 和 R. C. Eberhart等人提出，屬於啟發式演算法目標在於搜尋近似最佳解，基於對於鳥群群體移動的觀察，模擬鳥群覓食行為。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*vDVVVvjWNZkJC_9w" /><figcaption>Photo by <a href="https://unsplash.com/@shwetha?utm_source=medium&amp;utm_medium=referral">Shwetha Shankar</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p><strong>粒子群演算法</strong>(Particle Swarm Optimization, PSO)，其模擬鳥群的行為建立在每隻鳥的局部感知上，鳥類會隨著自身的經驗，以及參考群體的最佳的經驗，去尋找出食物的確切位置，其優點為<strong>概念簡單</strong>，<strong>參數設置較少</strong>，<strong>方便實現，且可解大部分最佳化問題</strong>，缺點為<strong>容易陷入局部最佳解</strong>，由於可全域搜索，其<strong>收斂性較差</strong>，其<strong>解的精度不高</strong>。</p><p>本文會介紹PSO的概念以及原理，針對PSO本身參數以及PSO的流程加以解說，並用Python實現解Rastrigin Function最小化問題。</p><blockquote>Rastrigin function:是一個非凸函數的測試函數(Test functions)，此函數尋找最小值是十分困難的，有許多的局部最佳解，且搜索空間很大。</blockquote><p>本文選用二維的Rastrigin function來測試我們的PSO演算法，在此這裡A=10 n=2 且<em>Xi </em>∈[-5.12,5.12]，x=0 時有全域最小解f(x)=0，其公式以及圖片如下:</p><figure><img alt="Rastrigin function" src="https://cdn-images-1.medium.com/max/1024/1*-SB2Lda4LyhEh-0tl8np7g.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/486/1*eGxn5eRrBaKTFNg1P2Y1pg.png" /></figure><p><strong>粒子群演算法(Particle Swarm Optimization, PSO)</strong></p><p><strong>概念:</strong>利用鳥類群體覓食的原理，鳥類個體可以通過一些自我評估的規則判斷位置的好壞，並且找到自己最好的位置，然而每一隻鳥類都會透過這種方式，找尋到自己最好的位置，然而群體中找到最好的位置就是我們所找尋的食物的所在地。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Vb2x-xqXd3vB7Z26G60Znw.jpeg" /></figure><p><strong>步驟:</strong></p><p>1. 初始起始位置(pos)、速度(v)以及粒子</p><p>2. 計算目標函數，求出目標值(obj_val)</p><p>3. 紀錄局部最佳解(pbest)以及全域最佳解(gbest)</p><p>4. 計算速度(vel)將其粒子更新位置</p><p>5. 更新局部最佳解((pbest))以及全域最佳解(gbest)</p><p>6. 最後重複2~3步驟</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/645/1*M7TogOvYtCIvBGdFKo1FHQ.png" /><figcaption>PSO 流程圖</figcaption></figure><h4>Python程式碼實作</h4><p><strong>(一) 參數、函數設定</strong></p><p>1. <strong>Dim</strong>:解的維度，變數的數量</p><p>2. <strong>pop_size</strong> :母體大小，粒子的數量，也就是族群中鳥的數量</p><p>3. <strong>w_it_max</strong>:最大的慣性權重，其影響速度的大小。</p><p>4. <strong>w_it_min</strong>: 最小的慣性權重，其影響速度的大小。</p><p>5. <strong>c1 / c2</strong>: 學習因子，決定粒子本身經驗與群體的經驗對運動軌跡的影響，調整可以減少局部最小值以及解決收斂速度慢的困擾，一般範圍為[1,2.5]。</p><p>6. <strong>max_iter</strong>:最大迭代次數</p><p>7. <strong>Lb</strong>: 解的下界，在Rastrigin function為 <em>Xi</em>∈[-5.12,5.12]</p><p>8. <strong>Ub</strong>: 解的上界，在Rastrigin function為 <em>Xi</em>∈[-5.12,5.12]</p><p>9. <strong>fun</strong>: 目標函式為Rastrigin function(2D)其公式如下:</p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/94db8706058a48ae3952b2b044c9f015/href">https://medium.com/media/94db8706058a48ae3952b2b044c9f015/href</a></iframe><p><strong>(二) 初始起始位置(pos)、速度(vel)</strong></p><p>1. 利用上下界隨機初始化位置</p><p>2. 隨機初始化速度</p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/4d76a7a48e8b16d6f4eb8ce906a96ec3/href">https://medium.com/media/4d76a7a48e8b16d6f4eb8ce906a96ec3/href</a></iframe><p><strong>(三)計算目標函數，求出目標值(obj_val)並且記錄解</strong></p><p>1. 求出目標值(obj_val)</p><p>2. 紀錄局部最佳解(pbest)以及全域最佳解(gbest)</p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/5ffcfc77d4126a022a895b2142a8ce9a/href">https://medium.com/media/5ffcfc77d4126a022a895b2142a8ce9a/href</a></iframe><p><strong>(四) 計算速度(vel)將其粒子更新位置</strong></p><p>1. 利用線性遞減的方式計算慣性權重(w)</p><p>2. 利用慣性權重以及隨機變數來更新速度(vel)，公式如下</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*-vy4v_tEsYXlp8m7mTaKcw.jpeg" /></figure><p>3. 更新粒子位置(pos)，公式以及示意圖如下</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/208/1*qZU9XxDWy9wvgvvTU9er1g.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/763/1*F0DBmoZFk94CYqUkJ6-1bw.png" /><figcaption>位置更新示意圖</figcaption></figure><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/2b095583d7b968c194a556f87ec20f81/href">https://medium.com/media/2b095583d7b968c194a556f87ec20f81/href</a></iframe><p><strong>(五)更新局部最佳解((pbest))以及全域最佳解(gbest)</strong></p><p>1.紀錄每一個點的最佳位置，並找出局部最佳</p><p>2.從記錄中的局部最中找出全域最佳解</p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/01c5a9e326c6933160538971308c73ea/href">https://medium.com/media/01c5a9e326c6933160538971308c73ea/href</a></iframe><p><strong>程式運行結果:</strong></p><blockquote>最後運行結果為如下，[x1,x2]=[ 4.86256190e-10 -1.54326018e-09]時有<strong>最小值為0</strong>，粒子群演算法在解Rastrigin function的效果還是不錯的，可以發現很快可以找出全域最小值，下圖為運行結果以及每次迭代中最小值。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/634/1*FT7QBwdM-vNqVSRVttKQqw.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/783/1*gvFd_u2Z_PMom07y8K-KvQ.png" /></figure><p><strong>結語</strong>:這次分享的演算法是利用觀察鳥群覓食所發展出來的粒子群演算法(PSO)，其概念簡單且容易實作，實用性廣泛，可以解很多最佳化問題，以上為整理的學習筆記，有疏忽遺漏的歡迎指正。</p><p>•<strong>全部程式碼</strong></p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/1306508cdb376de61c547378edfd539f/href">https://medium.com/media/1306508cdb376de61c547378edfd539f/href</a></iframe><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=afe3e01de221" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/python-%E5%AF%A6%E7%8F%BE%E7%B2%92%E5%AD%90%E7%BE%A4%E6%BC%94%E7%AE%97%E6%B3%95-particle-swarm-optimization-pso-%E8%A7%A3rastrigin-function%E6%9C%80%E5%B0%8F%E5%8C%96%E5%95%8F%E9%A1%8C-afe3e01de221">【Python】實現粒子群演算法(Particle Swarm Optimization, PSO) 解Rastrigin Function最小化問題</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[【影像辨識】搭建YOLOv5環境介紹]]></title>
            <link>https://medium.com/hunter-cheng/%E5%BD%B1%E5%83%8F%E8%BE%A8%E8%AD%98-%E6%90%AD%E5%BB%BAyolov5%E7%92%B0%E5%A2%83%E4%BB%8B%E7%B4%B9-ec3673f7eeee?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/ec3673f7eeee</guid>
            <category><![CDATA[object-detection]]></category>
            <category><![CDATA[deep-learning]]></category>
            <category><![CDATA[hunter資料科學]]></category>
            <category><![CDATA[yolov5]]></category>
            <category><![CDATA[computer-vision]]></category>
            <dc:creator><![CDATA[Ian Lai]]></dc:creator>
            <pubDate>Tue, 12 Apr 2022 08:43:22 GMT</pubDate>
            <atom:updated>2022-03-24T16:22:50.953Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>近期研究了YOLOv5，在安裝環境時遇到不少困難，在此整理方便且省略反鎖的步驟，方便下次搭建，希望也對大家有所幫助。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*4U_6WGwmz_s_20qp" /><figcaption>Photo by <a href="https://unsplash.com/@firmbee?utm_source=medium&amp;utm_medium=referral">Firmbee.com</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><h4><strong>安裝Anaconda</strong></h4><p>Anaconda 其中包含Python ，是資料科學、機器學習常用的平台，其中以包含許多套件方便我們使用，對於套件與環境的管理較為方便，稍後也會利用Anaconda環境跟套件。</p><p><strong>Anaconda官網下載</strong>:<a href="https://www.anaconda.com/products/individual?modal=nucleus">https://www.anaconda.com/?modal=commercial</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/865/1*aw4jkV_PpTmdBInlbHlIAA.png" /></figure><h4>下載CUDA</h4><p>CUDA是NVIDIA 研發的平行運算平台及編程模型，可利用GPU來提高運算效能，其被深度學習廣泛的使用，因為類神經網路需要大量的計算，其需要依照自身設備下載對應的版本。</p><p><strong>版本查詢</strong>:<a href="https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html#cuda-major-component-versions">https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html#cuda-major-component-versions</a></p><p><strong>CUDA Toolkit 11.6版下載:</strong><a href="https://developer.nvidia.com/cuda-downloads?target_os=Windows&amp;target_arch=x86_64&amp;target_version=11&amp;target_type=exe_local">https://developer.nvidia.com/cuda-downloads?target_os=Windows&amp;target_arch=x86_64&amp;target_version=11&amp;target_type=exe_local</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/807/1*bVKr75fs4W0NO2GVpLhn2g.png" /></figure><h4>下載YOLOv5</h4><p>YOLO全名是You Only Look Once，是一種物件偵測的方法，其方法為one-staone，可以將物件的位置偵測以及物件的分類一步到位的標示出來，然而YOLOv5這個名字卻十分有爭議，其發表時間與YOLOv4相差不到幾個月，其未經官方承認且創新性不足也被為人詬病，但是他有著YOLOv4的準確性，模型大小卻小了YOLOv4好幾倍以上。</p><p><strong>YOLOv5 github下載</strong>:<a href="https://github.com/ultralytics/yolov5">https://github.com/ultralytics/yolov5</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/865/1*kxfRFd9ogjF6RjiXmz1emw.png" /></figure><h4>建立YOLOv5環境</h4><p>安裝完Anaconda後開起Anaconda Prompt，建立我們所需要的環境，以及利用將YOLOv5解壓所後，在yolov5-master這個資料夾裡面有requirement.txt檔，可以按照裡面安裝我們所需要的套件。</p><blockquote>建立環境</blockquote><blockquote>conda create -n yolov5_gpu python=3.8</blockquote><blockquote>conda activate yolov5_gpu</blockquote><blockquote>安裝套件</blockquote><blockquote><em>pip install -r requirements.txt</em></blockquote><h4>安裝PyTorch</h4><p>PyTorch是一個深度學習框架，能支持張量(Tensor)計算，且可以運用GPU加速運算，由Facebook 人工智慧研究團隊所開發，目前廣受機器學習學習者所使用。</p><p>在requirement.txt裡面已經有安裝過一遍不過是CPU版本無法啟用GPU加速計算，所以我要到Pytroch的官網進行下載對應的相關版本，複製Command 到我們剛剛所創建的環境yolov5_gpu的Anaconda Prompt進行安裝。</p><p><strong>Pytroch官網下載:</strong><a href="https://pytorch.org/get-started/locally/">https://pytorch.org/get-started/locally/</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/865/1*qcsD_14XyCgNCALM_Sv4hA.png" /></figure><h4>驗證GPU是否啟動</h4><p>利用torch.cuda.is_available()是否有啟動GPU有啟用，則會返回True。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*TGfrjDBnhZ_u8G-35JwS3Q.png" /></figure><h4>結語</h4><p>近期學習了YOLOv5，在安裝環境上花了不少時間，所以特地寫了下來，希望對大家有所幫助，以上為整理的學習筆記，有疏忽遺漏的歡迎指正。</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=ec3673f7eeee" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/%E5%BD%B1%E5%83%8F%E8%BE%A8%E8%AD%98-%E6%90%AD%E5%BB%BAyolov5%E7%92%B0%E5%A2%83%E4%BB%8B%E7%B4%B9-ec3673f7eeee">【影像辨識】搭建YOLOv5環境介紹</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[何為張量(Tensor)？三分鐘圖解類神經網路基本資料結構]]></title>
            <link>https://medium.com/hunter-cheng/%E6%A9%9F%E4%BD%95%E7%82%BA%E5%BC%B5%E9%87%8F-tensor-%E4%B8%89%E5%88%86%E9%90%98%E5%9C%96%E8%A7%A3%E9%A1%9E%E7%A5%9E%E7%B6%93%E7%B6%B2%E8%B7%AF%E5%9F%BA%E6%9C%AC%E8%B3%87%E6%96%99%E7%B5%90%E6%A7%8B-ab0ccd115aff?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/ab0ccd115aff</guid>
            <category><![CDATA[deep-learning]]></category>
            <category><![CDATA[tensorflow]]></category>
            <category><![CDATA[tensor]]></category>
            <category><![CDATA[hunter資料科學]]></category>
            <category><![CDATA[machine-learning]]></category>
            <dc:creator><![CDATA[Hunter Cheng]]></dc:creator>
            <pubDate>Tue, 12 Apr 2022 06:17:10 GMT</pubDate>
            <atom:updated>2022-04-12T16:28:53.988Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>工欲善其事，必先利其器，若想做好人工智慧的研究，就必須對其資料結構的組成有一定的了解。本文會以圖文、程式參雜的方式講解張量的架構及其資料儲存的方式。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*vKz8XgTKj7yqkzte" /><figcaption>Photo by <a href="https://unsplash.com/@hharritt?utm_source=medium&amp;utm_medium=referral">Hunter Harritt</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>19世紀末 G.Ricci 提出了張量的概念，其對幫助現代數學、物理奠定了非常好的基礎，很多以前看似無法完成的成就，就是靠這概念加以推演而成功的。而今天的主題就是基於人工智慧的資料架構所下去延伸的。</p><p>筆者的論文主要是做深度學習的研究，所以本篇文章可以算是個人的學習記錄。在我研究的過程中發現<strong>張量(Tensor)</strong>一直都是初學者無法跨過的坎，所以趁寫論文的空檔，我就將這篇文章產出，希望對不知道張量是什麼的讀者能有很大的幫助。</p><p>註：本文是個人對張量的主觀理解，若有錯誤的地方也歡迎指正。以下解析不會以數學改念為基礎，主要會著重在理解架構為主。</p><p>以下正文開始～</p><h3>What’s a Tensor</h3><p>對於想進入到人工智慧這塊領域的朋友，就算沒聽過<strong>張量(Tensor)</strong>應該也聽過 <strong>TensorFlow</strong> 吧？沒錯，目前最常用到的機器學習框架就是以此命名的，Keras 大神 François Chollet 也提到 <strong>“目前已知所有機器學習的系統都使用張量作為其基本的資料結構”</strong>，可見張量在機器學習的重要性是如此的大。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*yze4a-FC6gzRLPJGAaNr7w.jpeg" /><figcaption>TensorFlow Logo</figcaption></figure><p>張量實際上看似很複雜，但其實它就和 list 一樣，也是儲存資料的容器，數學上可理解為<strong>多維數組(Multidimensional Array)</strong>。</p><p>但要注意的是，不同階的張量所呈現的資料型態也都不一樣，根據維基百科的解析，可以知道<strong>0階張量為純量、1階張量為向量、2階張量為矩陣、3階張量則是由多個矩陣所組成的</strong>，其實際上這些資料都是一層一層疊上去的，其較直觀的理解如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/870/1*HbtAmLuEqlMkbD95pj5H2w.png" /><figcaption><em>Difference between a scalar, a vector, a matrix and a tensor | </em><a href="https://hadrienj.github.io/posts/Deep-Learning-Book-Series-2.1-Scalars-Vectors-Matrices-and-Tensors/"><em>來源</em></a></figcaption></figure><p>張量深究下去就會是數學、物理的領域，而本文只會聚焦在<strong>機器學習</strong>的基礎解說。而以下我會從0D張量開始依序介紹到3D張量，不同階段的張量也會以nidm語法呈現其階數。</p><h4>0D 張量</h4><p>0D 張量又稱<strong>純量(scalar)</strong>，其資料內只會包含一個數值。通過下圖建立一但一數值的 array，並透過 nidm 語法查看階數。結果為0就是一0階張量。</p><p>因為階數為0的關係，所以呼叫shape時，會呈現<strong> ()</strong>。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Dbx-c7pJi3R5Dyw6fuW6Hw.png" /></figure><h4>1D 張量</h4><p>1D張量即為<strong>向量(vector)</strong>，資料內容是由一組數值排列而組成的陣列。藉由生成一包含4個元素的 array，查看其階數後，得到的結果為 1。</p><p>呼叫shape的結果會顯示為<strong>(4, )</strong>，內容指得的是4個元素。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*d0-bALrk2wrNk7DKfIytcw.png" /></figure><h4>2D 張量</h4><p>2D張量就是<strong>矩陣(matrix)</strong>，其是由數個向量所組成的陣列。透過下圖可知矩陣有2個軸，分別是 rows 和 columns。</p><p>呼叫shape的結果為 <strong>(3, 4)</strong>，直觀為<strong> (samples, feature)</strong>， 代表其中有3個樣本，每個樣本中均有4個元素。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*-queoIdYw7Sj3cl9ObBIRw.png" /></figure><blockquote>2D張量圖例</blockquote><p>實際舉例，模擬一<strong>人口資料集</strong>，其中包含4種特徵，依序是性別、年齡、身高、體重，而該資料一共採集了100個人作為樣本。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*I7Wnf-A86R-vMTnTURo8Ug.png" /><figcaption>向量資料（2D張量）示意圖</figcaption></figure><h4>3D 張量、4D張量</h4><p>若是將多個矩陣包裝在一新陣列中，就會得到一3D張量，如下圖。該資料內容就是由3個3X4的矩陣所組成的。</p><p>大多數3D張量都用來表示時間序列資料，下面案例呼叫shape後的結果為<strong> (3, 3, 4)</strong>，直觀為 <strong>(samples, timesteps, feature)</strong>。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*PtV7M4MW3ceAJc69ziricQ.png" /></figure><blockquote>3D張量圖例</blockquote><p>實際舉例，現有一<strong>加熱爐內溫度變化的資料</strong>，每分鐘須記錄三項資料，分別為最高溫、平均溫、最低溫，且一天共記錄99次（分鐘），並整整紀錄了一年365天，其資料實際架構如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*JO9JYO_iKPXr36GEaCwEWQ.png" /><figcaption>時間序列資料（3D張量）示意圖</figcaption></figure><p>基本上將數個3D張量放到一陣列中就是所謂的4D張量，通常代表影像的資料，其shape可直觀理解為 <strong>(samples, height, width, channels)</strong>。</p><p>而依次類推就可以得到5D張量、6D張量等，故筆者就用下圖簡單介紹，這張圖是我網路上看到的，解釋的非常貼切，因原版解析度太低，故我又重新畫了一次。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*pgVlfgFbk3t3FWe3QEVlXA.png" /><figcaption>詳解 Tensor</figcaption></figure><ul><li><strong>注意：</strong><a href="https://www.books.com.tw/products/0010822932">Deep learning 深度學習必讀：Keras 大神帶你用 Python 實作</a>一書的作者提到區分 <strong>“向量”</strong> 和 <strong>“張量”</strong> 的重點：<strong>一個向量若有3個元素，會稱之為3維向量，而不是3D張量。</strong>千萬不要將兩者搞混。一<strong>3D向量</strong>只有一個軸，軸上有3個維度，而一<strong>3D張量</strong>有3個軸。<strong>維度(dimensionality)</strong>是指特定軸上的元素數量或張量中的軸數量，所以容易造成混淆。若是怕搞混，可以將後者說成<strong>3階張量</strong>，因為張量的階就是軸的數量。</li></ul><h4>結語</h4><p>本篇大概算是筆者開啟機器學習文章撰寫的第一篇吧，先從基礎開始打起，日後也會補上機器學習、深度學習等文章，謝謝大家。</p><h3>References</h3><ol><li><a href="https://www.books.com.tw/products/0010822932">Deep learning 深度學習必讀：Keras 大神帶你用 Python 實作</a></li><li><a href="https://hadrienj.github.io/posts/Deep-Learning-Book-Series-2.1-Scalars-Vectors-Matrices-and-Tensors/">https://hadrienj.github.io/posts/Deep-Learning-Book-Series-2.1-Scalars-Vectors-Matrices-and-Tensors/</a></li><li><a href="https://zh.wikipedia.org/wiki/%E5%BC%B5%E9%87%8F">https://zh.wikipedia.org/wiki/%E5%BC%B5%E9%87%8F</a></li><li><a href="https://zhuanlan.zhihu.com/p/48982978">https://zhuanlan.zhihu.com/p/48982978</a></li></ol><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=ab0ccd115aff" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/%E6%A9%9F%E4%BD%95%E7%82%BA%E5%BC%B5%E9%87%8F-tensor-%E4%B8%89%E5%88%86%E9%90%98%E5%9C%96%E8%A7%A3%E9%A1%9E%E7%A5%9E%E7%B6%93%E7%B6%B2%E8%B7%AF%E5%9F%BA%E6%9C%AC%E8%B3%87%E6%96%99%E7%B5%90%E6%A7%8B-ab0ccd115aff">何為張量(Tensor)？三分鐘圖解類神經網路基本資料結構</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[智慧製造工程師經驗分享Part I]]></title>
            <link>https://medium.com/hunter-cheng/%E7%B6%93%E9%A9%97%E5%88%86%E4%BA%AB-%E5%92%8C%E6%99%BA%E6%85%A7%E8%A3%BD%E9%80%A0%E5%B7%A5%E7%A8%8B%E5%B8%AB%E7%9A%84%E4%B8%80%E5%A4%A9-4d1949b5297e?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/4d1949b5297e</guid>
            <category><![CDATA[hunter面試]]></category>
            <category><![CDATA[工作]]></category>
            <category><![CDATA[智慧製造]]></category>
            <category><![CDATA[經驗分享]]></category>
            <category><![CDATA[工業工程與管理]]></category>
            <dc:creator><![CDATA[Hunter Cheng]]></dc:creator>
            <pubDate>Wed, 09 Mar 2022 05:42:49 GMT</pubDate>
            <atom:updated>2022-04-12T16:39:19.333Z</atom:updated>
            <content:encoded><![CDATA[<h3>智慧製造工程師經驗分享 Part I</h3><blockquote>本文是針對即將畢業、對未來工作感到迷茫的大學生所撰寫，文中透過和剛步入社會不久的工程師進行交流，解決不少常見疑惑，能幫助讀者對於步入社會有一定的基本認知，同時也不會感到緊張。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*We0reqpoNneqteBv" /><figcaption>Photo by <a href="https://unsplash.com/@officestock?utm_source=medium&amp;utm_medium=referral">Sebastian Herrmann</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>本篇會以QA的形式為各位讀者解惑，主要內容均是學生對於<strong>智慧製造工程師（Intelligent Manufacturing Engineer）</strong>常見的疑惑點，問題不外乎是背景、能力要求、工作內容等等…為主。</p><blockquote>以下是讀者針對智慧製造工程師訪談的第二篇文章，相較本篇來說，第二篇會從三大面向切入介紹，分別是<strong>求職前需準備什麼、面試時的關鍵及成為工程師後該具備哪些能力。</strong></blockquote><p><a href="https://huntercheng1013.medium.com/%E6%99%BA%E6%85%A7%E8%A3%BD%E9%80%A0%E5%B7%A5%E7%A8%8B%E5%B8%AB%E7%B6%93%E9%A9%97%E5%88%86%E4%BA%AB-part-ii-ee6e4b0c9e2a">智慧製造工程師經驗分享 Part II</a></p><p>筆者本人是工業工程（工業管理）背景，目前就讀碩士一年級，對於畢業後該何去何從，仍然是非常的迷茫。直到最近因為朋友介紹的關係，認識了一位同樣也是工業工程背景，非常優秀的一位學長Alex，Alex是在半導體公司擔任智慧製造工程師，訪問他一天下來同時也解決了我非常多疑惑，如果你（妳）是工工背景，同時對本科系未來十分迷茫，那希望這篇文章可以幫助到你。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*zZ4JDIutvmqgpVArqJB2CQ.jpeg" /><figcaption><strong>和學長的合照，學長很有趣，拍照也不忘拿著乖乖</strong></figcaption></figure><blockquote>以下內容是Alex的經驗分享，內文以問答的方式呈現，由於當天時間有限，問題大部分落在比較基礎的問題上，內容較偏向適合大學大三升上大四的學生，若是之後有機會再向Alex討教，筆者會再寫針對碩士生的部分。</blockquote><ol><li>Alex本身背景？</li></ol><p>答：國立頂大學士畢，本身工業工程背景，具備資料科學能力。</p><p>2. 在相關領域工作，有無background要求或是必要的skills？</p><p>答：一般工廠運作流程要懂，基本的生產管理常識也要了解，文書表達能力以及一般Excel使用技巧，口條夠不夠清晰也很重要。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*z8Q0Xtp43_SrletB" /><figcaption>Photo by <a href="https://unsplash.com/@christianw?utm_source=medium&amp;utm_medium=referral">Christian Wiediger</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>3. 工工畢業大部分以智慧製造為主，而其主要的工作內容是什麼？</p><p>答：確保產品能及時出貨，跟客戶聯絡，排除產線困難，讓產線順利進行。</p><p>4. 較為細節的工作內容？</p><p>答：現傳產大都已提倡5S，科技業做的更是嚴謹，因此管理人機料法環更是要點。何謂人機料法環？簡單來說，智慧製造工程師在廠內算是小課長，一開始進去就會帶5~20個人不等，一開始就需要學習如何帶人（人），此外，每天處理的事情大部分都是在聯絡工程部排除機器問題、安排換機計劃（機），隨時注意產線上物料數量足不足夠，控管爆倉問題（料），制定新產線的SOP，以免造成人為疏失（法），場內落實5S，以防工安意外（環）。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*tkmZ_qyMpqOIKjm0" /><figcaption>Photo by <a href="https://unsplash.com/@homajob?utm_source=medium&amp;utm_medium=referral">Scott Graham</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>5. 請教廠內排班的部分？聽說工程師都很累？</p><p>答：我這裡是這樣運作的，不代表全部公司也都是這樣 ; 一個班（總共有4個班），分成早晚班和ＡＢ班，我帶早Ａ，早Ｂ，晚Ａ，晚Ｂ，這樣即是輪班制（做二休二），但是輪班只適用於作業員，公司課長不需要輪班，所以跟一般外面聽到的比較起來，算是偏輕鬆，8點半上班，平均8點下班（最晚有可能到12點，但目前也才1次）。</p><p>6. 英文重要嗎？有加分嗎？</p><p>答：面試時英文非常重要，成績越好越基本上越吃香，面試時如若能有成績證明，那更是會起到加分作用，如: 多益成績，普遍要求750up比較好。實際進去後，產線也剛好都是外籍勞工，英文變成一個工具，除了溝通、公告、報告等大部分也都需要用英文表達。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*VWkWt8GMgQXlorpt" /><figcaption>Photo by <a href="https://unsplash.com/@gabriellefaithhenderson?utm_source=medium&amp;utm_medium=referral">Gabrielle Henderson</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>7. 時下流行的數據科學（Data Science）對於求職是否是關鍵的一環？</p><p>答：如若求職為智慧製造工程師，沒用謝謝，面試頂多起到加分作用，大部分現場都以校正機台參數為主，所以基本的除錯能力（Debug）還是要有。</p><p>8. 大學中什麼課是較為重要的？</p><p>答：不需精通，但都要懂，最好做到當主管問你時，不會答不上來的境界。學門主要是以精實生產、等候理論、限制理論以及基本生產管理概念為重點。上述這些學門不外乎都是在培養分析和解決問題的能力，順帶一提，抗壓性也是很重要、需要花時間下去培養的。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*OwN7eH63PzEJactd" /><figcaption>Photo by <a href="https://unsplash.com/@rvignes?utm_source=medium&amp;utm_medium=referral">Romain Vignes</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>9. 工作上學到了什麼？</p><p>答：如若說是以前比較難學到的，大概就是問問題的能力，並且精準地掌握核心問題，快速解決，進而提升管理技巧以及團隊合作能力，除此之外，就是賺錢而已。</p><p>10. 如何在工作中和生活取得平衡？</p><p>答：前半年到第一年算是處於學習階段的一個過渡期，還未熟悉工作環境，並不平衡 ; 我覺得第二年之後，就會開始習慣，便又可以開始做自己喜歡的事了。</p><p>上述整理了10個較為常見的疑惑，並且也一一為大家解答，若是之後有時間，也許會再寫Part II，希望這篇文章對你有幫助。</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=4d1949b5297e" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/%E7%B6%93%E9%A9%97%E5%88%86%E4%BA%AB-%E5%92%8C%E6%99%BA%E6%85%A7%E8%A3%BD%E9%80%A0%E5%B7%A5%E7%A8%8B%E5%B8%AB%E7%9A%84%E4%B8%80%E5%A4%A9-4d1949b5297e">智慧製造工程師經驗分享Part I</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Python — 髒數據(Dirty Data)分析與實戰]]></title>
            <link>https://medium.com/hunter-cheng/python-%E9%AB%92%E6%95%B8%E6%93%9A-dirty-data-%E5%88%86%E6%9E%90%E8%88%87%E5%AF%A6%E6%88%B0-25382150d66e?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/25382150d66e</guid>
            <category><![CDATA[python]]></category>
            <category><![CDATA[大數據分析]]></category>
            <category><![CDATA[dirty-data]]></category>
            <category><![CDATA[hunter資料科學]]></category>
            <category><![CDATA[資料分析]]></category>
            <dc:creator><![CDATA[Hunter Cheng]]></dc:creator>
            <pubDate>Wed, 09 Mar 2022 05:42:44 GMT</pubDate>
            <atom:updated>2021-04-10T04:32:31.687Z</atom:updated>
            <content:encoded><![CDATA[<h3><strong>Python — 髒數據(Dirty Data)分析與實戰</strong></h3><blockquote>此篇是個人的一個學習筆記，內容針對數據的預處理(<a href="https://hackernoon.com/what-steps-should-one-take-while-doing-data-preprocessing-502c993e1caa">Data Preprocessin</a>g)進行教學。手把手教學使用python從EXCEL讀取資料並分析，且快速呈現部分EXCEL功能，最後再進行資料視覺化的處理。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*NE3iTi300FtHsHsf" /><figcaption>Photo by <a href="https://unsplash.com/@willy420?utm_source=medium&amp;utm_medium=referral">David Pupaza</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>筆者本身是工科背景出身，長久以來都以較直觀或是傳統手算的方法解決問題，一直到近半年來開始接觸程式語言，由一開始吃力學習到後來樂在其中，才是真正體會到了活用程式會 &quot;事半功倍&quot;的道理。</p><pre><strong>在本文，你將會學會以下python技巧：<br></strong>1.讀取EXCEL資料<br>2.指定特定範圍下選取指定內容<br>3.資料剖析 (text to columns)<br>4.資料轉置 (transpose)<br>5.資料反轉 (data reverse)<br>6.刪除不必要的 columns (drop columns)<br>7.做圖 (draw plot)</pre><p>以下正文開始：</p><blockquote><em>筆者最近收到一個專案改善的計畫，一開始收到原始數據時，數據非常混亂，就是大家常說的髒數據(Dirty Data)，若要將Dirty Data視覺化，不只是一般的輸入X軸和Y軸資料而已，而是要經過一連串的處理才能做成圖。以下本文提供的資料都是原始資料改過的，筆者只是自做一份“很像”的資料作為這次教學的練習範本，此範本會盡量模擬真實情況教學。</em></blockquote><p>下圖為一開始收到的資料:</p><p>收到的資料一共有1000多筆，內容大致上是一間公司產品的流水帳，記錄了一週不同天內，在不同地點的銷售紀錄，資料分成兩部分，一為上週和這週的銷售數量比對，二為分別紀錄過去12個月的達成度。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*c4A2e2hq-r5-ulTZ" /><figcaption>Photo by <a href="https://unsplash.com/@goumbik?utm_source=medium&amp;utm_medium=referral">Lukas Blazek</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>其中產品樣式一共有100多個，每個產品會根據放進的次數在EXCEL上留下次數不同的資料。本文以M1做為這次實戰演練的範例。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*jWmydWaAnqg-ElLZhvy30Q.png" /><figcaption>以M1為例</figcaption></figure><p>大部分初學者一拿到Raw data時都是不知道如何著手的，這時千萬不要緊張，筆者在這裡這裡教各位菜鳥秘笈， “資料分析三部曲”，相信使用後各位就會對資料較為敏感一點了。</p><pre><strong>資料分析三部曲： 1. 釐清目標  2. 分析資料 3. 實戰</strong></pre><p>以本文案例為例:</p><h4>1.釐清目標：</h4><p>本次目標為做兩張折線圖，其一為使用 &quot;record&quot; 和&quot;last_12months&quot;做一張過去12個月內達成度指標圖，和使用 “country”、”last_week”、”this_week” 做一張兩週銷售量對照表。</p><h4>2.分析資料：</h4><p>所使用的資料其內容大部分都聚集在同一格，且出現不必要的逗點，部分資料還是顛倒輸入的。透過上述敘述首先須採用資料剖析將其分開，再將資料顛倒過來，最後再將不必要的資料從中刪除。</p><h4>3.實戰開始：</h4><p>本次實戰前所需具備的基本技巧，Pandas 以及 matplotlib 。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*lEZ1uoyFyKXgDsd0" /><figcaption>Photo by <a href="https://unsplash.com/@clark_fransa?utm_source=medium&amp;utm_medium=referral">Arnold Francisca</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>首先，先從讀取資料開始</p><ul><li>import 所需的資料包 pandas，讀取所需的EXCEL檔</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*qx5bY9L2N2UXzcKU1muqeg.png" /></figure><p>將讀取的資料show出，得到的結果如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*5Ur-rGW0EQttaJz9SXxg6A.png" /></figure><p>透過資料讀取，可以發現有些資料是不必要的，我們只需挑選必要的資料出來。</p><blockquote>在這裡有一作法是可以在EXCEL中刪除不必要的內容，留下必要的即可，但本文的宗旨為不影響原資料的情況下以python達成目標。一開始雖然慢，但等需要處理大數據時，就會快非常多，相較之下前者直接在EXCEL操作的方法就會浪費較多時間。</blockquote><ul><li>使用選取列，loc[ ]定位法，指定所需的<em>資料名稱</em>，並控制所選取<em>資料的範圍</em></li><li>選取標題 “name_” 和 “num_of_place”，抓取這兩個所選目標的範圍值，”record” 和 “last_12months”</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*65FzY52b33gOlFlZ_E6Tbg.png" /></figure><p>資料顯示如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/714/1*2DkPdTCFQo73-Pe6IOyS-A.png" /></figure><blockquote>初步讀取必要的資料已經出來了，但可發現每格的資料都由<strong> &quot;,&quot; </strong>擠在一起，這時就要採用<strong>資料剖析</strong>的手法將其分開 ( Text to columns) 。</blockquote><ul><li>對於python來說，EXCEL裡的資料型態都為string，故採用以下手法，以 <strong>&quot;,&quot;</strong> 作為分割點進行資料剖析</li></ul><pre>str.split(&#39;,&#39;,expand = True)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Obus8YQPOhkzZoHq6WBbvQ.png" /></figure><p>其結果show出如下，以 ” record”為例，”last_12months”採用相同的做法即可。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/790/1*_KV-l43lZBGM8fgNjKa2kQ.png" /></figure><p><strong>實戰：若是初學者可以跳過這一步。今天若是處理大數據資料時，使用上述方法，內容名稱逐一輸入進行運算是非常耗時間的，最快的作法是將其寫成function，參數輸入進去一次就給他搞定。</strong></p><ul><li>直接新增一包含兩需要運算的名稱list及一空list，採用for迴圈運算，每次處理完資料就將其append進空的list中</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Lq2L-pbUfAhNElLy6XulTA.png" /></figure><p>運算後直接show出，可發現結果相同：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/864/1*Zn_bJTgxgJNyhqDc-l6gIg.png" /></figure><p>兩張圖中第一張折線圖的準備資料大致上到這裡結束，接下來是第二張折線圖的資料準備。</p><p>首先也是採用和第一張圖相同的手法，採loc[ ]定位法，指定所需的<em>資料名稱</em>，控制所選取<em>資料的範圍，再執行資料剖析。</em></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*_bV18Xkz6ERKi4NG-EBSMA.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/932/1*gB0-5oMk67NrgHCcHChdpg.png" /></figure><p>結果show出如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/420/1*rADeHmnGU6KUCYbcRNYrAA.png" /></figure><blockquote><strong>停在這裡，出現兩個問題：</strong>一為透過 “country” 數據比較得知第二張圖的數據資料是相反的，且上張Columns 5是空白的，代表在EXCEL中是不存在數字的，這錯誤若沒校正，往往會影響最終結果的正確性，通常解決手法是補0或是直接刪除，在這裡我會採用直接刪除Columns的手法。</blockquote><pre><em>#補充：NaN補0語法</em></pre><pre>import pandas</pre><pre>df = pandas.read_csv()</pre><pre>df = df.fillna(0)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/326/1*ox0hw66fDu5YXuA7etb4rg.png" /><figcaption>比對下發現資料都是相反的</figcaption></figure><ul><li>先將資料顛倒過來，在這裡我使用轉置語法操作：</li></ul><pre>data.T  <em>#轉置</em></pre><pre>data.T[::-1]  <em>#轉置後的資料顛倒</em></pre><pre>data.T[::-1].T <em> #再將其轉置回來</em></pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/418/1*mOOWl4vU8qRNc0FkALiU4Q.png" /></figure><blockquote>這方法雖然看起來像脫褲子放屁，但因為這裡資料是同個Model共5筆一起調整，需要使用線性代數中矩陣的概念轉換，若是list則可以直接使用reverse()語法解決。</blockquote><ul><li>接下來使用 drop( columns = [ ] ) 語法將第5列刪除</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/708/1*ferP6sj95-tKCk6lDVpTpw.png" /></figure><p>很快的，結果顯示如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/388/1*02S4QXlzPxKEFe12K3tjdw.png" /></figure><p><strong>實戰：和第一張圖整理資料時一樣，若是內容名稱逐一輸入是相當耗時的，再次以相同手法寫成function，參數輸入進去一次就給他搞定。</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*_e17sWuflB70NbEhFFt2yg.png" /></figure><p>最後一步，作圖，import資料包matplotlib，輸入相關條件做圖，下述為第一張折線圖的代碼實現：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*LrFQl9pawhwz-ACfuMmYMA.png" /></figure><blockquote>值得注意的地方是，由於一開始提過每個 Model 都有5筆資料，故採 for迴圈的方式輪流在同一張圖內畫線，以提升效率</blockquote><p>下圖為第二張折線圖的代碼：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*BnP9jcAtnTRpr75n2VViqQ.png" /></figure><p>最後圖片實現如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*IBJ7IKDBqYJEM7D3OjOF9A.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Yn8xRF8ywAzV31gjiEcy5A.png" /></figure><p>結語：活用python資料分析技巧，習慣與數據對話，將會大大提升做事效率。</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=25382150d66e" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/python-%E9%AB%92%E6%95%B8%E6%93%9A-dirty-data-%E5%88%86%E6%9E%90%E8%88%87%E5%AF%A6%E6%88%B0-25382150d66e">Python — 髒數據(Dirty Data)分析與實戰</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[如何在Windows 10系統安裝Linux雙系統]]></title>
            <link>https://medium.com/hunter-cheng/%E5%A6%82%E4%BD%95%E5%9C%A8windows-10%E7%B3%BB%E7%B5%B1%E5%AE%89%E8%A3%9Dlinux%E9%9B%99%E7%B3%BB%E7%B5%B1-85ed07813270?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/85ed07813270</guid>
            <category><![CDATA[hunter資料科學]]></category>
            <category><![CDATA[linux]]></category>
            <category><![CDATA[ubuntu]]></category>
            <category><![CDATA[dual-system]]></category>
            <dc:creator><![CDATA[Hunter Cheng]]></dc:creator>
            <pubDate>Wed, 09 Mar 2022 05:42:26 GMT</pubDate>
            <atom:updated>2021-05-14T16:16:46.507Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>本篇筆者會用圖文交叉敘述的方式一步步拆解，要如何在 Windows 10系統上架構 Linux雙系統。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*59i_acAhaF6Za0DT-ZlSSQ.jpeg" /></figure><p>本篇只會講解操作流程，技術層面的部分就不會特別著重，以下分享的內容是筆者安裝成功的經驗，只要按照操作流程，就會發現安裝雙系統其實沒有很複雜。按照這一套流程操作，不只可以安裝Linux，甚至可以安裝其他系統。</p><h4>安裝流程可以簡單分為八大步驟</h4><ol><li>預先備份電腦原有的資料。</li><li>確認電腦的環境狀態。(軟硬體情況、開機系統)</li><li>查看磁碟格式，做分割。</li><li>關閉Windows的快速啟動。</li><li>進入BIOS設置關閉Secure Boot。</li><li>製作Ubuntu的開機碟以及下載Ubuntu。(需事先準備一個空的USB)</li><li>進入BIOS設定開機順序。(USB隨身碟優先)</li><li>進行安裝系統的安裝、配置，完成</li></ol><blockquote>以下教程中使用較為技術的問題不會做過多講解，但會貼上相關連結在底部，安裝完後若是還有興趣可以去看一下。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*7rR4ig6uWO65hMY7" /><figcaption>Photo by <a href="https://unsplash.com/@badashproducts?utm_source=medium&amp;utm_medium=referral">Ash Edmonds</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><h4>Step 1 : 預先備份電腦原有的資料</h4><p>進行此類安裝雙系統的操作時，往往會有許多不確定性，有可能在一不留意按下某一鍵後，電腦就開始進行格式化，欲哭無淚。最保險的做法就是將資料優先備份起來。</p><blockquote>非常重要! 在最後的步驟進行<strong>磁碟覆蓋</strong>的動作時，資料如未進行備份的動作，若是覆蓋到原有的磁碟區，則會導致資料全部丟失。</blockquote><h4>Step 2 : 確認電腦的環境狀態(軟硬體情況、開機系統)</h4><p>此步驟為確認自己電腦的開機方式是否為 <strong>UEFI。</strong></p><p>=&gt;按 Win+R 鍵以開啟<strong> “ 執行 ” </strong>，輸入 msinfo32並 ENTER ，查看系統資訊。</p><p>=&gt;在BIOS 模式中如果顯示<strong> “ 傳統 ”</strong> ，表示系統啟動方式為 <strong>Legacy BIOS</strong>；如果顯示 <strong>UEFI </strong>，則就是為 <strong>UEFI</strong> 。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/767/1*s37O1a4NomGV2n3m-8WY7Q.png" /></figure><h4>Step 3: 查看磁碟格式、進行分割</h4><p>本篇架設環境是Windows系統，Windows系統內有定義的磁碟分區，可為Ubuntu系統分割出新的磁碟空間。</p><ul><li>查看 <strong>HDD </strong>的磁碟分區格式，必須是 <strong>GPT </strong>才行。</li></ul><p>=&gt;以 Win+X 鍵開啟功能表，選擇<strong> ” 磁碟管理 ”</strong> ，開啟磁碟管理工具。</p><p>=&gt;在 <strong>HDD </strong>的磁碟代號上點擊滑鼠右鍵，點看 <strong>” 內容 ”</strong>，查看 <strong>” 磁碟區 ” </strong>，其中 磁碟分割樣式需是為 <strong>GPT</strong>。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/662/1*VuU6R22Q-f7AIuWh6AqQJw.png" /></figure><p>=&gt;進入 <strong>” 磁碟管理 ” </strong>後，點選 <strong>” 內容 ”</strong>，看到分割樣式為 <strong>GPT。</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/470/1*OAa0V8y3PO2DD6m8k8XW0Q.png" /></figure><ul><li>開始<strong>分割硬碟</strong></li></ul><p>=&gt;在HDD磁碟區分割出想要的空間。</p><p>=&gt;在HDD的磁區點擊滑鼠右鍵，選擇壓縮磁區，在 <strong>“ 輸入要壓縮的空間大小 ”</strong> 填入 65536 (MB)，並靜待電腦執行壓縮。(在此的 64GB 是假設的，可因個人而異看要切割出多少空間，如若測試會切割 20GB)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/515/1*UE9HDrbULXj8nI4E4q8f8Q.png" /></figure><p>=&gt;壓縮完成後會看到空出來的 64 GB。(磁碟一中反黑的部分)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/473/1*Db2jg7ALFB6uZT5E_ahVhQ.png" /></figure><p><strong>如果系統有多個分區，則切割最後一個分區。此範例是以 E 做壓縮硬碟區。</strong></p><blockquote><strong>GPT、MBR是什麼?</strong></blockquote><p><a href="https://www.linwei.com.tw/forum-detail/76/">磁碟分割MBR、GPT是什麼？ 凌威科技</a></p><blockquote><strong>如何判別 HDD 和 SSD ?</strong></blockquote><p><a href="https://ofeyhong.pixnet.net/blog/post/224668449">【網友詢問】怎麼判斷我的硬碟到底是SSD，還是HDD？ @ 歐飛先生 :: 痞客邦 ::</a></p><blockquote><strong>如何查看硬碟型態 ?</strong></blockquote><p><a href="https://twgreatdaily.com/YAWiW2wBUcHTFCnfxLay.html">https://twgreatdaily.com/YAWiW2wBUcHTFCnfxLay.html</a></p><blockquote><strong>磁碟切割，切 HDD 還是 SSD ?</strong></blockquote><p><a href="https://ofeyhong.pixnet.net/blog/post/220031784">【經驗談】SSD+HDD的硬碟分割建議 @ 歐飛先生 :: 痞客邦 ::</a></p><h4>Step 4: 關閉Windows的快速啟動</h4><p>=&gt;關閉<strong>”開啟快速啟動”</strong>，在工具列<strong>”開始”</strong>按右鍵 ，選<strong>”電源選項 “</strong>，在相關設定中選取<strong>”其他電源設定” 。</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/722/1*YTh1I8Tk5LS55YA_wgH0tA.png" /></figure><p>接下來選<strong>”選擇按下電源按鈕時的行為”</strong> ，下圖左邊。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/506/1*nyj_uYi0OTCDUQM9wAIavA.png" /></figure><p>進入到<strong>” 變更目前無法使用的設定”</strong> ，並在 <strong>“ 開啟快速啟動 (建議選項) ” </strong>取消勾選。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/828/1*dsrz3_DQ2MJS9sXect3wcw.png" /></figure><h4>Step 5: 進入BIOS設置關閉Secure Boot</h4><p>關閉Secure Boot的方法有很多種，但是進入BIOS設置關閉才是最保險的方法。以下以<strong>技嘉主機板</strong>作為演示範例。</p><p>=&gt;進入BIOS的方法是在開機時，當看到歡迎提示，依據每間公司設定不同的快捷鍵，點選以進入BIOS。</p><p>=&gt;進入BIOS後，先點選<strong> Enter Setup </strong>，以進行設置。</p><p>=&gt;進入設置後，點選 <strong>Boot</strong>，在看到下面的 <strong>Secure Boot</strong>，點選進去。</p><p>=&gt;進去 <strong>Secure Boot </strong>後，點選<strong>Disabled</strong>，隨後儲存重新開機。</p><h4>Step 6: 製作開機碟、下載Ubuntu</h4><ul><li>製作開機碟</li><li><a href="https://rufus.ie/zh_TW/">從 <strong>Rufus </strong>網站下載開機碟</a>，進入其官網，直接下載最新版本的開機碟。</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/355/1*m4rbw_7-yZiH0bKS25upyw.png" /></figure><ul><li><a href="https://www.ubuntu-tw.org/modules/tinyd0/">從 <strong>Ubuntu</strong> 網站下載 <strong>Ubuntu 18.04 </strong>桌機映像檔</a></li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/923/1*u4ilOY1NLq1Ss0KES1sleg.png" /></figure><ul><li>接下來是關鍵步驟，開始製作<strong>USB開機碟</strong>:</li></ul><p>=&gt;將事先準備好的 <strong>USB </strong>拿出來插上電腦，再將下載好的<strong>Rufus</strong>打開 (USB最好是空的為佳)。</p><p>=&gt;<strong>”裝置” </strong>選擇<strong>USB隨身碟位置</strong></p><p>=&gt;<strong>“開機模式” </strong>選擇先前下載好的 <strong>Ubuntu 18.04 ISO碟映像檔</strong></p><p>=&gt;<strong>“資料分割配置”</strong> 使用 <strong>GPT</strong>，<strong>“ 目標系統“ </strong>使用<strong>UEFI</strong></p><p>=&gt;<strong>“檔案系統“ </strong>使用<strong>Large FAT32</strong>，<strong>” 配置單元大小 “ </strong>使用<strong> 32kilobytes</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/428/1*9Ujqqbkf1vTcgX4miHyZTQ.png" /></figure><ul><li>上述資料都輸入完後， 點選<strong> “ 執行 ”</strong></li><li>跳出<strong> </strong>“ 下載擴充檔案 ” ，點選<strong> “ 是 ”</strong></li><li>跳出 “ 使用預設選項 ” ，點選 <strong>“ OK ”</strong></li><li>跳出 “ 此動作將完全清除此裝置上的資料 ” 的警告，點選 <strong>“ 確定 ”</strong></li></ul><h4>Step 7: 設定USB為優先開機</h4><p>再次進入BIOS，設定成以USB優先開機，若不設定系統會默認成 Windows 開機，故要再重新設定一次。</p><p>=&gt;再次進入BIOS後，按 <strong>Enter Setup </strong>進入設定。</p><p>=&gt;到Boot設定，看到 <strong>Boot Option Priorities </strong>，並點選。</p><p><strong>Boot Option #1 </strong>在此意思為優先開機， <strong>Boot Option #2</strong> 為第二順位開機。</p><p>=&gt;將<strong> Boot Option #1</strong> 和 <strong>Boot Option #2</strong> 後面的順序互換， <strong>Boot Option #1後面改成以USB開機</strong>，更改完後一樣儲存重新開機，這樣下次開機就會從USB打開。</p><h4>Step 8: 進行安裝、配置</h4><ul><li>先前我們已經將<strong>Ubuntu映象檔</strong>放在USB中了，故重新開機後，會直接出現Ubuntu的安裝介面。</li></ul><p>=&gt;重啟後，GRUB的啟動頁會出現，選擇第二個 <strong>”Install Ubuntu”。</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/694/1*rWA_DLiSaxqo4XdovnM6mg.png" /></figure><p>接下來就是漫長的等待以及一連串的設置，在此就不贅述，直接跳到安裝完畢重啟的部分。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/600/0*qft_QH3QmIkU-CIR.jpg" /></figure><p>=&gt;安裝完後電腦會重新開機，這時再重新進入<strong> BIOS</strong>，和 <strong>Step 7</strong>一樣，設定進入的優先順序，<strong>將Boot Option #1設定成Ubuntu，</strong>即大功告成。</p><blockquote><strong>進入Ubuntu安裝程序後該如何設置 ?</strong></blockquote><p><a href="https://wiki.ubuntu-tw.org/index.php?title=UbuntuInstall">UbuntuInstall 8.10to10.04</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=85ed07813270" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/%E5%A6%82%E4%BD%95%E5%9C%A8windows-10%E7%B3%BB%E7%B5%B1%E5%AE%89%E8%A3%9Dlinux%E9%9B%99%E7%B3%BB%E7%B5%B1-85ed07813270">如何在Windows 10系統安裝Linux雙系統</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Python — 十進位與二進位間的轉換(Decimal to Binary)]]></title>
            <link>https://medium.com/hunter-cheng/python-%E5%8D%81%E9%80%B2%E4%BD%8D%E8%88%87%E4%BA%8C%E9%80%B2%E4%BD%8D%E9%96%93%E7%9A%84%E8%BD%89%E6%8F%9B-decimal-to-binary-72c5cd292def?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/72c5cd292def</guid>
            <category><![CDATA[decimal]]></category>
            <category><![CDATA[binary]]></category>
            <category><![CDATA[hunter資料科學]]></category>
            <category><![CDATA[python]]></category>
            <dc:creator><![CDATA[Hunter Cheng]]></dc:creator>
            <pubDate>Wed, 09 Mar 2022 05:42:17 GMT</pubDate>
            <atom:updated>2021-05-14T16:15:14.742Z</atom:updated>
            <content:encoded><![CDATA[<h3>Python — 十進位與二進位間的轉換(Decimal to Binary)</h3><blockquote>在進行演算法的實現時，有時會需要用到二進位的演算，這時要如何將數字從十進位轉換成二進位就成了一個頭痛的問題，本文筆者會用簡易的代碼實現兩者之間的轉換。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1023/1*mzBM4oXXxGH5ZdYMXUQQHQ.jpeg" /><figcaption><a href="https://www.flickr.com/photos/christiaancolen/20607150556">https://www.flickr.com/photos/christiaancolen/20607150556</a></figcaption></figure><p>筆者在寫基因演算法時，需要用到二進位數值的演算，所以就稍微上網惡補了原理以及算法，想到有可能很多人在寫演算法時也會因此而頭痛，所以就做了一個簡單的整理供大家參考。</p><blockquote>以下不會特別說明二進位轉換的數學原理，只會針對代碼部份去做解析，故在閱讀前，就應具備基本的進位轉換常識。</blockquote><pre><strong>在本文，你將會學會以下python技巧：<br></strong>1.十進位轉成二進位<br>2.二進位轉成十進位<br>3.包含整數、浮點數的轉換<br>4.分析問題的能力</pre><p>以下正文開始：</p><p>本文筆者會分別針對<strong>十進位轉二進位(Decimal to Binary)</strong>與<strong>二進位轉十進位(Binary to Decimal)</strong>，建立相對應的function，並且在最後驗證其準確性。</p><p>廢話不多說，直接附上代碼：</p><pre><strong>Decimal to Binary:</strong><br>def DecToBin_machine(num,accuracy):<br>    integer = int(num)<br>    flo = num - integer<br>    integercom = &#39;{:02b}&#39;.format(integer)<br>    tem = flo<br>    flo_list = []<br>    for i in range(accuracy):<br>        tem *= 2<br>        flo_list += str(int(tem))<br>        tem -= int(tem)<br>    flocom = flo_list<br>    binary_value = integercom + &#39;.&#39; + &#39;&#39;.join(flocom)<br>    return binary_value</pre><pre><strong>Binary to Decimal:</strong><br>def BinToDec_machine(num_,flo):<br>    decimal_value = []<br>    cut_num = num_.split(&#39;.&#39;)<br>    int_ = 2**1*int(cut_num[0][0])+2**0*int(cut_num[0][1])<br>    float_ = 0<br>    x = 1<br>    for i in range(-1,(-(len(cut_num[1])+1)),-1):<br>        float_ += 2**i*int(cut_num[1][i+x])<br>        x += 2<br>    whole_num = round(int_+float_,flo)<br>    decimal_value.append(whole_num)<br>    return decimal_value</pre><p>注意：<strong>flo </strong>指的是二進位值轉換成十進位後，所代表的小數點位數。</p><p>驗證：隨機生成一 0~1 的數字，並將其帶入function驗證，因為筆者使用需要，故此function只適合帶入 0~1 的數字，若讀者有需求要轉換更大的數字，可進行更改，在這裡只提供基本的代碼。</p><ul><li><strong>flo_num</strong>：十進位值中代表小數的位數，以下以 3 作為示範。</li><li><strong>accuracy</strong>：二進位值中以固定個數表示小數的值，會放在轉換後的 ” . ” 後面，若上述條件以 3 為例，則放入3*5會較保險 。(若要轉換不同位數，可以自行嘗試)</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/591/1*Ap7Cfs6O4Qr8bs8Go9KRkw.png" /></figure><ul><li>記得注意output後的資料型態！筆者為了方便大家閱讀，分別轉換成str和list型態做演示。</li></ul><blockquote>十進位、二進位轉換的原理</blockquote><p><a href="http://www.chwa.com.tw/tresource/vs/book1/ch2/2-5.htm">數字系統</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=72c5cd292def" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/python-%E5%8D%81%E9%80%B2%E4%BD%8D%E8%88%87%E4%BA%8C%E9%80%B2%E4%BD%8D%E9%96%93%E7%9A%84%E8%BD%89%E6%8F%9B-decimal-to-binary-72c5cd292def">Python — 十進位與二進位間的轉換(Decimal to Binary)</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Python — 人工蜂群演算法(Artificial Bee Colony, ABC)求解最佳化問題]]></title>
            <link>https://medium.com/hunter-cheng/python-%E4%BA%BA%E5%B7%A5%E8%9C%82%E7%BE%A4%E6%BC%94%E7%AE%97%E6%B3%95-artificial-bee-colony-abc-%E6%B1%82%E8%A7%A3%E6%9C%80%E4%BD%B3%E5%8C%96%E5%95%8F%E9%A1%8C-2f7d61bce47b?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/2f7d61bce47b</guid>
            <category><![CDATA[hunter資料科學]]></category>
            <category><![CDATA[heuristic-algorithm]]></category>
            <category><![CDATA[abc-algorithm]]></category>
            <category><![CDATA[python]]></category>
            <category><![CDATA[artificial-bee-colony]]></category>
            <dc:creator><![CDATA[Hunter Cheng]]></dc:creator>
            <pubDate>Wed, 09 Mar 2022 05:42:09 GMT</pubDate>
            <atom:updated>2021-05-20T09:01:50.602Z</atom:updated>
            <content:encoded><![CDATA[<h3>Python — 人工蜂群演算法(Artificial Bee Colony, ABC)求解最佳化問題</h3><blockquote>人工蜂群演算法（Artificial Bee Colony, ABC）是由 Karaboga於2005年提出的全局優化演算法，主要來源自蜂群採蜜的行為，是屬於群體智能算法的其中一種。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*sridaC8W0DyMGR-l" /><figcaption>Photo by <a href="https://unsplash.com/@biancackermann?utm_source=medium&amp;utm_medium=referral">Bianca Ackermann</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p><strong>人工蜂群演算法</strong>（以下通稱<strong>ABC</strong>）是一種<strong>全局優化</strong>演算法，來源自蜂群採蜜的行為，蜜蜂根據各自所擔任的腳色分別進行不同的活动，訊息會在蜂群間共享和交流，進而找到問題的最佳解。優點為穩定性高、控制參數較少、較易理解，缺點則為存在著過早收斂的疑慮。筆者會在下文解析ABC的原理，並在最後附上代碼。</p><pre><strong>在本文你將會學會以下技巧:</strong><br>1.培養分析問題的能力。<br>3.以python實現簡單的演算法。<br>4.透過演算法解決最佳化問題。</pre><h4>原理分析</h4><p>ABC是由<strong>雇佣蜂</strong>（employed bees）和<strong>非雇佣蜂</strong>（unemployed bees）所組成，其中非雇佣蜂又是由<strong>觀察蜂</strong>（on-looker bees）和<strong>偵查蜂</strong>（scout bees）組成。主要目的是為尋找花蜜量最大的蜜源（fitness）。</p><ul><li><strong>雇佣蜂（employed bees）：</strong>與特定的蜜源相聯繫(該蜜源枯竭之后雇佣蜂轉變成偵查蜂)</li><li><strong>觀察蜂（on-looker bees）：</strong>觀察雇佣蜂傳遞的信息並依據其選擇其中一蜜源</li><li><strong>偵查蜂（scout bees）：</strong>由食物源枯竭的雇佣蜂生成，随機查找蜜源</li></ul><p>每個雇佣蜂會對應一個確定的<strong>蜜源</strong>（fitness），在迭代過程中對蜜源的臨域進行搜索，根据蜜源的<strong>豐富程度</strong>（fitness大小），採用<strong>輪盤法（Roulette Wheel Selection）</strong>的方式雇佣跟随蜂採蜜（搜索新蜜源）。</p><pre><strong>輪盤法(Roulette Wheel Selection)<br></strong>為一種回放式隨機取樣法，將一輪盤分成N個部分，根據fitness決定其盤面面積大小，fitness越大面積就越大，故在隨機取樣中被選到的機會就會越大。</pre><p>生成<strong>Trial</strong>表，代表著搜索次數的限制。</p><p>如果蜜源多次更新都没有改變（Trial達到更新上限），意味著蜜源枯竭，則放棄此蜜源，雇佣蜂則轉為偵查蜂随機搜索新蜜源（Trial歸0）。</p><p>觀察蜂在蜂巢內等待偵查蜂的食物來源收集，並從有潛在豐富的蜜源中選擇一個蜜源來採蜜。</p><p>以下正文開始～</p><h4>最佳化問題</h4><ul><li>此次求解最佳化問題為<strong>Rastrigin function，</strong>為最佳化常用的測試函數，其最佳解為 <strong>f(0,0,…,0) = 0</strong>，公式如下：</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/676/1*2qdjKQvGU7cWNTTEt9czqg.png" /></figure><h4>設定參數</h4><ul><li><strong>D、 N：</strong>維度以及組數，藉由此生成<strong>Food Source</strong>。</li><li><strong>ub、lb：</strong>區域上下界。</li><li><strong>Ub、 Lb：</strong>全域上下界 。</li><li><strong>limit：</strong>試驗上限，用以決定是否放棄該蜜源。</li><li><strong>max_iter：</strong>迭代次數。</li></ul><h4>初始化蜜源</h4><p>初始化雇佣蜂和觀察蜂數量、蜜源位置、蜜源搜索次數上限。</p><ul><li>在此設定<strong>(D、N)</strong>為(5、10)，<strong>(Ub、Lb)</strong>為(5、-5)，<strong>(ub、lb)</strong>為(5、-5)，<strong>limit</strong>為D*N， <strong>max_iter</strong>則為10000。</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*JjQx0j6WnIvR1orzHcqT8w.png" /></figure><blockquote><strong>Minimum: 72.15093</strong></blockquote><ul><li>其中蜜源豐富程度(fitness)是根據以下公式決定</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Tu3wwrRI_2KReOokMwJbnQ.png" /></figure><pre>#Fitness function<br>def fitness_machine(num):<br>    fitness = 1/(1+num) if num &gt;= 0 else 1+abs(num)<br>    return fitness</pre><h3>雇佣蜂階段 (Employed Bee Phase)</h3><p>雇佣蜂會根據以下公式更新蜜源位置，保存當前最佳蜜源，紀錄蜜源不好的次數<strong>（Trial + 1）</strong>，根據所選擇的概率方法選擇採蜜的蜜源。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1006/1*8TY7gzK3QP2HCd5HMIsPhQ.png" /></figure><p>針對每一組數(1~5)隨機選擇一值(公式中為<strong>X</strong>)，其後根據所選的值所在的column隨機選擇一值為其更新的partner(公式中為<strong>Xp</strong>)，其中<strong> ϕ </strong>為<strong>-1~1</strong>間的亂數，將以上數字帶入<strong>Xnew</strong>公式中求出新的值，並<strong>Xnew</strong>暫時替代原先選取的值X，求出新的<strong>f(x)</strong>和<strong>fitness</strong>，藉由和原<strong>fitness</strong>比較，決定是否留下新的值以及試驗次數<strong>(Trial)</strong>是否需要加 <strong>1。</strong></p><h4>決定<strong>Xnew</strong>和<strong>Trial</strong>的規範整理</h4><p>因本文示範範例為<strong>“求解最小化問題”</strong>，故在寫code時需讓演算法<strong>永遠保留最小的值</strong>，所以針對fitness公式來說：</p><pre><strong>f(x)越小，代表fitness越大；f(x)越大，代表其fitness就越小</strong><br>故為了只保留最小值，若生成的f(x)沒有比較小，則保留原值，trial必須加1，反之若是生成的f(x)有比較小，則將其替換且trial保持不變。</pre><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/66254ad67197a04f68e6c933549f59d4/href">https://medium.com/media/66254ad67197a04f68e6c933549f59d4/href</a></iframe><h4>雇佣蜂階段結果</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*NWMbqXrOPAXie8wdut-tfQ.png" /></figure><blockquote><strong>Minimum: 70.11839</strong></blockquote><h3>觀察蜂階段(On-looker Bee Phase)</h3><p>觀察蜂根據<strong>輪盤法(Roulette Wheel Selection)</strong>選擇一個蜜源，在該蜜源附近更新此蜜源。</p><p>此階段更新蜜源位置的公式和雇佣蜂階段的公式相同。</p><h4>建立Probability list</h4><p>透過上述第一階段結束的<strong>fitness</strong>求出各別的機率<strong>p</strong>值，並建立一機率列表。</p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/413967b07b35017c2bba34adcca4b7fe/href">https://medium.com/media/413967b07b35017c2bba34adcca4b7fe/href</a></iframe><p>針對每一組數依序生成一<strong>0~1</strong>之間的亂數 <strong>r</strong>，透過和其組數對應的機率<strong>p</strong>比大小，若是<strong> r </strong>比 <strong>p </strong>小，則進行到<strong>觀察蜂階段</strong>，若沒有則保持不變，且<strong>Trial</strong>增加1；由上述可知，若是fitness的機率<strong>p</strong>越大，則可能需替換的機率就會越大。</p><h4><strong>觀察蜂階段</strong></h4><p>其步驟和雇佣蜂階段大致一樣，首先針對需替換的組隨機選擇一值(公式中為<strong>X</strong>)，其後根據所選的值所在的column隨機選擇一值為其更新的partner(公式中為<strong>Xp</strong>)，其中<strong> ϕ </strong>為<strong>-1~1</strong>間的亂數，將以上數字帶入<strong>Xnew</strong>公式中求出新的值，並<strong>Xnew</strong>暫時替代原先選取的值X，求出新的<strong>f(x)</strong>和<strong>fitness</strong>，藉由和原<strong>fitness</strong>比較，決定是否留下新的值以及試驗次數<strong>(Trial)</strong>是否需要加 <strong>1。</strong></p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/7b96b3b76682bf6205f34c6ceac38f6e/href">https://medium.com/media/7b96b3b76682bf6205f34c6ceac38f6e/href</a></iframe><p>以下為判斷是否需要進入觀察蜂階段，會應用到上述提及的<strong>Probability_list和Onlooker_update_fs_step2函式。</strong></p><pre>for i in range(N):<br>    if random.uniform(0,1) &lt; <strong>Probability_list</strong>[i]:<br>        onlooker_out = <strong>Onlooker_update_fs_step2</strong>(i,fs_step2)<br>        fs_step2_2 = onlooker_out[0]<br>        fv_afe = onlooker_out[1]<br>    else:<br>        fs_step2_2 = fs_step2<br>        fv_afe[i] += 1</pre><h4>觀察蜂階段結果</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*CXPU1FTb6lHfdh_spTDDAg.png" /></figure><blockquote><strong>Best Value: 70.11839 </strong>(此為每次迭代中須記錄的<strong>最佳值</strong>)</blockquote><h3>偵察蜂階段(Scout Bee Phase)</h3><p>偵察蜂判斷每個蜜源是否到達試驗上限，若達到則放棄該蜜源，並生成一蜜源代替。</p><p>這部分需要針對各組的<strong>Trial</strong>值(試驗次數)判斷是否有超過<strong>limit</strong>上限，若是有 則隨機生成全域範圍內的一組全新的<strong>Food Source</strong>，因這部分只需做簡單的判斷即可，所以就不以<strong>gists</strong>呈現。</p><pre>#Scout bee phase<br>for j in range(N):<br>    if fv_afe[j] &gt; limit:<br>        for i in range(D):<br>            fs_step2[j][i] = random.uniform(-5,5)<br>            fv_afe[j] = 0</pre><p>迭代結束，輸出最佳蜜源位置。</p><h4>將以上流程丟入完整的迭代過程</h4><ul><li><strong>D、N</strong> = (5,10)</li><li><strong>limit</strong> = 50</li><li><strong>max_iter</strong> = 10000</li></ul><p>迭代完後最佳解為：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*01oQ_WGpD_z1BHXiS_sJ2w.png" /></figure><p>將結果視覺化，紅線為歷代迭代的最佳解：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*eNMrDxOGW0WnnL7VjAlEqw.png" /></figure><ul><li>若是將<strong>max_iter</strong>調整為<strong>500</strong>，可看出其實很早就開始收斂了。</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*-6F_zdW8nA7Nt9Ue5V-1lQ.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*i5xW5OonHktljqv9aO2Aew.png" /></figure><ul><li>若是將(D、N)設定為(2、10)，會發現<strong>max_iter</strong>不管設定多大，都不太可能迭代出最佳解，原因是<strong>試驗上限limit</strong>會受到D和N的影響，兩者是成正比的關係，其意義為因為<strong>limit</strong>過小，所以最小值需要時常被替換；但因為<strong>Trial</strong>的增加速度過快，同時其他組解也還未迭代出最小值，使其一直無法收斂。</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*xMNMRqZqy6uETeEprE_l-w.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*c4VzHZ510188dDwMmR5rDg.png" /></figure><blockquote><strong>完整代碼分享</strong></blockquote><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/70a59bcfbf0dd41215f1001fd01fbe44/href">https://medium.com/media/70a59bcfbf0dd41215f1001fd01fbe44/href</a></iframe><h4>結語</h4><p>相較於PSO、SA、TA、FA等等演算法，ABC演算法算是需要投入時間去了解的，但是透過分析演算法並且熟悉其架構，不妨是增強自己思考能力的一個方法，最後也謝謝各位願意花時間看完我寫的第一篇演算法，之後有機會，會再多寫一些有趣的演算法供大家參考。</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=2f7d61bce47b" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/python-%E4%BA%BA%E5%B7%A5%E8%9C%82%E7%BE%A4%E6%BC%94%E7%AE%97%E6%B3%95-artificial-bee-colony-abc-%E6%B1%82%E8%A7%A3%E6%9C%80%E4%BD%B3%E5%8C%96%E5%95%8F%E9%A1%8C-2f7d61bce47b">Python — 人工蜂群演算法(Artificial Bee Colony, ABC)求解最佳化問題</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Python — 人工蜂群演算法(Artificial Bee Colony, ABC)求解旅行推銷員問題(Traveling Salesman Problem, TSP)]]></title>
            <link>https://medium.com/hunter-cheng/python-%E4%BA%BA%E5%B7%A5%E8%9C%82%E7%BE%A4%E6%BC%94%E7%AE%97%E6%B3%95-artificial-bee-colony-abc-%E6%B1%82%E8%A7%A3%E6%97%85%E8%A1%8C%E6%8E%A8%E9%8A%B7%E5%93%A1%E5%95%8F%E9%A1%8C-traveling-salesman-problem-tsp-57f275e758ba?source=rss----ee9a585bc327---4</link>
            <guid isPermaLink="false">https://medium.com/p/57f275e758ba</guid>
            <category><![CDATA[heuristic-algorithm]]></category>
            <category><![CDATA[travelling-salesman]]></category>
            <category><![CDATA[python]]></category>
            <category><![CDATA[artificial-bee-colony]]></category>
            <category><![CDATA[hunter資料科學]]></category>
            <dc:creator><![CDATA[Hunter Cheng]]></dc:creator>
            <pubDate>Wed, 09 Mar 2022 05:42:05 GMT</pubDate>
            <atom:updated>2021-07-03T02:00:29.516Z</atom:updated>
            <content:encoded><![CDATA[<h3>Python — 人工蜂群演算法(Artificial Bee Colony, ABC)求解旅行推銷員問題(Traveling Salesman Problem, TSP)</h3><blockquote>人工蜂群演算法（Artificial Bee Colony, ABC）是由 Karaboga於2005年提出的全局優化演算法，主要來源自蜂群採蜜的行為，是屬於群體智能算法的其中一種。</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*CjIlN5XgB8v28llv" /><figcaption>Photo by <a href="https://unsplash.com/@trogdon?utm_source=medium&amp;utm_medium=referral">Bryan Trogdon</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><blockquote><strong>何謂人工蜂群演算法</strong>(Artificial Bee Colony, <strong>ABC)?</strong></blockquote><p><strong>ABC</strong>是一種<strong>全局優化</strong>演算法，來源自蜂群採蜜的行為，蜜蜂根據各自所擔任的角色分別進行不同的活動，訊息會在蜂群間共享和交流，進而找到問題的最佳解。優點為穩定性高、控制參數較少、較易理解，缺點則為存在著過早收斂的疑慮。</p><p>筆者曾對於ABC進行過詳細的講解，並用以求解最佳化問題，若是有興趣深入了解，可以參考筆者以下這篇文章。</p><p><a href="https://huntercheng1013.medium.com/python-%E4%BA%BA%E5%B7%A5%E8%9C%82%E7%BE%A4%E6%BC%94%E7%AE%97%E6%B3%95-artificial-bee-colony-abc-%E6%B1%82%E8%A7%A3%E6%9C%80%E4%BD%B3%E5%8C%96%E5%95%8F%E9%A1%8C-2f7d61bce47b">Python — 人工蜂群演算法(Artificial Bee Colony, ABC)求解最佳化問題</a></p><blockquote><strong>何謂旅行推銷員問題(</strong>Traveling Salesman Problem, <strong>TSP)?</strong></blockquote><p>此部分主要來自搜尋<strong>維基百科</strong>，在此只會針對問題定義上大致做一個講解，若想詳細了解可以點擊以下連結，但相信大部分會點擊此篇文章的讀者，應都已具備相對應的觀念。</p><p><strong>TSP</strong>定義為，給定一系列城市和每對城市之間的距離，求解存取每一座城市一次並回到起始城市的最短路徑。它是組合最佳化中的一個NP困難問題，在作業研究和理論電腦科學中非常重要。</p><p><a href="https://zh.wikipedia.org/wiki/%E6%97%85%E8%A1%8C%E6%8E%A8%E9%94%80%E5%91%98%E9%97%AE%E9%A2%98">旅行推销员问题 - 维基百科，自由的百科全书</a></p><pre><strong>在本文你將會學會以下技巧：<br></strong>1.培養分析問題的能力。<br>2.以Python實現簡單的演算法。<br>3.了解旅行推銷員問題。<br>4.使用蜂群演算法解決旅行推銷員問題。</pre><h4><strong>求解TSP問題簡述</strong></h4><p>ABC屬於全局優化演算法，所以以下求解的流程採用方法為，優先生成一<strong>距離矩陣（distance matrix）</strong>，此矩陣是求解最佳路徑中，所需點中彼此間的距離，並以此矩陣為基礎，在每個點不重複的情況下，求出一總距離最短的路徑。</p><p>嚴格來說，ABC演算法並不是一個求解TSP問題最佳的選擇。但是在實務中，解決任何問題往往需要採取大量的方法才能求得最佳解，所以在以下本文中會告訴大家筆者所使用的方法外，也會在最後總結其適合使用的情況和條件。</p><p>以下正文開始～</p><h4>決定城市數量並生成距離矩陣（Distance Matrix）</h4><p>首先，決定本次要求解的城市點數，以下設定為10，意指在10個城市間選擇出距離最短的路徑解法。可以看到以下是10x10的距離矩陣，分別代表第 <strong><em>i </em></strong>個城市到第 <strong>j </strong>個城市的距離，以及相對應的第 <strong>j </strong>個城市到第<strong> i</strong> 個城市的距離。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/844/1*a839QDA2Xk_GOhzUz2Wr_Q.png" /></figure><h4>基本參數設定</h4><ul><li><strong>D、 N：</strong>維度以及組數，藉由此生成 <strong>Food Source</strong>。</li><li><strong>ub、lb：</strong>區域上下界。</li><li><strong>Ub、 Lb：</strong>全域上下界 。</li><li><strong>limit：</strong>試驗上限，用以決定是否放棄該蜜源。</li><li><strong>exchange_num : </strong>生成 <strong>Xnew</strong> 時，<strong>Food Source</strong>中一次要轉換的個數。</li><li><strong>max_iter：</strong>迭代次數。</li></ul><h4>如何求解？</h4><p>和上一篇介紹的使用ABC求解<strong>最佳化問題</strong>所採用的方法不同，在這次要解決的問題是<strong>TSP</strong>，必須要將 <strong>Food Source </strong>的概念轉換成<strong>路徑</strong>，並且計算每次路徑的距離，才能在迭代過程中求得最短路徑，進而得出整體最佳解。</p><p>老實說我一開始也沒想到這個解法，網路上也幾乎沒什麼人針對這一方面下去講解其關連性和解法，直到筆者一位很厲害的朋友告訴我後才恍然大悟，以下介紹使用此方法的條件以及限制。</p><h4>實數解取代路徑手法</h4><p>此法實際上就是針對所需的路徑城市點數量，生成一相對應的點數的亂數數列，並且按照數列中數字的大小進行排列，就是為所求的<strong>路徑</strong>。</p><blockquote>條件及限制</blockquote><ul><li><strong>實際轉換後的路徑必須是0開頭0結尾的結構：</strong>TSP求解大多在最後會回到原出發點，所以在實際解中，如果是一10個城市的TSP，在此並不是考慮10個點而是一次考量11個點下去生成串列，進而產生對應頭尾相同的路徑。</li></ul><pre>生成的數列，頭尾數字一定須相同，代表從相同城市出發再回到相同的城市。<br>[  0 7 5 6 9 2 4 1 3 8 0  ]</pre><ul><li><strong>實數串列開頭數字最小，結尾數字最大：</strong>由於實際路徑是按照此實數串列中的大小進行排序的，所以在生成一實數串列時，務必要控制好開頭及結尾的大小，才能確保此路徑在之後任何階段變動都頭尾都不受到影響，進而確保其開頭結尾城市相同的條件。</li></ul><pre>生成的數列，將頭尾數字控制在(-10, 10)，使其在迭代過程中不會被影響實際順序，其餘數字設定成<strong>0~1的均勻隨機亂數</strong>，以確保不會有重複值的產生。<br>[ -10 0.767 0.453 0.532 0.890 0.111 0.325 0.022 0.231 0.800  ]<br>[  0 7 5 6 9 2 4 1 3 8 0  ]</pre><h3>初始化蜜源</h3><p>本次實作範例所採用的參數設定如下：</p><ul><li><strong>N：</strong>10。</li><li><strong>D：</strong>9。上述雖提及有11個點在求解，但頭尾需固定數字，所以一組解中實際有在變動的只有9個點。</li><li><strong>ub、lb：</strong>1、 -1。計算Xnew時，藉由區域上下界控制其數字變動大小。另一種則是Xnew計算時也許會超過全域上下界的值，這部分的變數控制在下文中會提及。</li><li><strong>Ub、 Lb：</strong>10、 -10。生成實數串列時，頭尾的值。</li><li><strong>limit：</strong>D*N。偵查蜂階段蜜源的替換上限。</li><li><strong>exchange_num : </strong>2。</li><li><strong>max_iter：</strong>10000。</li></ul><p>以下為初始化的蜜源，以<strong>實數串列</strong>型態表現：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*1NxXVg2mWLBgyXPRLXNu9g.png" /></figure><p>將每組串列按照大小排序，得到各組的路徑，並進而求出其<strong>距離</strong>和<strong>fitness：</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*CjUxNpcuPU3V8CBmOELWXw.png" /></figure><blockquote><strong>Minimum: 482 (Distance)</strong></blockquote><h3>雇佣蜂階段 (Employed Bee Phase)</h3><p>其算法流程大致上和在求最佳化問題相同，除了實數數列的置入外，其他詳細流程可參照上一篇，有較詳細的說明，以下只會針對計算實數解的步驟詳細說明。</p><p>雇佣蜂階段主要目的為，當前蜜蜂A透過隨機向附近其他隻蜜蜂探查，假設選擇的蜜蜂為蜜蜂B，若是蜜蜂B的蜜源較好，則蜜蜂A會在蜜蜂B附近生成一新蜜源進行採集。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*KChBhsUF7nQ-ukSq" /><figcaption>Photo by <a href="https://unsplash.com/@leonova_sia?utm_source=medium&amp;utm_medium=referral">Anastasia Leonova</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>而新蜜源位置的產生，是雇佣蜂根據以下公式進行更新的。算法上為將蜜蜂A中其中一參數選擇出來和蜜蜂B相對應的參數進行<strong>Xnew</strong>的計算，生成出的<strong>Xnew</strong>再取代原蜜蜂A中參數位置的值，重新排序藉以求出新的路徑。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*8uRFDfboUOHHy27kn7xb1w.png" /></figure><blockquote>其中<strong> ϕ </strong>需特別注意，為了確保<strong>其實數數字</strong>能在串列中改變位置，所以設置為<strong>1~-1</strong>之間的亂數。其他組合並沒有不好，但經過不斷的試驗，發現 <strong>ϕ </strong>在<strong>(1~-1)</strong>之間生成的亂數在最後結果中收斂速度較隨機。</blockquote><blockquote>原是設定成<strong>(0~-0.5)</strong>，原因是收斂速度最快，但是後來發現如果按照此設定，數列中的亂數值會被控制在<strong>0.4</strong>多左右，只要迭代次數一高，就會發生路徑上<strong>城市點重複經過</strong>的問題。</blockquote><h4>Xnew上下界值的設定</h4><blockquote>這裡有一重要問題是如何控制生成後<strong>Xnew</strong>解的大小，如果超過蜜源中<strong>均勻隨機亂數設定值0~1</strong>的界限怎麼辦？如果將超過界限的值設定成<strong>定值</strong>呢？</blockquote><p>當然不行，迭代次數少說是介於100～100000，過程中絕對會出現一樣超過界限值的數字很多次。所以在打code時，筆者將其設定成隨著迭代次數的增加，其超過界限的值會根據其迭代的次數進行改變。</p><pre><strong>設定如下，將超過上界值控制在0.9999999，並且隨著迭代次數(it)和Xnew第幾個運算次數(i)進的微調，可100%確保數字不會重複。<br></strong>Xnew = num[i]+(random.uniform(lb,ub))*(num[i]-challenge_num_list[i])<br>if Xnew&gt;=1:<br>    Xnew = np.array(<strong><em>0.9999999-(0.000000001*it)+(i*0.0000000001)</em></strong>)<br>elif Xnew&lt;=0:<br>    Xnew = np.array(<strong><em>0.0000001+(0.000000001*it)+(i*0.0000000001)</em></strong>)</pre><h4>雇佣蜂過程中一次須交替多少參數？</h4><p>沒錯，一次要替換多少參數也是必須要考量的問題之一。其替換的多寡將會決定以下兩件事：</p><ul><li><strong>一次只交換 1 個參數：</strong>這是最保險的做法，<strong>優點</strong>是可確保新生成的路徑變動不會太大，其distance也會穩定收斂。<strong>缺點</strong>是收斂速度過慢，容易落在<strong>局部最佳解</strong>，且由於ABC本質上是全局優化演算法，只交換 1 個效率會過低，如果電腦性能較差，迭代次數一大就會吃不消。今天示範範例是10個城市點，實務絕對是上百上千個，如果一次只交換 1 個城市點的參數，那真的別鬧了，你絕對是在瞧不起蜂群演算法。</li><li><strong>一次交換多個參數：</strong>變動太大，雖說ABC的優點是收斂快速，前期是可快速收斂到定值，但到後期就會開始變動，主要是取決交換參數的數量，經過測試，如若是 3 個以上，完全不會收斂，控制<strong>試驗次數上限(limit)</strong>也沒用，除非迭代次數<strong>(iteration)</strong>設小才有可能隨機找到最佳解，注意是“隨機”，代表這是一件非常吃運氣的事情。</li></ul><p>經過筆者的試驗，對10個城市點來說，<strong>一次交換 2 個參數</strong>可大大達到上述兩點所提及的效益，收斂快速又可以很快找到最佳路徑，到後期也不大影響收斂結果。</p><blockquote>如要找出城市點和交換參數數量的關係，需要進行大量的測試才可找出一最佳組合關係，因本文範例是10個城市點，故只會採用 2 個參數進行實作。順帶一提，在測試100個點時，交換參數值一超過 2 就不會收斂了。</blockquote><p>經過上述所有限制的介紹，現在又回到雇佣蜂階段的部分繼續講解。其新生成的路徑，若是distance的<strong>fitness</strong>較大，則將其路徑取代；反之若是新生成distance的<strong>fitness</strong>較小，則維持原路徑，並且試驗次數(<strong>Trial)</strong>加 <strong>1</strong>。</p><h4>關於蜜源豐富程度<strong>(fitness)大小和</strong>試驗次數(<strong>Trial)的規範</strong></h4><p>TSP問題絕對為<strong>“求解最小化問題”</strong>的一種，故在寫code時需讓演算法<strong>永遠保留最小的值</strong>，所以針對fitness公式來說：</p><pre><strong>f(x)越小，代表fitness越大；f(x)越大，代表其fitness就越小</strong><br>故為了只保留最小值，若生成的f(x)沒有比較小，則保留原值，trial必須加1，反之若是生成的f(x)有比較小，則將其替換且trial保持不變。</pre><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/d7ad038bf814457208e559acb42112df/href">https://medium.com/media/d7ad038bf814457208e559acb42112df/href</a></iframe><h3>觀察蜂階段(On-looker Bee Phase)</h3><p>此部分主要是蜜蜂依據其蜜源豐富程度的大小，採用<strong>輪盤法(Roulette Wheel Selection)</strong>決定是否要進行蜜源的更換。簡單來說就是蜜源如果採集次數過多就會枯竭，此時就必須要決定是否需要更換至其他蜜源進行採集，此更換的流程和雇佣蜂過程相同，在此就不多以贅述。</p><h4>建立Probability list</h4><p>透過上述第一階段結束的<strong>fitness</strong>求出各別的機率<strong>p</strong>值，並建立一機率列表。</p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/7fd6811ff4562eaace8d0115385f1642/href">https://medium.com/media/7fd6811ff4562eaace8d0115385f1642/href</a></iframe><p>針對每一組數依序生成一<strong>0~1</strong>之間的亂數 <strong>r</strong>，透過和其組數對應的機率<strong>p</strong>比大小，若是<strong> r </strong>比 <strong>p </strong>小，則進行到<strong>觀察蜂階段</strong>，若沒有則保持不變，且<strong>Trial</strong>增加1；由上述可知，若是fitness的機率<strong>p</strong>越大，則可能需替換的機率就會越大。</p><h4>觀察蜂階段</h4><p>其主階段內容和雇佣蜂相同，以下直接附上代碼，值得一提的是在設定<strong>Xnew</strong>超過上下界所控制的值，避免和雇佣蜂階段產生的<strong>Xnew</strong>重疊而改成如下：</p><pre><strong>基本上數值只是進行微調而已，目的是為了不重複而已，但又不能控制得太誇張。</strong><br>Xnew = num[i]+(random.uniform(lb,ub))*(num[I]-challenge_num_list[i])<br>if Xnew&gt;=1:<br>    Xnew = np.array(<strong><em>0.9999998-(0.0000000011*it)+(i*0.0000000001)</em></strong>)<br>elif Xnew&lt;=0:<br>    Xnew = np.array(<strong><em>0.0000001+(0.0000000011*it)+(i*0.0000000001)</em></strong>)</pre><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/83909d6e40a66454c3ddc9b46bd93a6e/href">https://medium.com/media/83909d6e40a66454c3ddc9b46bd93a6e/href</a></iframe><p>以下為判斷是否需要進入觀察蜂階段，會應用到上述提及的<strong>probability_list和Onlooker_Bee_Phase函式</strong>，通常在此階段就會儲存每次迭代的最佳解。</p><pre>for i in range(N):<br>    if random.uniform(0,0.1) &lt; Probability_list[i]:<br>        onlooker_out = Onlooker_Bee_Phase(<strong>Parameters</strong>)<br>        foodsource_realvalue2 = onlooker_out[]<br>        trial_afe = onlooker_out[]<br>    else:<br>        foodsource_realvalue2 = foodsource_realvalue<br>        trial_afe[i] += 1</pre><h3>偵察蜂階段(Scout Bee Phase)</h3><p>偵察蜂判斷每個蜜源是否到達試驗上限，若達到則放棄該蜜源，並生成一蜜源代替。</p><p>這部分需要針對各組的<strong>Trial</strong>值(試驗次數)判斷是否有超過<strong>limit</strong>上限，若是有 則隨機生成全域範圍內的一組全新的<strong>Food Source</strong>，因這部分只需做簡單的判斷即可，所以就不以<strong>gists</strong>呈現。</p><pre>#Scout bee phase<br>for i in range(N):<br>    if trial_afe[i] &gt; limit:<br>        foodsource_realvalue2[i] = np.array(foodsource(D)[0])<br>        trial_afe[i] = 0</pre><p>迭代結束，輸出最佳蜜源位置。</p><p>為判斷是否能求出最佳解，採用<strong>窮舉法(Method of exhaustion)</strong>，將頭尾都是 0 的路徑中全部都嘗試一遍。</p><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/e9335a2c709c6161ebdadfbcf1073151/href">https://medium.com/media/e9335a2c709c6161ebdadfbcf1073151/href</a></iframe><p>得出<strong>最佳路徑</strong>和<strong>最短距離</strong>為：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/682/1*-O0PSg_uBurxIWYzYBHX1w.png" /></figure><p>實際丟進去ABC迭代10000次得出的最佳解如下：</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1012/1*_gAtaFlBEMlfb3EDRI3M9Q.png" /></figure><p>將結果視覺化如下，可看出在本次試驗，於迭代800左右就收斂到最佳解了，且也沒有因為一次交換兩個參數導致收斂線動盪的問題出現。</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*7f__2MaRIuIuicy1C9VAWA.png" /></figure><p>可看出這次試驗成功，最佳結果有迭代到<strong>窮舉法的最佳解</strong>。</p><blockquote>完整代碼分享</blockquote><iframe src="" width="0" height="0" frameborder="0" scrolling="no"><a href="https://medium.com/media/b0669821e8d641f9e54369b9b3e96efd/href">https://medium.com/media/b0669821e8d641f9e54369b9b3e96efd/href</a></iframe><h4>結語</h4><p>用ABC解決旅行推銷員問題並不是一個好的做法，需要考量的點非常多，但是拿來訓練思維能力還是非常好用的。實務上如果要應用就會較為吃力，要校正的數值也會比較多，像筆者在<strong>雇佣蜂階段</strong>和<strong>觀察蜂階段</strong>就花費非常多時間校正<strong>“Xnew上下界值”</strong>和<strong>“一次交換多少值”</strong>，避免發生經過相同城市點的問題出現，直到目前才調整出可以求得最佳解且不會發生經過一樣城市點的參數組。</p><p>如要利用ABC解決更複雜的旅行推銷員問題，最好的方法建議是增加 <strong>N </strong>，也就是初始路徑的組數，但是相對應的要從數量這麼多的路徑迭中代出最佳解就必須使用大量的迭代次數才能解決。</p><p>筆者其實正在解決一實務問題，主要是100城市點的旅行推銷員問題，因點數實在過多，採用100組初始路徑並迭代10000次試圖找出最佳解，跑了一天後結果出來卻發現距離還沒收斂，透過此可以發現初始組數初始組數<strong> N</strong> 越大就會花更多時間找最佳解，所以後來筆者將迭代次數調整成30000讓演算法下去運算，而目前還正在跑。因為實在是太久了，所以我就抽空寫了這篇文章，結果寫完還在跑。</p><p>等最佳結果真的跑出來後，我在抓時間寫一篇看看吧，謝謝大家。</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=57f275e758ba" width="1" height="1" alt=""><hr><p><a href="https://medium.com/hunter-cheng/python-%E4%BA%BA%E5%B7%A5%E8%9C%82%E7%BE%A4%E6%BC%94%E7%AE%97%E6%B3%95-artificial-bee-colony-abc-%E6%B1%82%E8%A7%A3%E6%97%85%E8%A1%8C%E6%8E%A8%E9%8A%B7%E5%93%A1%E5%95%8F%E9%A1%8C-traveling-salesman-problem-tsp-57f275e758ba">Python — 人工蜂群演算法(Artificial Bee Colony, ABC)求解旅行推銷員問題(Traveling Salesman Problem, TSP)</a> was originally published in <a href="https://medium.com/hunter-cheng">學習漂流瓶 Drift Bottle</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
    </channel>
</rss>