<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[mmp-li - Medium]]></title>
        <description><![CDATA[Life style of Programmer, Machine Learning, Deep Learning and new trend of technology - Medium]]></description>
        <link>https://medium.com/mmp-li?source=rss----59ef541b9a39---4</link>
        <image>
            <url>https://cdn-images-1.medium.com/proxy/1*TGH72Nnw24QL3iV9IOm4VA.png</url>
            <title>mmp-li - Medium</title>
            <link>https://medium.com/mmp-li?source=rss----59ef541b9a39---4</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Mon, 16 Nov 2026 02:23:10 GMT</lastBuildDate>
        <atom:link href="https://medium.com/feed/mmp-li" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[แปลงข้อมูลจาก Text ไปเป็น Vector ด้วย Sentence Embedding]]></title>
            <link>https://medium.com/mmp-li/%E0%B9%81%E0%B8%9B%E0%B8%A5%E0%B8%87%E0%B8%82%E0%B9%89%E0%B8%AD%E0%B8%A1%E0%B8%B9%E0%B8%A5%E0%B8%88%E0%B8%B2%E0%B8%81-text-%E0%B9%84%E0%B8%9B%E0%B9%80%E0%B8%9B%E0%B9%87%E0%B8%99-vector-%E0%B8%94%E0%B9%89%E0%B8%A7%E0%B8%A2-sentence-embedding-8e3fac4cd3d6?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/8e3fac4cd3d6</guid>
            <category><![CDATA[chatgpt]]></category>
            <category><![CDATA[rags]]></category>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[embedding]]></category>
            <category><![CDATA[gpt]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Fri, 02 Feb 2024 15:35:39 GMT</pubDate>
            <atom:updated>2024-02-02T15:35:22.600Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>ใดๆบนโลก ล้วนแก้ได้ด้วย embedding</blockquote><p>ในปี 2023 หลายๆคนคงรู้จักกับ keyword พวกนี้ในฝั่ง NLP เช่น LLM (large language model), RAG (retrieve augmented generation), GPT (Generative Pre-trained Transformer), and Transformer. คำเหล่านี้ถูกใช้เป็นอย่างมาในช่วง 2022 ซึ่งเป็นเพราะการมาถึงข้อ “ChatGPT” ผู้คนทั้งหลายหันไปทดสอบ ลองเล่น กับโมเดล generative เป็นจำนวนมาก อีกทั้งยังมี “ChatGPT Clone” เกิดขึ้นมาเป็นจำนวนมากในปี 2022–23 เช่น OpenThaiGPT, WangChanGLM, หรือ Typhoon แต่ทว่าในกระแสเหล่านี้ กลับมีงานอีกประเภทหนึ่งที่อยู่เบื้องหลังงานเหล่านี้ แต่คนกลับลืมไปแล้ว (ไม่ได้ลืมหรอก แค่รู้สึกว่าไม่ได้น่าตื่นเต้นแบบ GPT) แต่ก็มักจะต้องใช้งานเสมอ ของเหล่านั้นคือ “Text Embedding”</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*q_v8aoHr1wQjYoodaXRZ8g.png" /><figcaption>The overview of representation in NLP</figcaption></figure><p>ปกติแล้วคอมพิวเตอร์ของเราเนี่ย ไม่สามารถรับ Text ที่เป็นตัวหนังสือเข้าไปตรงๆในโมเดลได้ เราต้องแปลงตัวหนังสือ หรือ ตัวอักษร เป็นตัวเลขอะไรสักอย่าง แล้วค่อยให้คอมพิวเตอร์ทำการแปลงข้อมูลเหล่านั้นเป็นการเข้ารหัสอะไรสักอย่าง (encoding) ที่เราสามารถเอามาตีความได้ เช่น การแปลงคำเป็น vector (word embedding)</p><p>ในบทความนี้เราไม่ได้มาสอนวิธีการเทรนโมเดลแต่อย่างใด แต่มาสอนวิธีการแปลงข้อความเป็น Text embedding เพื่อเอาไปใช้กับ LLM (search หาข้อมูลสำหรับ In-context learning) หรือ RAG (“R” = retrieval ซึ่งต้องใช้ embedding) โดยปัจจุบันการแปลงข้อความมีอยู่สองแบบหลักๆ</p><ol><li>Bag-of-Word: เอาข้อความมา map ใน hash table (อ่านบทความในอดีตของผมได้)</li></ol><p><a href="https://medium.com/mmp-li/nlp-natural-language-processing-%E0%B8%A8%E0%B8%B2%E0%B8%AA%E0%B8%95%E0%B8%A3%E0%B9%8C-%E0%B9%84%E0%B8%A1%E0%B9%88-%E0%B9%83%E0%B8%AB%E0%B8%A1%E0%B9%88-%E0%B8%A8%E0%B8%B2%E0%B8%AA%E0%B8%95%E0%B8%A3%E0%B9%8C%E0%B9%81%E0%B8%AB%E0%B9%88%E0%B8%87%E0%B9%80%E0%B8%88%E0%B9%84%E0%B8%94-%E0%B9%81%E0%B8%A2%E0%B8%81%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B9%80%E0%B8%A0%E0%B8%97%E0%B8%AD%E0%B8%B5%E0%B9%80%E0%B8%A1%E0%B8%A5%E0%B8%A5%E0%B9%8C%E0%B8%94%E0%B9%89%E0%B8%A7%E0%B8%A2%E0%B8%9E%E0%B8%A5%E0%B8%B1%E0%B8%87%E0%B8%9F%E0%B8%AD%E0%B8%A3%E0%B9%8C%E0%B8%8B-66b8bdff2e42">NLP(Natural Language Processing) ศาสตร์(ไม่)ใหม่ ศาสตร์แห่งเจได: แยกประเภทอีเมลล์ด้วยพลังฟอร์ซ</a></p><p>2. การทำ Embedding: แทนที่จะ map ตรงๆ เราก็เอาคอมพิวเตอร์มาเข้ารหัสข้อมูลแทน</p><p><a href="https://medium.com/airesearch-in-th/misspelling-oblivious-word-embeddings-%E0%B8%AD%E0%B8%B5%E0%B8%81%E0%B8%AB%E0%B8%99%E0%B8%B6%E0%B9%88%E0%B8%87%E0%B8%82%E0%B8%B1%E0%B9%89%E0%B8%99%E0%B8%82%E0%B8%AD%E0%B8%87-fasttext-5c878feb0863">Misspelling Oblivious (word) Embeddings | อีกหนึ่งขั้นของ FastText</a></p><p>แบบแรกปัญหามันชัดเจนมาก ถ้าคำไม่ได้อยู่ใน hash table ก็ไม่สามารถ encode ได้ ส่วนแบบสองคือต้องใช้ computational (CPU or GPU) ตั้งแต่การเทรนยันการใช้งาน แต่อย่างที่บอก วันนี้ไม่ได้จะมานำเสนอวิธีการเทรน (แต่ก็มีบอกใบ้) แต่จะมาเสนอวิธีการใช้งานของที่มีอยู่แล้ว</p><p>ในปี 2021–22 ผมสร้าง Repo ใน github ที่ชื่อว่า Thai sentence vector benchmark ขึ้นมา</p><p><a href="https://github.com/mrpeerat/Thai-Sentence-Vector-Benchmark">GitHub - mrpeerat/Thai-Sentence-Vector-Benchmark: Benchmark for Thai sentence representation</a></p><p>จุดประสงค์คือเราอยากจะสร้าง benchmark ที่ใช้สำหรับ Train + Test text embedding ภาษาไทย!</p><h3>ภายใน Repo ประกอบไปด้วย</h3><ol><li>วิธีการเทรนโมเดล text embedding ในแบบฉบับไม่พึ่ง supervised data (<a href="https://github.com/mrpeerat/Thai-Sentence-Vector-Benchmark?tab=readme-ov-file#how-do-we-train-unsupervised-sentence-representation">https://github.com/mrpeerat/Thai-Sentence-Vector-Benchmark?tab=readme-ov-file#how-do-we-train-unsupervised-sentence-representation</a>)</li></ol><p>ถ้าคุณอยากเทรนโมเดลเป็นของตัวเอง สามารถกด train ได้เลย โดยความเท่คือเราสามารถเทรนบน colab ได้ภายในไม่กี่ชั่วโมง (บนดาต้า 1 ล้านข้อความ) แถมไม่ต้องใช้ label ดาต้า ขอแค่คุณมี raw text ที่ทำความสะอาดมาแล้ว ก็สามารถใช้ได้เลย</p><p>2. วิธีการทดสอบ text embedding ใน task ต่างๆเช่น Text embedding, Text pair classification, และ retrieval (<a href="https://github.com/mrpeerat/Thai-Sentence-Vector-Benchmark?tab=readme-ov-file#thai-semantic-textual-similarity-benchmark">https://github.com/mrpeerat/Thai-Sentence-Vector-Benchmark?tab=readme-ov-file#thai-semantic-textual-similarity-benchmark</a>)</p><p>อย่าลืมว่าคุณต้องมี benchmark หรือว่าชุด test set ที่จะมาทดสอบโมเดลคุณด้วย ถ้าคุณทำโมเดลขึ้นมาแล้วไม่มีการทดสอบ คุณก็ไม่สามารถบอกได้ว่าโมเดลของคุณมันดีกว่าของคนอื่นอย่างไร</p><h3>สรุปผลการทดลองแล้วเปรียบเทียบโมเดล</h3><p>ใน repro เราทดลองกับ 3 models ได้แก่</p><ol><li>โมเดลที่คนอื่นเทรนมาแล้วแบบ multilingual ใช้ดาต้าจำนวนมหาศาล</li><li>โมเดลที่เราเทรนเอง ใช้ดาต้าแค่ 1 ล้านบน raw text ไม่มี label อะไรเลย</li><li>API จาก Cohere (เสียเงิน)</li></ol><h4>สิ่งที่เราพบได้แก่</h4><ol><li>โมเดลที่ชาวบ้านเขาปล่อยให้ใช้ (<a href="https://huggingface.co/sentence-transformers/paraphrase-multilingual-mpnet-base-v2">https://huggingface.co/sentence-transformers/paraphrase-multilingual-mpnet-base-v2</a>) มีคุณภาพที่ดีเลย แต่ต้องแลกมากับ parameters จำนวนมาก (ใช้ GPU’s ram เยอะในการรัน) แต่ข้อถัดไปจะทำให้เราคิดว่าโมเดลนี้ไม่ได้ดีอะไรเลย</li><li>โมเดลที่เราเทรนเอง ดีกว่าโมเดลชาวบ้าน ทั้งในแง่ของ 1) speed 2) price 3) performance ถ้าคุณบรรลุทั้งสามข้อนี้เวลานำเสนอโมเดลให้กับหัวหน้าทีมของคุณ หัวของคุณก็ไม่มีทางปฏิเสธแน่นอน</li><li>อย่าใช้ API! เรื่องตลกที่เราเจอคือ API ที่ให้เราได้ทดลองใช้อย่าง multilingual Cohere-V2 มี performance ที่ไม่ค่อยดีบนทุก task ยกเว้น “Retrieval” ซึ่งเหตุผลมันคือ “task retrieval มี training data ซึ่งอาจจะถูกใส่ใน API model เรียบร้อยแล้ว” แต่โมเดลของเราไม่ได้ใส่ เลยแพ้ API ไป</li></ol><p>โดยภาพรวมจะพบว่าต่อให้เราเทรนโมเดลแบบไม่มีดาต้ามหาศาล, ไม่มีโมเดลใหญ่, ไม่มีคอมแรงๆก็สามารถสร้าง embedding ให้ดีเทียบเท่ากับโมเดลเหล่านั้นได้ ในอนาคตกำลังจะมีแผนคิดว่าจะ extend benchmark ของเราให้ใหญ่กว่าเดิม (ซึ่งมีคนทำแบบเราในเวอร์ชั่น Indo เรียบร้อยแล้ว: <a href="https://github.com/LazarusNLP/indonesian-sentence-embeddings">https://github.com/LazarusNLP/indonesian-sentence-embeddings</a>)</p><h3>สรุป</h3><p>ถ้าคุณกำลังมองหา text embedding ทั้งโมเดล, training code, และ benchmark ขอเรียนเชิญที่ Thai sentence vector benchmark ครับ</p><p>By</p><p>Mr.Peerat Limkonchotiwat, Ph.D. student, VISTEC, Thailand</p><p>Web: <a href="https://mrpeerat.github.io/">https://mrpeerat.github.io/</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=8e3fac4cd3d6" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/%E0%B9%81%E0%B8%9B%E0%B8%A5%E0%B8%87%E0%B8%82%E0%B9%89%E0%B8%AD%E0%B8%A1%E0%B8%B9%E0%B8%A5%E0%B8%88%E0%B8%B2%E0%B8%81-text-%E0%B9%84%E0%B8%9B%E0%B9%80%E0%B8%9B%E0%B9%87%E0%B8%99-vector-%E0%B8%94%E0%B9%89%E0%B8%A7%E0%B8%A2-sentence-embedding-8e3fac4cd3d6">แปลงข้อมูลจาก Text ไปเป็น Vector ด้วย Sentence Embedding</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[รีวิวชีวิตตัวเองในปี 2019]]></title>
            <link>https://medium.com/mmp-li/%E0%B8%A3%E0%B8%B5%E0%B8%A7%E0%B8%B4%E0%B8%A7%E0%B8%8A%E0%B8%B5%E0%B8%A7%E0%B8%B4%E0%B8%95%E0%B8%95%E0%B8%B1%E0%B8%A7%E0%B9%80%E0%B8%AD%E0%B8%87%E0%B9%83%E0%B8%99%E0%B8%9B%E0%B8%B5-2019-8ebf4d8d9539?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/8ebf4d8d9539</guid>
            <category><![CDATA[thai-nlp]]></category>
            <category><![CDATA[ai-research]]></category>
            <category><![CDATA[vistec]]></category>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[naturallanguageprocessing]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Sat, 29 Feb 2020 06:54:18 GMT</pubDate>
            <atom:updated>2020-04-23T05:55:50.404Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>จะเกิดอะไรขึ้น ถ้าคุณต้องทำแต่สิ่งเดิมๆ วนไปวนมา 5 ปี ….กลับตัวก็ไม่ได้ให้เดินต่อไปก็มองไม่เห็นทาง</blockquote><p>บทความ Lifestyle แรกของปี 2020 หลังจากที่วิชาการมาเยอะแล้ว ก็อยากจะมาระบายเกี่ยวกับชีวิตของนักวิจัย(Rookie) และเส้นทางชีวิตหลังจากเลือกเรียนป.เอกที่ VISTEC นั้นเอง</p><p>ในช่วงปี 2019 ที่ผ่านมาถือเป็นอีกปีที่ฟอร์มของผม อะไรหลายๆอย่างได้เกิดขึ้นมากมาย ทั้งได้ทำเพจ ได้ทำบล็อก ได้ร่วมงานกับทีมวิจัยต่างๆ และที่สำคัญ…ได้ที่เรียนต่อแล้ว !!!</p><h3>โดยเริ่มจากต้นปี 2019</h3><p>ในปี 2019 ผมเริ่มกลับมาทำบทความแบบจริงจังและดุเดือดกับด้าน Machine Learning และ Deep Learning เริ่มไม่ค่อยได้ทำอะไรกับบทความ IoT แล้ว (ดองบทความ Node-Red ยาวๆ) เพราะส่วนหนึ่งเริ่มทำงานด้านนี้และกำลังวางแผนจะหาที่เรียนต่อในด้านนี้</p><h4>เสริม</h4><p>ในตอนนี้ Blog ของผมตอนนี้คนคลิกดูประมาณ 250K กับ ติดหน้าแรกของ Google ถ้าคุณเสิร์จคำว่า Machine Learning แล้วเลือกค้นหาภาษาไทย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ZzdSMZLzIUWA0U4argyJww.png" /></figure><p>หรือจะเป็น natural language processing</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1006/1*5zX8hCrUrsqamlPinOU2bg.png" /></figure><blockquote>แสดงให้เห็นว่าวงการ AI กำลังโตจริงๆ ทำบทความอะไรมันก็ติด แฮ่</blockquote><p>แล้วในช่วงต้นปีถึงกลางปีก็เป็นช่วงที่ความสนุกที่แท้จริงเริ่มขึ้น เมื่อได้สมัครเรียนที่ สถาบันวิทยสิริเมธี หรือ <strong>VISTEC</strong>โดยที่เป็นช่วงที่เหนื่อยสุดๆ เพราะงานก็ต้องทำ สอบสัมภาษณ์ก็ต้องไปที่ กทม. (ผมเป็นคนเชียงใหม่) ไปๆมาๆ3รอบ แล้วก็ประกาศผลว่าติด แล้วก็ต้องไปๆมาๆ เพราะมาทำธุระอื่นอีก เช่น มาช่วยสอนที่ Maker fair 2019 ในหัวข้อ M5Stack with UI Flow</p><p><a href="https://medium.com/mmp-li/m5stack-with-ui-flow-b6d1a37385b0">M5STACK with UI FLOW</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*dzlqbz8xtFML14ZEPoZqqA.jpeg" /><figcaption>ตอนไปสอบคือ ฝุ่น pm2.5 กำลังรุนแรง</figcaption></figure><p>เผื่อหลายๆคนไม่รู้ว่า VISTEC คือสถาบันอะไร ก็จะมีวิดีโอแนะนำสถาบันโดยในคลิปก็จะมี IST อีกด้วย</p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2FzueuZizt2ds%3Ffeature%3Doembed&amp;display_name=YouTube&amp;url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DzueuZizt2ds&amp;image=https%3A%2F%2Fi.ytimg.com%2Fvi%2FzueuZizt2ds%2Fhqdefault.jpg&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=youtube" width="854" height="480" frameborder="0" scrolling="no"><a href="https://medium.com/media/31922a059d5c2377daff7a2cd52f0ec8/href">https://medium.com/media/31922a059d5c2377daff7a2cd52f0ec8/href</a></iframe><p>ส่วนผมจะขอแนะนำสั้นๆว่าเป็นมหาลัยที่เน้นทางด้านงานวิจัยและที่เปิดสอนแค่ โทและเอก ในสายวิทยาศาสตร์เท่านั้น โดยจะมีแค่ 4 school ได้แก่</p><ul><li>School of Energy Science and Engineering: ESE</li><li>School of Molecular Science and Engineering: MSE</li><li>School of Biomolecular Science and Engineering: BSE</li></ul><p>และสถาบันที่ผมกำลังเรียนอยู่</p><ul><li><strong>School of Information Science and Technology: IST</strong></li></ul><p>ซึ่งจะมุ่งเน้นไปที่การทำวิจัยในระดับเข้มข้น งานวิจัยที่ออกจาก VISTEC จะเน้นไปที่การตีพิมพ์ที่ Conference ดังๆ(Rank : A or A+) หรือ Journal ดังๆ (IEEE journals and transactions)</p><p>ซึ่ง IST ของ VISTEC ก็จะเน้นไปที่ด้านการนำ AI มาประยุกต์ใช้ โดยเรามี lab ทั้งหมด 4 lab ด้วยกันทั้ง Brain, Robotic, Computer Vision, and Scalable database system.</p><p>ซึ่งถ้าใครอยู่วงการ Computer Vision ก็อาจจะรู้จักกับเรื่องของ Fake video ซึ่งที่ Computer Vision lab เรามี Dr.Supasorn ที่เคยได้พูดที่ TED Talk เป็นอาจารย์ประจำ Lab ที่นี้ด้วยครับ</p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fembed.ted.com%2Ftalks%2Fsupasorn_suwajanakorn_fake_videos_of_real_people_and_how_to_spot_them&amp;display_name=TED&amp;url=https%3A%2F%2Fwww.ted.com%2Ftalks%2Fsupasorn_suwajanakorn_fake_videos_of_real_people_and_how_to_spot_them&amp;image=https%3A%2F%2Fpi.tedcdn.com%2Fr%2Ftalkstar-photos.s3.amazonaws.com%2Fuploads%2F44bf08f1-1a0e-4def-99f2-84a956cda88d%2FSupasornSuwajanakorn_2018-embed.jpg%3Fh%3D316%26w%3D560&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=ted" width="560" height="316" frameborder="0" scrolling="no"><a href="https://medium.com/media/e027f01e5a7216896468c7e987436eb9/href">https://medium.com/media/e027f01e5a7216896468c7e987436eb9/href</a></iframe><p>ที่ผมสนใจที่นี้เพราะงานวิจัยและทุนที่ให้ ซึ่งที่นี้เปย์หนักมาก</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*71_r37AMPqCFMhfKh15Kug.png" /></figure><p>ยกตัวอย่างเช่น ค่าเทอม, มีเงินเดือนให้, ค่าทำวิจัย, ค่าเดินทางไป Conference และที่สำคัญที่สุดคือให้เงินอีก 1 ล้าน เพื่อไปทำวิจัยที่ต่างประเทศในปีสุดท้าย !!! โดยทุนทั้งหมดนี้ไม่มีข้อผูกมัดหลังเรียนจบ ซึ่งหมายความว่าถ้าจบแล้ว จะทำงานที่ไหนก็ได้ ไปไหนก็ได้ หรือจะทำงานกับ PTT ต่อก็ได้</p><p>ซึ่งชีวิตที่ผมคิดไว้ตอนสอบติด VISTEC คือ</p><blockquote>ทำวิจัย ทำวิจัยเท่านั้น ชีวิตนี้จะทุ่มให้กับวิจัยยยยยยยยยยยย</blockquote><p>แต่ความเป็นจริงคือ สถาบันนี้ก็ยังให้เราได้ร่วมงานกับ Industy ซึ่งเป็นสิ่งที่ดีมาก โดยผมได้มีโอกาสได้ร่วมงานกับนักวิจัยหลายๆท่านด้วยกันเช่น</p><h4>ร่วมงานกับ AIRESEARCH</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*iqhSJxODApW_9FGJjDsRpA.png" /></figure><p>AIRESEARCH เป็นการร่วมมือระหว่าง DEPA และ VISTEC ซึ่งจุดประสงค์คือ</p><blockquote>การสร้าง Corpus ขนาดใหญ่ โดยเป็น Open data 100%ทุกคนสามารถใช้ได้</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Q4F2agAb-SXfFlwVfYdzFQ.png" /></figure><p>แน่นอนว่าเป็น Corpus เกี่ยวกับด้าน NLP ซึ่งตอนนี้เรากำลังทำ 4 dataset ตามรูป</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*1un7UWbILvge1yMZCHDNXg.png" /><figcaption><a href="https://www.aires.in.th/">https://www.aires.in.th/</a></figcaption></figure><p>โดยสมาชิกของทีมหลายๆคนที่ทำ NLP น่าจะรู้จักเช่น Korakot Chaovavanich (แอดมินกลุ่ม Colab Thailand), Dr. Ekapol Chuangsuwanich (อาจารย์ประจำภาควิชาวิศวกรรมคอมพิวเตอร์ จุฬาฯ) หรือ Dr. Attapol Thamrongrattanarit (อาจารย์ประจำภาควิชาภาษาศาสตร์ จุฬาฯ)</p><h3>ช่วงกลางปี 2019</h3><p>ช่วงกลางปีผมเริ่มชีวิตเด็กป.เอกที่ vistec แล้ว ทำวิจัยไปด้วย ทำกิจกรรมอย่างอื่นไปด้วย โดยช่วงนี้ผมก็ได้ไปอินโดฯ กับโครงการ SEA:Machine Learning school</p><h3>SEA:Machine Learning School 2019</h3><p>ซึ่งผมได้ทำรีวิวสั้นๆไว้แล้ว ซึ่งถ้าใครทำวิจัยในสายนี้ (Artificial Intelligence) ก็แนะนำให้ไปดูสักครั้งครับ สนุกมาก ซึ่งในปี 2020 จะจัดที่เวียดนาม</p><p><a href="https://medium.com/mmp-li/sea-machine-learning-school-2019-indonesia-%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-ml-%E0%B8%97%E0%B8%B1%E0%B9%89%E0%B8%87%E0%B8%97%E0%B8%B5-%E0%B8%95%E0%B9%89%E0%B8%AD%E0%B8%87%E0%B9%84%E0%B8%9B%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%B4%E0%B8%99%E0%B9%82%E0%B8%94-6bdebba139b1">SEA Machine Learning School 2019 (Indonesia) เรียน ML ทั้งที ต้องไปเรียนที่อินโด</a></p><p>พอเมื่อกลับจากอินโดฯ ก็ได้รู้จักคนอีกมากมาย ซึ่งผมได้รู้จักกับคนๆหนึ่ง ซึ่งหลังจากนั้นก็ได้มาทำเพจด้วยกัน</p><h4>Facebook page : อ่าน #NLProc</h4><p>อันนี้เป็นเพจที่เกิดจากความคิดของคนรู้จักของผมซึ่งไปเจอกันที่งาน research school ที่อินโดเมื่อปีก่อน ซึ่งเรามีความคิดที่ว่าอยากจะเปิดเพจ NLP ที่ยังเน้น Research เพราะเราทั้งคู่ยังเรียนป.เอกกันอยู่ แล้วเราก็อ่านเปเปอร์เกี่ยวกับ NLP กันเป็นประจำ แล้วอยากมาแชร์สิ่งที่เราอ่าน ก็เลยเกิดเพจนี้ขึ้น โดยเราจะเขียนเกี่ยวกับเปเปอร์ที่เราอ่านกันมา มารีวิวกันสั้นๆ ช่วงหลังๆเริ่มทำบทสัมภาษณ์ สัมภาษณ์คนในวงการ NLP ไทยทั้งนักวิจัย และนักเรียน ซึ่งเรากำลังพยายามปั่นบทความแบบนี้อยู่ ซึ่งก็พึ่งรู้ว่ามันกินพลังงานมาก</p><p><a href="https://www.facebook.com/%E0%B8%AD%E0%B9%88%E0%B8%B2%E0%B8%99-NLProc-108558757196215/">Log In or Sign Up to View</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*gDvM1Rh57vB3CrcVkgWKiw.png" /></figure><h3>ช่วงปลายปี 2019</h3><h4>มีโอกาสได้เป็น (Mini) Speaker ที่งาน Data Science &amp; Engineering Workshop 2019: The future of Thai NLP จัดโดย AIRESEARCH</h4><p>เป็นหนึ่งอีเว้นที่ผมชอบมากๆ โดยได้พูดเกี่ยวกับ Corpus ของ Named-entity และ Word segmentation ซึ่งตื่นเต้นมาก ซ้อมประมาณ 10 รอบ พูดประมาณ 10 นาที ไวมากกกกกกกกกกกกกกก ซึ่งผมทำรีวิวสั้นๆไว้แล้ว</p><p><a href="https://medium.com/airesearch-in-th/%E0%B9%80%E0%B8%A5%E0%B9%88%E0%B8%B2%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%A2%E0%B9%88%E0%B8%AD%E0%B9%86-data-science-and-engineering-workshop-2019-the-future-of-thai-nlp-ab2ded087475">เล่าแบบย่อๆ “Data Science and Engineering Workshop 2019: The future of Thai NLP”</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*CREDIT39XyXNc-Oit-R8oQ.jpeg" /><figcaption>ฮั่นแหน่</figcaption></figure><h4>ไปเที่ยวไต้หวันด้วยการวางแผนล่วงหน้า 6 วัน</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*DYRW45oD6eE_z4iHGQSCuw.jpeg" /></figure><p>อันนี้ไม่เกี่ยวอะไรกับงานแต่ส่วนตัวเป็นคนที่ชอบวางแผนอะไรล่วงหน้าเยอะๆ ชีวิตยึดติดกับแผนมาตลอด อยู่มาวันหนึ่งคนที่ lab ก็ชวนไปเที่ยวไต้หวันกับความฮาคือ เราชื้อตั๋ววันพุธ วางแผนว่าจะไปเที่ยวไหนบ้างวันเสาร์(4 ชั่วโมง) และเราจะไปคืนวันอังคาร ซึ่งทุกอย่างมันรีบไปหมด แต่ก็ทำให้รู้ว่าบางทีคนเราไม่จำเป็นต้องมีแผนเสมอไป (แผนล่มบ่อยมาก) แต่สนุกสุดๆ เมื่อไปถึงที่นั้นยิ่งทำให้เรารู้ว่า เทคโนโลยีมันสำคัญกับชีวิตอย่างไรเช่น Google translate ที่ช่วยแปลภาษาเพราะคนที่นั้นไม่ค่อยพูดอังกฤษกัน หรือจะเป็น Google map ที่บอกได้ละเอียดจนน่าตกใจ</p><h3>เป้าหมายในปี 2020</h3><h4>มีงานตีพิมพ์</h4><p>เป้าหมายหลักในปี 2020 คือการมีงานตีพิมพ์เพราะเงื่อนไขในการเรียนจบก็คือมีงานตีพิมพ์นั้นเอง ซึ่งก็คงต้องรีบ กลัวจะไม่จบตามเวลา ฮาๆ</p><h4>ปั่นบทความ Deep Learning ให้เสร็จๆ</h4><p>อีกหนึ่งเป้าหมายที่อยากจะทำให้เสร็จๆ ที่จริงผมทำ Experiment ของบทความ DL เสร็จหมดแล้ว (ทั้ง CNN / RNN) แต่รู้สึกมันเบสิคมากไป กลัวว่าคนมาอ่านแล้วจะคิดว่ามันง่ายไป เลยพยายามจะใส่เรื่อง Transfer learning / BERT หรือ Fastai เข้ามาในบทความ เลยต้องในเขียนใหม่หมด</p><h4>หา Research School เรียนในช่วงปิดเทอม</h4><p>ที่จริงการไป Research School เป้าหมายหลักไม่ใช่การเรียน แต่เป็นการออกไปเจอคนอื่นบ้าง เผื่อจะได้แรงใจในการทำวิจัย แลกเปลี่ยนประสบการณ์กัน หาเพื่อนใหม่ๆ</p><p>Medium : <a href="https://medium.com/@pingloaf">https://medium.com/@pingloaf</a></p><p>Linkedin : <a href="https://www.linkedin.com/in/peerat-limkonchotiwat/">https://www.linkedin.com/in/peerat-limkonchotiwat/</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=8ebf4d8d9539" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/%E0%B8%A3%E0%B8%B5%E0%B8%A7%E0%B8%B4%E0%B8%A7%E0%B8%8A%E0%B8%B5%E0%B8%A7%E0%B8%B4%E0%B8%95%E0%B8%95%E0%B8%B1%E0%B8%A7%E0%B9%80%E0%B8%AD%E0%B8%87%E0%B9%83%E0%B8%99%E0%B8%9B%E0%B8%B5-2019-8ebf4d8d9539">รีวิวชีวิตตัวเองในปี 2019</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Deep Learning แบบสามัญชน EP 3 Keras with Image Classification : แยกภาพหมาแมวแบบง่ายๆ]]></title>
            <link>https://medium.com/mmp-li/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-3-keras-with-image-classification-%E0%B9%81%E0%B8%A2%E0%B8%81%E0%B8%A0%E0%B8%B2%E0%B8%9E%E0%B8%AB%E0%B8%A1%E0%B8%B2%E0%B9%81%E0%B8%A1%E0%B8%A7%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%87%E0%B9%88%E0%B8%B2%E0%B8%A2%E0%B9%86-2d5d95ee5613?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/2d5d95ee5613</guid>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[ภาษาไทย]]></category>
            <category><![CDATA[neural-networks]]></category>
            <category><![CDATA[deep-learning]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Fri, 30 Aug 2019 19:28:19 GMT</pubDate>
            <atom:updated>2019-08-25T06:14:25.037Z</atom:updated>
            <content:encoded><![CDATA[<h3>Deep Learning แบบสามัญชน EP 3 Keras with Image Classification : แยกภาพหมาแมวแบบง่ายๆ</h3><blockquote>แยกภาพแบบง่ายๆ ไม่ต้องมีความรู้ด้าน image เลยด้วยซ้ำ</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/962/1*iISQSEEfH6MAOIpKvwvxIQ.jpeg" /></figure><p>ในบทความก่อนหน้านี้ผมไม่เคยทดลองข้อมูลกับรูปภาพเลยสักครั้ง และเนื่องจากเทรน “Image/Computer Vision” กำลังมาแรงมา <em>เด็กๆที่มา Intern ที่มหาลัยของผมส่วนมากสนใจด้าน Image กันหมดเลย</em> ทำให้ตัวผมต้องเปลี่ยนแปลงแนวทางของบทความบ้าง</p><p>ที่จริงแล้วการจัดการรูปภาพ (Image) สามารถทำได้ง่ายๆด้วยคำสั่ง open แล้วก็จะแปลงไฟล์รูปภาพมาเป็น…. Matrix นั้นเอง</p><h4>ช่วงความรู้รอบตัว</h4><p><strong><em>รู้หมือไร่ ?</em></strong> รูปภาพนั้นที่แท้จริงคือ pixel แต่ละ pixel มารวมกัน และเมื่อรวมกันเสร็จเราลอง inspect รูปภาพดูจะพบว่ามันมีโครงสร้างเป็น Matrix โดยที่มีขนาดเท่ากับขนาดของภาพและมีจำนวนชั้นอีก 3 ชั้นนั้นคือ R/G/B นั้นเองงงงงงงงง</p><p>โดยในครั้งนี้จะเป็นการทดลองแบบน้ำจิ้มเพื่อเป็นการปูทางไปยัง CNN นั้นเองโดยในปัจจุบัน Neural Network Architecture นั้นมีมากมายและซับซ้อนไม่ว่าจะเป็น RNN — LSTM — Seq2Seq — GRU โดยบทความนี้จะแค่ Neural network พื้นฐานเพื่อให้เห็นภาพและเข้าใจได้ง่ายมากที่สุดนั้นเอง</p><h3>เริ่มเขียนโค้ดกัน</h3><p><strong>Dataset</strong> ที่เราจะใช้ในวันนี้คือ</p><p><a href="https://www.kaggle.com/c/dogs-vs-cats/data">Dogs vs. Cats</a></p><p>ซึ่งภายในเป็นรูปหมากับแมวแยก Training / Test อย่างชัดเจนแต่วันนี้เราจะใช้แค่ Training Set เพราะ Test เอาไว้ Test และส่งเข้าแข่งขันของ Kaggle (ซึ่งจะมีบทความแนะนำในภายหลัง)</p><h4>โดยโค้ดทั้งหมดอยู่ใน github แล้ว</h4><p><a href="https://github.com/mrpeerat/Deep_learning_easy_style">mrpeerat/Deep_learning_easy_style</a></p><p>ขั้นตอนแรกเรียก lib ที่เป็น Deep Learning Model ซึ่งเราจะใช้ Keras (ติดตั้ง Tensorflow แล้วจะได้ Keras มาด้วยเลย)</p><pre>import keras<br>from keras.models import Sequential<br>from keras.layers import Dense<br>from keras.utils import to_categorical<br>from keras.layers import Dropout</pre><p>และเรียก lib สำหรับ Evaluate โมเดลไว้เลย</p><pre>from sklearn.metrics import classification_report <br>from sklearn.metrics import f1_score ,accuracy_score</pre><p>ทีนี้ผมจะสร้างฟังก์ชั่นขึ้นมาหนึ่งอันเพื่อแปลงรูป ให้เป็น Histogram</p><pre>def extract_color_histogram(image, bins=(8, 8, 8)):<br> hsv = cv2.cvtColor(image, cv2.COLOR_BGR2HSV)<br> hist = cv2.calcHist([hsv], [0, 1, 2], None, bins,<br> [0, 180, 0, 256, 0, 256])<br>if imutils.is_cv2():<br> hist = cv2.normalize(hist)<br>else:<br> cv2.normalize(hist, hist)<br>return hist.flatten()</pre><p>แต่ถ้าเราจำได้ว่ารูปของเรามีหลายรูปและอยู่ในโฟล์เดอร์อีกเราจะทำยังไงเพื่อจะเปิดทุกๆรูปดี ? เราก็จะต้องหาชื่อรูปทั้งหมดแล้วค่อยๆเปิดทีละรูปก่อนตามโค้ดข้างล่าง</p><pre>from os import listdir<br>from os.path import isfile, join<br>mypath = ‘train/’<br>imagePaths = [mypath+f for f in listdir(mypath) if isfile(join(mypath, f))]</pre><p>เมื่อรันแล้วเราจะได้ชื่อรูปทั้งหมดอยู่ในตัวแปร <strong>imagePaths</strong> นั้นเอง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/353/1*sZXwvcCJRPTgGhRP6-Q1pQ.png" /></figure><p>แต่เราแค่ได้ชื่อรูป เราจะต้องเปิดทีละรูปและเรียกฟังก์ชั่น Histogram เพื่อจัดการกันรูปเรานั้นเอง</p><pre>for (i, imagePath) in enumerate(imagePaths):<br> image = cv2.imread(imagePath)<br> label = imagePath.split(os.path.sep)[-1].split(“.”)[0]<br><br> pixels = extract_color_histogram(image)</pre><pre> rawImages.append(pixels)<br> labels.append(label)</pre><pre> if i &gt; 0 and i % 1000 == 0:<br> print(“[INFO] processed {}/{}”.format(i, len(imagePaths)))</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/284/1*Zs5wx9xPw2X87xT6buYYkg.png" /><figcaption>ทำไปเรื่อยๆจนกว่าจะครบ 25K รูปนั้นเอง</figcaption></figure><p>และขั้นต่อไปมันอาจจะแปลกๆนิดหน่อย คือในบทความที่ผ่านๆมาเราจะแบ่งข้อมูลเป็น Train/Test แต่ในทางปฏิบัติจริงๆควรจะแบ่งเป็น 3 ส่วนคือ Train/ Validation ใช้สำหรับฝึกฝนข้อมูลและปรับพารามิเตอร์และมี Test เอาไว้ทดสอบโมเดลจริงๆ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/776/1*Nv2NNALuokZEcV6hYEHdGA.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1006/1*2HX8-gnT86oLF-E8so94qA.png" /></figure><p>โดยตอนแรกแบ่งเป็น 80/20</p><pre>X_train, X_test, y_train, y_test = train_test_split(np.array(rawImages), np.array(labels), random_state=1)</pre><p>จากนั้นแบ่งจาก 80 อีกเป็น 80/20 ก็จะได้สัดส่วน 60/20/20</p><pre>X_train, X_val, y_train, y_val = train_test_split(X_train, y_train, test_size=0.25, random_state=1)</pre><p>และจากนั้นแปลง output ของเราให้เป็น 1-hot</p><pre>from sklearn import preprocessing<br>le = preprocessing.LabelEncoder()<br>le.fit(y_train)</pre><pre>y_train = le.transform(y_train)<br>y_test = le.transform(y_test)<br>y_val = le.transform(y_val)</pre><pre>y_train = to_categorical(y_train)<br>y_test = to_categorical(y_test)<br>y_val = to_categorical(y_val)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/296/1*yDM4GZaWz9QIpS__AnlOpA.png" /></figure><p>ทีนี้ก็สร้างโมเดลขึ้นมา</p><pre>def classification_model():<br> model = Sequential()<br> model.add(Dense(124, activation=’relu’, input_shape=(X_train.shape[1],)))<br> model.add(Dropout(0.2))<br> model.add(Dense(124, activation=’relu’))<br> model.add(Dropout(0.2)) <br> model.add(Dense(32, activation=’relu’))<br> model.add(Dense(y_train.shape[1], activation=’softmax’))<br> opt = keras.optimizers.Adam(lr=0.0001, decay=1e-6)<br> model.compile(optimizer=opt, loss=’categorical_crossentropy’, metrics=[‘accuracy’])<br> return model</pre><p>จะอธิบายแบบละเอียดดังนี้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ICPHNipy8OIxNmuIof1ecQ.jpeg" /><figcaption>สกิลการวาดรูป D+ จริงๆ</figcaption></figure><ol><li><strong>ส่วน Input</strong> : เราจะเอาโนดจำนวน X โนด ซึ่ง 1 node จะเท่ากับ 1 มิติข้อมูล ถ้าเราโชว์ค่าภายใน X_xxx จะได้ shape= (จำนวนข้อมูล,มิติของข้อมูล) โดยโนด Input จะต้องมีจำนวนเท่ากับ “มิติของข้อมูล” นั้นเอง</li><li><strong>ส่วน Hidden Layer</strong> : มีทั้งหมด 3 อัน โดยมีจำนวน 124,124 และ 32 ตามลำดับ โดยแต่ละโนดของ Hidden layer อันแรกจะรับค่ามาจากโนดของ Input โดยทุกๆโนดจะเชื่อมต่อหากัน เราเรียกการเชื่อมแบบนี้ว่า <strong>“Fully Connected Layer”</strong></li></ol><figure><img alt="" src="https://cdn-images-1.medium.com/max/641/1*sHYjIyMNgePW2faVNf8UYQ.jpeg" /></figure><p>โดยทุกๆครั้งที่ข้อมูลวิ่งผ่านเส้นก็จะเกิดการคำนวณ โดยภายในโนดก็จะมีคณิตศาสตร์คอยคำนวณข้อมูลที่วิ่งเข้ามา และยังคำนวณ Activation Function โดยเราเลือกใช้ ReLu นั้นเอง (ถ้าใครอยากศึกษาเรื่องการคำนวณแต่ละโนด หรือการคำนวณ Activation Function และ Optimization เพิ่มเชิญที่ : <a href="https://courses.edx.org/courses/course-v1:IBM+DL0101EN+3T2018">IBM Deep Learning Course</a>)</p><p>แต่ข้างในนั้นผมได้ใส่ Drop out เข้าไปอีก โดยถ้าเราสังเกตุดีๆจะพบว่าถ้าเราทำ Fully connected layer เท่ากับว่าทุกโนดจะเชื่อมต่อหากันทำให้เกิดการคำนวณจำนวนมาก และใช้ข้อมูลจำนวนมาก พอใช้ข้อมูลจำนวนมากก็จะเกิดสิ่งที่เรียกว่า <strong>“Over fitting”</strong> เราจึงใช้เทคนิค Drop out เพื่อให้เส้นที่แต่ละโนดเชื่อมกันอยู่ <strong>“ในบางครั้งอาจจะไม่เชื่อมกัน”</strong> ตัวอย่างเช่น</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/733/1*mbKNXpb4ZkFW9gk6V-DlgA.jpeg" /><figcaption>แต่ละครั้งเส้นก็จะหายไม่เหมือนกันด้วย แต่บางครั้งก็อาจจะเหมือนกันได้ ถ้าเทรนจำนวนเยอะๆ</figcaption></figure><p><strong>3. ส่วน Output</strong> : เมื่อข้อมูลถูกส่งผ่านทุกโนดจนครบแล้ว ทีนี้มาถึงจุดทางออก แต่ก่อนจะถึงจุดทางออกผมก็ใส่ Soft Max function ไว้อีก</p><p>โดยปกติแล้ว output ของ neural network จะออกมาเป็นตัวเลข (ความน่าจะเป็น) ซึ่งวิธีการหาคำตอบคือเราจะดูว่าค่าความน่าจะเป็นอันไหนเยอะสุด ถ้าอันไหนเยอะสุด ก็คือคลาสนั้น แต่ความตลกคือ ถ้าเราเอาความน่าจะเป็นแต่ละคลาสมารวมกันมันจะได้มากกว่า 1 (wtf ! ความน่าจะเป็นคือ 0–1 ไม่ใช่เหรอ !) ยิ่งถ้าเรามี 100 คลาส เราก็จะต้องมานั่งหา Max เองอีก แถมค่า prob มันก็จะแปลกๆ เพราะฉนั้นทางที่ดีที่สุดคือการใส่ Soft Max function เข้าไปใน Neural network ของเรา (แต่ไม่ใช้ทุกงานที่สมควรใช้ soft max ไว้จะอธิบายเพิ่มให้บทความถัดๆไป) เมื่อใส่ soft max แล้วค่า prob ทั้งหมดเวลารวมกันจะไม่เกิน <strong>“1”</strong> นั้นเอง ทำให้เราหาคำตอบได้ง่ายมากขึ้นว่าคำตอบคือคลาสไหนกันแน่</p><p>จากนั้นก็เรียกฟังก์ชั่น แล้วเทรนโมเดลได้เลย โดยเราจะเทรนแค่ 10 รอบ โดยแต่ละรอบตัวโมเดลก็จะเอาค่าใน validation ไปทดสอบโมเดลและปรับปรุงด้วยตัว Optimizer ที่เราเลือก (Adam) นั้นเอง</p><pre>model = classification_model()<br>model.fit(X_train, y_train, validation_data=(X_val, y_val,), epochs=10, verbose=2)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/633/1*zAJDRa4S5hc4jLOOJ703Rg.png" /></figure><p>ทีนี้ทดสอบกับชุด Test ของเรา โดยใส่ค่าเข้าไปได้เลย โดยไม่ต้องแปลงอะไรเลย</p><pre>value = model.predict(X_test)<br>y_pred =np.argmax(value,axis=1)<br>y_true = np.argmax(y_test,axis=1)</pre><p>แต่ขาออกมาจะต้องใช้ฟังก์ชั่นช่วยนิดหน่อยคือ argmax เพราะ output ของเราเป็น prob ที่ผ่าน soft max มาแล้วก็จริง แต่เราก็ต้องหาอยู่ดีกว่าแล้วค่า prob ของคลาสไหนเยอะที่สุด</p><p>โดยเมื่อแปลงค่ามาแล้ว ก็เอาไปเข้าฟังก์ชั่นช่วย evaluate ได้เลย</p><pre>print(classification_report(y_true,y_pred))</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/472/1*0lngDS8rWZ_nVWxJ-vVGiA.png" /><figcaption>ไม่แย่ แต่ดีได้มากกว่านี้</figcaption></figure><h3>สรุป</h3><p>ในบทความนี้จะเน้นไปที่การขยายความโมเดล ในบางส่วนผมก็ต้องข้ามไปบ้าง เพราะถ้าเล่าเรื่องวิธีการคำนวณแต่ละโนด สามารถเขียนแยกเป็นอีกหนึ่งบทความได้เลย ส่วนถ้าใครสนใจจริงๆก็สามารถคลิกลิ้งที่ผมแทรกไว้ให้ได้นะครับ</p><p>แต่ในบทความถัดไปผมจะเน้นไปโมเดลยิ่งกว่านี้เพราะ CNN มันกำลังดังจริงๆ แถมมันยังได้ผลลัพธ์ที่ดีกว่าการทำ Multilayer Perceptron แบบนี้อีกเพราะเราต้องทำ Feature Engineering เองอีก แถมความแม่นยำในบทความนี้ก็แค่ 0.65 มันยังไม่ดีพอจะใช้งานได้</p><p><strong>บทความถัดไป</strong></p><blockquote>Deep Learning แบบสามัญชน EP 4 Keras CNN with Image Classification : ขั้นกว่าของการจำแนกภาพ</blockquote><p>Github : <a href="https://github.com/peeratpop/Deep_learning_easy_style">https://github.com/peeratpop/Deep_learning_easy_style</a></p><p>Medium : <a href="https://medium.com/@pingloaf">https://medium.com/@pingloaf</a></p><p>Linkedin : <a href="https://www.linkedin.com/in/peerat-limkonchotiwat/">https://www.linkedin.com/in/peerat-limkonchotiwat/</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=2d5d95ee5613" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-3-keras-with-image-classification-%E0%B9%81%E0%B8%A2%E0%B8%81%E0%B8%A0%E0%B8%B2%E0%B8%9E%E0%B8%AB%E0%B8%A1%E0%B8%B2%E0%B9%81%E0%B8%A1%E0%B8%A7%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%87%E0%B9%88%E0%B8%B2%E0%B8%A2%E0%B9%86-2d5d95ee5613">Deep Learning แบบสามัญชน EP 3 Keras with Image Classification : แยกภาพหมาแมวแบบง่ายๆ</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[SEA Machine Learning School 2019 (Indonesia) เรียน ML ทั้งที ต้องไปเรียนที่อินโด]]></title>
            <link>https://medium.com/mmp-li/sea-machine-learning-school-2019-indonesia-%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-ml-%E0%B8%97%E0%B8%B1%E0%B9%89%E0%B8%87%E0%B8%97%E0%B8%B5-%E0%B8%95%E0%B9%89%E0%B8%AD%E0%B8%87%E0%B9%84%E0%B8%9B%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%B4%E0%B8%99%E0%B9%82%E0%B8%94-6bdebba139b1?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/6bdebba139b1</guid>
            <category><![CDATA[sea-mls-2019]]></category>
            <category><![CDATA[sea-mls]]></category>
            <category><![CDATA[indonesia]]></category>
            <category><![CDATA[machine-learning-school]]></category>
            <category><![CDATA[machine-learning]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Wed, 21 Aug 2019 10:09:32 GMT</pubDate>
            <atom:updated>2019-07-21T12:32:00.268Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>นี้หรืออินโดนิเซีย</blockquote><p>สำหรับบทความนี้เป็นบทความบอกเล่าประสบการณ์การเรียน Machine Learning School ที่ อินโดนีเซีย 5 วัน (07/08/19–07/12/19) โดยจุดประสงค์ของงานนี้เกิดขึ้นได้เพราะงาน Conferrence <strong>ICML 2018</strong> ที่จัดไปเมื่อปีก่อน โดยทางผู้จัดงานได้เล่งเห็นว่าโซน SEA เองก็มีประชากร 10% ของโลกนี้และผลงานก็ไม่ได้ด้อยกว่าโซนไหนเลยจึงจัดงานนี้ขึ้นมาเพื่อกระตุ้นความสนใจด้าน AI ในโซน SEA นั้นเอง</p><h4>ทำไมต้องอินโดนิเซีย</h4><p>ความจริงแล้วอินโดนิเซียมี Startup ยูนิคอร์นถึง 4 อันด้วยกัน (ในไทยยังไม่มี)ทำให้เป็นประเทศที่โดดเด่นในโซน SEA พอตัวเลย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*KW0OSA5SdbGisVjdiAB86g.jpeg" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*8bc44R0elgAimVGpb2KNjg.jpeg" /><figcaption>ที่คนไทยคุ้นเคยเลยก็คือ Traveloka นั้นเอง</figcaption></figure><p>โดยภายในงานจะมี Speaker จากบริษัท/มหาลัยชื่อดังมากมายมาสอนที่งานนี้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/683/1*hjZVvSHpvTPxw-9sUatrwQ.jpeg" /></figure><p>ซึ่งในงานจะสอนตั้งแต่เบสิคยัน expert กันเลยทีเดียว</p><ul><li>basic math foundation</li><li>Machine Learning Fundamental</li><li>Supervised &amp; Unsupervised Learning</li><li>Neural Network</li><li>CNNs [VQA,Grouding]</li><li>RNN [Seq2Seq, Word Embedding, LSTMs]</li><li>New Technology [auto encoder, BERT]</li></ul><p>โดยจะมีวันที่เราได้พูดคุยทุกเรื่อง ขอย้ำทุกเรื่อง ! จบจากไหน เขียนเปเปอร์ยังไงดี อนาคต AI จะยังไง ทำงานที่ไหนดี ไปทำงานด้วยได้ไหม สมัครงานยังไงให้คนรับ เขียน cv ยังไงให้น่าสนใจ</p><h4>กฏเกณฑ์ในการรับสมัคร</h4><ul><li>ไม่มี</li></ul><p>หากคุณสนใจและทำงานด้านนี้หรือกำลังทำวิจัยเกี่ยวกับเรื่องพวกนี้ (Machine Learning) คุณสามารถสมัครได้เลย โดยในปีนี้ (2019) มีคนสมัครทั้งสิ้น 1,200 คน รับเพียง 120 คน ซึ่งคนในงานมีตั้งแต่ มัธยม ยัน Senior datascient กันเลยทีเดียวและที่สำคัญคนที่มาร่วมงานมีหลายประเทศมาก รัสเซีย เกาหลี จีน ญี่ปุ่น เยอรมัน</p><h4><strong>ฟรีหรือไม่ ?</strong></h4><p>ถ้าเป็นนักเรียน/นักศึกษาสามารถขอ Travel Assistance ได้ (ค่าเดินทาง / ค่าที่พัก) หรือจะไม่เอาก็ได้ ถ้าไม่ใช่นักเรียน/นักศึกษาก็คนละ 200 USD (เฉพาะค่าสมัครเท่านั้นนะ)</p><h4>และที่สำคัญ ได้งานแน่นอน</h4><p>ในตอนที่เรากดสมัครจะมีช่องให้เราเลือกว่าจะยินยอมให้สปอนเซอร์ของเขาดู CV ของเราหรือไม่ ซึ่งวันที่ 1–3 จะมีบูธสปอนเซอร์มาตั้งรับหาคนไปทำงานด้วยตลอด ซึ่งส่วนใหญ่แล้ว headquarter จะอยู่ที่สิงคโปร์</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/766/1*KY5KrkSwqeT7kwV8SYctaQ.png" /></figure><p><strong>ที่สำคัญ </strong>ได้ของฟรีเพียบ ทั้งปากกาจาก google กระเป๋า traveloka และอื่นๆ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*vl_FDKnb27fZlQmTQalW1A.jpeg" /><figcaption>ของฟรีใครๆก็ชอบ</figcaption></figure><blockquote>ทำไมถึงต้องไปเรียนที่ Machine Learning ที่งานนี้ ?</blockquote><blockquote>-ได้รู้จักกับผู้คนใหม่ๆ</blockquote><blockquote>-เรียนกับคนที่เป็นเซียนด้านนี้โดยตรง</blockquote><blockquote>-ได้เจอกับสปอนเซอร์ (บริษัทใหญ่ๆทั้งนั้น)</blockquote><blockquote>-มีคาบแลปได้ทำจริง ไม่ได้นั่งฟังอย่างเดียว</blockquote><h4>ประสบการณ์ 5 วันของผม</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*9rHpCfExneZCE7I6Zu2HtQ.jpeg" /></figure><p>โดยผมไปในฐานะนักเรียน/นักศึกษาซึ่งเขาจะออกค่าที่พัก (จองโรงแรมให้เราตั้งแต่วันที่ 7 กรกฏา จนถึง 13 กรกฏา) และค่าตั๋วเครื่องบินอีกคนละ 200 USD ซึ่งจะมีอาหารเช้าและเที่ยงให้ส่วนมื้อเย็นต้องออกไปหากินเอง ลำบากตรงที่ประเทศอินโดไม่ค่อยพูดอังกฤษ แต่ใช้ภาษามือเอาก็ได้ ไม่มีปัญหา ฮาๆ</p><p>ซึ่งสถานที่จัดงานคือมหาวิทยาลัย Indonesia คณะ Computer Science</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*myuUthQ2kx1UoUkeMeg6iw.jpeg" /></figure><p>ในทุกๆวันเราจะนั่งที่ห้องสโลปเพื่อเรียน โดยแต่ละคาบจะเรียนประมาณชั่วโมงครึ่งถึงสองชั่วโมง ไม่นานมากไป ไม่สั้นมากไป</p><p>ซึ่งในแต่ละวันก็จะมีหัวข้อต่างกันเช่นวันแรกจะเป็นพื้นฐานของทุกๆอย่างเลย เช่น Math เบื้องต้น (เบื้องต้นสุดๆ) / Machine Learning พื้นฐาน / Deep Learning พื้นฐาน พอวันถัดไปก็จัดเรื่อง RNN + NLP และอีกวันก็ CNN ต่ออีก</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*_8Za9_rJq4smf1LguWbj1A.jpeg" /></figure><p>โดยภายในงานมีการเชิญอาจารย์จากมหาลัยดังๆ ซึ่งใครหลายๆคนก็น่าจะรู้จักกันดี เช่น <strong>Kyunghyun Cho (เจ้าพ่อ Machine Translation) </strong>หรือจะเป็น <strong>Cheng Soon Ong (ผู้เขียนหนังสือ Mathmatics for Machine Learning)</strong> หรืออีกคนที่เรียนออนไลน์น่าจะรู้จักคือ <strong>Wee Sun Lee จาก NUS</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*UTkorI3G5sFIfh5MFH9WJQ.jpeg" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*lTUftq2_TV-_TVA-DRte6Q.jpeg" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*-YQ3FBNU3MElT4apVMZVYQ.jpeg" /></figure><p>หรือจะเป็นพนักงานในบริษัทดังๆอย่าง DeepMind ที่ได้เชิญ <strong>Chris Dyer</strong> มาเป็น Speaker พูดเรื่อง Deep Learning พื้นฐานทั้งหมด</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*xtHUH7y3uV04QmkedFGTIQ.jpeg" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*uOjEaC5Y7KgNB9vU3RnlFg.jpeg" /></figure><p><strong>และทุกๆวันตอนเย็น </strong>ก็จะมี Session จากสปอนเซอร์ซึ่งจะไม่ได้เน้นไปที่การสอน แต่จะเน้นไปที่การโชว์ของ และเทคนิคต่างๆ อย่างเช่นช่วงเย็นวันที่ 2 ผมเข้า session ของ Go-JEK เรื่องการ Deploy Machine Learning ซึ่งได้อะไรดีๆมาเยอะมาก</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*j0h15kERD_vs1dQhnV3NMw.jpeg" /><figcaption>สิ่งที่คาดหวัง vs ความเป็นจริง</figcaption></figure><p><strong>ซึ่งถ้าวันไหนไม่มีแลปให้ทำ </strong>ก็จะมี Session พูดคุยเรื่องทั่วๆไปเช่น Community in SEA ที่จะเน้นไปที่เรื่อง Dataset เล่าถึงความยากลำบาก และภาครัฐช่วยอะไรได้บ้าง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*kAmQVjZEDF8RO8p97mfyNQ.jpeg" /><figcaption>ภายในงานจะสังเกตุเห็นคนไทยด้วยคือพี่นุก (เสื้อขาว) จาก max planck institute</figcaption></figure><p><strong>โดยในสองวันสุดท้าย </strong>จะเป็นการโชว์ POSTER โดยแต่ละคนจะนำโพสเตอร์มาโชว์ว่าตัวเองทำงานอะไรอยู่ โดยเราจะถามคำถามเจ้าของผลงานเพื่อแลกเปลี่ยนความคิดกันก็ได้ หรือจะให้เขาอธิบายทั้งงานให้ฟังเลยก็ยังได้ (แอบสงสารคนโชว์นะเพราะโชว์ตั้ง 2 ช.ม.)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*irqdORSGoGl_2nzzlJKquQ.jpeg" /></figure><h4>บทสรุปจากงาน SEA MLS 2019</h4><p><strong>‘ความรู้’</strong> ที่ได้มาแบบเต็มๆ เพราะคนที่สอนเราที่งานคือตัวจริงในสายงานนี้ เขาจึงให้คำแนะนำและความรู้ใหม่ๆที่ผมไม่เคยเรียนมาก่อน</p><p><strong>‘มิตรภาพ’</strong> แน่นอนว่ามางานนี้จะไม่ได้เพื่อนใหม่ได้ไง ไม่ว่าจะเป็นเพื่อนชาวไทย เพื่อนชาวต่างชาติ ทำให้เรารู้อีกว่า ‘ประเทศไทยไม่ด้อยกว่าใครในโซน SEA’ เพราะ % คนไทยที่มาได้ก็สูงอยู่พอตัวนะ (10กว่าคน จาก 120)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/640/1*rjkwNbviNslWMKZ3f2zrHQ.jpeg" /><figcaption>รวมชาวไทยผู้กลับไฟท์เดียวกัน</figcaption></figure><h4>สำหรับคนที่คิดจะมางานนี้ในปี 2020</h4><p>ถ้าใครอยากจะเปิดโลกของ Machine Learning ให้กว้างกว่าที่กำลังเป็นอยู่ อยากรู้ต่างประเทศกำลังทำงานวิจัยอะไร แนวทางของ ML ในอนาคต หรือกำลังหางานด้านนี้ทำก็เตรียมตัวได้เลยเพราะงานนี้ปีถัดไปจะจัดที่เวียดนาม</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=6bdebba139b1" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/sea-machine-learning-school-2019-indonesia-%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-ml-%E0%B8%97%E0%B8%B1%E0%B9%89%E0%B8%87%E0%B8%97%E0%B8%B5-%E0%B8%95%E0%B9%89%E0%B8%AD%E0%B8%87%E0%B9%84%E0%B8%9B%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%B4%E0%B8%99%E0%B9%82%E0%B8%94-6bdebba139b1">SEA Machine Learning School 2019 (Indonesia) เรียน ML ทั้งที ต้องไปเรียนที่อินโด</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Deep Learning แบบฉบับสามัญชน EP 2 Optimization & Activation Function เรียนกันสบายๆสไตส์ชิลๆ]]></title>
            <link>https://medium.com/mmp-li/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%89%E0%B8%9A%E0%B8%B1%E0%B8%9A%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-2-optimization-activation-function-%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B8%81%E0%B8%B1%E0%B8%99%E0%B8%AA%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%86%E0%B8%AA%E0%B9%84%E0%B8%95%E0%B8%AA%E0%B9%8C%E0%B8%8A%E0%B8%B4%E0%B8%A5%E0%B9%86-9feb5a87e3b2?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/9feb5a87e3b2</guid>
            <category><![CDATA[artificial-intelligence]]></category>
            <category><![CDATA[activation-functions]]></category>
            <category><![CDATA[deep-learning]]></category>
            <category><![CDATA[optimization]]></category>
            <category><![CDATA[machine-learning]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Wed, 21 Aug 2019 10:09:25 GMT</pubDate>
            <atom:updated>2019-08-25T06:15:01.535Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>“without hard work, nothing grows but weeds”</blockquote><p>บทความก่อนหน้าได้พูดถึงประวัติของ Neural network และก็ Optimization กับ Activation function แบบพื้นๆ (พื้นมากกกกกกกกกกก) ทีนี้บทความนี้ก็จะมาขยายความและพูดถึงความแตกต่างของแต่ละ Function หรือว่า Algorithm ว่าต่างกันอย่างไร และตอนนี้ตัวไหนบ้างที่เป็นที่นิยม</p><p>โดยในบทความนี้จะมีแต่การพูดถึงทฤษฏี โดยถ้าอยากลงแลปให้ไปที่บทความถัดไปได้เลย แต่ก็ต้องอ่านก่อนเพื่อที่จะได้เข้าใจว่าทำไมถึงต้องรู้จักกับ Optimize และ Activation เพื่อที่จะเลือกใช้ได้ถูกต้อง</p><h3>Optimization Algorithm</h3><h4>คืออะไร ?</h4><p>ปกติแล้วถ้าเราใช้ machine learning ตัวไหนก็ตาม มันคือการใช้หลักคณิตศาสตร์ในการแบ่งกลุ่ม ตาม training set ที่เราใช้ฝึกฝน เมื่อฝึกเสร็จแล้วก็จบ นำไปใช้งานได้เลยแต่ว่าใน Deep Learning เนี่ยระหว่างที่ฝึกฝนตัว neuron ก็จะปรับปรุงค่า error และ loss ได้ด้วย เพื่อให้ได้ค่าที่ดีที่สุด โดยจะต้องใช้สิ่งที่เรียกว่า Optimization โดยสิ่งนี้จะทำการเปลี่ยนแปลงค่า น้ำหนัก (Weight) และค่า Bias ที่เชื่อมกับ neuron นั้นเอง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/870/1*z9K77d7s11jlm1JS6BRGOQ.png" /></figure><h4>มีกี่ประเภท</h4><p>ตัว Optimization ถูกแบ่งออกมาเป็น 2 ประเภทได้แก่</p><ol><li><strong>First Order Optimization Algorithms</strong></li><li><strong>Second Order Optimization Algorithms</strong></li></ol><p>ประเภทแรกเราจะคุ้นเคยกันดีนั้นคือตระกูลของ Gradient ส่วนอีกประเภทจะถูกเรียกว่า <strong>Hessian </strong>ทำหน้าที่คล้ายกับแบบแรกแต่จะใช้ทรัพยากรเยอะกว่าเลยไม่ค่อยนิยมแต่แบบหลังจะทำงานได้ไวกว่าถ้าเรารู้จัก dataset และผลลัพธ์ของเราดีพอ</p><h4>มี Optimization ตัวไหนบ้างที่นิยมและดัง</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/620/1*RczM0a3pMxK3tlf_YjKAXw.gif" /><figcaption><a href="https://towardsdatascience.com/types-of-optimization-algorithms-used-in-neural-networks-and-ways-to-optimize-gradient-95ae5d39529f">https://towardsdatascience.com/types-of-optimization-algorithms-used-in-neural-networks-and-ways-to-optimize-gradient-95ae5d39529f</a></figcaption></figure><h4>Gradient Descent</h4><p>ผมเคยเขียนอธิบายไว้บนความนี้แล้ว</p><p><a href="https://medium.com/mmp-li/gradient-descent-%E0%B8%84%E0%B8%B5%E0%B8%A2%E0%B9%8C%E0%B9%80%E0%B8%A7%E0%B8%B4%E0%B8%A3%E0%B9%8C%E0%B8%94%E0%B8%97%E0%B8%B5%E0%B9%88-data-science-%E0%B8%95%E0%B9%89%E0%B8%AD%E0%B8%87%E0%B8%A3%E0%B8%B9%E0%B9%89%E0%B8%88%E0%B8%B1%E0%B8%81-machine-learning-101-b5c78c1787a0">Gradient Descent คีย์เวิร์ดที่ Data Science ต้องรู้จัก ! : Machine Learning 101</a></p><p>ซึ่งข้างในผมได้อธิบายถึง GD เฉยๆ และ ยกตัวอย่างของ SGD ในกลางลู่เข้าศูนย์กลางไปแล้ว ลองย้อนกลับไปอ่านได้ครับ</p><h4>ตระกูลย่อยๆของ Gradient Descent ประกอบด้วย</h4><h4>1. Stochastic gradient descent</h4><p>Stochastic Gradient Descent(SGD) เป็นอัลกอริทึมที่อัพเดทค่าพารามิเตอร์ในทุกๆชุดข้อมูลฝึกฝน เป็นอัลกอริทึมที่ค่อนข้างไว อัพเดทแค่ครั้งเดียวต่อการเทรน 1 รอบ</p><p><strong>θ=θ−η⋅∇J(θ;x(i);y(i)) , โดยที่ {x(i) ,y(i)} คือชุดข้อมูลฝึกฝน</strong>.</p><p>โดยในทุกๆครั้งที่มีการอัพเดท ค่าพารามิเตอร์ที่อัพเดทจะมีค่าความแปรปรวนสูงและส่งผลกับค่า <strong>Loss function</strong> แปรผันไปตาม <strong>different intensities </strong>โดยขั้นตอนเหล่านี้เป็นสิ่งที่ดีเพราะมันช่วยให้เราสามารถค้นพบค่าที่น้อยที่สุดได้ (ไปอยู่ใจกลางดาวได้นั้นเอง) แต่วิธีนี้มีปัญหาคือยิ่งเราลู่ลงต่ำเท่าไหร่ ค่าที่ได้ก็จะยิ่งแปรปรวนและซับซ้อนมากยิ่งขึ้น</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/769/1*fByskqwqf8UQaU-1sHE4jg.png" /><figcaption>ยิ่งอัพเดทค่ายิ่งแปรปรวนเยอะ ต่างจาก GD ที่ค่าวิ่งเข้าหาเป้าหมายแบบตรงๆเลย</figcaption></figure><h4>2. Mini Batch Gradient Descent</h4><p>ถูกพัฒนาขึ้นเพื่อหนีปัญหาของ Gradient Descent ทั้งหลายโดยการนำข้อดีของ Gradient Descent และ Stochastic Gradient Descent มารวมกันและสำหรับอัลกอริทึมนี้เราจะอัพเดทค่าเป็น “ชุด” โดยภายในชุดจะประกอบด้วยข้อมูลจำนวน n ข้อมูลนั้นเอง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/908/1*3L2t1Da4M3ztbB0I1Torhw.png" /><figcaption>เปรียบเทียบทั้ง 3 วิธี</figcaption></figure><h4>Momentum</h4><p>ในการปรับค่าในแต่ละครั้งของ SGD จะสร้างความแปรปรวนเกิดขึ้นมาก ทำให้ยากที่ลู่เข้าจุดที่ต่ำสุดได้ (best optimize) จึงได้มีอัลกอริทึมที่ชื่อว่า “Momentum” เกิดขึ้น ถูกคิดค้นเพื่อเร่งความเร็วในการ optimize ของ SGD โดยการให้ความสำคัญในการพุ่งไปยังทิศทางที่ใกล้จุดกลางมากที่สุดก่อนแล้วทำให้ทิศทางที่ไม่เกี่ยวข้องความสำคัญลดลง ทำให้เกิดทิศทางที่ “ถูกต้อง” เกิดขึ้น โดยเป็นการเพิ่ม fraction ‘<strong>γ</strong>’ เข้ามาในการ update ทิศทางในแต่ละครั้ง</p><p><strong>V(t)=γV(t−1)+η∇J(θ).</strong></p><p>และอัพเดทค่าพารามิเตอร์ด้วย <strong>θ=θ−V(t) .</strong></p><p><strong>ป.ล.</strong> ค่า <strong>γ</strong> นิยมตั้งไว้ที่ 0.9 หรือค่าที่ใกล้เคียงกัน.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/800/1*KiQOTG_hlSoun8vGzVx59Q.jpeg" /></figure><h4>Adagrad</h4><p>เป็น Optimize ที่สามารถปรับค่าค่า Learning Rate ให้เหมาะสมกับพารามิเตอร์ได้ โดยจะมีการอัพเดทจำนวนมากสำหรับค่าพารามิเตอร์ที่มีจำนวนน้อย และอัพเดทไม่มากนักถ้าค่าพารามิเตอร์มีจำนวนมากและด้วยเหตุนี้ Optimizer ตัวนี้จึงเป็นที่นิยมสำหรับ Sparse data (ข้อมูลที่กระจัดกระจาย)</p><blockquote><em>โดยค่า Learning Rate จะถูกเปลี่ยนทุกๆครั้งสำหรับพารามิเตอร์ </em><strong><em>θ (ทิศทางในการเคลื่อนที่) </em></strong><em>โดยอ้างอิงจากทิศทางที่ผ่านมาที่ผ่านการคำนวณจาก Gradient descent มาแล้ว</em></blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/638/1*oll5OA87lhbCa4Qy9hRtCg.jpeg" /><figcaption><a href="https://www.slideshare.net/ssuser77b8c6/an-overview-of-gradient-descent-optimization-algorithms">https://www.slideshare.net/ssuser77b8c6/an-overview-of-gradient-descent-optimization-algorithms</a></figcaption></figure><h4>AdaDelta</h4><p>เป็นตัวต่อยอดมาจาก AdaGrad โดยสามารถลบปัญหา d<em>ecaying learning Rate </em>ที่เกิดขึ้นใน AdaGrad ได้ โดยแทนที่จะเก็บสะสมการคำนวณทั้งหมดที่ผ่านมาของ Gradient แต่ AdaDelta จะถูกจำกัดการสะสมค่าการคำนวณของ Gradient ได้นั้นเองเพื่อแก้ขนาดค่าของ W ที่จะเกิดขึ้น</p><p>แทนที่จะเก็บค่า w ที่ได้รับการอัพเดทมาก่อนหน้านี้ที่ยังไม่เวิร์ค จึงเปลี่ยนเป็นการหาผลรวมของ gradients ทำแบบนี้ซ้ำๆไปเรื่อยๆ เพื่อการแก้ปัญหา decaying learning rate ของ gradients ที่ผ่านมาทั้งหมด</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/638/1*_DbtnLVI8hxRGM2gU6rY8A.jpeg" /><figcaption><a href="https://www.slideshare.net/ssuser77b8c6/an-overview-of-gradient-descent-optimization-algorithms">https://www.slideshare.net/ssuser77b8c6/an-overview-of-gradient-descent-optimization-algorithms</a></figcaption></figure><h4>Adam</h4><p>ชื่อยาวๆคือ <strong>Adaptive Moment Estimation </strong>เป็น optimizer ที่สามารถปรับ learning rates สำหรับพารามิเตอร์ในแต่ละครั้งได้และยังสามารถแก้ปัญหา decaying ของ gradients ในแต่ละสเต็ปที่ผ่านมาได้เหมือนกับ <strong>AdaDelta</strong> อีกทั้งยังอธิบายการเกิด decaying average ของ gradients <strong>M(t)</strong>ที่ผ่านมาได้อีกด้วย เหมือนกับ <strong>momentum</strong></p><p>Adam เป็น optimizer ที่เป็นที่นิยมมากที่สุดเพราะรวมจุดเด่นของแต่ละ Optimizer แล้วลบจุดด้อยต่างๆออกไปทั้งการ decaying learning rate ของ adagrad ช่วยให้โมเดลไม่หยุดเรียนได้ อีกทั้งยังไวกว่า Gradient Descent และลดปัญหาการแกว่งของพารามิเตอร์ได้อีกด้วย</p><p>แต่ก็ยังสรุปไม่ได้ว่า Adam เป็นตัวที่ดีที่สุดเพราะในปัจจุบันมี optimizer ออกใหม่กันบ่อยมาก เราก็ต้องขยันอัพเดทและอ่าน paper อยู่สม่ำเสมอเพื่ออัพเดทให้ทันด้วย</p><p><a href="https://shaoanlu.wordpress.com/2017/05/29/sgd-all-which-one-is-the-best-optimizer-dogs-vs-cats-toy-experiment/">SGD &amp;gt; Adam?? Which One Is The Best Optimizer: Dogs-VS-Cats Toy Experiment</a></p><h3>Activation Function</h3><h4>คืออะไร</h4><p>บล็อกที่ผมใช้อ้างอิงคือ <a href="https://towardsdatascience.com/">towardsdatascience</a> ได้เขียนอธิบายไว้อย่างสั้นและเข้าใจง่ายๆได้ว่า…..</p><p><em>Iit’s just a thing function that you use to get the output of node. It is also known as </em><strong><em>Transfer Function</em></strong><em>.</em></p><p>มันก็แค่ฟังก์ชั่นที่ใช้เพื่อหา output ของ node หรือรู้จักอีกชื่อว่า Transfer Function</p><blockquote>สั้นไปไหน…..</blockquote><h4>ทำไมถึงต้องใช้ Activation Function ใน Neural Networks ?</h4><p>ใช้ในการกำหนด output ของ Neural Network ว่าใช่หรือไม่ ? โดยการนำไป maps กับผลลัพธ์ตั้งแต่ 0 จนถึง 1 หรือ -1 จนถึง 1 ฯลฯ (ขึ้นอยู่กับฟังก์ชั่นที่เราเลือก)</p><p>Activation Functions แบ่งได้ 2 แบบ</p><p>1 ฟังก์ชั่นแบบเชิงเส้น</p><p>2 ฟังก์ชั่นแบบไม่ใช่เชิงเส้น</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*RD0lIYqB5L2LrI2VTIZqGw.png" /><figcaption><a href="https://medium.com/@krishnakalyan3/introduction-to-exponential-linear-unit-d3e2904b366c">https://medium.com/@krishnakalyan3/introduction-to-exponential-linear-unit-d3e2904b366c</a></figcaption></figure><h4>มีอะไรบ้าง</h4><h4>Linear Function</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/867/1*-nXC4OGbNHs2gbKdWDzCjg.png" /></figure><p>เป็นฟังก์ชั่นธรรมดา แค่ maps ค่าเข้ากับเส้น ไม่ได้มีความซับซ้อนอะไรจึงไม่เป็นที่นิยม</p><h4>Sigmoid Function</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/485/1*BwZmaMBaVW8f8lBAQUoytw.png" /><figcaption>หน้าต่างคุ้นๆมั้ย ?</figcaption></figure><p>เป็นฟังก์ชั่นที่ S curve สาเหตุที่เป็นที่นิยมเพราะค่า output ของมัน (0–1) ดังนั้นมันจึงเหมาะสมมากหากเราต้องการหาค่าความน่าจะเป็น (probability) ของ output โดยค่า prob จะมีตั้งแต่ 0 จนถึง 1 สำหรับรายละเอียดเพิ่มเติมผมเคยเขียนไว้ในบล็อกนี้แล้วลองกลับไปอ่านได้ครับ</p><p><a href="https://medium.com/mmp-li/logistic-regression-%E0%B9%84%E0%B8%A1%E0%B9%88%E0%B8%A1%E0%B8%B5%E0%B8%AD%E0%B8%B0%E0%B9%84%E0%B8%A3%E0%B9%80%E0%B8%9B%E0%B9%87%E0%B8%99%E0%B9%84%E0%B8%9B%E0%B8%95%E0%B8%B2%E0%B8%A1%E0%B8%AD%E0%B8%A2%E0%B9%88%E0%B8%B2%E0%B8%87%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%84%E0%B8%B4%E0%B8%94%E0%B9%80%E0%B8%AA%E0%B8%A1%E0%B8%AD-machine-learning-101-bba2f666234d">Logistic Regression ทำนายผู้รอดชีวิตบนเรือไททานิค : Machine Learning 101</a></p><p>แต่มันยังมีข้อเสียตรงที่ Sigmoid function อาจจะส่งผลให้ neural network ติดขัดได้ขณะเวลาที่เทรนโมเดล</p><p>ดังนั้น <strong>softmax function</strong> จึงใช้งานได้มากกว่า sigmoid function ในกรณีที่เราต้องการทำ multiclass classification นั้นเอง</p><h4>Tanh OR Hyperbolic Tangent Function</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/595/1*lDreOpbvgVF1_I3HgjvD5A.png" /><figcaption>S Curve เหมือนกัน แต่ output ต่างกัน ต้องสังเกตุดีๆ</figcaption></figure><p>หน้าตาของมันจะคล้ายกับ Sigmoid แต่ output ของมันคือ (-1 จนถึง 1) ซึ่ง sigmoid คือ (0 จนถึง 1)</p><p>จุดเด่นของฟังก์ชั่นนี้คือถ้าค่าที่ได้ออกมาเป็นค่าติดลบก็จะมีแนวโน้มไป maps กับค่าที่เป็นลบสูง โดยถ้าค่าเป็น 0 ก็จะมีแนวโน้มไป maps กับค่าใกล้ๆ 0 ในกราฟสูงมาก</p><p>tanh function ถูกนิยมนำไปใช้กับ classification ที่มี 2 คลาส</p><h4>ReLU Function</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/726/1*29VH_NiSdoLJ1jUMLrURCA.png" /><figcaption>เปรียบเทียบระหว่าง sigmoid และ ReLU</figcaption></figure><p>เป็นฟังก์ชั่นที่ได้รับความนิยมสูงสุดที่ในโลกขณะนี้ นิยมใช้ใน Convolutional Neural Network หรือ Deep Learning</p><p>ถ้าเราดูจากกราฟ ReLU จะมีแค่ครึ่งเดียว โดยที่ถ้าค่าต่ำกว่า 0 จะได้ output เป็น 0 โดยทันที หากค่ามากกว่าหรือเท่ากับ 0 ก็จะได้ output ที่มากกว่า 0 นั้นเอง</p><p><strong>Range: </strong>[ 0 to infinity]</p><p>แต่ปัญหาของคือการแปลงค่าลบเป็น 0 ทั้งหมดนั้นจะลดความสามารถของโมเดลในการเทรนจากข้อมูล หมายความว่าไม่ว่าค่าจะเป็นค่าเท่าใดก็ตามหากติดลบแล้ว เข้าสู่ ReLU function ก็จะกลายเป็น 0 ทันที ทำให้ส่งกระทบว่ากราฟของเราไม่สามารถ map ค่าติดลบอะไรได้เลย</p><h4>Leaky ReLU Function</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/704/1*E_SEmhcVQJ0u_oqfQdNrvQ.jpeg" /><figcaption>ReLU vs Leaky ReLU</figcaption></figure><p>ถูกออกแบบมาเพื่อแก้ปัญหาของ ReLU นั้นคือการรั่ว (Leaky) นั้นเอง</p><p>การรั่วนี้จะช่วยเพิ่ม range ของ ReLU ออกไปกลายเป็น (-infinity ถึง infinity) นั้นเอง โดยการใช้ค่า a โดยค่า a จะเป็น 0.01 หากเมื่อใดก็ตามค่า a != 0.01 เราจะเรียกว่า <strong>Randomized ReLU</strong></p><h3>สรุป</h3><p>จากบทความนี้เราจะได้รู้จักกับ Optimizer และ Activation Function ไปแล้ว ก็จะเห็นว่าตัวไหนดีกว่ากัน ตัวไหนน่าใช้ สถานการณ์ที่เหมาะสมกับ แต่มันยังมีอะไรที่ลึกกว่านี้อีกมาก เพราะสุดท้ายแล้วการเลือกใช้พวกนี้ก็ขึ้นอยู่กับ data ของเราอยู่ดี</p><p>โดยบทความนี้จะมีแต่ทฤษฏีทั้งหมดเพื่อบทความถัดไปโดยเฉพาะ ในบทความถัดไปเราจะลองแยกภาพหมาแมวแบบง่ายๆด้วย keras และลองทำการปรับ Optimization และ Activation เพื่อให้เห็นถึงความแตกต่างว่า ถ้าใช้ optimization แบบนี้กับแบบนี้จะเกิดอะไรขึ้น</p><p><strong>บทความถัดไป</strong></p><blockquote><a href="https://medium.com/@pingloaf/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-3-keras-with-image-classification-%E0%B9%81%E0%B8%A2%E0%B8%81%E0%B8%A0%E0%B8%B2%E0%B8%9E%E0%B8%AB%E0%B8%A1%E0%B8%B2%E0%B9%81%E0%B8%A1%E0%B8%A7%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%87%E0%B9%88%E0%B8%B2%E0%B8%A2%E0%B9%86-2d5d95ee5613">Deep Learning แบบสามัญชน EP 3 Keras with Image Classification : แยกภาพหมากับแมวแบบง่ายๆ</a></blockquote><p>Github : <a href="https://github.com/peeratpop/Deep_learning_easy_style">https://github.com/peeratpop/Deep_learning_easy_style</a></p><p>Medium : <a href="https://medium.com/@pingloaf">https://medium.com/@pingloaf</a></p><p>Linkedin : <a href="https://www.linkedin.com/in/peerat-limkonchotiwat/">https://www.linkedin.com/in/peerat-limkonchotiwat/</a></p><h3>แหล่งอ้างอิง (REFERENCE)</h3><ul><li><a href="https://towardsdatascience.com/types-of-optimization-algorithms-used-in-neural-networks-and-ways-to-optimize-gradient-95ae5d39529f">Types of Optimization Algorithms used in Neural Networks and Ways to Optimize Gradient Descent</a></li><li><a href="https://towardsdatascience.com/activation-functions-neural-networks-1cbd9f8d91d6">Activation Functions in Neural Networks</a></li></ul><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=9feb5a87e3b2" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%89%E0%B8%9A%E0%B8%B1%E0%B8%9A%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-2-optimization-activation-function-%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B8%81%E0%B8%B1%E0%B8%99%E0%B8%AA%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%86%E0%B8%AA%E0%B9%84%E0%B8%95%E0%B8%AA%E0%B9%8C%E0%B8%8A%E0%B8%B4%E0%B8%A5%E0%B9%86-9feb5a87e3b2">Deep Learning แบบฉบับสามัญชน EP 2 Optimization &amp; Activation Function เรียนกันสบายๆสไตส์ชิลๆ</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Data Preprocessing นั้นสำคัญอย่างไร ? แล้วจะทำเมื่อไหร่ ?]]></title>
            <link>https://medium.com/mmp-li/data-preprocessing-%E0%B8%99%E0%B8%B1%E0%B9%89%E0%B8%99%E0%B8%AA%E0%B8%B3%E0%B8%84%E0%B8%B1%E0%B8%8D%E0%B8%AD%E0%B8%A2%E0%B9%88%E0%B8%B2%E0%B8%87%E0%B9%84%E0%B8%A3-%E0%B9%81%E0%B8%A5%E0%B9%89%E0%B8%A7%E0%B8%88%E0%B8%B0%E0%B8%97%E0%B8%B3%E0%B9%80%E0%B8%A1%E0%B8%B7%E0%B9%88%E0%B8%AD%E0%B9%84%E0%B8%AB%E0%B8%A3%E0%B9%88-69306f880e68?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/69306f880e68</guid>
            <category><![CDATA[data-analysis]]></category>
            <category><![CDATA[data-preprocessing]]></category>
            <category><![CDATA[data-science]]></category>
            <category><![CDATA[python]]></category>
            <category><![CDATA[machine-learning]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Tue, 30 Apr 2019 06:04:46 GMT</pubDate>
            <atom:updated>2019-08-25T06:20:37.519Z</atom:updated>
            <content:encoded><![CDATA[<h3>Data Preprocessing นั้นสำคัญอย่างไร ? แล้วจะทำเมื่อไหร่ ?</h3><blockquote>เป็นอีกหนึ่งหัวข้อที่เป็นหัวใจสำคัญของ Machine Learning</blockquote><p>ที่จริงในการทำ Machine Learning มีหัวใจสำคัญอยู่ 2 อย่างเลยคือการ Clean data และ Preprocessing Data นั้นเอง ในบทความต่างๆผมจะพยายามแทรกๆเข้ามาด้วยแต่ยังไม่เป็นเรื่องเป็นราว โดยในรอบนี้จะมาทำบทสรุปของ Preprocessing เพื่อให้นำไปใช้งานกันแบบจริงจัง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*-bqV4YyZtlz9EUxi8levjw.png" /><figcaption><a href="https://hackernoon.com/what-steps-should-one-take-while-doing-data-preprocessing-502c993e1caa?gi=a29b073a8f9f">https://hackernoon.com/what-steps-should-one-take-while-doing-data-preprocessing-502c993e1caa?gi=a29b073a8f9f</a></figcaption></figure><p>บทความรอบนี้จะเป็นการสรุปคอร์สที่ชื่อว่า</p><h3>Preprocessing for Machine Learning in Python</h3><p><a href="https://www.datacamp.com/courses/preprocessing-for-machine-learning-in-python">Preprocessing for Machine Learning in Python</a></p><h3>อะไรคือ Data Preprocessing ?</h3><p><strong>Data Preprocessing </strong>คือขั้นตอนหลังจาก <strong>Clean data</strong> เป็นการเตรียมข้อมูลของเราให้พร้อมนำไปใช้กับ <strong>Machine Learning Model</strong> เช่น การเลือก Feature หรือ การแปลงข้อความเป็นตัวเลข (ซึ่ง ML โมเดลต้องการ Input ที่เป็นตัวเลขเท่านั้น) ซึ่งต่างจาก <strong>Clean data</strong> ตรงที่ <strong>Clean data</strong> จะเน้นไปที่การทำให้ข้อมูลถูกต้องมากกว่าเช่น การจัดการกับข้อมูลประเภท Nan or NULL หรือจัดการกับ Outlier data โดยจะเน้นไปทางด้าน Data Analysis ซะมากกว่า</p><h3>ความสำคัญของการทำ Preprocessing ?</h3><p>หลักๆเลยที่เราจะเห็นได้บ่อยที่สุดคือการ <strong>“Standardizing Data” , “Feature Engineering” และ “Feature Selection” </strong>เราทำ 3อย่างนี้เพื่อให้ข้อมูลอยู่ในฟอร์มที่ถูกต้องมากขึ้นเพื่อความแม่นยำและถูกต้องมากที่สุดของโมเดล โดยจะแยกออกมาได้ 3 หัวข้อได้แก่</p><h3>หัวข้อที่ 1 : Scaling Data คือ ? แล้วทำเพื่ออะไร ?</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*3E4LHgYNDDYLOmt6J6Ljnw.png" /><figcaption>อะไรคือ Scaling ? กับ 4 ข้อหลักๆในการ Scale</figcaption></figure><p>โดยภายในคอร์สจะยกตัวอย่าง<strong>มา 4 ข้อ</strong>ซึ่งสามารถอธิบายสาเหตุว่าทำไมถึงต้อง Scaling ได้อย่างดีได้แก่</p><p><strong>ข้อที่ 1 Feature ของเรามีขนาดข้อมูลที่ต่างกัน</strong></p><p>โดยปกติแล้วภายใน dataset ของเราจะมีข้อมูลที่มีความสัมพันธ์กัน แต่ข้อมูลเหล่านั้นมีค่า <strong>“Variance”</strong> (ค่าความแปรปรวน) / ค่า <strong>“mean”</strong> (ค่าเฉลี่ย) ของข้อมูลซึ่งเราต้องปรับให้ความแปรปรวนข้อมูลเหล่านี้มีค่าเท่ากันและปรับให้ค่าเฉลี่ยมีค่าเท่าๆกันก่อนที่จะนำข้อมูลไปใช้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/801/1*gozVeGXzXaKYUhGB69Xmzg.png" /><figcaption>แต่ละคอลัมน์ค่า variance ไม่เท่ากันเลย</figcaption></figure><p>จากนั้นให้ทำการ Scaling ด้วยฟังก์ชั่น StandardScaler จะพบว่าค่า variance มันเท่ากันซึ่งโดยปกติฟังก์ชั่น Scale จะเป็นการทำให้ variance มีค่าเป็น 1 หรือใกล้เคียง ซึ่งจะเป็นเหตุผลของข้อที่ 3–4</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/802/1*ZpmPJEEuilXilZrOnmBNqA.png" /><figcaption>หลังจากทำ Scale แล้วค่า variance จะใกล้เคียงกันหมดเลย</figcaption></figure><p><strong>ข้อที่ 2 Machine Learning Model ที่เราจะใช้เป็นประเภท “Linear” เช่น Linear Regression หรือ KNN เป็นต้น</strong></p><p>ถ้าใครเคยอ่านบทความของ KNN / Linear Regression โดยเราจะยกตัวอย่างกับ KNN หลักการของมันคือการเอาข้อมูลมาวางบนกราฟ แล้วเวลาจะ predict คือเอาข้อมูลที่จะ predict มาวางไว้บนกราฟเดียวกันแล้วหาว่าข้อมูลที่ใกล้ๆกับมันเป็นคลาสอะไรนั้นเอง โดยโมเดลประเภท Linear จะเน้นไปที่<strong>การหาระยะ</strong>นั้นเอง</p><p><strong>ข้อที่ 3–4 ทำให้การ Scale ค่ามีผลมากกับ Linear Model</strong></p><p>ถ้าเกิดข้อมูลของเราผ่านการ Scale มาแล้ว ค่าความแปรปรวนก็จะเท่าๆกันในทุกๆ feature และอีกทั้งยังทำให้ค่า mean ของข้อมูลของเราเป็นกลางมากขึ้นอีก และแปลงข้อมูลของเราด้วยวิธี<a href="https://th.wikipedia.org/wiki/%E0%B8%81%E0%B8%B2%E0%B8%A3%E0%B9%81%E0%B8%88%E0%B8%81%E0%B9%81%E0%B8%88%E0%B8%87%E0%B8%9B%E0%B8%A3%E0%B8%81%E0%B8%95%E0%B8%B4"><strong>การแจกแจงปรกติ</strong></a> โดยเมื่อ Scale ข้อมูลแล้วจะยิ่งทำให้การหาระยะไม่ผิดเพี้ยนนั้นเอง</p><h4>Example : การ Scale ส่งผลต่อโมเดลขนาดไหน ?</h4><p>โดยภายในคอร์สได้ทดสอบกับ dataset ที่ชื่อว่า “Wine Dataset” ซึ่งมีอยู่ภายใน sklearn อยู่แล้ว</p><p><a href="https://scikit-learn.org/stable/modules/generated/sklearn.datasets.load_wine.html">sklearn.datasets.load_wine</a></p><p>โดยจะมีข้อมูลทั้งหมด 13 feature โดยใช้โมเดล KNN เปรียบเทียบระหว่างข้อมูลที่ Scale และ UnScale นั้นเอง</p><p>โดยเมื่อลองกับข้อมูลที่ยังไม่ Scale จะได้ค่าความแม่นยำ = 0.644 ถือว่าน้อยมากยังไม่ดีพอจะใช้งานได้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*_s1Dfdp3xpIGfHBmTCMjHQ.png" /><figcaption>ใช้ฟังก์ชั่น score() ภายในโมเดลเพื่อวัดค่าความแม่นยำได้เลย</figcaption></figure><p>แต่เมื่อลองกับข้อมูลที่ Scale เรียบร้อยแล้ว ความแม่นยำ = 0.933 ถือว่าเพิ่มขึ้นมากจากเดิม</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*5eglHpzx8GdfaHWZmYOVFQ.png" /><figcaption>เพิ่มขึ้นราวๆ 0.30 เลยนะเนี่ย</figcaption></figure><p>ทำให้เราเห็นแล้วว่าการ Scale ข้อมูลก่อนสร้างโมเดลมันทรงพลังขนาดไหน แต่ทั้งนี้ทั้งนั้นเพราะ feature ของ dataset นี้ทั้ง 13 คอลัมน์เป็นตัวเลขไม่ใช่ตัวอักษรจึงไม่มีปัญหาอะไร เแต่ถ้าเป็นตัวอักษรละอย่างเช่น เพศ / ใช่หรือไม่ / หัวข้อ(title) จะทำอย่างไรละ ? จึงเกิดสิ่งที่เรียกว่า Feature Engineering ขึ้นมานั้นเอง</p><h3>หัวข้อที่ 2: Feature Engineering คือ ?</h3><p>หัวข้อนี้ไม่ค่อยยากเท่าไหร่ เพราะเป็นแค่การใช้ให้ถูกต้องเฉยๆ ไม่ได้มีหลักคณิตศาสตร์มาเกี่ยวอะไรมากนัก สาเหตุที่เราต้องทำ Feature Engineering เพราะ Machine Learning Model นั้นต้องการ input ที่เป็นตัวเลขนั้นเอง มันไม่สามารถนำตัวอักษรเป็น input ได้จะต้องทำการแปลงก่อนนั้นเอง แต่การจะแปลงนั้นก็มีหลักการเหมือนกัน</p><h4>ปัญหาแรก : การแปลงตัวอักษรจำพวก “ประเภท” มาเป็นตัวเลข</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*F4tvhsuRnWdTPSl60qVOBw.png" /><figcaption>จะเห็นว่ามีทั้ง y/n หรือ blue/green/orange</figcaption></figure><p>การแปลงข้อความพวก ประเภท (Category) จะง่ายที่สุดเพราะส่วนมากจะเป็นข้อความสั้นๆ และมีจำนวนไม่มากก็จะทำได้ 3 วิธีซึ่งผลลัพธ์จะต่างกันและใช้งานต่างกัน</p><ul><li><strong>วิธีแรก ใช้ฟังก์ชั่นภายในของ pandas</strong></li></ul><p>วิธีนี้เหมาะสำหรับกรณีที่เราใช้ pandas ในการเปิดไฟล์อยู่แล้ว เราก็ใช้ build-in funcion ได้เลย โดยใช้ apply() ซึ่งเราจะต้องรู้ก่อนว่าเรามีประเภทอะไรบ้างและยังสามารถกำหนดได้ว่าจะเปลี่ยนข้อความเป็นตัวเลขยังไงได้อีกด้วย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*H8NMfPzhcGPCiwvIDysYlg.png" /><figcaption>ถ้ามี dataframe อยู่แล้วก็ใช้ build-in function ไปเลย</figcaption></figure><ul><li><strong>วิธีที่สอง แปลงข้อความเป็นตัวเลข (Label Encoder)</strong></li></ul><p>วิธีนี้คือแปลงประเภทข้อความของเราเป็นตัวเลข 0 1 2 3 ไปเลยแต่ไม่เหมาะจะนำไปเป็น input ของ model เหมาะสำหรับเป็น output มากกว่าเพราะเลข 0,1,2,3 ที่เราแปลงออกมาจะไม่มีความเกี่ยวข้องกัน ทำให้วิธีต่อไปเหมาะสมมากกว่า</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*1ljM2pDEuIzRY9VCF5pEiQ.png" /><figcaption>sklearn.preprocessing -&gt; LabelEncoder</figcaption></figure><ul><li><strong>วิธีที่สาม แปลงข้อความเป็น 1-hot</strong></li></ul><p>วิธีนี้เป็นที่นิยมในการทำ Machine Learning และ Deep Learning เพราะจะทำการแปลงข้อความเป็นเลข 0 และ 1 โดยที่จะเป็น 1 ก็ต่อเมื่อมีข้อมูลชนิดนั้นๆ และจะเป็น 0 เมื่อไม่มีข้อมูลชนิดนั้นๆ โดยที่เมื่อแปลงเป็น 1 hot แล้วข้อมูลของเรายังมีความสัมพันธ์กันอยู่ไม่หายนั้นเอง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*yWV5d-NuDwt9qMMM7oYAxw.png" /><figcaption>ใช้ get_dummies หรือ sklearn.preprocessing.OneHotEncoder ก็ได้</figcaption></figure><h4>ปัญหาที่สอง: การแปลงตัวอักษรจำพวก “ข้อความ” เป็นตัวเลข</h4><p>ปัญหานี้ส่วนมากจะเป็นการทำ Text Classification หรืองานประเภท Natural Language Processing ซะมากกว่า โดยผมเคยเขียนไว้ในบทความนี้แล้ว</p><p><a href="https://medium.com/mmp-li/nlp-natural-language-processing-%E0%B8%A8%E0%B8%B2%E0%B8%AA%E0%B8%95%E0%B8%A3%E0%B9%8C-%E0%B9%84%E0%B8%A1%E0%B9%88-%E0%B9%83%E0%B8%AB%E0%B8%A1%E0%B9%88-%E0%B8%A8%E0%B8%B2%E0%B8%AA%E0%B8%95%E0%B8%A3%E0%B9%8C%E0%B9%81%E0%B8%AB%E0%B9%88%E0%B8%87%E0%B9%80%E0%B8%88%E0%B9%84%E0%B8%94-%E0%B9%81%E0%B8%A2%E0%B8%81%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B9%80%E0%B8%A0%E0%B8%97%E0%B8%AD%E0%B8%B5%E0%B9%80%E0%B8%A1%E0%B8%A5%E0%B8%A5%E0%B9%8C%E0%B8%94%E0%B9%89%E0%B8%A7%E0%B8%A2%E0%B8%9E%E0%B8%A5%E0%B8%B1%E0%B8%87%E0%B8%9F%E0%B8%AD%E0%B8%A3%E0%B9%8C%E0%B8%8B-66b8bdff2e42">NLP(Natural Language Processing) ศาสตร์(ไม่)ใหม่ ศาสตร์แห่งเจได: แยกประเภทอีเมลล์ด้วยพลังฟอร์ซ</a></p><p>ซึ่งการจะแปลงข้อความทั้งหมดเป็นตัวเลขนั้นทำได้หลายแบบไม่ว่าจะเป็นการทำ</p><p><strong>Countvectorizer เพื่อสร้าง bag-of-word</strong></p><p><strong>TF-IDF เพื่อนับจำนวนความถี่ของคำที่ปรากฏ</strong></p><p><strong>Word Embedding แปลงข้อความเป็น Vector ที่กำลังเป็นที่นิยมในขณะนี้</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*AzYMZSSmc0Bhv5CJm0atAQ.png" /><figcaption>Word2Vec ที่กำลังโด่งดังในขณะนี้</figcaption></figure><p>ซึ่งตัวอย่างของการใช้ 3 วิธีนี้ก็ได้ยกตัวอย่างไว้หมดแล้วบทความ NLP นั้นเอง</p><p>หรือจะเป็นบทความอื่นๆเช่น</p><p><a href="https://medium.com/mmp-li/%E0%B8%A5%E0%B8%AD%E0%B8%87%E0%B9%80%E0%B8%A5%E0%B9%88%E0%B8%99%E0%B9%86-%E0%B9%81%E0%B8%A2%E0%B8%81-sms-%E0%B8%82%E0%B8%A2%E0%B8%B0%E0%B8%94%E0%B9%89%E0%B8%A7%E0%B8%A2-naive-bayes-vs-neural-network-ml-%E0%B8%AA%E0%B8%B9%E0%B9%89-nn-%E0%B9%84%E0%B8%A1%E0%B9%88%E0%B9%84%E0%B8%94%E0%B9%89%E0%B8%88%E0%B8%A3%E0%B8%B4%E0%B8%87%E0%B9%86%E0%B9%80%E0%B8%AB%E0%B8%A3%E0%B8%AD-4c037a2e4fb8">ลองเล่นๆ : แยก SMS ขยะด้วย Naive Bayes VS Neural Network (ML สู้ NN ไม่ได้จริงๆเหรอ ?)</a></p><p>แต่ทีนี้ถ้าเราทำพวก Scale แล้ว ทำ Feature Engineering แล้วขั้นตอนต่อไปก็จะเป็นการเลือก Feature นั้นเอง ถึงแม้เราจะปรับค่าของข้อมูลเราไปเรียบร้อยแล้วแต่ทว่าจะให้เรานำข้อมูลทั้งหมดไปใส่ใน model ของเราก็แปลกๆ บางครั้ง feature บางอันก็ไม่จำเป็นต่อโมเดล ทำให้เกิด</p><h3>หัวข้อที่ 3: Feature Selection คือ ?</h3><p>เป็นการเลือก Feature เพื่อที่จะใช้กับ model ของเราเป็นขั้นตอนสุดท้ายของ preprocessing ซึ่งการเลือก Feature ที่ถูกต้องนั้นจะช่วยส่งผลกับโมเดลของเราอย่างมากและทำให้เราได้เห็น insight ของข้อมูลแบบชัดเจนอีกด้วย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*vdPI278ScNZ4Dc3TZiT3uA.png" /></figure><p>ซึ่งเราจะเลือก Feature ด้วย 2 วิธีง่ายๆได้แก่</p><ul><li><strong>หา Correlated Features</strong></li></ul><p>เป็นวิธีที่ง่ายที่สุดเพียงแค่ใช้คำสั่ง corr() ก็จะได้แสดงความสัมพันธ์ระหว่าง Feature แต่ละอันนั้นเอง ยิ่งอันไหนใกล้ 1 มากที่สุดก็จะยิ่งสัมพันธ์ต่อกันมากขึ้นเช่น A กับ B มี ค่าความสัมพันธ์กันที่ 0.787 ซึ่งถือว่ามากอยู่ แต่เมื่อนำ A เทียบกับ C ก็จะมีเพียงแค่ 0.543 ซึ่งน้อยกว่าเยอะ B เยอะมาก</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*EDZvU37zRyjmbOQoTiMoFw.png" /><figcaption>แบบ Manual วิธีที่ 1</figcaption></figure><ul><li><strong>Dimention Reduction การลดมิติข้อมูล</strong></li></ul><p>เป็น model ของ Unsupervised Learning ซึ่งหน้าที่ของถ้าอธิบายแบบง่ายๆคือลดมิติของข้อมูลลงนั้นเอง โดยจะเลือก Feature ที่ส่งผลต่อโมเดลเท่านั้น</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*TlnMPpfxHsIUFlae0gF9Iw.png" /></figure><p>ส่วนตัวอย่างการลดมิตินั้นผมเคยทำบทความไว้แล้ว ซึ่งเป็นการใช้ NMF จะต่างกับ PCA แค่กำหนดมิติว่าจะลดเหลือเท่าไหร่ในตอนต้น</p><p><a href="https://medium.com/mmp-li/%E0%B8%A5%E0%B8%94%E0%B8%A1%E0%B8%B4%E0%B8%95%E0%B8%B4%E0%B8%82%E0%B9%89%E0%B8%AD%E0%B8%A1%E0%B8%B9%E0%B8%A5%E0%B9%80%E0%B8%9E%E0%B8%B7%E0%B9%88%E0%B8%AD%E0%B8%97%E0%B8%B3-recommender-system-by-unsupervised-learning-ca8ff80a563">ลดมิติข้อมูลเพื่อทำ Recommender System By Unsupervised Learning</a></p><p>เมื่อเราทำทั้ง 3 อย่างครบแล้วเพียงเท่านี้เราก็นำโมเดลของเราไปเข้าสู่กระบวนการ Machine Learning Engineering ได้เลย</p><h3>บทสรุป</h3><p>การ Scale ข้อมูลนั้นเป็นสิ่งที่มือใหม่หลายๆคนและผมได้มองข้ามและไม่ให้ความสำคัญกับมัน แต่เมื่อเราได้ลองทำการเปรียบเทียบระหว่าง Scale และ Unsclae ก็น่าจะเห็นความต่างกันแล้วและเรื่องของ Feature Selection ก็เป็นสิ่งที่สำคัญเช่นกัน หากเลือก Feature ได้ดี ตัว Model ของเราก็จะมีความแม่นยำเพิ่มมากขึ้นอีกด้วย</p><p>Github : <a href="https://github.com/peeratpop/Machine_Learning_101">https://github.com/peeratpop/Machine_Learning_101</a></p><p>Medium : <a href="https://medium.com/@pingloaf">https://medium.com/@pingloaf</a></p><p>Linkedin : <a href="https://www.linkedin.com/in/peerat-limkonchotiwat/">https://www.linkedin.com/in/peerat-limkonchotiwat/</a></p><h4>บทความนี้เป็นส่วนหนึ่งของบทความ</h4><blockquote><a href="https://medium.com/mmp-li/%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-machine-learning-0-100-introduction-1c58e516bfcd">เริ่มเรียน Machine/Deep Learning 0–100 (Introduction)</a></blockquote><p><a href="https://medium.com/mmp-li/%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-machine-learning-0-100-introduction-1c58e516bfcd">เริ่มเรียน Machine Learning 0–100 zero to Mr.incredible (Introduction)</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=69306f880e68" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/data-preprocessing-%E0%B8%99%E0%B8%B1%E0%B9%89%E0%B8%99%E0%B8%AA%E0%B8%B3%E0%B8%84%E0%B8%B1%E0%B8%8D%E0%B8%AD%E0%B8%A2%E0%B9%88%E0%B8%B2%E0%B8%87%E0%B9%84%E0%B8%A3-%E0%B9%81%E0%B8%A5%E0%B9%89%E0%B8%A7%E0%B8%88%E0%B8%B0%E0%B8%97%E0%B8%B3%E0%B9%80%E0%B8%A1%E0%B8%B7%E0%B9%88%E0%B8%AD%E0%B9%84%E0%B8%AB%E0%B8%A3%E0%B9%88-69306f880e68">Data Preprocessing นั้นสำคัญอย่างไร ? แล้วจะทำเมื่อไหร่ ?</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[ลดมิติข้อมูลเพื่อทำ Recommender System By Unsupervised Learning]]></title>
            <link>https://medium.com/mmp-li/%E0%B8%A5%E0%B8%94%E0%B8%A1%E0%B8%B4%E0%B8%95%E0%B8%B4%E0%B8%82%E0%B9%89%E0%B8%AD%E0%B8%A1%E0%B8%B9%E0%B8%A5%E0%B9%80%E0%B8%9E%E0%B8%B7%E0%B9%88%E0%B8%AD%E0%B8%97%E0%B8%B3-recommender-system-by-unsupervised-learning-ca8ff80a563?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/ca8ff80a563</guid>
            <category><![CDATA[unsupervised-learning]]></category>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[recommendation-system]]></category>
            <category><![CDATA[machine-intelligence]]></category>
            <category><![CDATA[data-science]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Tue, 23 Apr 2019 08:28:11 GMT</pubDate>
            <atom:updated>2019-08-25T06:20:48.598Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>ทำไม netflix หรือ youtube ถึงได้แนะนำวิดีโอแนวนี้มาให้เรา ?</blockquote><p>ห่างหายไปนานกับบทความ Machine Learning เพราะว่าช่วงนี้แอบหนีไปเล่น apex ไม่ยอมเขียนบทความสักที 5555 และช่วงก่อนสงกรานต์ได้เรียนคอร์สที่ชื่อว่า</p><h3>Unsupervised Learning in Python</h3><p><a href="https://www.datacamp.com/courses/unsupervised-learning-in-python">Unsupervised Learning in Python</a></p><p>ที่จริงก่อนหน้านี้ก็ได้เรียนในคอร์สของ edX มาแล้วแต่ก็ยังไม่เห็นประโยชน์ รู้แค่ว่ามันจัดกลุ่มได้ ลดมิติได้ จนกระทั่งได้มาเรียนคอร์สนี้ถึงจะได้เอามาใช้จริงๆ เลยถึงจะเข้าใจส่วนวันนี้จะใช้งานแค่<strong>การลดมิติ (dimension reduction) </strong>ส่วนการจัดกลุ่มแบบ Unsupervised ขอเป็นบทความหน้าแล้วกัน</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/602/1*bL6Mb1eA9D2W0XkuYE22DA.png" /><figcaption><a href="https://medium.com/mlrecipies/machine-learning-basics-supervised-learning-theory-part-1-d910b96d56fc">https://medium.com/mlrecipies/machine-learning-basics-supervised-learning-theory-part-1-d910b96d56fc</a></figcaption></figure><h3>ทฤษฏีการทำระบบ Recommender System</h3><p>ปกติเวลาเราเข้าไปดู youtube เราจะเจอวิดีโอที่แนะนำโดยถ้าสังเกตุดีๆมันจะอ้างอิงกับสิ่งที่เราดูในช่วงนี้หรือค้นหาในช่วงนี้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*FyXHT3uUaTJkctvRdIenmw.png" /><figcaption>apex เต็มไปหมดเลย</figcaption></figure><p>หรือแม้แต่ netflix จะอ้างอิงกับเรื่องที่เราพึ่งดูจบไป ระบบจะหาหนังที่คล้ายๆกันมาให้เราดูต่อได้เลย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*v4YrAXFOH2_gtGgsVtOFtA.png" /></figure><p>โดยหลักๆระบบ Recommend จะมีอยู่ <strong>2</strong> แบบที่เราเห็นกันเยอะๆคือ</p><ol><li>อ้างอิงจากสิ่งที่เราชอบ/กำลังติดตาม/ค้นหา (Content based)</li><li>อ้างอิงจากคนอื่นเช่น เราอ่านบทความนี้เสร็จก็จะเจอหัวข้อประมาณว่า “คนอื่นได้อ่านข่าวนี้ต่อ” (Collaborative filtering)</li></ol><p>โดยระบบ Recommend จะใช้สิ่งที่ตรงกับผู้ใช้ได้อ่าน/ดูไปมาทำการ match กับสิ่งที่คล้ายๆกันเช่น เราสมมุติหนังเรื่อง Friend Zone กับ I Fine Thank You Love You</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ZN9laszcthaiiGigfJgkKg.jpeg" /></figure><p>หนังสองเรื่องนี้มีส่วนที่คล้ายกันอยู่มาก โดยเรายกตัวอย่างมาให้เห็นหลักๆเลยคือความรัก หนังไทย และตลก แล้วมาเปรียบเทียบกับอีกเรื่องคือ Game of throne กับ Friend Zone</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/500/1*t0fzRAeQnPQD5JxQCZH7Jg.gif" /><figcaption>หน้าหนาวกำลังมา</figcaption></figure><p>เราไม่ต้องทำรูปเปรียบเทียบเลยด้วยซ้ำ เพราะสองเรื่องนี้ไม่คล้ายกันเลยเพราะฉนั้นมันจะไม่ขึ้นใน recommend ของเราแน่นอน</p><h3>ทำไมต้องลดมิติข้อมูล</h3><p>หาใครได้ลองทำงานด้าน NLP โดยใช้ CountVectorizer หรือ tf-idf ถ้าเรามีข้อมูลขนาดใหญ่หรือจำนวนที่เยอะจะพบว่าข้อมูลของเรามันจะมีขนาดใหญ่มาก ! และยิ่งเรามีจำนวนข้อมูลเยอะ มันจะยิ่งใหญ่ขึ้นไปอีก ถ้าเราสามารถลดมิติของข้อมูลจากเดิมอาจจะมีถึง 30,000 แต่สามารถลดเหลือ 50 ได้ละ ? โดยที่ข้อมูลไม่เสียหายและได้ผลลัพธ์ที่ดีกว่าเดิมละ ? แค่คิดมันก็สุดยอดแล้ว</p><p>โดยบทความนี้ไม่ได้จะใช้ได้แค่กับการทำ recommender system การลดมิติข้อมูลสามรถใช้เลือก feature ที่ <strong>“มีผล”</strong> จริงๆกับ model อีกด้วย เราไม่ต้องเลือก feature เองก็ได้ ให้ <strong>Unsupervised (PCA,NMF) </strong>เลือกให้เราแทนได้เลย</p><h3>แล้วบทความนี้จะทำ…. ?</h3><p>วันนี้เราจะทำ Recommender System ที่เกี่ยวกับ <strong>“หัวข้อข่าว” </strong>ซึ่งเราจะจำลองว่าเราทำเว็บอ่านข่าวและต้องการจะแสดงข่าวที่ผู้อ่านชื่นชอบและเกี่ยวข้องกับที่ผู้อ่านสนใจนั้นเอง โดยเราจะใช้ dataset ที่เป็นภาษาอังกฤษทั้งหมด (ภาษาไทยก็ใช้ได้เหมือนๆกัน)</p><h3>เริ่ม !</h3><p>ทำการโหลด dataset มาจาก kaggle ก่อน</p><p><a href="https://www.kaggle.com/snapcrack/all-the-news">All the news</a></p><p>โดยรอบนี้เราจะทำแค่ 50,000 หัวข้อ จากทั้งหมด 143,000 ถ้าใครอยากจะทำทั้งหมดก็เอาไฟล์มาต่อกันได้เลย</p><p>ทีนี้เราเปิดไฟล์ของเราก่อนแล้วลองสังเกตุ dataset ดูก่อน</p><pre>import pandas as pd<br>file = pd.read_csv(‘articles1.csv’)<br>file.head()</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ZOH7YkELOXbSWGhjVaxGxg.png" /></figure><p>โดยเราจะใช้แค่ title ของ dataset นี้โดยเราจะเอาหัวข้อข่าวมาเชื่อมโยงหากันนั้นเอง</p><p>จากนั้นให้เราสร้าง bag-of-word ขึ้นมาสองอัน อันแรกสร้างด้วย <strong>CountVectorizer </strong>ส่วนอีกอันสร้างด้วย <strong>tf-idf</strong> เพื่อเปรียบเทียบผลลัพธ์ของทั้ง 2 อันนี้</p><p>ตรงนี้ถ้าใครงงว่า <strong>bag-of-word / CV / tf-idf</strong> คืออะไรให้ย้อนกลับไปอ่านบทความ NLP ที่เคยเขียนอธิบายเอาไว้แล้วก่อน จะได้เข้าใจมากยิ่งขึ้น</p><p><a href="https://medium.com/mmp-li/nlp-natural-language-processing-%E0%B8%A8%E0%B8%B2%E0%B8%AA%E0%B8%95%E0%B8%A3%E0%B9%8C-%E0%B9%84%E0%B8%A1%E0%B9%88-%E0%B9%83%E0%B8%AB%E0%B8%A1%E0%B9%88-%E0%B8%A8%E0%B8%B2%E0%B8%AA%E0%B8%95%E0%B8%A3%E0%B9%8C%E0%B9%81%E0%B8%AB%E0%B9%88%E0%B8%87%E0%B9%80%E0%B8%88%E0%B9%84%E0%B8%94-%E0%B9%81%E0%B8%A2%E0%B8%81%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B9%80%E0%B8%A0%E0%B8%97%E0%B8%AD%E0%B8%B5%E0%B9%80%E0%B8%A1%E0%B8%A5%E0%B8%A5%E0%B9%8C%E0%B8%94%E0%B9%89%E0%B8%A7%E0%B8%A2%E0%B8%9E%E0%B8%A5%E0%B8%B1%E0%B8%87%E0%B8%9F%E0%B8%AD%E0%B8%A3%E0%B9%8C%E0%B8%8B-66b8bdff2e42">NLP(Natural Language Processing) ศาสตร์(ไม่)ใหม่ ศาสตร์แห่งเจได: แยกประเภทอีเมลล์ด้วยพลังฟอร์ซ</a></p><pre>from sklearn.feature_extraction.text import CountVectorizer<br>vectorizer = CountVectorizer()<br>vectorizer.fit(file[‘title’])<br>X2= vectorizer.transform(file[‘title’])<br>X2[0].shape</pre><p>และสร้าง bag-of-word อีกอันด้วย <strong>TfidfVectorizer</strong></p><pre>from sklearn.feature_extraction.text import TfidfVectorizer<br>vectorizer = TfidfVectorizer()<br>vectorizer.fit(file[‘title’])<br>X1 = vectorizer.transform(file[‘title’])<br>X1[0].shape</pre><p>โดยเมื่อทำการสร้าง bag-of-word ทั้ง 2 อันขึ้นมาแล้วจะได้ X ที่มีขนาด(1 , 27423) ! หมายความว่าเรามีข้อมูลทั้งหมด <strong>50,000 * 27,423 = 1,371,150,000 Record !!!</strong> ถ้าเราเห็นข้อมูลเยอะขนาดนี้แล้วเรายังฝืนใช้งานมันต่อมีหวังคอมพังแน่นอน เราจะต้องลดขนาดข้อมูลของมันก่อนที่จะนำไปใช้งานนั้นเอง !</p><p><strong>เรียก library ที่จะใช้งานขึ้นมา</strong></p><pre>from sklearn.decomposition import NMF<br>from sklearn.preprocessing import Normalizer, MaxAbsScaler<br>from sklearn.pipeline import make_pipeline</pre><p><strong>ทีนี้มาถึงจุดที่ใช้งานง่าย แต่เข้าใจยาก</strong></p><p>อันแรก <strong>MaxAbsScaler()</strong> เป็นการปรับสเกลค่าในข้อมูลของเราโดยที่แปลงค่าในแถวนั้นๆให้ค่าสูงสุดมีค่าเป็นบวกไม่ติดลบนั้นเอง (ไม่ทำให้การกระจายตัวของข้อมูลเสียหายด้วย)</p><pre>scaler = MaxAbsScaler()</pre><p>อันที่สอง <strong>NMF()</strong> ชื่อเต็มๆคือ <strong>Non-negative matrix factorization </strong>แปลไทยง่ายๆคือ ทำหน้าที่ลดมิติของข้อมูลโดยที่ข้อมูลจะต้องไม่มีค่าเป็นลบ</p><pre>nmf = NMF(n_components=50)</pre><p>อันสุดท้าย <strong>Normalizer()</strong> เป็นการปรับค่าใน matrix ของเราให้อยู่ในรูปแบบ unit form โดยใช้วิธี l1 หรือ l2 โดยวิธีเป็นวิธีพื้นฐานสำหรับการทำ text classification หรือ การทำ clustering นั้นเอง</p><pre>normalizer = Normalizer()</pre><p>จากนั้นสร้าง pipline ขึ้นมาโดยเป็นการรวมเอา 3 อย่างเข้าด้วยกันโดยเรียงลำดับดังนี้</p><p><strong>ทำการ scale ข้อมูล -&gt; ลดมิติข้อมูล -&gt; ปรับค่าในข้อมูลเพื่อทำ dot matrix</strong></p><pre>pipeline = make_pipeline(scaler,nmf,normalizer)</pre><p>จากนั้นให้เอา pipline ของเรามาเทรนกับข้อมูลที่เราแปลงมาจาก <strong>CV</strong> กับ <strong>tf-idf</strong></p><pre>norm_features1 = pipeline.fit_transform(X1)<br>norm_features2 = pipeline.fit_transform(X2)</pre><p>จากนั้นให้เราทำการสร้าง dataframe ขึ้นมาจาก pandas เพื่อเอาไว้ใช้ในอนาคตโดยไม่ต้องเทรนอีกต่อไป</p><pre>df1 = pd.DataFrame(norm_features1,index=file[‘title’])<br>df2 = pd.DataFrame(norm_features2,index=file[‘title’])</pre><p>โดยเมื่อเราลองส่องดูข้างใน df1,df2 ของเราจะพบว่าขนาดของมันถูกลดเหลือ (1,50) จาก (1,27423) ด้วยวิธี NMF นั้นเองซึ่งทำให้ข้อมูลของเราถูกลดเหลือเพียง <strong>50,000 * 50 = 2,500,000 Record !!! </strong>หายไปเกือบๆ <strong>1.368 billion Record !!</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*e1Q2qkGjhrn_zr9Pbl_dJg.png" /></figure><p>ทีนี้ได้เวลาลองทำงานจริงว่าการลดมิติจะส่งผลกระทบอะไรบ้างหรือไม่ และ bag-of-word แต่ละให้ผลลัพธ์ต่างกันขนาดไหน</p><p>ให้สร้างฟังก์ชั่นขึ้นมาก่อนอธิบายทีละคำสั่งประมาณนี้</p><ul><li>df.loc[] จะทำการดึงข้อมูล 50 column จาก index ของเรา โดยเราจะต้องใส่หัวข้อข่าวให้ครบทุกตัวอักษร เพื่อที่จะดึงข้อมูลได้ถูก index นั้นเอง</li><li>df.dot() ตรงนี้เป็นการ dot ของ matrix คือ การหาความคล้ายของหัวข้อข่าวด้วยการทำ cosine กับทุกๆข่าวที่เรามี</li><li>similarities.nlargest() หลังจากที่ทำ dot เสร็จแล้วผลลัพธ์จะอยู่ใน similarities และคำสั่ง nlargest() ก็จะแสดง <strong>ชื่อหัวข่าว</strong> ที่มี <strong>ค่าความคล้าย </strong>มากที่สุดนั้นเอง</li></ul><pre>def similarities(article,df):<br> article_index = df.loc[article]</pre><pre># Compute cosine similarities: similarities<br> similarities = df.dot(article_index)</pre><pre># Display those with highest cosine similarity<br> print(similarities.nlargest())</pre><p><strong>ทีนี้ลองค้นหาหัวข้อข่าวที่ความคล้ายกับ </strong>‘The Atlantic Daily: Passing the Presidential Mic’ แปลไทยก็คือ ข่าวจากสำนัก Atlantic : การส่งต่อตำแหน่งประธานาธิบดี</p><h4>ทีนี้ลองกับ tf-idf ก่อน</h4><pre>similarities(‘The Atlantic Daily: Passing the Presidential Mic’,df1)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/628/1*1lD29aepE4uHulbWMoFZOA.png" /></figure><p><strong>ผลลัพธ์</strong> : หัวข้อข่าวไม่ค่อยจะตรงเท่าไร แต่ที่ถูกต้องแบบเห็นชัดเลยคือชื่อสำนักข่าว แต่หัวข้อจริงๆไม่ถูกเลย ไม่มีใครสื่อได้ถึงประธานาธิบดีเลย แถมมี Grammys Award มาอีก มาได้ไงงงงงง</p><p><strong>สาเหตุ</strong> : tf-idf นับความถี่ของคำและตัดคำยิบๆย่อยๆออกไป ทำให้คำหลักๆ ซึ่งก็คือชื่อสำนักข่าว ถูกให้ความสำคัญมากกว่าปกติทำให้เราเห็นหัวข้อข่าวที่มีชื่อสำนักข่าวขึ้นมาก่อนนั้นเอง</p><h4>ทีนี้ลองกับ CountVectorizer</h4><pre>similarities(&#39;The Atlantic Daily: Passing the Presidential Mic&#39;,df2)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/839/1*CmzlVtGOxcPdoHm5B1WyNg.png" /></figure><p><strong>ผลลัพธ์</strong> : คำว่า ‘<strong>Presidential</strong>’ ถูกยกให้เป็นคำหลักในรอบนี้ ทำให้ข่าวทุกๆข่าวจะเกี่ยวข้องกับประธาธิบดี แถมอันที่สองยังเป็นเรื่องของการดีเบตตำแหน่งประธานาธิบดีอีก ถือว่าแม่นยำพอตัวเลยสำหรับ CountVectorizer</p><h3>บทสรุป</h3><p>การลดมิติข้อมูลหากเราสามารถเข้าใจมันได้แบบแท้จริงมันจะเป็นประโยชน์อย่างมากไม่ว่าจะเป็นการเลือก Feature ที่แท้จริง หรือการลดขนาดข้อมูลไม่ให้มากเกินความจำเป็น และเรายังสามารถนำข้อมูลเหล่านี้ไปใช้ได้โดยที่ไม่มีความเสียหายเกิดขึ้นกับข้อมูลเราอีก</p><p>Github : <a href="https://github.com/peeratpop/Recommend-System-NEWS">https://github.com/peeratpop/Recommend-System-NEWS</a></p><p>Medium : <a href="https://medium.com/@pingloaf">https://medium.com/@pingloaf</a></p><p>Linkedin : <a href="https://www.linkedin.com/in/peerat-limkonchotiwat/">https://www.linkedin.com/in/peerat-limkonchotiwat/</a></p><h4>บทความนี้เป็นส่วนหนึ่งของบทความ</h4><blockquote><a href="https://medium.com/mmp-li/%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-machine-learning-0-100-introduction-1c58e516bfcd">เริ่มเรียน Machine/Deep Learning 0–100 (Introduction)</a></blockquote><p><a href="https://medium.com/mmp-li/%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-machine-learning-0-100-introduction-1c58e516bfcd">เริ่มเรียน Machine Learning 0–100 zero to Mr.incredible (Introduction)</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=ca8ff80a563" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/%E0%B8%A5%E0%B8%94%E0%B8%A1%E0%B8%B4%E0%B8%95%E0%B8%B4%E0%B8%82%E0%B9%89%E0%B8%AD%E0%B8%A1%E0%B8%B9%E0%B8%A5%E0%B9%80%E0%B8%9E%E0%B8%B7%E0%B9%88%E0%B8%AD%E0%B8%97%E0%B8%B3-recommender-system-by-unsupervised-learning-ca8ff80a563">ลดมิติข้อมูลเพื่อทำ Recommender System By Unsupervised Learning</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[ทำไมฉันถึงทั้งรักทั้งเกลียดการเขียนโค้ด]]></title>
            <link>https://medium.com/mmp-li/%E0%B8%97%E0%B8%B3%E0%B9%84%E0%B8%A1%E0%B8%89%E0%B8%B1%E0%B8%99%E0%B8%96%E0%B8%B6%E0%B8%87%E0%B8%97%E0%B8%B1%E0%B9%89%E0%B8%87%E0%B8%A3%E0%B8%B1%E0%B8%81%E0%B8%97%E0%B8%B1%E0%B9%89%E0%B8%87%E0%B9%80%E0%B8%81%E0%B8%A5%E0%B8%B5%E0%B8%A2%E0%B8%94%E0%B8%81%E0%B8%B2%E0%B8%A3%E0%B9%80%E0%B8%82%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B9%82%E0%B8%84%E0%B9%89%E0%B8%94-adeef64065f8?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/adeef64065f8</guid>
            <category><![CDATA[programmer]]></category>
            <category><![CDATA[programming]]></category>
            <category><![CDATA[การเขียนโปรแกร]]></category>
            <category><![CDATA[โปรแกรมเมอร์]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Wed, 03 Apr 2019 09:08:10 GMT</pubDate>
            <atom:updated>2019-04-03T09:04:09.504Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>เพราะหนี้มันท่วมหัวไงเลยยังต้องเขียนโค้ดอยู่ เศร้าาาาาาา</blockquote><p>หลังจากที่ไม่ได้เขียนบทความ life style อะไรเลยตั้งแต่บทความ</p><p><a href="https://medium.com/mmp-li/%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B8%95%E0%B9%89%E0%B8%99%E0%B9%80%E0%B8%82%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B9%82%E0%B8%9B%E0%B8%A3%E0%B9%81%E0%B8%81%E0%B8%A3%E0%B8%A1-%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B8%A2%E0%B8%B1%E0%B8%87%E0%B9%84%E0%B8%87%E0%B8%94%E0%B8%B5-2018-19-dc5075055908">เริ่มต้นเขียนโปรแกรม เริ่มยังไงดี ? (2019–20 ยุคที่ AI มาแรง)</a></p><p>วันนี้เลยจะมาบอกเล่าถึงสาเหตุต่างๆของการเขียนโปรแกรมซึ่งมีทั้งรักทั้งเกลียด โดยบทความนี้มาจากประสบการณ์ของตนเองและเพื่อนรอบข้าง</p><p>ซึ่งหวังว่าจะเป็นประโยชน์แก่คนน้องๆที่กำลังสนใจจะเขียนโปรแกรม หรือยังไม่แน่ใจว่าเส้นทางของโปรแกรมเมอร์มันยากลำบากหรือมีความสุขเพียงใด</p><h3>ทำไมฉันที่ถึงรักการเขียนโค้ด</h3><ol><li><strong>มีความท้าทาย</strong></li></ol><p>ทุกๆครั้งที่ได้รับโจทย์หรือ Requirement มาก็จะมีความยากของมัน บางครั้งมันก็ท้าทายเรา ทำให้งานของเราไม่น่าเบื่อ ตื่นเต้นตลอดเวลา (ว่ามันจะพังไหม) โปรแกรมเมอร์หลายๆคนที่เลิกทำงานด้านนี้ไปก็มีเหตุผลว่างานหมดความท้าทาย หรือบางคนก็ย้ายงานเพื่อไปหาความท้าทายใหม่ๆ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/788/1*25_5lY6ZksFayFGs547BwA.jpeg" /><figcaption><a href="https://news.efinancialcareers.com/uk-en/137065/the-six-hottest-programming-languages-to-know-in-banking-technology">https://news.efinancialcareers.com/uk-en/137065/the-six-hottest-programming-languages-to-know-in-banking-technology</a></figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/549/1*jTDKs_9rTj2M7sBNdmIZZw.jpeg" /><figcaption><a href="https://www.reddit.com/r/ProgrammerHumor/comments/1w1u3o/bug_vs_feature/">https://www.reddit.com/r/ProgrammerHumor/comments/1w1u3o/bug_vs_feature/</a></figcaption></figure><p><strong>2. สนุกสนานเวลาไม่เจอบั๊ก</strong></p><p>เมื่อได้รับงานที่ท้าทายแล้ว ต่อไปคือการทำงาน สำหรับผมนะ เวลาที่เราเขียนโค้ดแล้วรันออกมาแล้วไม่มีบั๊กในครั้งแรก (เป็นไปได้น้อยมากกก) โครตจะฟินเลย หรือเวลาเขียนฟังก์ชั่นออกมาเป็นร้อยบรรทัดแล้วลองรันปรากฏว่าไม่มีบั๊กมันโครตจะฟินไปเลยเหละ 55555</p><p><strong>3. ชอบที่จะสร้างปัญหา</strong></p><p>สร้างปัญหาที่นี้ไม่ใช่ว่าไปพังงานนะ แต่มันคือเวลาที่เรากำลังเขียนโค้ดตาม flowchart ที่ได้รับมา แต่อยู่ดีๆเราก็ปิ๊งไอเดียว่า “เห้ย ถ้าเราทำอีกวิธี งานจะน่าจะดีขึ้นนะ” แล้วเราก็เอาเรื่องนี้ไปคุยกับคนในทีม เกิดการถกเถียงกัน แลกเปลี่ยนความคิด เวลาแบบนี้เหละที่จะทำให้เรารู้สึกว่าตัวเองพัฒนาขึ้นแล้ว</p><p><strong>4. ชอบที่จะแก้ปัญหา</strong></p><p>เมื่อเกิดปัญหา เราก็ต้องแก้ไม่ว่าจะแก้บั๊ก แก้ algorithm แก้โค้ดให้สั้นลง เขียนโค้ดให้มันดีขึ้น พอแก้เสร็จแล้วมันก็ฟินดีเหมือนกันนะ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/620/1*hy2uG1y1GpQgilJiJPhKbQ.jpeg" /><figcaption><a href="https://www.docsity.com/en/news/programming-2/15-programming-jokes/">https://www.docsity.com/en/news/programming-2/15-programming-jokes/</a></figcaption></figure><p><strong>5. ชอบที่จะสร้างสรรค์ผลงานออกมาให้ชาวโลกเห็น</strong></p><p>บางคนชอบที่จะปล่อย open source ออกมาให้ผู้อื่นพัฒนาต่อเพราะชอบเวลาให้คนอื่นมีส่วนร่วมกับงานของเรา หรือพัฒนางานของคนอื่น หรือการสร้างอะไรออกมาสักอย่างเป็นตัวเอง เช่น สร้าง lib หรือ framework เป็นของตัวเอง</p><p><strong>6. ทำเงินได้ดี</strong></p><p>เป็นเรื่องที่เถียงไม่ได้เลยว่าเงินดีมาก (ถ้าคุณมีฝีมือหรือประสบการณ์) ตอนที่ผมยังเรียนไม่จบ ปี2560–61 รับจ๊อบทำ ASP.NET C# ได้เดือนละ 20K พอเบนสายมา AI ยิ่งได้เยอะกว่าเดิมอีกแหะ เลยคิดว่าสายนี้ไม่น่าอดตายได้ ถ้ารู้จักพัฒนาตัวเองและเก๋าเกมพอ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/630/1*SawIxok1M5ScvHdvxa9JoQ.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/630/1*nQk0iphzLwgMod2h-ksOGg.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/633/1*HhOAcv_k_QK7ldjQ6B4BxQ.png" /><figcaption>จากกลุ่ม Jobs for Thai Programmers</figcaption></figure><h3>ทำไมฉันถึงเกลียดที่จะเขียนโค้ด</h3><ol><li><strong>บั๊ก</strong></li></ol><p>เป็นสิ่งที่น่าพิศวงและไม่เข้าใจที่สุดเท่าที่เคยพบเจอมาในชีวิต ตอนที่เราทำโจทย์คณิตศาสตร์หรือฟิสิกส์เนี่ย ถ้าเราแก้สมการตรงไหนไม่ออกเรียกคนอื่นมาช่วยหรือมาอธิบายก็ทำต่อได้ แต่บั๊กเนี่ย…..บางทีเรียกคนทั้งออฟฟิศมาช่วยกันดูยังหาไม่เจอเลย บางทีแก้ไปแล้วอันหนึ่งโผล่มาอีก 3 อัน เห้ย….อะไรวะ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/300/1*iFt7eDGBI0xR6hfsSKAlBg.jpeg" /><figcaption>มันไม่เวิร์ค ทำไม… ? / มันเวิร์ค ได้ไง… <a href="https://www.docsity.com/en/news/programming-2/15-programming-jokes/">https://www.docsity.com/en/news/programming-2/15-programming-jokes/</a></figcaption></figure><p><strong>2. มีเซอร์ไพส์ตลอดเวลา</strong></p><p>เนื่องจากสายงานนี้มักชอบเกิดอะไรที่ไม่คาดฝันตลอดเวลาเช่น ทดลองบนเครื่องไม่เจอบั๊ก พออัพขึ้นเซิฟ อ่าวบั๊กมาไง , รันบนเครื่องตัวเองผ่าน รันบนเซิฟไม่ผ่าน , เซิฟเวอร์ล่มตอนเสนองานให้ลูกค้า , เจอบั๊กตอนกำลังพรีเซ้นงานให้ลูกค้า ทั้งหมดนี้คือความเซอร์ไพส์แค่น้ำจิ้ม ซึ่งเมื่อไรก็ตามที่มันเกิดขึ้น โครตจะเซงเลย 5555</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/563/1*4aFHJQ_2VCNbJoMRtng-vA.png" /><figcaption><a href="https://imgur.com/gallery/XKJ4KKn/comment/106838906">https://imgur.com/gallery/XKJ4KKn/comment/106838906</a></figcaption></figure><p><strong>3. ต้องพัฒนาตัวเองตลอดเวลา</strong></p><p>ประเด็นสำคัญที่ทำให้ผมเซงๆในบางทีก็คือความรู้ของเรามันตกยุคในทุกๆวัน ไม่ว่าจะเฟรมเวิร์ค จะภาษาที่ใช้ก็มีการอัพเดทตลอดเวลา บางทีมันอัพแค่เวอร์ชั่นเล็กๆ ก็ยังพอเข้าใจ ถ้าเกิดเปลี่ยนแปลงเยอะๆเช่น python2 กับ python3 ต่างแค่เลข แต่ข้างในก็ต่างกันเยอะ หรือจะเป็น angular1 หรือ angular2+ ต่างแบบสุด ทำให้เราต้องพัฒนาตัวเองเสมอนี้ยังไม่ได้พูดถึงเทรนใหม่ๆอีกมากมายไม่ว่าจะเป็น AI , Block chain ตามไม่ทันแล้วเว้ย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/846/1*YKNU_2f-TGZj8TYcWkM89g.jpeg" /><figcaption><a href="http://www.focusmalaysia.my/Enterprise/new-technology-adoption-on-the-rise">http://www.focusmalaysia.my/Enterprise/new-technology-adoption-on-the-rise</a></figcaption></figure><h4>บทสรุป</h4><p>คิดว่าทุกๆคนน่าจะมีเหตุผลในการเขียนโปรแกรมต่างกัน บางคนมีความหลงไหลมาตั้งแต่เด็ก บางคนเขียนโค้ดเพราะว่าใจรัก บางคนเขียนโค้ดเพราะเรียบจบสายนี้มา ไม่อยากเปลี่ยนสาย หรืออื่นๆ แต่สำหรับผมสิ่งที่สำคัญที่สุดสำหรับการเขียนโปรแกรมคือ “<strong>เราสนุกกับงานที่ทำและมีความสุขกับมัน</strong>” ผมว่านี้เหละสำคัญที่สุดที่ทำให้ผมยังเขียนโปรแกรมอยู่จนถึงทุกวันนี้</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=adeef64065f8" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/%E0%B8%97%E0%B8%B3%E0%B9%84%E0%B8%A1%E0%B8%89%E0%B8%B1%E0%B8%99%E0%B8%96%E0%B8%B6%E0%B8%87%E0%B8%97%E0%B8%B1%E0%B9%89%E0%B8%87%E0%B8%A3%E0%B8%B1%E0%B8%81%E0%B8%97%E0%B8%B1%E0%B9%89%E0%B8%87%E0%B9%80%E0%B8%81%E0%B8%A5%E0%B8%B5%E0%B8%A2%E0%B8%94%E0%B8%81%E0%B8%B2%E0%B8%A3%E0%B9%80%E0%B8%82%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B9%82%E0%B8%84%E0%B9%89%E0%B8%94-adeef64065f8">ทำไมฉันถึงทั้งรักทั้งเกลียดการเขียนโค้ด</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[จัดการกับข้อมูลไปจนถึงสร้างโมเดล ML มีขั้นตอนอะไรบ้าง ?]]></title>
            <link>https://medium.com/mmp-li/%E0%B8%88%E0%B8%B1%E0%B8%94%E0%B8%81%E0%B8%B2%E0%B8%A3%E0%B8%81%E0%B8%B1%E0%B8%9A%E0%B8%82%E0%B9%89%E0%B8%AD%E0%B8%A1%E0%B8%B9%E0%B8%A5%E0%B9%84%E0%B8%9B%E0%B8%88%E0%B8%99%E0%B8%96%E0%B8%B6%E0%B8%87%E0%B8%AA%E0%B8%A3%E0%B9%89%E0%B8%B2%E0%B8%87%E0%B9%82%E0%B8%A1%E0%B9%80%E0%B8%94%E0%B8%A5-ml-%E0%B8%A1%E0%B8%B5%E0%B8%82%E0%B8%B1%E0%B9%89%E0%B8%99%E0%B8%95%E0%B8%AD%E0%B8%99%E0%B8%AD%E0%B8%B0%E0%B9%84%E0%B8%A3%E0%B8%9A%E0%B9%89%E0%B8%B2%E0%B8%87-445da6d776a2?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/445da6d776a2</guid>
            <category><![CDATA[thailand]]></category>
            <category><![CDATA[data-engineering]]></category>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[pipeline]]></category>
            <category><![CDATA[data-science]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Wed, 03 Apr 2019 09:08:04 GMT</pubDate>
            <atom:updated>2019-08-25T06:21:08.386Z</atom:updated>
            <content:encoded><![CDATA[<h3>จัดการกับข้อมูลไปจนถึงสร้างโมเดล ML มีขั้นตอนอะไรบ้าง ?</h3><blockquote>ทำใจ ยอมรับความจริง ว่ามันไม่ง่ายเลย… ล้อเล่นนนนน</blockquote><p>หลังจากที่มีบทความ machine learning กว่าสิบบทความแล้วตัวผมเองก็ยังไม่หยุดหาความรู้ ไปลองลงเรียนคอร์สๆหนึ่งของ datacamp ที่ชื่อว่า</p><h3>Supervised Learning with scikit-learn</h3><p><a href="https://www.datacamp.com/courses/supervised-learning-with-scikit-learn">Supervised Learning with scikit-learn</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Zt0CUdnCAyQhgPqCWZbN_g.png" /><figcaption>เรียบร้อยยยยยยยย</figcaption></figure><p>ทีนี้ไอ้เราก็ย้อนมาดูบทความของเรา…เห้ยมันตกเรื่อง preprocessing กับ pipeline ถึงแม้เราจะแทรกๆไปในบทความของเราบ้างแต่มันน่าจะมีหัวข้อแยกออกมาเลยน่าจะดีกว่าเพราะตัว ML ต้องใช้สกิล preprocessing และ pipeline ที่มากพอตัว</p><h3>ก่อนสร้างโมเดล Machine Learning ควรเตรียม data ให้พร้อมก่อน เป็นอันดับแรก</h3><h4>1. ตรวจเช็ค data ของเรา</h4><p>การตรวจแบบง่ายที่สุดคือเรียกข้อมูลของเราออกมาดูก่อน โดยสิ่งที่เราจะต้องตรวจอย่างแรกเลยคือ Outlier data หรือข้อมูลที่แปลกประหลาดเช่น ข้อมูลรูปด้านล่าง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/973/1*qsEQ09fEMeaUdExzvOC3fQ.png" /><figcaption>สังเกตุดีๆจะพบว่ามี ‘?’</figcaption></figure><p>นั้นคือ outlier ของเรานั้นเองเราต้องทำการแปลงค่าพวกนี้ให้เป็นค่าอื่นเช่นแปลงให้เป็นค่า NaN</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/312/1*EnelktOqz9kKROTpydyiSA.png" /><figcaption>ง่ายๆโดยใช้ numpy ช่วย</figcaption></figure><p>ทีนี้เราจะทำการดรอปค่า NaN ก็ได้ แต่ต้องระวังเพราะว่าถ้า drop ค่า NaN แล้วบางที data ของเราอาจจะหายไปเยอะอย่างเช่นรูปด้านล่าง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/691/1*ieZ0hnZ3HFL6PYv0Z5hpyw.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/947/1*lIZWa8R-_Jgl6OYqbA4IQA.png" /><figcaption>หายไป 200 (เกือบครึ่ง) แบบนี้รับไม่ได้</figcaption></figure><p>ถ้าเกิดมันหายเยอะแบบนี้ (ที่จริงก็ไม่ควร drop NaN) เราก็ขอเสนอนวัตกรรมที่เรียกว่า “Imputer” โดยหน้าที่ของมันคือแปลงค่าหนึ่งไปสู่อีกค่าหนึ่งได้ เช่น เราต้องการแปลงค่า NaN ให้เป็นค่าที่ปรากฏบ่อยที่สุด หรือแปลงเป็นค่า mean , median ก็ได้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/908/1*6E2vdgJo3Z41m7MwZh-ygA.png" /><figcaption>ง๊ายง่าย</figcaption></figure><p>โดยผลลัพธ์ก็จะประมาณนี้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/963/1*CK2Q6B2R0fDxQRreiREazA.png" /><figcaption><a href="https://scikit-learn.org/stable/modules/generated/sklearn.impute.SimpleImputer.html">https://scikit-learn.org/stable/modules/generated/sklearn.impute.SimpleImputer.html</a></figcaption></figure><h4>2. การเลือก Feature</h4><p>เป็นอีกหนึ่งสิ่งที่สำคัญพอตัว เพราะในบางทีเราก็ไม่ควรจะเอาคอลัมทั้งหมดยัดเข้าไปใน ML model ทั้งหมดซึ่งวิธีการเลือกมีตั้งแต่วิธีบ้านๆไปยันวิธีแบบวิชาการ</p><h4>วิธีบ้านๆ</h4><p>ใช้สามัญสำนึก เช่นบทความ Logistic Regression ที่ทำนายว่าใครจะรอดจากเรือไททานิคมากกว่ากัน</p><p><a href="https://medium.com/mmp-li/logistic-regression-%E0%B9%84%E0%B8%A1%E0%B9%88%E0%B8%A1%E0%B8%B5%E0%B8%AD%E0%B8%B0%E0%B9%84%E0%B8%A3%E0%B9%80%E0%B8%9B%E0%B9%87%E0%B8%99%E0%B9%84%E0%B8%9B%E0%B8%95%E0%B8%B2%E0%B8%A1%E0%B8%AD%E0%B8%A2%E0%B9%88%E0%B8%B2%E0%B8%87%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%84%E0%B8%B4%E0%B8%94%E0%B9%80%E0%B8%AA%E0%B8%A1%E0%B8%AD-machine-learning-101-bba2f666234d">Logistic Regression ทำนายผู้รอดชีวิตบนเรือไททานิค : Machine Learning 101</a></p><p>ตอนแรกผมไม่ได้ใส่เพศเข้าไปในโมเดล ผมความแม่นยำประมาณ <strong>69%</strong> พอใส่เพศเข้าไปในโมเดลความแม่นก็กลายเป็น <strong>79%</strong> ผมก็แค่ใช้สามัญสำนึก+ดูหนัง ว่า ผญ จะได้ลงเรือเยอะกว่า ผช แน่นอน</p><h4>วิธีวิชาการ</h4><p>เราสามารถเลือกแบบมีหลักการได้โดยการ plot ค่าออกมาดูและเปรียบเทียบจากบทความ Random Forest ที่เฉลยข้อสอบ Microsoft : Machine Learning นั้นเอง</p><p><a href="https://medium.com/mmp-li/random-forest-%E0%B8%97%E0%B8%B3%E0%B8%99%E0%B8%B2%E0%B8%A2%E0%B8%A7%E0%B9%88%E0%B8%B2%E0%B8%88%E0%B8%B1%E0%B8%81%E0%B8%A3%E0%B8%A2%E0%B8%B2%E0%B8%99%E0%B8%88%E0%B8%B0%E0%B8%82%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89%E0%B8%81%E0%B9%87%E0%B8%95%E0%B9%88%E0%B8%AD%E0%B9%80%E0%B8%A1%E0%B8%B7%E0%B9%88%E0%B8%AD-c60080354380">Random Forest ทำนายว่าจักรยานจะขายได้ก็ต่อเมื่อ…</a></p><p>เช่น seaborn แล้วเลือกใช้ boxplot นั่งดูค่าความแตกต่างของแต่ละคลาสและแต่ละคอลัม ถ้าต่างมากก็เลือกเป็น Feature ต่างน้อยก็อาจไม่เลือก แต่ก็ไม่ได้ผลเสมอไป เพราะนี้เป็นแค่ความสัมพันธ์ 1 มิติ บางครั้งถ้า plot 2 มิติออกมา (นำ 2 คอลัมมา plot เป็นความสัมพันธ์ร่วมกัน) ค่าอาจจะแตกต่างกันมากก็ได้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*O4d1HzPe9b2jCvbkSaD1vA.png" /></figure><h4>วิธี ML</h4><p>การใช้วิธี dimension reduction แปลเป็นไทยคือการลดมิติข้อมูลลงมา โดยเอาทุกๆ feature เข้าไปสู่ขั้นตอนนี้แล้วตัว dimension reduction จะเลือก feature มาเองว่าอันไหนสำคัญ ส่วนอันที่ไม่สำคัญก็จะตัด feature นั้นทิ้งไปเลย</p><h4>3. ทำการ Centering and scaling</h4><p>ปกติแล้วใน Machine Learning บางโมเดลจะใช้หลักการคณิตศาสตร์ในการหาระยะของข้อมูลแต่ละจุด เช่น KNN ที่หาเพื่อนบ้านใกล้เคียง หรือ SVM ที่หาข้อมูลที่อยู่ใกล้เส้นแบ่ง เป็นต้น</p><p>สาเหตุที่เราทำการ scaling ก็เพื่อให้ข้อมูลไม่กระจายตัว/ชิดกัน มากเกินไป เช่น ในรูปข้างล่างที่ไฮไลท์สีแดงเอาไว้จะมีค่าที่ห่างกันมากเช่น min = 6 แต่ max = 289 หรือ min = 0.99 แต่เป็น max = 1 การ scaling ก็จะช่วยในส่วนของตรงนี้ได้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ReYBSGo3cUwIOfi5HXFs4g.png" /><figcaption><a href="https://campus.datacamp.com/courses/supervised-learning-with-scikit-learn/preprocessing-and-pipelines?ex=9">https://campus.datacamp.com/courses/supervised-learning-with-scikit-learn/preprocessing-and-pipelines?ex=9</a></figcaption></figure><p>ทีนี้เราก็ต้องทำการ scaling ด้วยคำสั่งสองบรรทัด</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/530/1*lvLb0pc3DAxrT_qJIjEo4g.png" /><figcaption>เรียก lib และนำค่าที่ต้องการแปลงไปใส่ในฟังก์ชั่น</figcaption></figure><p>แล้วลองดูผลลัพธ์เปรียบเทียบระหว่าง unscaled กับ scaled จะเห็นว่า mean และ std ต่างกันเยอะจริงๆ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/751/1*swlTj4OocymkIkCu0Rru-A.png" /></figure><p>ทีนี้ข้อมูลของคุณก็พร้อมใช้งานไปที่ขั้นตอนที่ต้องเสียเวลามากที่สุด</p><blockquote>เมื่อข้อมูลพร้อม ก็ต้องเลือกโมเดลให้เหมาะสม</blockquote><h4>4. เลือกใช้โมเดล</h4><p>ทีนี้เราก็ต้องมาดูว่าข้อมูลของเราเหมาะกับโมเดลชนิดไหนอีก ซึ่งนี้เป็นเพียงแค่เบื้องต้นเท่านั้นเพราะสุดท้ายแล้วเราก็ต้องรันหลายๆโมเดลเพื่อนำมาเปรียบเทียบกันนั้นเอง เพื่อหาอันที่ดีที่สุด ซึ่งในบทความที่ผมเคยเขียนก็มีอันหลักๆครบแล้ว ถ้าสงสัยอันไหนก็ลองกลับไปอ่านได้ครับ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*2NR51X0FDjLB13u4WdYc4g.png" /><figcaption><a href="https://scikit-learn.org/stable/tutorial/machine_learning_map/index.html">https://scikit-learn.org/stable/tutorial/machine_learning_map/index.html</a></figcaption></figure><h4>5. การปรับ parameter</h4><p>นี้ก็อีกหนึ่งปัจจัยสำคัญที่จะช่วยให้โมเดลดียิ่งขึ้น เช่นถ้าเราใช้ KNN ถ้าเราลองปรับค่า n_neighbors จาก 1–10 เราจะได้ค่าความแม่นที่ไม่เท่ากัน</p><p>แต่ละ data จะใช้ค่า parameter ที่ไม่เท่ากัน และในแต่ละโมเดลต้องปรับค่า hyper parameter ที่ไม่เหมือนกันอีก เช่น ถ้า KNN ต้องปรับค่า n_neighbors ถ้าเป็น Logistic Regression ต้องปรับค่า C นั้นเอง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/628/1*mH3MOpWempTs9wCNb6BlCQ.png" /><figcaption>สร้างค่า C ตั้งแต่ -5 จนถึง 8 ทั้งหมด 15 ค่า</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/642/1*Zytkfuy4poUBFTzkhy-0PA.png" /><figcaption>จากนั้นเอาไปฝึกฝนได้เลย</figcaption></figure><p>ทีนี้ก็ลองปริ้นค่าว่า parameter ที่เท่าไรดีที่สุดสำหรับ data นั้นๆ และได้ค่า scores เท่าไร</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*C4aicDfzfasTrA2ktDIfCg.png" /><figcaption>best_params_ = C:3.7276 , best_score_ = 0.7708</figcaption></figure><h4>6. เอาทุกอย่างมารวมกันด้วย pipeline</h4><p>Pipeline เป็นอีกหนึ่ง lib ที่ผมเคยยกตัวอย่างไปใน บทความ NLP ซึ่งการทำงานของมันคือทำงานเป็นลำดับเหมือนท่อ โดยเราสามารถใส่ฟังก์ชั่นเข้าไปท่อนี้ได้เช่นรูปข้างล่าง คือการนำเอาฟังก์ชั่น Imputer ไว้จัดการค่า NaN จากนั้นนำค่าไป scale แล้วก็เข้า ML โมเดลของเราคือ ElasticNet นั้นเอง</p><p>ซึ่งรูปแบบของ Pipeline ก็คือ -&gt; ‘Name’ , Function()</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*gDrvUm1C5AoOm1EM-h_MZw.png" /><figcaption>จัดการค่า NaN -&gt; Scale ค่า -&gt; เข้า ML โมเดล</figcaption></figure><p>จากนั้นก็นำฟังก์ชั่นที่เราเรียงเรียบร้อยมาใส่ใน Pipeline ได้เลย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/476/1*3y-6gdM8slb9WiR9xOuzqA.png" /></figure><p>ยังไม่พอเราสามารถใช้ GridSearchCV กับ Pipeline ได้อีกด้วยโดยให้ใช้รูปแบบ Name__(2อันเดอร์สกอร์)Hyper parameter ที่ต้องการปรับ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/795/1*Ucm4i8Ucgevjs-pFiSzMSw.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/804/1*EL9JQpPSOK0XLgYjG7gwUw.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/692/1*JJ5h8_JqfxjXZvWskgPwuQ.png" /><figcaption>ทีนี้ก็ลองเช็คสกอกับ parameter</figcaption></figure><blockquote>อย่าลืมประเมินโมเดล ตรวจดูว่าพอใจกับผลลัพธ์แล้วหรือยัง</blockquote><h4>7. ทำการประเมินผลของโมเดล</h4><p>ขั้นตอนนี้เราอาจต้องใช้ lib มาช่วยเยอะหน่อยเช่น f1_score,accuracy สำหรับการทดสอบเบื้องต้น แต่เราก็สามารถทำการสรุปได้ง่ายๆอีกโดยการใช้ classification_report ที่จะสรุป precision,recall,f1 ให้เราอีกด้วย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/975/1*UanSUu3q2n--zu3mh0y_Kg.png" /><figcaption><a href="https://scikit-learn.org/stable/modules/generated/sklearn.metrics.classification_report.html">https://scikit-learn.org/stable/modules/generated/sklearn.metrics.classification_report.html</a></figcaption></figure><p>สำหรับ Regression ก็ต้องใช้ R2 หรือ MSE</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/612/1*sLE6PIcxYl1X7Zns9Ns0jg.png" /><figcaption><a href="https://scikit-learn.org/stable/modules/model_evaluation.html">https://scikit-learn.org/stable/modules/model_evaluation.html</a></figcaption></figure><h3>บทสรุป</h3><p>ในการทำ Machine Learning จะมีขั้นตอนการเตรียมข้อมูลและขั้นตอนการเตรียมโมเดลเยอะพอตัว ซึ่งแต่ละ dataset ก็จะต้องเตรียมตัวไม่เหมือนกันซึ่งวิธีที่จะรับมือได้ง่ายที่สุดโดยที่เราไม่ได้เทพขนาดที่จะดู data แล้วเข้าใจทะลุ 100% คือการลองรันหลายๆรูปแบบ หลายๆโมเดล ซึ่งจะทำให้เรามีข้อเปรียบเทียบและมีประสบการณ์เพิ่มขึ้นอีกด้วย</p><p>Github : <a href="https://github.com/peeratpop/Machine_Learning_101">https://github.com/peeratpop/Machine_Learning_101</a></p><p>Medium : <a href="https://medium.com/@pingloaf">https://medium.com/@pingloaf</a></p><p>Linkedin : <a href="https://www.linkedin.com/in/peerat-limkonchotiwat/">https://www.linkedin.com/in/peerat-limkonchotiwat/</a></p><h4>บทความนี้เป็นส่วนหนึ่งของบทความ</h4><blockquote><a href="https://medium.com/mmp-li/%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-machine-learning-0-100-introduction-1c58e516bfcd">เริ่มเรียน Machine/Deep Learning 0–100 (Introduction)</a></blockquote><p><a href="https://medium.com/mmp-li/%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-machine-learning-0-100-introduction-1c58e516bfcd">เริ่มเรียน Machine Learning 0–100 zero to Mr.incredible (Introduction)</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=445da6d776a2" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/%E0%B8%88%E0%B8%B1%E0%B8%94%E0%B8%81%E0%B8%B2%E0%B8%A3%E0%B8%81%E0%B8%B1%E0%B8%9A%E0%B8%82%E0%B9%89%E0%B8%AD%E0%B8%A1%E0%B8%B9%E0%B8%A5%E0%B9%84%E0%B8%9B%E0%B8%88%E0%B8%99%E0%B8%96%E0%B8%B6%E0%B8%87%E0%B8%AA%E0%B8%A3%E0%B9%89%E0%B8%B2%E0%B8%87%E0%B9%82%E0%B8%A1%E0%B9%80%E0%B8%94%E0%B8%A5-ml-%E0%B8%A1%E0%B8%B5%E0%B8%82%E0%B8%B1%E0%B9%89%E0%B8%99%E0%B8%95%E0%B8%AD%E0%B8%99%E0%B8%AD%E0%B8%B0%E0%B9%84%E0%B8%A3%E0%B8%9A%E0%B9%89%E0%B8%B2%E0%B8%87-445da6d776a2">จัดการกับข้อมูลไปจนถึงสร้างโมเดล ML มีขั้นตอนอะไรบ้าง ?</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Deep Learning แบบฉบับคนสามัญชน EP 1 : Neural Network History]]></title>
            <link>https://medium.com/mmp-li/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%89%E0%B8%9A%E0%B8%B1%E0%B8%9A%E0%B8%84%E0%B8%99%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-1-neural-network-history-f7789236a9a3?source=rss----59ef541b9a39---4</link>
            <guid isPermaLink="false">https://medium.com/p/f7789236a9a3</guid>
            <category><![CDATA[deep-learning]]></category>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[deep-learning-คือ]]></category>
            <category><![CDATA[neural-networks]]></category>
            <category><![CDATA[artificial-intelligence]]></category>
            <dc:creator><![CDATA[Mr.P L]]></dc:creator>
            <pubDate>Sat, 02 Mar 2019 16:38:50 GMT</pubDate>
            <atom:updated>2020-07-18T14:13:46.720Z</atom:updated>
            <content:encoded><![CDATA[<h3>Deep Learning แบบฉบับคนสามัญชน EP 1 : Neural Network History</h3><blockquote>Deep Learning แบบง่ายๆเพราะนี้คือแบบฉบับคนสามัญชน</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1000/1*vlkAwKkZeXXwFMXJbJVbBg.jpeg" /><figcaption><a href="https://www.zdnet.com/article/what-is-deep-learning-everything-you-need-to-know/">https://www.zdnet.com/article/what-is-deep-learning-everything-you-need-to-know/</a></figcaption></figure><h3>บทนำ</h3><p>และแล้วบทความนี้ก็ได้กำเนิดขึ้น หลังจากที่ซีรีย์บทความ ML ก่อนหน้านี้ได้จบลงเรียบร้อย ก็เฝ้ารอคอยจังหวะและโอกาสที่จะได้ปล่อยบทความ Deep Learning และแล้ววันนี้ก็มาถึง….</p><h4>ทำไมต้องแบบสามัญชน</h4><p>เพราะตัวผมเองเคยนั่งอ่านบทความและนั่งดูคนที่เทพๆอธิบายเรื่อง Deep Learning หรือจะนั่งฟังเพื่อนผมคุยเรื่อง Deep Learning เมื่อต้นปี 2018 เอาจริงๆนะ ไม่รู้เรื่องงง</p><p>ผมเลยไปนั่งเรียนคอร์สออนไลน์ด้วยตนเองจนพอเข้าใจระดับหนึ่งเลยอยากเอาสิ่งที่ตัวเองได้รับมาแบ่งปันกับผู้อื่นบ้าง ซึ่งที่เขียนเป็นบทความชุดนี้เพราะเชื่อว่าทุกคนไม่ได้มีเวลาว่างจะไปลงคอร์สเรียนออนไลน์กันทุกคน</p><blockquote>บางคนต้องการจะรู้แค่ Neural Network คืออะไร</blockquote><blockquote>บางคนแค่อยากจะรู้ CNN คืออะไร</blockquote><blockquote>บางคนอยากจะลองรันโค้ดเล่นๆขำๆ (มีเหรอ?)</blockquote><p>บทความนี้จึงได้กำเนิดขึ้นโดยแยกเป็น parts ทั้งหมด 5 parts โดยใครสนใจหัวข้อไหนก็สามารถไปอ่านได้เลยไม่ต้องอ่านเรียงติดกันเหมือนบทความ Machine Learning ก่อนหน้านี้แล้ว แต่ถ้าใครอยากจะเข้าใจแบบ 100% บทความนี้ก็มีวาร์ปไปเรียนคอร์สที่ใช้อ้างอิงบทความนี้ให้แล้ว และยิ่งถ้าใครอ่านบทความ Machine Learning ก่อนหน้ามาแล้วก็จะยิ่งเข้าใจได้ไวมากยิ่งขึ้นกับ Deep Learning อย่างแน่นอน</p><h3>บทความนี้เป็นบทความต่อเนื่องจาก Machine Learning 0–100</h3><p><a href="https://medium.com/mmp-li/%E0%B9%80%E0%B8%A3%E0%B8%B4%E0%B9%88%E0%B8%A1%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99-machine-learning-0-100-introduction-1c58e516bfcd">เริ่มเรียน Machine Learning 0–100 zero to Mr.incredible (Introduction)</a></p><p>ซึ่งบทความนี้จะหยิบยกเอาเทคนิคและคำศัพท์มาจากบทความก่อนหน้ายกตัวอย่างเช่น Over/Under fitting, Evaluate, Classification, Regression เป็นต้นโดยอาจจะมีการอ้างอิงไปยังบทความเก่าๆ หากตกหล่นตรงไหนไปก็ขออภัยมา ณ ที่นี้ด้วย</p><h3>Requirement ก่อนที่จะเริ่มกัน</h3><ul><li>สามารถเขียน python ได้ (python 3) รู้จัก syntax และสามารถทำความเข้าท่ายากของ python ได้ในระดับหนึ่ง</li><li>ใช้งาน jupyter notebook / google colab เป็น สามารถรันแต่ละเซลของ jupyter ได้ก็พอแล้ว ไม่ต้องเล่นท่ายากเป็นก็ได้</li><li>เคยอ่าน/ลงมือทำ Machine Learning มาก่อนจะดีมาก</li><li>บทความนี้จะใช้งาน python package สำหรับสร้าง Deep Learning ที่ชื่อว่า <strong>Keras (ใช้ง่าย เหมาะสำหรับมือใหม่)</strong></li></ul><h4>สิ่งที่จะสอนในบทความซีรีย์นี้</h4><ul><li><a href="https://medium.com/mmp-li/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%89%E0%B8%9A%E0%B8%B1%E0%B8%9A%E0%B8%84%E0%B8%99%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-1-neural-network-history-f7789236a9a3">Deep Learning แบบสามัญชน EP 1 Neural Network History</a></li><li><a href="https://medium.com/@pingloaf/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%89%E0%B8%9A%E0%B8%B1%E0%B8%9A%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-2-optimization-activation-function-%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B8%81%E0%B8%B1%E0%B8%99%E0%B8%AA%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%86%E0%B8%AA%E0%B9%84%E0%B8%95%E0%B8%AA%E0%B9%8C%E0%B8%8A%E0%B8%B4%E0%B8%A5%E0%B9%86-9feb5a87e3b2">Deep Learning แบบสามัญชน EP 2 Optimization Algorithms &amp; Activation Function: เรียนกันสบายๆสไตส์ชิลๆ</a></li><li><a href="https://medium.com/@pingloaf/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-3-keras-with-image-classification-%E0%B9%81%E0%B8%A2%E0%B8%81%E0%B8%A0%E0%B8%B2%E0%B8%9E%E0%B8%AB%E0%B8%A1%E0%B8%B2%E0%B9%81%E0%B8%A1%E0%B8%A7%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%87%E0%B9%88%E0%B8%B2%E0%B8%A2%E0%B9%86-2d5d95ee5613">Deep Learning แบบสามัญชน EP 3 Keras with Image Classification: แยกภาพหมากับแมวแบบง่ายๆ</a></li><li>Deep Learning แบบสามัญชน EP 4 CNN + Transfer Learning: Image Classification: ขั้นกว่าของการจำแนกภาพ</li><li>Deep Learning แบบสามัญชน EP 5 RNN+LSTM+Transformer?: ตะลุยโจทย์ NLP ของ Kaggle กัน</li></ul><p>โดยที่บทความนี้จะอ้างอิงมาจากคอร์ส 2 อันได้แก่</p><h3><a href="https://courses.edx.org/courses/course-v1:Microsoft+DAT236x+3T2018/course/">Deep Learning Explained</a> By Microsoft</h3><p><a href="https://www.edx.org/course/deep-learning-explained">Deep Learning Explained</a></p><p>โดยจะเป็นในส่วนเนื้อหาทฤษฏีส่วนในการลงมือทดลองจะเป็นอีกคอร์สคือ</p><h3><a href="https://courses.edx.org/courses/course-v1:IBM+DL0101EN+3T2018/course/">Deep Learning Fundamentals with Keras</a> By IBM</h3><p>โดยคอร์สตัวนี้จะเป็นการอ้างอิงในส่วนของแลปนั้นเอง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*OOQDT7DAqkY2CpdZlu5W9A.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*-_h2r4al8fTpmLUYjkM2fg.png" /><figcaption>สอบผ่านทั้ง 2 แล้ว คอร์สนี้ไว้ใจได้ 555555</figcaption></figure><h3>จุดเริ่มต้น Neural Network ?</h3><p>ถ้าเกิดเราย้อนไปดูประวัติศาสตร์ของ NN จริงๆแล้วมีมานานนนนนน มากแล้ว (1940s) โดยในยุคแรกๆยังเป็นเพียงแค่ 1 hidden และถ้าต้องการทำนายว่าเป็นคลาสอะไร จำนวน Neurons (ก้อนกลมๆภายใน hidden layer) ก็จะมีจำนวนเท่ากับคลาสที่มี โดยในยุคนั้นมีข้อจำกัดมากมายไม่ว่าจะเป็น <strong>ความแรงของคอมพิวเตอร์, จำนวนข้อมูลที่เอาไว้ฝึกโมเดล , ไม่มีอัลกอเทพๆช่วยฝึกโมเดล</strong> ทำให้มันค่อยๆหายไปและกลับมาฮิตมากในปัจจุบัน โดยเราก็จะเล่าเหตุการณ์สำคัญๆที่เกิดขึ้นและประวัติของเจ้า Neural Network กันในบทความนี้</p><h3>ข้อแตกต่างระหว่าง Machine Learning และ Deep Learning</h3><p>จุดที่เห็นได้ชัดเลยก็คือการทำ Feature extraction ที่ตัว Deep learning จะทำด้วยตนเอง แต่ถ้าเป็น Machine Learning เราจะต้องทำด้วยตนเองก่อนที่จะนำไปเข้าโมเดลของเรา</p><p>ซึ่ง Deep Learning จะพยายามหาจุดเด่นของ Input โดยอัตโนมัติ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/706/1*y5UsAjr5ZaKhZTrEMmwTaA.png" /></figure><p>อีกข้อเลยก็คืออายุของมัน จะเห็นได้ว่า ML มันอยู่มานานแล้วและ Deep Learning กำลังมา เพราะฉนั้นคนจึงให้ความสนใจและพัฒนา DL มากในช่วงไม่กี่ปีมานี้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*HvTxB-ZfMgRYXqM43a_YSw.png" /></figure><p>แต่ข้อเสียของ Deep Learning เลยก็คือ มันใช้ทรัพยากรเยอะ ไม่ว่าจะเป็นทรัพยากรของคอมพิวเตอร์ที่รันมัน หรือจะเป็นจำนวนข้อมูลที่ต้องการ หาก Neural network ของเรามี Architecture ที่ใหญ่มาก เราก็จำเป็นจะต้องมีข้อมูลที่เยอะมากเช่นกัน</p><h3>เทคโนโลยีเด่นๆที่เกิดขึ้นด้วย Neural Network</h3><p><strong>AlphaGo (Deep Mind)</strong>เอไอที่สามารถเอาชนะผู้เล่นโกะอันดับ 1 ของโลก ไป 4–1 เกม ซึ่งมันสามารถเอาชนะไปได้อย่างสวยงาม สามารถรับชมสารคดีใน Netflix</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*C0EJK_9haNYgN3NMQAE-Ow.jpeg" /></figure><p><strong>OpenAI </strong>เอาชนะผู้เล่นมืออาชีพของ Dota2 ในรูปแบบทีม 5–5 โดยมันจะบอกโอกาสในการเอาชนะเกมนี้ได้ด้วย เป็นเอไอที่น่ากลัวมากๆ เพราะเมื่อคนเราเล่นเกมจะเกิดความกดดันและต้องใช้ความสามัคคีแต่นี้คือ AI มันไม่มีอารมณ์ ความรู้สึก เป้าหมายเดียวของมันคือชนะเกมนี้เท่านั้น</p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2FeaBYhLttETw%3Ffeature%3Doembed&amp;url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DeaBYhLttETw&amp;image=https%3A%2F%2Fi.ytimg.com%2Fvi%2FeaBYhLttETw%2Fhqdefault.jpg&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=youtube" width="854" height="480" frameborder="0" scrolling="no"><a href="https://medium.com/media/af59321bebf5bb2ffdf18d67cc0e9994/href">https://medium.com/media/af59321bebf5bb2ffdf18d67cc0e9994/href</a></iframe><p><strong>Tesla self driving car</strong> รถยนต์ที่ไร้คนขับก็เป็นอีกหนึ่งเทคโนโลยีที่มี AI ในการประมวลผลเบื้องหลัง ก็เป็นอีกหนึ่งเทคโนโลยีที่กำลังมาแรงมากๆ แต่น่าเสียดายยังไม่มีระบบขับอัตโนมัติในไทย</p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2F0NtdZNWUBik%3Fstart%3D1%26feature%3Doembed%26start%3D1&amp;url=http%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3D0NtdZNWUBik&amp;image=https%3A%2F%2Fi.ytimg.com%2Fvi%2F0NtdZNWUBik%2Fhqdefault.jpg&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=youtube" width="854" height="480" frameborder="0" scrolling="no"><a href="https://medium.com/media/ff2785959d4f1aa774b38959b9f7ead6/href">https://medium.com/media/ff2785959d4f1aa774b38959b9f7ead6/href</a></iframe><p>ถ้าเรื่องใกล้ๆตัวของเราก็น่าจะเป็น <strong>object detection</strong> ที่ฮิตเหลือเกิน ใครๆก็สามารถทำได้ด้วยโค้ดไม่กี่บรรทัด โดยมันมีความสามารถจำแนกได้ว่าในรูปมี object อะไรบ้างแล้วสิ่งๆนั้นคืออะไร</p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2F4eIBisqx9_g%3Ffeature%3Doembed&amp;display_name=YouTube&amp;url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3D4eIBisqx9_g&amp;image=https%3A%2F%2Fi.ytimg.com%2Fvi%2F4eIBisqx9_g%2Fhqdefault.jpg&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=youtube" width="854" height="480" frameborder="0" scrolling="no"><a href="https://medium.com/media/3f4b8756f256d8f2d8c8cb4fdec95dbc/href">https://medium.com/media/3f4b8756f256d8f2d8c8cb4fdec95dbc/href</a></iframe><p>หรือจะเป็น <strong>GANs (</strong><a href="https://en.wikipedia.org/wiki/Generative_adversarial_network"><strong>Generative adversarial network</strong></a><strong>)</strong> ที่สามารถสร้างอะไรขึ้นมาก็ตามที่เราสั่งไป ซึ่งเป็นเทคโนโลยีที่น่าสนใจมากๆ โดยจากในรูปจะเห็นว่าเราพิมพ์ว่าอยากได้ <strong>“นกสีขาวที่มีปีกสีดำและจะงอยปากสีเหลือง”</strong> เราก็จะได้รูปสิ่งๆนั้นมาทันที</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*oqPn2cHRE6ZJCfOUJXPccA.jpeg" /></figure><h3>Neural Network คืออะไร ? เกิดจากอะไร ?</h3><p>Neural Network หรือ NN (<strong>โครงข่ายประสาทเทียม)</strong> คือ <a href="https://th.wikipedia.org/wiki/%E0%B9%82%E0%B8%A1%E0%B9%80%E0%B8%94%E0%B8%A5%E0%B8%97%E0%B8%B2%E0%B8%87%E0%B8%84%E0%B8%93%E0%B8%B4%E0%B8%95%E0%B8%A8%E0%B8%B2%E0%B8%AA%E0%B8%95%E0%B8%A3%E0%B9%8C">โมเดลทางคณิตศาสตร์</a>หรือ<a href="https://th.wikipedia.org/w/index.php?title=%E0%B9%82%E0%B8%A1%E0%B9%80%E0%B8%94%E0%B8%A5%E0%B8%97%E0%B8%B2%E0%B8%87%E0%B8%84%E0%B8%AD%E0%B8%A1%E0%B8%9E%E0%B8%B4%E0%B8%A7%E0%B9%80%E0%B8%95%E0%B8%AD%E0%B8%A3%E0%B9%8C&amp;action=edit&amp;redlink=1">โมเดลทางคอมพิวเตอร์</a>สำหรับประมวลผลสารสนเทศด้วยการคำนวณแบบ<a href="https://th.wikipedia.org/w/index.php?title=%E0%B8%84%E0%B8%AD%E0%B8%99%E0%B9%80%E0%B8%99%E0%B8%84%E0%B8%8A%E0%B8%B1%E0%B8%99%E0%B8%99%E0%B8%B4%E0%B8%AA%E0%B8%95%E0%B9%8C&amp;action=edit&amp;redlink=1">คอนเนคชันนิสต์</a> (connectionist) แนวคิดเริ่มต้นของเทคนิคนี้ได้มาจากการศึกษา<a href="https://th.wikipedia.org/w/index.php?title=%E0%B9%82%E0%B8%84%E0%B8%A3%E0%B8%87%E0%B8%82%E0%B9%88%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%9F%E0%B8%9F%E0%B9%89%E0%B8%B2%E0%B8%8A%E0%B8%B5%E0%B8%A7%E0%B8%A0%E0%B8%B2%E0%B8%9E&amp;action=edit&amp;redlink=1">โครงข่ายไฟฟ้าชีวภาพ</a> (bioelectric network) ใน<a href="https://th.wikipedia.org/wiki/%E0%B8%AA%E0%B8%A1%E0%B8%AD%E0%B8%87">สมอง</a> ซึ่งประกอบด้วย <a href="https://th.wikipedia.org/wiki/%E0%B9%80%E0%B8%8B%E0%B8%A5%E0%B8%A5%E0%B9%8C%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%AA%E0%B8%B2%E0%B8%97">เซลล์ประสาท</a> (neurons) และ <a href="https://th.wikipedia.org/wiki/%E0%B8%88%E0%B8%B8%E0%B8%94%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%AA%E0%B8%B2%E0%B8%99%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%AA%E0%B8%B2%E0%B8%97">จุดประสานประสาท</a> (synapses) ตามโมเดลนี้ ข่ายงานประสาทเกิดจากการเชื่อมต่อระหว่างเซลล์ประสาท จนเป็นเครือข่ายที่ทำงานร่วมกัน</p><p>ซึ่งจะเห็นได้ว่า Neural network ที่เรากำลังจะเริ่มกันนั้นได้ลอกเลียนแบบมาจากทางไบโอนั้นเอง ซึ่ง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/480/1*9HEzWvaSXPF1MTIxqYzTNg.jpeg" /></figure><h3>ส่วนประกอบของ Neural Network</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/583/1*CYR1Hge5ZrSieLAs9URpzg.jpeg" /></figure><p><strong>Neurons (ก้อนกลมๆ)</strong></p><p>ข้างใน Neuron จะต่างกันตาม layer ที่มันอยู่ โดยถ้าเป็น Input ข้างในตัวมันก็จะมีข้อมูลที่รับมา แต่ถ้าเป็น Hidden Layer ก็จะมีสมการที่ช่วยในการคำนวณเพื่อทำนายว่าเป็นคลาสอะไร หรือคำนวณแบบถดถอย (Regression) ก็ได้ แต่ถ้าเป็น Output ก็จะเป็นตัวที่บ่งบอกว่าเป็นคลาสอะไรนั้นเอง</p><p><strong>Input Layer (สีเขียว)</strong></p><p>มีหน้าที่ในการรับข้อมูลเข้ามาในโครงข่ายประสาทโดย Input Layer จะเพียงชั้นเดียวเท่านั้นและมีหน้าส่งข้อมูลไปยังชั้นถัดไป (Hidden Layer)</p><p><strong>Hidden Layer (สีส้ม)</strong></p><p>มีหน้าที่รับข้อมูลจาก Layer ก่อนหน้า จะสังเกตุว่า Hidden Layer สามารถมีจำนวนมากกว่า 1 ได้ และ<strong>โดยพื้นฐาน</strong> ถ้าเรายิ่งต้องการความแม่นยำที่มากขึ้นเราก็จะเพิ่มจำนวนชั้นของ Hidden Layer และจำนวน Neurons ให้มากขึ้นก็จะช่วยได้ (ไม่เสมอไป)</p><p><strong>โดย</strong>เราสามารถพิสูจน์ได้จากการทดลองเล่นเว็บของ <strong>Tensorflow ซึ่ง </strong>เป็นเว็บที่อธิบายและเห็นภาพชัดที่สุดสำหรับ Hidden Layer ว่าเพิ่มแล้วได้อะไร ลดแล้วได้อะไรนั้นเอง</p><p><a href="https://playground.tensorflow.org/#activation=tanh&amp;batchSize=10&amp;dataset=circle&amp;regDataset=reg-plane&amp;learningRate=0.03&amp;regularizationRate=0&amp;noise=0&amp;networkShape=4,2&amp;seed=0.68766&amp;showTestData=false&amp;discretize=false&amp;percTrainData=50&amp;x=true&amp;y=true&amp;xTimesY=false&amp;xSquared=false&amp;ySquared=false&amp;cosX=false&amp;sinX=false&amp;cosY=false&amp;sinY=false&amp;collectStats=false&amp;problem=classification&amp;initZero=false&amp;hideText=false">Tensorflow - Neural Network Playground</a></p><p>เจ้าเว็บนี้มันจะพยายามทำการแยกจุดสีส้มกับจุดสีฟ้าออกจากกัน โดยจะแบ่งโดยใช้สีพื้นหลังเป็นตัวบ่งบอกว่านี้คือสีอะไร</p><p>โดยเมื่อเข้าเว็บไซต์ก็จะพบกับหน้าที่เราสามารถกำหนด Hidden Layer และจำนวน Neurons ได้นั้นเอง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*DQl1owvJBu1U03GmjcmY9w.png" /></figure><p>โดยเมื่อกดเล่น ระบบจะทำการ Classification แยกจุดสองสีนั้นเอง โดยพื้นฐานถ้าเรากดเล่นโดยไม่ปรับปรุงอะไรเลย ก็น่าจะได้เหมือนกันๆ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*zzTRMQqqoSosZ2ijELWNeg.png" /></figure><p>ทีนี้เราทดลองโดยการลด Hidden Layer เหลือ 1 และจำนวน Neurons เหลือเพียง 1</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*R-e1cFIyfRSFX8hMQHPRvw.png" /></figure><p>แล้วลองรันดูก็จะพบว่า !! มันไม่สามารถทำการแยกได้ ส่วนสาเหตุว่าทำไมให้ทนอ่านไปอีกนิดนะ เดียวจะเจอเฉลยแล้ว</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*4GCcEk6yaaJaA6E2Teg0mQ.png" /></figure><p>แต่ทีนี้ลองเพิ่มเป็น 4 hidden และ แต่ละ layer มี 4 neurons</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*NzRMxqgtQKkofLkSpszAAw.png" /><figcaption>แทบไม่ต่างอะไรจากแบบพื้นฐาน</figcaption></figure><p>ทำให้เห็นว่าไม่จำเป็นต้องเพิ่ม hidden layer หรือจำนวน neurons ในบางครั้งก็ได้ บางทีค่าน้อยๆก็ให้ผลลัพธ์ที่ดีได้</p><p><strong>Output Layer</strong></p><p>เป็น output layer ที่อยู่ท้ายสุดรอรับค่าจาก hidden layer อันสุดท้าย โดยในชั้น output นั้นแต่ละ neurons จะมีค่าน้ำหนักของคลาสอยู่เช่น เรามีประเภทของ output ทั้งหมดหมด 2 แบบคือ แมว กับ หมาเพราะฉนั้น output layer ของเราจะมี neurons 2 ตัว ตัวแรกอาจจะเป็นหมา neurons ตัวที่สองจะเป็นแมว โดยเมื่อข้อมูลผ่าน hidden layer ไปสู่ output ไปแล้ว neurons ทั้ง 2 ตัวจะมีค่าข้างในไม่เท่ากัน โดยที่</p><blockquote>neuron ตัวไหนมีน้ำหนักมากกว่ากัน แสดงว่าเป็นคลาสนั้น</blockquote><h4>และใน hidden layer มีอีกสองสิ่งที่ถูกซ่อนไว้คือ bias และ weight</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ZFRdep_Qq1q8_7RqZRL8Zg.png" /><figcaption>B1,B2 และ Wx</figcaption></figure><p>โดยทุกๆ hidden layer จะมี <strong>bias</strong> เชื่อมต่ออยู่เพื่อให้ทุกๆการคำนวณเพื่อส่งต่อมีความเท่าเทียมกัน ตีความหมายง่ายๆคือ ทุกๆ neurons ใน hidden layer จะต้องมี bias เข้าไปคำนวณเพื่อให้ decision boundary ไม่จำเป็นต้องผ่านจุด origin</p><p>ส่วน <strong>Weight</strong> จะเป็นน้ำหนักซึ่งมันจะส่งผลทุกๆ neurons มีค่า output ที่ไม่เท่ากัน ทำให้แต่ละคลาสมีน้ำหนักไม่เท่ากันเวลาคำนวณว่าเป็นคลาสไหน ทำให้เราสามารถแยกว่าข้อมูลนี้เป็นคลาสอะไรได้ด้วยการดูตัวเลขที่ output</p><blockquote>โดยเนื้อหาต่อไปนี้จะเป็นการอ้างอิงจากหนังสือของ O’Reilly</blockquote><p><a href="https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html">Neural networks and deep learning</a></p><h3>ยุคที่ 1:ANN , LTU (1 layer perceptron)</h3><p>ในยุคแรกของ Neural network ถูกคิดค้นโดย Rosenblatt ปี 1957 จะเป็นเพียงแค่ 1 layer มีความเรียบง่ายไม่มีความซับซ้อนใดๆ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/307/1*wKSR0n-QMKcky5akfJhUSw.png" /><figcaption><a href="https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html">https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html</a></figcaption></figure><p>โดย 1 neuron จะทำนายได้แค่ 1 คลาส (คล้ายกับ Logistic Regression) ถ้าอยากมี output หลายๆคลาสก็ต้องมีหลายๆ LTU นั้นเอง โดยในตัว Neuron จะมี Weight Sum คือการรวมน้ำหนักที่ต่อเข้า Neuron ด้วยสมการเฉพาะตัว และมี Step function ในการคำนวณค่าออกมาว่าเป็นคลาสอะไร</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*sauVjqhmvJxwtQZojEqHFw.png" /><figcaption><a href="https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html">https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html</a></figcaption></figure><h3>LTU Problem</h3><p>ทีนี้มาถึงสาเหตุที่ทำไม LTU ถึงได้เลิกนิยมไปช่วงหนึ่งเพราะมันมีปัญหาตรงที่ทำนายได้แค่<strong>เส้นตรง</strong>นั้นเอง ในปี 1969 Marvin Minsky และ Seymour Papert ได้เขียน paper ออกมาโจมตีว่า “ a number of serious weaknesses of Perceptrons”</p><p>โดยถ้าข้อมูลของเราถูกแบ่งกันไว้อย่างเห็นได้ชัด สามารถเอาเส้นตรงแบ่งได้ก็จะไม่พบกับปัญหาชนิดนี้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/492/1*NMqt8jg9gVeBs07YgF3uWw.png" /></figure><blockquote>ถ้าข้อมูลของเราเป็นประเภทที่ไม่สามารถเอาเส้นตรงมาแบ่งได้ละ ?</blockquote><p>โจทย์ปัญหาของ LTU เราเรียกว่า XOR Problem</p><blockquote>เราจะแยกจุดสีฟ้ากับสีเหลืองออกจากกันอย่างไรถ้าใช้เส้นตรง ?</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/461/1*Rg1xYFWI10hLdXlmUEbW6Q.png" /><figcaption><a href="https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html">https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html</a></figcaption></figure><p>มันไม่สามารถทำได้ ถ้าเราใช้เส้นตรงจะทำให้ความแม่นยำมันกลายเป็น 50/50 ทำให้หลายๆคนเลิกสนใจ Neural Network ไปชั่วขณะ</p><h3>ยุคที่ 2:การมาถึงของ Multi-layer Perceptron</h3><p>ปัญหา XOR problem ก็ได้ถูกแก้ไขด้วย Multi-Layer Perceptron นั้นคือการเพิ่ม hidden layer เข้าไป และมี output layer และเชื่อมติดกัน (ต่างกับ LTU หลายๆอันมารวมกันนะ)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*6Y4rddcnu_jFIwHq_mAouQ.png" /><figcaption><a href="https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html">https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html</a></figcaption></figure><h3>Backpropagation ได้ถือกำเนิด</h3><p>หลังจากมีการเพิ่ม MLP เข้าไป Neural network ก็ตันๆไปจนกระทั่งถึงปี 1986 Rumelhart ได้ตีพิมพ์ paper อัลกอริทึมที่ชื่อว่า <strong>“Backpropagation”</strong></p><p>ปกติ Neural Network เราจะเรียกว่า Feed Forward / Forward pass คือการไปข้างหน้า หมายความว่าปกติแล้ว NN จะรับข้อมูลจาก Input Layer สร้างน้ำหนัก(W) แล้วประมวลผลผ่าน Hidden Layer แล้วออกที่ Output เลย แต่ทีนี้เราให้มันย้อนกลับจาก output กลับมาที่ input โดยที่ Backpropagation หน้าที่ของมันแปลเป็นไทยง่ายๆคือ</p><blockquote>ปรับค่าน้ำหนัก(W)ในแต่ละเส้นอีกครั้งโดยดูจาก error/cost ที่เกิดขึ้นในแต่ละ neurons</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*dATwpOb7HF3asp18ddZQVg.png" /></figure><h4>การมาถึงของ Optimization Algorithms</h4><p>จากการมาถึงของ Backpropagation เราจะปรับน้ำหนักในแต่ละจุดให้ดีขึ้นเพื่อให้ได้ค่าที่แม่นยำมากยิ่งขึ้นกว่าเดิมแต่วิธีการหาค่าน้ำหนัก(W)ใหม่คือการใช้สิ่งที่เรียกว่า Optimization Algorithms แค่ชื่อก็แปลเป็นไทยได้ว่า “อัลกอริทึมการเพิ่มประสิทธิภาพ” ซึ่งหน้าที่ของมันคือปรับปรุงค่าต่างๆใน neural network ทำให้ output ของเราให้ใกล้เป้าหมายมากขึ้น</p><p>โดยเราจะคุ้นๆหูกันดีกับ Gradient Descent ซึ่งเป็น 1 ใน หลายๆอัลกอริทึมของ Optimizer</p><p><a href="https://medium.com/mmp-li/gradient-descent-%E0%B8%84%E0%B8%B5%E0%B8%A2%E0%B9%8C%E0%B9%80%E0%B8%A7%E0%B8%B4%E0%B8%A3%E0%B9%8C%E0%B8%94%E0%B8%97%E0%B8%B5%E0%B9%88-data-science-%E0%B8%95%E0%B9%89%E0%B8%AD%E0%B8%87%E0%B8%A3%E0%B8%B9%E0%B9%89%E0%B8%88%E0%B8%B1%E0%B8%81-machine-learning-101-b5c78c1787a0">Gradient Descent คีย์เวิร์ดที่ Data Science ต้องรู้จัก ! : Machine Learning 101</a></p><p>ซึ่ง optimizer มีให้เลือกใช้หลายตัวมากแต่ในปัจจุบัน SGD ไม่ได้เป็นที่นิยมอีกต่อเพราะมีอัลกอริทึมใหม่ๆเกิดมาและดีกว่าอย่างเช่น Adam ที่ให้ค่า Loss ที่ต่ำที่สุด และไวเกือบที่สุด</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/335/1*CTIZsQR6AwCPcLpS9WPyzg.png" /></figure><p>โดยจุดประสงค์ของการเลือกใช้ optimize function คือไปให้ใกล้กับจุดหมายปลายทางให้ใกล้ที่สุดและต้องไว ! ซึ่ง SGD สอบตก เราจึงไม่นิยมใช้ SGD กันอีกต่อไปแล้ว</p><blockquote>คุณไม่ได้ไปต่อ SGD !</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/620/1*RczM0a3pMxK3tlf_YjKAXw.gif" /><figcaption>ใครอยู่กลางดาวและถึงก่อนชนะ</figcaption></figure><p>แต่ลองสังเกตุดีๆว่า SGD มันไม่ออกนอกเส้นทางเลย นั้นก็เป็นข้อดีของมันคือไม่หลุดออกนอกลู่นอกทาง เพียงแค่มันช้าเท่านั้นเอง</p><h4>เมื่อมี backpropagation ก็ต้องมี Activation Function</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/600/1*fSdhPRjTiAXO13tooELWaw.png" /></figure><p>ทีนี้เมื่อเราใช้ backpropagation แล้วเราก็ไม่สามารถใช้ step function ได้อีกต่อไปเราจึงเปลี่ยนมาใช้ Activation Function (ฟังก์ชั่นการกระตุ้น) มาคำนวณหลังจากที่คำนวณ Weight ของ neuron เสร็จแล้วเพื่อหาว่าเป็นคลาสนี้หรือไม่โดยค่าที่ออกมาจะเป็นความน่าจะเป็นว่าใช่คลาสนั้นหรือไม่ และจะเป็นน้ำหนักให้กับ neurons ตัวถัดไปนั้นเอง</p><p>ซึ่ง activation function มีให้เลือกเยอะมากหนึ่งในนั้นคือ Sigmoid ที่อยู่ใน Logistic Regreesion ซึ่งเคยเขียนอธิบายไปแล้วในบทความนี้</p><p><a href="https://medium.com/mmp-li/logistic-regression-%E0%B9%84%E0%B8%A1%E0%B9%88%E0%B8%A1%E0%B8%B5%E0%B8%AD%E0%B8%B0%E0%B9%84%E0%B8%A3%E0%B9%80%E0%B8%9B%E0%B9%87%E0%B8%99%E0%B9%84%E0%B8%9B%E0%B8%95%E0%B8%B2%E0%B8%A1%E0%B8%AD%E0%B8%A2%E0%B9%88%E0%B8%B2%E0%B8%87%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%84%E0%B8%B4%E0%B8%94%E0%B9%80%E0%B8%AA%E0%B8%A1%E0%B8%AD-machine-learning-101-bba2f666234d">Logistic Regression ทำนายผู้รอดชีวิตบนเรือไททานิค : Machine Learning 101</a></p><p>ซึ่งปัจจุบันตัวที่ฮิตก็คือ ReLu ซึ่งถ้าคำนวณน้ำหนักแล้วติดลบมันก็จะแสดงออกอย่างชัดเจนเลยว่าไม่ใช่คลาสนั้น (เมื่อ X ≤ 0 ก็จะได้ probability of this class = 0)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*UtzGnPeRZ4Ytdl3UktSNBg.png" /><figcaption><a href="https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html">https://www.oreilly.com/library/view/neural-networks-and/9781492037354/ch01.html</a></figcaption></figure><h4>Algorithm ที่น่าสนใจที่มี Neural Network เป็นส่วนประกอบ</h4><p>เมื่อเรามาถึงในยุคปัจจุบันเราก็ได้มีอัลกอริทึมย่อยๆของ Neural Network อีกจำนวนมากเช่น</p><p><strong>Convolution Neural Network (CNN)</strong> เป็นอัลกอริทึมที่เน้นใช้กับรูปภาพโดยจะดึงจุดเด่นของภาพนั้นๆออกมาได้ เพื่อนำมาจำแนก (Classification) ว่าเป็นคลาสอะไร</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*92b4dKhgNLI5HEe-rkFCsw.png" /><figcaption>CNN Layer architecture</figcaption></figure><p><strong>Recurrent Neural Network (RNN)</strong> เป็นอีกหนึ่งอัลกอริทึมที่ยอดนิยมเนื่องจากสามารถนำมาแก้ปัญหา time series ได้ (ปัญหาที่ข้อมูลถูกเก็บอย่างต่อเนื่องและเชื่อมโยงหากัน) โดยจุดเด่นของมันคือการนำผลลัพธ์ของอันก่อนหน้ามาช่วยในการตัดสินใจด้วยว่ารอบนี้ควรจะตอบอะไร</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/873/1*cGw41c00cUdZYhshhP4PnA.png" /><figcaption>RNN Layer architecture</figcaption></figure><h3>สรุป</h3><p>Neural Network เป็นสิ่งที่ลอกเลียนมาจากเซลสมองของเรา โดยจุดแตกต่างของ Neural Network กับ Machine Learning เลยก็คือ Deep Learning ไม่จำเป็นต้องคัดแยก Feature อีกต่อไป สามารถนำ Input ไปใส่ใน Deep learning ได้เลย</p><p>โดยทั้งหมดที่กล่าวมาในบทความนี้เป็นเพียงแค่น้ำจิ้มสำหรับ Deep Learning ซึ่งยังมีเทคนิคและสิ่งที่จะต้องรู้อีกมากมายเกี่ยวกับ Deep Learning ซึ่งในบทความซีรีย์นี้เราจะกล่าวถึงแค่ พื้นฐาน(Activation,Optimize Function,Dropout,ฯลฯ), MLP , CNN , RNN + LSTM ซึ่งเพียงเท่านี้ก็น่าจะเพียงพอแล้วสำหรับพื้นฐานของ Deep Learning ซึ่งหวังว่าผู้อ่านบทความนี้จะได้ความรู้ไม่มากก็น้อย</p><p>บทความถัดไป</p><blockquote><a href="https://medium.com/mmp-li/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%89%E0%B8%9A%E0%B8%B1%E0%B8%9A%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-2-optimization-activation-function-%E0%B9%80%E0%B8%A3%E0%B8%B5%E0%B8%A2%E0%B8%99%E0%B8%81%E0%B8%B1%E0%B8%99%E0%B8%AA%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%86%E0%B8%AA%E0%B9%84%E0%B8%95%E0%B8%AA%E0%B9%8C%E0%B8%8A%E0%B8%B4%E0%B8%A5%E0%B9%86-9feb5a87e3b2">Deep Learning แบบสามัญชน EP 2 Optimization Algorithms &amp; Activation Function : เรียนกันลึกๆ เหมือนเรือดำน้ำ</a></blockquote><p>Github : <a href="https://github.com/peeratpop/Deep_learning_easy_style">https://github.com/peeratpop/Deep_learning_easy_style</a></p><p>Medium : <a href="https://medium.com/@pingloaf">https://medium.com/@pingloaf</a></p><p>Linkedin : <a href="https://www.linkedin.com/in/peerat-limkonchotiwat/">https://www.linkedin.com/in/peerat-limkonchotiwat/</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=f7789236a9a3" width="1" height="1" alt=""><hr><p><a href="https://medium.com/mmp-li/deep-learning-%E0%B9%81%E0%B8%9A%E0%B8%9A%E0%B8%89%E0%B8%9A%E0%B8%B1%E0%B8%9A%E0%B8%84%E0%B8%99%E0%B8%AA%E0%B8%B2%E0%B8%A1%E0%B8%B1%E0%B8%8D%E0%B8%8A%E0%B8%99-ep-1-neural-network-history-f7789236a9a3">Deep Learning แบบฉบับคนสามัญชน EP 1 : Neural Network History</a> was originally published in <a href="https://medium.com/mmp-li">mmp-li</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
    </channel>
</rss>