<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Thành Leo on Medium]]></title>
        <description><![CDATA[Stories by Thành Leo on Medium]]></description>
        <link>https://medium.com/@thanhleo92?source=rss-a2cd8be719cd------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/1*jT8J8yVStMDrfyYQ3pk68g@2x.jpeg</url>
            <title>Stories by Thành Leo on Medium</title>
            <link>https://medium.com/@thanhleo92?source=rss-a2cd8be719cd------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Thu, 19 Nov 2026 01:26:47 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@thanhleo92/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[Khám phá dữ liệu cùng Association Rules]]></title>
            <link>https://medium.com/@thanhleo92/kh%C3%A1m-ph%C3%A1-d%E1%BB%AF-li%E1%BB%87u-c%C3%B9ng-association-rules-3e8c79d4d0b8?source=rss-a2cd8be719cd------2</link>
            <guid isPermaLink="false">https://medium.com/p/3e8c79d4d0b8</guid>
            <dc:creator><![CDATA[Thành Leo]]></dc:creator>
            <pubDate>Sun, 03 Mar 2019 11:34:27 GMT</pubDate>
            <atom:updated>2020-09-23T02:10:01.903Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>I. Giới thiệu:</strong></p><p>Một vấn đề kinh doanh thường gặp ở các công ty có số lượng hàng hóa lớn và đa dạng như các siêu thị, thời trang, mỹ phẩm là ngoài việc sắp xếp hàng hóa theo các khu vực (như khu thực phẩm, đồ gia dụng, etc) thì việc sắp xếp các sản phẩm ở gần nhau như thế nào sao cho khi khách hàng mua một sản phẩm thì sẽ có khả năng cao sẽ mua tiếp sản phẩm khác hoặc ghép các sản phẩm để bán theo kiểu combo sao cho hiệu quả là tốt nhất là một bài toán cần sự giải quyết của Machine Learning. Phương pháp tối ưu nhất được áp dụng ở đây có tên gọi là Association Rules</p><p>Association Rules là một phương pháp nằm trong cả 2 nhánh của data mining là Supervised và Unsupervised được ra đời cách đây khoảng 15 năm trước và một trong những thuật toán được sử dụng nhiều nhất trong các bài viết khoa học với hơn 18.000 lượt citation</p><p><strong>II. Một số khái niệm cơ bản:</strong></p><p>Thuật toán Association Rules sẽ tính toán các mối liên hệ bên trong dữ liệu để đưa ra các kết luận có tính ý nghĩa với các bài toán kinh doanh. Dưới đây là một số định nghĩa cơ bản cần nhớ trong thuật toán:</p><ol><li>Support：Giá trị Support của 1 sản phẩm hoặc 1 tổ hợp sản phẩm là tỷ lệ giữa số giao dịch chứa sản phẩm hoặc tổ hợp sản phẩm đó so với tổng số giao dịch</li></ol><p>Ví dụ: Một data có chứa thông tin của 100 khách mua hàng. Trong đó 50 khách hàng mua sản phẩm A, 75 khách hàng mua sản phẩm B, và 25 khách hàng mua cả sản phẩm A và B thì:</p><ul><li>Support(sản phẩm A) = 50%</li><li>Support(Sản phẩm A, sản phẩm B) = 25%</li></ul><p>2. Confidence: Xác suất có điều kiện thể hiện khả năng khách hàng mua sản phẩm A cũng sẽ mua sản phẩm B. Giá trị confidence của 1 rule là khả năng rule đó sẽ xảy ra ở 1 giao dịch mới trong đó có chứa các sản phẩm ở vế bên trái của rule đó:</p><p>Ví dụ: Confidence (sản phẩm A , sản phẩm B) = 25/50 = 50%</p><ul><li>Tức là nếu 1 người mua sản phẩm A, thì xác suất họ cũng mua sản phẩm B là 50%</li></ul><p>3. Lift: Nếu khách hàng mua sản phẩm A thì khả năng họ mua sản phẩm B sẽ tăng lên bao nhiêu %. Chúng ta cần lọc ra những rules có Lift lớn hơn 1 để kết luật có tính ý nghĩa. Ví dụ: Lift = 1.5 ta có thể kết luận nếu 1 khách hàng mua sản phẩm A thì khả năng họ mua sản phẩm B sẽ tăng lên 50%.</p><p><strong>III. Thực hành</strong></p><p>Để hiểu rõ hơn về cách thức vận hành của thuật toán ta sẽ đi vào giải quyết các bài toán thực tếnhư sau:</p><p>Chúng ta sẽ sử dụng data có tên là Groceries có sẵn trong R ghi lại những sản phẩm được mua trong siêu thị trong 1 khoảng thời gian để tìm sự liên hệ giữa các nhóm sản phẩm được mua với nhau như thế nào. Với những kết luận từ sự liên kết giữa các nhóm hàng như vậy ta có thể đề xuất việc bán hàng theo các combo để thúc đẩy bán hoặc sắp xếp các kệ hàng gần nhau hơn giúp cho khách hàng có thể thấy những mặt hàng mình có thể mua nhanh hơn.</p><ol><li>Các sản phẩm được mua với nhau:</li></ol><pre>library(arules)</pre><pre>data(&quot;Groceries&quot;)<br>rules &lt;- apriori(Groceries, parameter = list(supp = 0.001, conf = 0.5))<br>rules %&gt;% sort(by = &quot;lift&quot;) %&gt;% head %&gt;% inspect</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/808/1*yRTa9-59MIUM-svm7VYeGQ.jpeg" /></figure><p>Ta có thể các rules có lift lớn hơn 1 (tức rule có khả năng cao xảy ra) là:</p><ul><li>Nếu khách hàng mua Instant food, Soda thì có khả năng mua Hamburger meat cao hơn sấp sỉ 19 lần</li><li>Nếu khách hàng mua Soda, popcorn thì khả năng mua Salty snack cao hơn 16.7 lần</li></ul><p>Điều này khá dễ hiểu khi đây là những những sản phẩm ăn vặt khá thông thường do vậy việc tạo ra các combo bán kém với nhau giữa các sản phẩm sẽ giúp cho việc Upsell cho siêu thị.</p><p>2. Khách hàng mua sản phẩm Whole milk thì sẽ mua tiếp sản phẩm nào:</p><pre>rules2 &lt;- apriori(data = Groceries, <br>                  parameter = list(supp = 0.001, conf = 0.15, minlen = 2), <br>                  appearance = list(default = &quot;rhs&quot;, lhs = &quot;whole milk&quot;), <br>                  control = list(verbose = F))<br>rules2 %&gt;% sort(by = &quot;lift&quot;) %&gt;% head %&gt;% inspect</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/808/1*NzzYQdZauzrQ1HIA4WA8iA.jpeg" /></figure><p>Ta có thể thấy sau khi mua Whole milk thì sản phẩm có khả năng cao được mua tiếp theo phải kể đến như là:</p><ul><li>Root Vegetables (cao hơn 75%)</li><li>Tropical Fruit (cao hơn 58%)</li><li>Yogurt (cao hơn 57%)</li></ul><p>3. Khách hàng mua sản phẩm gì sẽ mua tiếp sản phẩm Whole Milk:</p><pre>rules1 &lt;- apriori(data = Groceries,<br>                 parameter = list(supp = 0.001, conf = 0.08), <br>                 appearance = list(default = &quot;lhs&quot;, rhs = &quot;whole milk&quot;), <br>                 control = list(verbose = F)) # trước khi mua sữa nguyên kem thì người ta sẽ mua...<br>rules1 %&gt;% sort(by = &quot;lift&quot;) %&gt;% head %&gt;% inspect</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/810/1*hG2vxIQCXRchBAYZoRr4TA.jpeg" /></figure><p>Kết quả cho thấy khi khách hàng các sản phẩm như:</p><ul><li>Rice và Sugar</li><li>Canned fish và hygiene articles</li><li>Root vegetables, butter và rice</li></ul><p>Thì khả năng mua Whole milk gấp gần 4 lần so với thông thường</p><p>Như vậy ta đã trải qua một ví dụ rất phổ biến trong phân tích dữ liệu của mặt hàng siêu thị. Ngoài ra, thuật toán này có thể được áp dụng rất tốt trong việc xử lý các vấn đề về kinh doanh như: tìm các nhóm khách hàng tiềm năng bán các sản phẩm, tìm hiểu customer profile của nhóm khách hàng tốt và khách hàng không tốt để thay đổi các quy định về bán sản phẩm, etc.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=3e8c79d4d0b8" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Random Forest và ứng dụng]]></title>
            <link>https://medium.com/@thanhleo92/random-forest-v%C3%A0-%E1%BB%A9ng-d%E1%BB%A5ng-b6965c1f0634?source=rss-a2cd8be719cd------2</link>
            <guid isPermaLink="false">https://medium.com/p/b6965c1f0634</guid>
            <dc:creator><![CDATA[Thành Leo]]></dc:creator>
            <pubDate>Wed, 16 Jan 2019 15:53:13 GMT</pubDate>
            <atom:updated>2019-01-16T15:53:13.119Z</atom:updated>
            <content:encoded><![CDATA[<p><em>I. Giới thiệu về Random Forest</em></p><p>Trong bài viết trước mình đã chia sẻ về Decision Tree — một cây quyết định. Sự xuất hiện của thuật toán này là tiền đề rất quan trọng cho việc ra đời của rất nhiều thuật toán Machine Learning đang được sử dụng hiện nay được đặt tên là Tree-based method như: Random Forest, Gradient Boosting, XGBoost (một thuật toán mới được ra đời và được cho là một công thức để dành chiến thắng trong các cuộc thi dự báo hiện nay).</p><p>Như tên gọi của nó Random Forest — rừng ngẫu nhiên: đây là phương pháp xây dựng một tập hợp rất nhiều cây quyết định và sử dụng phương pháp voting để đưa ra quyết định về biến target cần được dự báo. Một ví dụ về Random Forest như sau: giả sử bạn muốn đi tham quan du lịch Anh và có sự cân nhắc cho việc tham quan thành phố nào như: Manchester, Liverpool hay Birmingham. Để trả lời câu hỏi này bạn sẽ cần tham khảo rất nhiều ý kiến từ bạn bè, blog du lịch, tour lữ hành … Mỗi một ý kiến tương ứng với một Decision Tree trả lời các câu hỏi như: thành phố này đẹp không, có được tham quan các sân vận động khi đến thăm không, số tiền bỏ ra là bao nhiêu, thời gian để tham quan thành phố là bao lâu… Sau đó bạn sẽ có một rừng các câu trả lời để quyết định xem mình sẽ đi tham quan thành phố nào. Random Forest hoạt động bằng cách đánh giá các Decision Tree sử dụng cách thức voting để đưa ra kết quả cuối cùng.</p><p>Về mặt toán học thuật toán có thể được giải thích như sau: Random Forest là một tập hợp của hàng trăm Decision Tree, trong đó mỗi Decision Tree được tạo nên ngẫu nhiên từ việc tái chọn mẫu (chọn random 1 phần của data để xây dựng) và random các biến từ toàn bộ các biến trong trong data. Với một cơ chế như vậy, Random Forest cho ta một kết quả chính xác rất cao nhưng đánh đổi bằng việc ta không thể hiểu cơ chế hoạt động của thuật toán này do cấu trúc quá phức tạp của mô hình này — do vậy thuật toán này là một trong những phương thức Black Box — tức ta sẽ bỏ tay vào bên trong và rút ra được kết quả chứ không thể giải thích được cơ chế hoạt động của mô hình. Đó là sự đánh đổi giữa khả năng giải thích và khả năng dự báo như mình đã nêu ở bài đầu tiên.</p><p>Random Forest là một phương pháp Supervised Learning do vậy có thể xử lý được các bài toán về Classification (phân loại) và Regression (dự báo về các giá trị)</p><p><em>II. Ứng dụng thực tế</em></p><p>Bài toán mà mình sẽ dùng để thực hành ứng dụng của thuật toán sẽ là <strong>Kaggle bike sharing demand </strong>— là một trong những cuộc thi của Kaggle cho giới Data Scientist được diễn ra vào năm 2015 với câu hỏi được đặt ra là: Dựa vào data của một hãng cung cấp cho thuê xe đạp ở Washington D.C, người tham gia cần phải dự báo được số lượng xe đạp sẽ được thuê. Dataset có thể download theo đường dẫn sau: <a href="https://www.kaggle.com/marklvl/bike-sharing-dataset">https://www.kaggle.com/marklvl/bike-sharing-dataset</a></p><ol><li>Phân tích khám phá dữ liệu:</li></ol><p>Trước khi đi vào các phương pháp predictive modeling, chúng ta cần phải tìm hiểu những đặc tính bằng cách phân tích khám phá dữ liệu và đưa ra các câu hỏi, giả thuyết kết hợp giữa vấn đề kinh doanh và phân tích thống kê.</p><ol><li>1. Kết cấu của các biến:</li></ol><pre>library(dplyr)<br>library(ggplot2)<br>library(ggthemes)<br>library(rpart)<br>library(rattle) <br>library(rpart.plot)<br>library(RColorBrewer)<br>library(lubridate)<br>library(randomForest)<br>load(file = &quot;./data.Rda&quot;)<br>test &lt;- read.csv(file = &quot;./test.csv&quot;)<br>train &lt;- read.csv(file = &quot;./train.csv&quot;)<br>data %&gt;% str</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/839/1*tpZ6g3RhgCMPW9aMdxWmxg.png" /></figure><p>Data sẽ bao gồm 12 biến như: mùa trong năm, có phải ngày nghỉ lễ không, thời tiết, nhiệt độ, độ ẩm, sức gió …</p><p>1.2. Phân phối của các biến</p><pre>par(mfrow=c(4,2))<br>par(mar = rep(2, 4))<br>hist(data$season)<br>hist(data$weather)<br>hist(data$humidity)<br>hist(data$holiday)<br>hist(data$workingday)<br>hist(data$temp)<br>hist(data$atemp)<br>hist(data$windspeed)</pre><p>Một vài nhận xét được rút ra như sau</p><ul><li>Biến Season sẽ gồm 4 giá trị tương ứng với 4 mùa</li><li>Biến weather có phân phối chủ yếu ở giá trị 1</li><li>2 biến workingday và holiday không có thông tin gì để rút ra</li><li>Các biến humidity, atemp và windspeed có phân phối khá tự nhiên</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/693/1*j45scomU42Vyqk90eyrXAA.png" /></figure><p>2.3. Giả thuyết được đặt ra:</p><p>1.3.1. Hourly trend:</p><pre>data$hour &lt;- substr(data$datetime,12,13)<br>data$hour &lt;- as.factor(data$hour)<br>train &lt;- data[as.integer(substr(data$datetime,9,10))&lt;20,]<br>test &lt;- data[as.integer(substr(data$datetime,9,10))&gt;19,]<br><br>train %&gt;% <br>  ggplot(aes(x = hour, y = count)) +<br>  geom_boxplot(fill = &quot;darkgreen&quot;) +<br>  labs(x = &quot;Hour&quot;, y = &quot;Count of Users&quot;) +<br>  theme_minimal()</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/723/1*8YFJ2DoAdPG0e98eXeZzmg.png" /></figure><p>Dựa vào biểu đồ ta có thể thấy vài điểm như sau</p><ul><li>Thời gian thuê xe cao điểm sẽ rơi vào từ 7–9h và 17–19h</li><li>Thời gian thuê xe trung bình sẽ rơi vào từ 10–16h</li></ul><p>1.3.2. Daily trend:</p><pre>date &lt;- substr(data$datetime,1,10)<br>days &lt;- weekdays(as.Date(date))<br>data$day &lt;- days<br><br>data %&gt;% <br>  ggplot(aes(x = day, y = casual)) +<br>  geom_boxplot(fill = &quot;darkgreen&quot;) +<br>  labs(x = &quot;Hour&quot;, y = &quot;Count of Casual Users&quot;) +<br>  theme_minimal()</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/715/1*cYzVmlRmc4C5jfyq0OiNOw.png" /></figure><p>Tương tự đó là Daily Trend ta có thể thấy là nhu cầu của việc sử dụng xe đạp tăng cao hơn đối với khách hàng vãng lai vào dịp cuối tuần.</p><p>Từ những trend như vậy ta cần phải biến đổi dữ liệu để cho mô hình có thể hiểu được sự khác biệt giữa các yếu tố đầu vào — đây chính là Feature Engineering (tạo các biến đầu vào để giúp cho mô hình hoạt động chính xác hơn).</p><p>2. Feature Engineering:</p><p>Dựa trên những gì ta đã tìm ra ở phần trên ta cần phải xây dựng thêm các biến mới để nâng cao khả năng dự báo của mô hình như sau:</p><pre>data &lt;- rbind(train,test)<br>data &lt;- data %&gt;% <br>  mutate(dp_reg = case_when(<br>    hour &lt; 8 ~ 1,<br>    hour &gt;= 22 ~ 2,<br>    hour &gt; 9 &amp; hour &lt; 18 ~ 3,<br>    hour == 8 ~ 4,<br>    hour == 9 ~ 5,<br>    hour %in% c(20,21) ~ 6,<br>    hour %in% c(18,19) ~ 7))<br>data$year &lt;- substr(data$datetime,1,4)<br>data$year &lt;- data$year %&gt;% as.factor<br>data$month &lt;- month(data$datetime)<br><br>data$year_part[data$year == &#39;2011&#39;] &lt;- 1<br>data$year_part[data$year == &#39;2011&#39; &amp; data$month &gt; 3] &lt;- 2<br>data$year_part[data$year == &#39;2011&#39; &amp; data$month &gt; 6] &lt;- 3<br>data$year_part[data$year == &#39;2011&#39; &amp; data$month &gt; 9] &lt;- 4<br>data$year_part[data$year == &#39;2012&#39;] &lt;- 5<br>data$year_part[data$year == &#39;2012&#39; &amp; data$month &gt; 3] &lt;- 6<br>data$year_part[data$year == &#39;2012&#39; &amp; data$month &gt; 6] &lt;- 7<br>data$year_part[data$year == &#39;2012&#39; &amp; data$month &gt; 9] &lt;- 8</pre><pre>data$day_type[data$holiday==0 &amp; data$workingday==0] &lt;- &quot;weekend&quot;<br>data$day_type[data$holiday==1] &lt;- &quot;holiday&quot;<br>data$day_type[data$holiday==0 &amp; data$workingday==1] &lt;- &quot;working day&quot;<br>data$day_type &lt;- data$day_type %&gt;% as.factor()</pre><pre>data$weekend &lt;- 0<br>data$weekend[data$day==&quot;Sunday&quot; | data$day==&quot;Saturday&quot; ] &lt;- 1</pre><p>3. Mô hình Random Forest:</p><p>Tiếp theo ta sử dụng mô hình Random Forest để đưa ra kết quả dự báo của xe đạp sẽ được sử dụng trong thời gian tới như sau:</p><pre>train$hour &lt;- train$hour %&gt;% as.factor()<br>test$hour &lt;- test$hour %&gt;% as.factor()<br><br>set.seed(999)<br>fit1 &lt;- randomForest(logreg ~ hour +workingday + day+ holiday + day_type + temp_reg + humidity +atemp + windspeed + season + weather + dp_reg + temp_reg + weekend + year + year_part, data = train, importance = TRUE, ntree = 250)<br>pred1 &lt;- predict(fit1,test)<br>test$logreg &lt;- pred1</pre><p>Như vậy ta đã có một mô hình Machine Learning để giải quyết bài toán dự báo số lượng xe đạp sẽ được sử dụng với các điều kiện về thời tiết và thời gian. Và từ kết quả này ta có thể sử dụng nó để điều tiết các xe đạp theo theo nhu cầu của khách hàng phục vụ cho vấn đề kinh doanh của doanh nghiệp</p><p>Mọi đóng góp về bài viết, mời các bạn gửi mail giúp mình qua địa chỉ: thanhleo92@gmail.com</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=b6965c1f0634" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Giới thiệu về Decision Tree]]></title>
            <link>https://medium.com/@thanhleo92/gi%E1%BB%9Bi-thi%E1%BB%87u-v%E1%BB%81-decision-tree-a8938ffd3ea0?source=rss-a2cd8be719cd------2</link>
            <guid isPermaLink="false">https://medium.com/p/a8938ffd3ea0</guid>
            <dc:creator><![CDATA[Thành Leo]]></dc:creator>
            <pubDate>Mon, 24 Dec 2018 10:39:00 GMT</pubDate>
            <atom:updated>2020-09-23T02:11:40.760Z</atom:updated>
            <content:encoded><![CDATA[<h3>Giới thiệu về Decision Tree và ứng dụng</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*GGpNBnsCIwii47fYgjgudw.jpeg" /></figure><p><strong>I. Giới thiệu:</strong></p><p>Tiếp theo bài viết giới thiệu về Machine Learning. Hôm nay mình sẽ giới thiệu về Decision Tree — một trong những thuật toán phổ biến của Machine Learning thuộc nhánh Supervised Learning.<br>Decision Tree ra đời từ những năm 1975 từ một tác giả có tên Ross Quinlan. Thuật toán này là tiền đề để ra đời những phương pháp dự báo theo dòng Tree-based method như là: Random Forest, Bagging, AdaBoost, Gradient Boosting Machine (GBM) và mới nhất là Extreme Gradient Boosting (XGBoost) — thuật toán đang làm mưa làm gió trong các đấu trường Predictive Modeling Competitive trong khoảng 3 năm trở lại đây.</p><p>Một ví dụ đơn giản về Decision Tree như sau: Sau khi đi phỏng vấn vào 1 vị trí công việc. Ứng viên sẽ đối diện với một vài vấn đề như sau: mức lương cho công việc tối thiếu là 50k$ hay ko. Nếu không thì sẽ decline offer. Nếu vượt qua điều kiện về lương ta sẽ xem xét thêm điều kiện tiếp theo là thời gian đi lại đến công ty có quá 1 giờ ko. Nếu quá thì sẽ decline offer. Tuy nhiên nếu ít hơn thì sẽ xem xét điều kiện tiếp theo như có offer cà phê miễn phí vào buổi sáng không. Nếu có thì sẽ accept offer không thì sẽ decline.<br>Việc quan sát, suy nghĩ và cách thức quyết định của ứng viên sẽ được bắt đầu từ các câu hỏi. Decision tree là một mô hình ra quyết định dựa trên các câu hỏi.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Bg0_UGT6xo89Ij-GX61yPg.png" /></figure><p>Một Decision Tree được bao gồm 4 thành phần như sau:</p><ul><li>Root Node: Nhánh chia đầu tiên của Decision Tree</li><li>Internal Node: Các nhánh chia tiếp theo của Decision Tree</li><li>Leaf Node: Các nhánh cuối cùng của một quyết định</li><li>Dept: số tầng của cây</li></ul><p>Trên thực tế ta sẽ sẽ có một bảng dữ liệu với rất nhiều biến. Decision Tree sẽ sử dụng một vài chỉ số để đưa ra việc xác định câu hỏi và thứ tự các biến nào chia dữ liệu để tạo ra Decision Tree có khả năng phân loại tốt nhất. Các hệ số này là:</p><ul><li>Gini</li><li>Cross-Entropy</li></ul><p>Nôm na với một bảng dữ liệu với rất nhiều biến, Decision Tree sẽ tính toán các hệ số Gini hoặc Cross-Entropy của các biến để quyết định xem biến nào sẽ là biến đầu tiên dùng để phân loại và các biến nào là biến lần lượt tiếp theo.</p><p>Decision tree có thể dùng trong trường hợp Classification và Regression</p><p><strong>II. Ứng dụng thực tiễn:</strong></p><ol><li>Ứng dụng trong Banking Finance:</li></ol><p>Như vậy ta đã đi qua những định nghĩa cơ bản về Decision Tree. Để hiểu rõ hơn về thuật toán này ta sẽ sâu vào phần thực hành với dữ liệu thực tế.<br>Dữ liệu được sử dụng trong phần thực hành sẽ nói về hành Ngân hàng — Tài chính liên quan đến nợ xấu — nợ không có khả năng chi trả và đây là những khách hàng ngân hàng hoặc các tổ chức tín dụng cần loại trừ. Trong năm 2018, Home Credit — một công ty tài chính đa quốc gia (cũng có mặt tại Việt Nam) đã đưa ra một bài toán lên diễn đàn Kaggle nói về dự báo khách hàng sẽ có khả năng nợ xấu. Đây là một bài toán rất hay thu hút gần 8 nghìn nhóm data scientist trên thế giới tham gia với tổng giải thưởng lên đến 70k $.Về data, đây là bộ dữ liệu rất lớn được chia thành các phân hệ khác nhau như demographics, transaction, application, installmetn… mà khi tổng hợp lại ta có thể tính toán được khoản 500 biến.<br>Các bạn có thể tham khảo cuộc thi này theo link như sau: <a href="https://www.kaggle.com/c/home-credit-default-risk">https://www.kaggle.com/c/home-credit-default-risk</a></p><p>Để mô phỏng về thuật toán decision tree, mình sẽ chỉ sử dụng data APPLICATION của khách hàng.</p><p>#Load dữ liệu:</p><p>library(dplyr)<br>library(party)<br>library(rpart)</p><p>application_master_train &lt;- read.csv(“Version 2/Data/application_train.csv”)</p><p>Data trên sẽ bao gồm khoản hơn 100 biến mô tả về các thông tin của khách hàng khi điền vào hồ sơ vay. Tuy nhiên, data này sẽ gặp 1 điều đó là Imbalanced. Khi chỉ có 8% khách hàng trên tổng số 307,511 khách hàng đã quá hạn trong lịch sử. Do vậy khi biển diễn mô hình này trên Decision Tree ta sẽ gặp khó khăn trong việc đánh giá do con số này quá bé. Để cho ví dụ được mô phỏng tốt hơn ta sẽ sử dụng phương pháp sampling lại dữ liệu 1 chút để dữ liệu balance hơn một chút theo tỉ lệ 25:75. Tức là trong data sẽ có 25% khách hàng có nợ xấu và 75% khách hàng không nợ xấu.</p><p>#Data sampling:</p><p>df &lt;- rbind(application_master_train %&gt;% filter(target == 1),<br> sample_n(application_master_train %&gt;% filter(target == 0), 24825*3))</p><p>Biến được lựa chọn đưa vào mô hình sẽ là:<br> — CNT_CHILDREN: số lượng con cái của người nộp hồ sơ vay<br> — DAYS_BIRTH: độ tuổi của người vay<br> — CODE_GENDER: giới tính</p><p># Running model</p><p>decision_tree &lt;- ctree(target ~ cnt_children + days_birth + code_gender, <br> data = df)</p><p>plot(decision_tree)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*WcILehTIG-VJQ_45ufruOA.png" /></figure><p>Dựa vào kết quả của Decision Tree ta có thể thấy như sau:</p><ul><li>Nhánh điều kiện mà khách hàng lớn hơn 52 tuổi và giới tính nữ đang cho tỉ lệ nợ xấu thấp nhất (dưới 19%), đặc biệt là nhóm khách hàng trên 66 tuổi với chỉ khoảng 10% tỉ lệ nợ xấu. Do vậy, với phân khúc khách hàng nữ trên 50 tuổi đang làm phân khúc tốt nhất và cần thúc đẩy những sản phẩm vay phù hợp để thúc đẩy nhóm khách hàng này.</li><li>Nhánh đang có tỉ lệ nợ xấu cao là khách hàng dưới 32 tuổi, giới tính nữ và có nhiều hơn 1 con (khoảng 38% — gấp đôi nhánh điều kiện trên). Đây là nhóm khách hàng thật sự cần lưu ý do họ đang nuôi từ 2 con trở lên nên khả năng trả nợ cũng là một vấn đề khá khó khăn. Do vậy không nên thúc đẩy phân khúc khách hàng này khi tỉ lệ nợ xấu đang quá cao.</li></ul><p>Như vậy, từ kết quả của Decision Tree ta có thể rút ra những insights rất chi tiết về đặc điểm về phân khúc khách hàng như thế nào là khách hàng tốt có thể vay và khách hàng không tốt để có thể cải thiện chất sản phẩm và trọng tâm vào những phân khúc phù hợp hơn.</p><p>2. Ứng dụng trong lĩnh vực khác:</p><p>Chúng ta chắc hẳn đã từng nghe tới thảm họa Titanic trong lịch sử khiến hơn 1500 người thiệt mạng. Thảm họa này đã được làm thành phim và đoạt giải Oscar năm 1998. Ta sẽ có dữ liệu ghi nhận về 891 khách hàng trên chuyến tàu Titanic lịch sử như sau:</p><ul><li>PassengerId: mỗi khách hàng sẽ có 1 ID trải dài từ 1 đến 891</li><li>Survived: 1 là sống sót sau thảm họa, 0 là đã chết</li><li>Pclass: hạng vé</li><li>Name: tên</li><li>Sex: giới tính</li><li>Age: tuổi</li><li>SibSp: số họ hàng có trên tàu</li></ul><p>Bạn đọc có thể download dữ liệu từ link sau: <a href="https://www.kaggle.com/francksylla/titanic-machine-learning-from-disaster">https://www.kaggle.com/francksylla/titanic-machine-learning-from-disaster</a></p><p>Tiếp theo ta sử dụng thuật toán Decision Tree để tìm hiểu thêm các insights từ dữ liệu đã có như sau:</p><pre>load(file = &quot;./data.Rda&quot;)<br>decision_tree = ctree(Survived ~ Pclass + Sex + Age + SibSp, <br>                      data = data)<br><br>plot(decision_tree)</pre><figure><img alt="" src="https://cdn-images-1.medium.com/max/705/1*4RZjFdGTtk6nPCkfTn3wVg.png" /></figure><p>Một vài kết luận có thể rút ra như sau:</p><ul><li>Phụ nữ ở tầng lớp trung lưu (tức Pclass = 1, 2) thì có tỉ lệ sống sót cao cực cao (khoảng 95%). Do vậy, giả thuyết là những người ở tầng lớp trung lưu đã được hỗ trợ tốt hơn để sống sót trong thảm họa này</li><li>Độ tuổi trẻ thì tỉ lệ sống sót cao hơn. Đặc biệt là trẻ em dưới 2 tuổi, thuộc tầng lớp trung lưu (Pclass = 2,3) và ít hơn 3 người nhà tỉ lệ sống sót là 100%</li><li>Càng đông người nhà tham gia chuyến tàu thì tỉ lệ sống sót thấp hơn</li></ul><p>Như vậy, chúng ta đã đi qua 2 ứng dụng của một phương pháp trong Supervised Learning áp dụng trong lĩnh vực tài chính và khoa học.</p><p>Mọi đóng góp về bài viết, mời các bạn gửi mail giúp mình qua địa chỉ: thanhleo92@gmail.com</p><p><strong>Bài viết trước:</strong></p><p><em>Giới thiệu về Machine Learning :</em> <a href="https://medium.com/@thanhleo92/gi%E1%BB%9Bi-thi%E1%BB%87u-v%E1%BB%81-machine-learning-92bfcdc4bf4e">https://medium.com/@thanhleo92/gi%E1%BB%9Bi-thi%E1%BB%87u-v%E1%BB%81-machine-learning-92bfcdc4bf4e</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=a8938ffd3ea0" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Giới thiệu về Machine Learning]]></title>
            <link>https://medium.com/@thanhleo92/gi%E1%BB%9Bi-thi%E1%BB%87u-v%E1%BB%81-machine-learning-92bfcdc4bf4e?source=rss-a2cd8be719cd------2</link>
            <guid isPermaLink="false">https://medium.com/p/92bfcdc4bf4e</guid>
            <dc:creator><![CDATA[Thành Leo]]></dc:creator>
            <pubDate>Wed, 19 Dec 2018 01:49:50 GMT</pubDate>
            <atom:updated>2020-07-13T02:03:16.764Z</atom:updated>
            <content:encoded><![CDATA[<p>Trong thời gian gần đây, chủ đề về “<strong>Cuộc cách mạng công nghiệp 4.0</strong>” được nhắc đến nhiều trên giới truyền thông và mạng xã hội. Cùng với đó là những hứa hẹn về cuộc “đổi đời” của các doanh nghiệp tại Việt Nam nếu đón được làn sóng này.</p><p>Cách mạng công nghiệp đầu tiên sử dụng năng lượng nước và hơi nước để cơ giới hóa sản xuất. Cuộc cách mạng lần 2 diễn ra nhờ ứng dụng điện năng để sản xuất hàng loạt. Cuộc cách mạng lần 3 sử dụng điện tử và công nghệ thông tin để tự động hóa sản xuất. Bây giờ, cuộc Cách mạng Công nghiệp Thứ tư đang diễn ra với sự nổi bật của AI (Artifical Intelligence) cụ thể hơn là Machine Learning</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ZAoIO2V7IiBVmsJUdw9BSw.jpeg" /></figure><p>Trí tuệ nhân tạo đã len lỏi vào mọi lĩnh vực của đời sống mà có thể chúng ta không nhận ra như Facebook tự động tag ảnh người dùng lên các bức ảnh, Youtube tự động gợi ý các video cho người xem, AlphaGo với khả năng chơi cờ vây chiến thắng Lee Sedol — người từng 18 lần vô địch thế giới hay như OpenAI có khả năng chơi dota2 chiến thằng những game thủ chuyên nghiệp hàng đầu thế giới. Những ví dụ trên cho ta thấy được sự phát triển không giới hạn về mọi lĩnh vực của AI trong kỉ nguyên mới.</p><p>Trong những năm gần đây, cùng với sự phát triển vượt bậc về khả năng tính toán của máy tính và số lượng dữ liệu lớn được thu thập bới các công ty công nghệ lớn. Một lĩnh vực mới của Machine Learning đã ra đời: Deep Learning. Những công việc tưởng chừng như không thể giải quyết được nay đã được xử lý rất tốt nhờ Deep Learning như: phân loại hàng nghìn vật thể trong ảnh, nhận diện giọng nói, giao tiếp với con người hay sáng tác văn thơ …</p><p>Bài viết này sẽ giới thiệu về Machine Learning một cách cơ bản nhất để các bạn có thể hiểu cốt lõi của những công nghệ AI hiện nay là gì và chúng ta hoàn toàn có thể tiếp cận nó</p><p><strong>I. Phân loại các thuật toán trong Machine Learning</strong></p><p>Thuật toán Machine Learning thường được chia thành 3 nhóm:</p><p>— Supervised Learning</p><ul><li>Classification</li><li>Regression</li></ul><p>— Unsupervised Learning</p><ul><li>Clustering</li><li>Association</li></ul><p>— Reinforcemant Learning</p><ol><li><strong>Supervised Learning</strong></li></ol><p>Supervised Learning là thuật toán dự báo đầu ra của bộ dữ liệu mới với dữ liệu và label đã được biết trước. Ví dụ: từ dữ liệu lịch sử của của ngân hàng về khách hàng có nợ xấu hay không có nợ xấu, supervised learning model có thể dự báo những khách hàng nộp hồ sơ xin vay là khách hàng có nợ xấu hay không để tiến hành cho vay. Đây là nhóm phổ biến nhất của Machine Learning</p><p>Về mặt toán học ta có thể nói khi chúng ra có một tập hợp biến đầu vào (features) X={x1,x2,…,xN} và một tập hợp nhãn (lable) tương ứng Y={y1,y2,…,yN}, trong đó xi,yi là các vector. Các cặp dữ liệu biết trước (xi,yi)∈X×Y được gọi là tập <em>training data</em> (dữ liệu huấn luyện). Từ tập traing data này, chúng ta cần tạo ra một hàm số ánh xạ mỗi phần tử từ tập X sang một phần tử (xấp xỉ) tương ứng của tập Y:</p><p>yi≈f(xi), ∀i=1,2,…,N</p><p>Mục đích là xấp xỉ hàm số f thật tốt để khi có một dữ liệu x mới, chúng ta có thể tính được nhãn tương ứng của nó y=f(x)</p><p>1.1. Classification</p><p>Classification là bài toàn mà các label của dữ liệu đầu vào là một số nhóm hữu hạn. Ví dụ: từ ảnh cần phân biệt đây là nam hay nữ, các ngân hàng cần phân biệt khách hàng vay vốn có nợ xấu hay không …</p><p>1.2. Regression</p><p>Là bài toán dự báo đầu ra là một giá trị cụ thể. Ví dụ: trò chơi Pubg (Playerunknown’s Battleground) làm mưa gió trên thế giới vào 2017 đang có cuộc thi dự báo về thứ hạng của người chơi game dựa trên các chỉ số trong game của họ.</p><p><strong>2. Unsupervised Learning</strong></p><p>Thuật toán này chúng ta sẽ không biết được đầu ra của bộ dữ liệu đầu vào. Unsupervised Learning sẽ dựa vào cấu trúc của dữ liệu để thực hiện một công việc nào đó như: phân nhóm dữ liệu (clustering), giảm chiều dữ liệu (dimension reduction) hay association rules.</p><p>2.1. Clustering</p><p>Là thuật toán phân nhóm những quan sát có những đặc điểm chung. Ví dụ: dựa trên hành vi chi tiêu thẻ tín dụng của khách hàng, ta có thể sử dụng phương pháp Unsupervised Learning để chia thành các nhóm khách hàng có chung hành vi chi tiêu như: nhóm khách hàng chi tiêu vào cuối tháng, nhóm khách hàng chi tiêu chủ yếu vào ăn uống hay những nhóm khách hàng chi tiêu số tiền lớn nhằm mục đích đưa ra các chương trình khuyến mãi riêng đặc trưng cho từng nhóm — phục vụ nhu cầu khách hàng.</p><p>2.2. Association rule</p><p>Là bài toán khi chúng ta muốn khám phá ra một quy luật dựa trên nhiều dữ liệu cho trước. Ví dụ: những khách hàng nam mua quần áo thường có xu hướng mua thêm đồng hồ hoặc thắt lưng; những khán giả xem phim Spider Man thường có xu hướng xem thêm phim Bat Man hay những khách hàng nắm giữ Term Deposit và Current Account sẽ có xu hướng sở hữu thêm Credit Card. Dựa vào đó tạo ra một hệ thống gợi ý khách hàng thúc đẩy nhu cầu mua sắm.</p><p><strong>3. Reinforcement Learning</strong></p><p>Đây là bài toán giúp cho hệ thống tự xác định được hành động tiếp theo sao cho đạt được lợi ích cao nhất (maximizing the performance). Một ví dụ gần gũi với chúng ta hiện nay là hệ thống tự động lái xe — thuật toán sẽ tự động tính toán bước xử lý tiếp theo để đến được vị trí cần đến và đảm bảo an toàn không vi phạm giao thông.</p><p><strong>II. Một số định nghĩa cần chú ý trong Machine Learning</strong></p><p>Khi xây dựng mô hình Machine Learning, bộ dữ liệu đầu vào luôn được chia thành 2 phần là Training data và Testing data. Ta sẽ xây dựng mô hình trên Training data và kiểm tra khả năng dự báo của nó trên Testing data. Một mô hình tốt sẽ có khả năng dự báo đề tốt trên cả 2 tập này. Có một vài định nghĩa ta cần ghi nhớ khi xây dựng mô hình Machine Learning như sau:</p><ol><li>Variance versus Bias</li></ol><figure><img alt="" src="https://cdn-images-1.medium.com/max/529/1*7gFsqgCIwPcFeYsI2fmAdA.png" /></figure><p>Variance là mức độ ổn định của mô hình. Như trên graph trên, để biểu diễn các giá trị ta có 2 mô hình là đường màu xanh và vàng (regression). Đường màu xanh đi rất sát với những quan sát thực tế, tuy nhiên khi có 1 quan sát bị thay thế bằng quan sát khác, đường màu xanh sẽ thay đổi hoàn toàn để biểu thị được những quan sát đó, do vậy mô hình này có variance rất cao. Đường màu vàng sẽ là ước lượng hồi quy, do vậy khi 1 quan sát thay đổi đường hồi quy này gần như sẽ không thay đổi, mô hình có variance thấp</p><p>Bias là độ lệch của mô hình so với quan sát thực tế. Đường màu xanh sẽ có độ sai lệch giữa giá trị ước lượng với thực tế thấp hơn rất nhiều so với đường màu vàng. Do vậy bias của đường màu xanh thấp hơn so với đường màu vàng.</p><p>Sẽ luôn có sự đánh đổi giữa Variance — Bias. Khi mô hình được xây có thể tối ưu trong việc Variance và Bias là nhỏ nhất thì đó là mô hình hoàn hảo.</p><p>2. Overfitting versus Generalization</p><p>Khi xây dựng mô hình ta luôn cần phải chú ý đến overfitting, đó là khi mô hình được xây quá chính xác trên tập train và kết quả trên tập test lại đem lại thấp. Ví dụ: Ta xây dựng mô hình dựa vào được điểm của một người và dự báo xem họ là nam hay nữ trên một nhóm 1000 người và phát hiện ra một số những đặc điểm quan trọng như: nữ giới thường mặc váy, tóc dài qua vai, sơn móng tay… Tuy nhiên khi áp dụng mô hình này trên nhóm 1000 người khác thì mô hình trên lại sai rất nhiều do nữ giới có thể mặc quần, tóc ngắn và không sơn móng tay… Mô hình trên đã bị overfitting do đã lấy những đặc điểm quá chi tiết.</p><p>Generalization là tính khái quát hóa của mô hình. Khi xây dựng mô hình thì mô hình cần có tính khái quát hóa này để không chỉ đúng trên tập train mà còn đúng trên cả tập test. Tuy nhiên một mô hình có tính khái quát cao lại đem lại kết quả không thực sự chính xác. Ví dụ: cũng từ mô hình trên đặc điểm để nhận ra nam giới đó chính là đi giày. Đặc điểm này mang tính khái quát cao do phần lớn nam giới sẽ đi giày tuy nhiên không thể phân loại rõ rệt nam và nữ do cả nam và nữ đề có thể đi giày.</p><p>Mô hình Machine Learning khi xây cần phải có overfitting thấp và generalization cao để đem lại kết quả tốt nhất.</p><p>3. Inference versus Prediction</p><p>Trong Machine Learning có một thuật ngữ là Black Box, nghĩa là những thuật toán không có khả năng giải thích. Ta chỉ việc cho tay vào hộp và có thể bốc ra kết quả là khách hàng là Nam hay Nữ và không thể giải thích được tại sao.</p><p>Luôn có sự đánh đổi giữa khả năng giải thích và tính chính xác của mô hình. Mô hình càng không thể giải thích được sẽ mang lại tính chính xác cao hơn so với những mô hình có thể giải thích được</p><p>4. U-shape</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/274/1*zBUZbWF1uyMzOWChmkWjNQ.png" /></figure><p>Đường màu xám đại điện cho độ chính xác của mô hình trên tập train. Khi mô hình Machine Learning trên tập train càng phức tạp thì Error sẽ giảm, tuy nhiên mô hình quá phức tạp sẽ dẫn tới việc overfitting. Tương tự đường màu đỏ là độ chính xác trên tập test, khi mô hình phức tạp sẽ làm giảm Error trên tập Test đến một mức độ nhất định rồi sẽ tăng trở lại do ảnh hưởng của overfitting như hình chữ U.</p><p>Một mô hình tối ưu sẽ là mô hình có mức độ phức tạp vừa đủ để có điểm min trên tập Test (chấm xanh da trời)</p><p>Như vậy các bạn đã có một cái nhìn tổng quan về Machine Learning và những định nghĩa cơ bản nhất khi xây dựng mô hình. Các bài viết tiếp theo tôi sẽ tập trung vào các thuật toán và ứng dụng trong lĩnh vực kinh tế.</p><p><strong>Đôi điều về blog</strong></p><p>Công việc liên quan đến dữ liệu đang làm ngành thu hút nhất trong kỉ nguyên mới kéo theo nhu cầu nhân lực về ngành Machine Learning ngày một tăng cao. Tuy nhiên các tài liệu về Machine Learning đang chủ yếu là tiếng Anh. Do vậy, tôi cũng muốn đóng góp một chút sức lực để gia tăng thêm những tài liệu tiếng Việt cho những bạn đang có nhu cầu tìm hiểu và đặc biệt là Machine Learning sử dụng ngôn ngữ R. Nhận thấy các bài viết về Machine Learning hiện tại đang rất thiên về mặt kĩ thuật hơi ít các ứng dụng thực tiễn. Các bài viết của tôi sẽ đưa ra góc nhìn tập trung sâu hơn về cách áp dụng Machine Learning vào kinh tế đặc biệt là lĩnh vực ngân hàng — lĩnh vực mà hiện tại tôi đang làm việc.</p><p>Các bạn đọc có câu hỏi hoặc đóng góp thì có thể liên hệ với tôi qua email: <em>thanhleo92@gmail.com</em></p><p><strong>References:</strong></p><p>Introduction to statistical learning: with application in R (2013)</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=92bfcdc4bf4e" width="1" height="1" alt="">]]></content:encoded>
        </item>
    </channel>
</rss>