<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Pattanadej Chaengsrisuk on Medium]]></title>
        <description><![CDATA[Stories by Pattanadej Chaengsrisuk on Medium]]></description>
        <link>https://medium.com/@pattanadej.cha?source=rss-44374bc717d2------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/0*l-WCRanz_z4p732Q</url>
            <title>Stories by Pattanadej Chaengsrisuk on Medium</title>
            <link>https://medium.com/@pattanadej.cha?source=rss-44374bc717d2------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Fri, 20 Nov 2026 04:19:20 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@pattanadej.cha/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[เปิดประสบการณ์การร่วมแข่งขัน Loan Prediction ของ Analytics Vidhya]]></title>
            <link>https://medium.com/@pattanadej.cha/%E0%B9%80%E0%B8%9B%E0%B8%B4%E0%B8%94%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%AA%E0%B8%9A%E0%B8%81%E0%B8%B2%E0%B8%A3%E0%B8%93%E0%B9%8C-loan-prediction-competition-%E0%B8%82%E0%B8%AD%E0%B8%87-analytics-vidhya-95b9095773e3?source=rss-44374bc717d2------2</link>
            <guid isPermaLink="false">https://medium.com/p/95b9095773e3</guid>
            <category><![CDATA[loan-prediction]]></category>
            <category><![CDATA[logistic-regression]]></category>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[random-forest]]></category>
            <category><![CDATA[xgboost]]></category>
            <dc:creator><![CDATA[Pattanadej Chaengsrisuk]]></dc:creator>
            <pubDate>Sat, 30 Apr 2022 10:42:45 GMT</pubDate>
            <atom:updated>2022-05-16T12:16:33.738Z</atom:updated>
            <content:encoded><![CDATA[<p>ออกตัวก่อนเลยว่าเราไม่ได้กำลังจะให้ recommended practices หรืออะไร เราไม่ได้ทำได้ขนาดนั้น คงได้แค่มาแชร์ว่าเราได้ทำอะไรไปบ้าง เพราะการได้ test score สูงสุด 78% ก็ยังไม่ใช่ผลที่จะเชิดหน้าชูตาอะไรได้ แม้ว่าจะลองทำหลายแนวทางก็ตาม แต่ก็นับเป็นประสบการณ์ที่ดีสำหรับหน้าใหม่อย่างเราที่ได้ร่วมการแข่งขันจริงในระดับนานชาติ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/682/1*DBJmlCjoWcvgyhvrGF1L3Q.jpeg" /><figcaption><a href="https://datahack.analyticsvidhya.com/contest/practice-problem-loan-prediction-iii/">https://datahack.analyticsvidhya.com/contest/practice-problem-loan-prediction-iii/</a></figcaption></figure><p>ส่วนตัวมองว่า loan prediction น่าจะเป็น dataset ที่เข้าขั้นคลาสสิคชุดหนึ่งสำหรับคนที่ศึกษา machine learning ได้เข้ามาทดสอบวิทยายุทธ์กัน บริบทของ dataset นี้คือข้อมูลของลูกค้าบุคคลที่ต้องการขอสินเชื่อ housing loan จากสถาบันการเงิน และมีโจทย์ให้สร้างโมเดลเพื่อใช้เป็น automated loan approval model โดยมี dataset ให้สองชุดได้แก่ train set จำนวน 614 แถวที่มาพร้อม label สำหรับเทรนโมเดล และ test set จำนวน 367 แถวสำหรับรันผล prediction ส่งขึ้นระบบคำนวณ accuracy score บนเว็บ Analytics Vidhya โดยข้อมูลที่เป็น feature มีทั้ง 12 คอลัมน์ และมีคอลัมน์ Loan_Status เป็น label ซึ่งจะมีให้เฉพาะใน train set</p><figure><img alt="คอลัมน์ต่างๆของ loan prediction dataset" src="https://cdn-images-1.medium.com/max/517/1*0Km6-lOdl9PaUsBC_oPapQ.jpeg" /><figcaption>คอลัมน์ของใน prediction dataset ซึ่งมีทั้ง categorical, ordinal และ numerical data</figcaption></figure><p><strong>Visualization</strong></p><p>เรามาเริ่มต้นด้วยการทำกราฟแสดงภาพรวมของชุดข้อมูลและความสัมพันธ์ของ feature ต่างๆกับ label ซักหน่อย เพราะชุดข้อมูลนี้มี feature อยู่ค่อนข้างมากและเราคิดว่าอาจต้องเลือก feature บางตัวออกไปจากโมเดลเพื่อให้ได้ผลคะแนนให้ดีขึ้น นั่นจึงเป็นคำถามหลักของเราในการทำ visualization ว่าแต่ละ feature จะมีทำผลต่อ loan approval อย่างไรบ้าง โดยจะใช้ bar plot สำหรับ feature ที่เป็น categorical data และ box plot สำหรับ numerical data</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/307/1*RI0xGJ_6RUevWFJKEERWEA.jpeg" /><figcaption>ข้อมูล Loan_Status ที่เป็น label ของเรา</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/565/1*DfUa3_otDTXD25cjjCYVFQ.jpeg" /></figure><p>ก่อนอื่นเรามาดู label ของเรา มี 2 คลาสคือ Y และ N ซึ่งหมายถึง loan approved และ loan rejected ใน dataset ชุดนี้มีคลาส Y มากกว่า ประมาณ 2.20 เท่าของ N ซึ่งเราประเมินว่าไม่ได้มากกว่ากันมากจนถือเป็น imbalanced data และต้องใช้เทคนิค oversampling หรือ undersampling</p><p>และจากกราฟของ feature ต่างๆ เราใช้แนวคิดง่ายๆว่าถ้า feature ใดมีความสัมพันธ์กับ loan approval มากก็น่าจะแสดงให้เห็นได้ด้วยความแตกต่างระหว่างกราฟรวมของข้อมูลทั้งหมดกับกราฟแสดงแยกตามกลุ่มที่ได้ approve และ reject ตัวอย่างเช่น ถ้า Gender มีความสำคัญมาก กราฟของ Male ก็น่าจะแสดง Y ในสัดส่วนที่มากกว่าหรือน้อยกว่ากราฟอย่างสังเกตได้</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/994/1*G26R6ZW4paNxAEHj1amnHA.jpeg" /><figcaption>เปรียบเทียบสัดส่วนกลุ่มที่แต่งงานแล้วและยังไม่แต่งงานที่ได้ approve และ reject</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1009/1*l2vcHsR2uRU1RUQ9uziLhQ.jpeg" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/912/1*upis7spwbkderklm3iwgDQ.jpeg" /><figcaption>เปรียบเทียบสัดส่วนจำนวน dependents ที่ได้ approve</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/991/1*Q1DzfyLz3b_NqcqyoyI-tg.jpeg" /><figcaption>เปรียบเทียบสัดส่วน Property_Area ที่ได้ approve และ reject</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/984/1*tzhm5N3A040_0MtIMUhhXQ.jpeg" /><figcaption>เปรียบเทียบสัดส่วน Credit_History ที่ได้ approve และ reject</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/986/1*isRjFs77lvjqlsVGXJ2yJg.jpeg" /><figcaption>boxplot ของ Loan_Amount รวมและแยกกลุ่มที่ได้ approve และ reject</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1017/1*FtVAz1juvAe_2PNUDi5K_Q.jpeg" /><figcaption>boxplot ของ Applicant รวมและแยกกลุ่มที่ได้ approve และ reject</figcaption></figure><p>และนี่คือสรุปข้อสังเกตในเบื้องต้นของที่เราได้จาก visualization</p><ul><li>ผู้กู้ที่แต่งงานแล้ว (married) ดูมีโอกาสจะได้ approve มากกว่าที่ยังไม่แต่งงาน</li><li>กรณีของจำนวน Dependents น่าสนใจตรงที่ผู้กู้ที่มี dependents 2 คน (โดยทั่วไปน่าจะหมายถึงมีลูก 2 คน) กลับเป็นกลุ่มที่มีสัดส่วนได้ approve สูงกว่ากราฟรวมทั้งหมด และสูงกว่ากลุ่มที่ไม่มี dependent เสียอีก</li><li>Credit_History น่าจะเป็นปัจจัยที่สถาบันการเงินให้ความสัมพันธ์มาก เพราะกราฟแสดงให้เห็นชัดเจนว่ากลุ่มที่มี Credit_History เป็น 1 (น่าจะหมายถึงมีสถานะปกติ) ได้ approve ค่อนข้างมาก ขณะที่ Credit_History เป็น 0 (น่าจะหมายถึงประวัติการชำระหนี้ไม่ดีนัก) แทบไม่ได้ approve เลย</li><li>กราฟของ Property_Area บ่งชี้ว่ากลุ่ม semiurban น่าจะเป็นทรัพย์สิน์ที่สถาบันการเงินชอบมากกว่า Urban และ Rural</li><li>Gender, Graduation และ Self_Employed ไม่น่ามีผลกับ loan approval มากนัก เพราะกราฟแยกกลุ่ม approve กับ reject ไม่ได้แสดงสัดส่วนของ Y และ N ที่แตกต่างกันมากระหว่าง Male/Female, Graduate/Not Graduate และ Yes/No มากเท่าไร</li><li>กลุ่มข้อมูล numerical data ทั้ง Applicant Income, Coapplication Income และ Loan Amount ที่เราคาดว่าน่าจะเป็นปัจจัยหลักที่นำมาพิจารณา แต่กราฟ box plot กลับไม่ได้แสดงให้ว่ากลุ่มที่ได้ approve มีระดับ Income หรือ Loan Amount แตกต่างจากกลุ่มที่ถูก reject ซึ่งเราคิดว่าอาจเป็นเพราะข้อมูลตัวเลขเหล่านี้ไม่ได้ถูกนำมาใช้โดยทันที</li></ul><p>แต่แม้ว่า visualization จะบ่งชี้ว่ามีหลาย feature ที่ไม่น่าจะมีความสำคัญเท่าไร และการทำ information กับ random forest feature importance ก็ให้ผลคล้ายกัน คือมีบาง feature ที่อาจจะตัดออกไปได้ แต่จากการทดลองหลายๆ combination ของ feature ต่างๆ กลับพบว่าการคง feature ส่วนใหญ่ไว้ก็ยังให้ผลที่ดีกว่าเล็กน้อย ซึ่งแสดงให้เห็นว่าเราไม่ควรจะใช้ผลจาก visualization หรือ feature selection เป็นข้อสรุปสุดท้ายในทันที</p><p><strong>Null Values</strong></p><p>ทั้ง train set และ test set ของ dataset นี้มี missing data อยู่พอสมควร และส่วนใหญ่ก็ขาดข้อมูลไปเพียง field เดียวเท่านั้น เรารู้สึกเสียดายข้อมูลมากเกินจะลบ rows ที่มี null values ทั้งหมด และจึงเลือกที่จะ fillna ข้อมูลส่วนใหญ่ อย่างไรก็ตาม สำหรับ Credit_History ที่ทั้ง visualization และ feature selection บ่งชี้ว่ามีน้ำหนักชี้ขาดผล loan approval ได้มากกว่า feature อื่นมากนั้น เราเลือกที่จะ drop null value แทนการ fillna ด้วยค่าที่ไม่ใช่ข้อมูลจริง (แต่ส่วน test set ก็ต้องใช้ fillna อยู่ดี เพราะคงไป drop ทิ้งไม่ได้)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/274/1*B_mLZQVBS19llwrhILYdKA.jpeg" /><figcaption>Null values ของ train data</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/504/1*m5QGk7wrqKkXrzcgDpF7RQ.jpeg" /></figure><p>ตัวเลือกที่จะใช้ fillna ข้อมูลที่ไม่ใช่ time series อย่างในกรณีนี้ ตัวเลือกที่เหมาะสมก็ได้แก่ mean, median และ mode และที่ทำให้ตง่ายเขึ้นไปอีกก็คือมีหลาย feature ที่เป็น categorical data ซึ่งคำนวณหา mean หรือ median ไม่ได้ และต้องใช้ mode เท่านั้น</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/813/1*_wL9qxD8iJLmTuQAmMk8sg.jpeg" /></figure><p>ส่วน numerical data ที่มี missing value ได้แก่ LoanAmount และ Loan_Amount_Term ซึ่งสามารถใช้ได้ทั้ง mean และ median ด้วยนั้น จาก visualization เราได้เห็นแล้วว่า LoanAmount มีข้อมูลที่เป็น outlier ค่อนข้างมาก ดังนั้นจึงเลือกใช้ median เพื่อเลี่ยงผลกระทบจาก outlier</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/677/1*YiTCc7OU6ebLWFsRypBCjQ.jpeg" /></figure><p>อย่างไรก็ตาม ในกรณี Loan_Amount_Term แม้ว่า data type จะี่เป็น numerical data แต่เรารู้ว่า Loan Term โดยทั่วไปจะกำหนดเป็นรอบเต็มปี (รอบ 12 เดือน) และลักษณะของข้อมูลค่อนข้างมีความเป็น ordinal อยู่ด้วย เราจึงเลือกใช้ mode แทน median เพื่อให้แน่ใจว่าค่าที่ใช้ fillna จะเป็นค่าที่มีอยู่จริงและสอดคล้องกับ nature ของข้อมูล</p><p><strong>Feature Engineering</strong></p><p>ในระหว่างการพัฒนาโมเดล เรา็ได้ศึกษาแนวทางของผู้เข้าแข่งขันคนอื่นๆที่ได้เขียนบทความไว้และนำมาทดลองปรับใช้ ประกอบกับประสบการณ์ใน real world ของเราที่บอกว่าสถาบันการเงินจะเลือกปล่อยกู้ให้กับผู้กู้ที่คาดว่าจะชำระคืนเงินกู้ได้ตามกำหนด โดยพิจารณาระดับรายได้ จำนวนภาระหน ี้และความสามารถในการชำระหนี้เป็นปัจจัยสำคัญ เราได้สร้าง numerical feature เพิ่มขึ้นอีกจำนวนหนึ่งจากการนำ ApplicantIncome, CoapplicantIncome, LoanAmount และ Loan_Amount_Term มาคำนวณ ซึ่งเราประเมินว่าน่าจะมากพอให้เราค้นพบ feature ที่สำคัญต่อ loan approval</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/855/1*zirm02nCsHIEjFwPsbXbzg.jpeg" /><figcaption>Numerical features ที่คำนวณจาก ApplicantIncome, CoapplicantIncome, LoanAmount และ Loan_Amount_Term</figcaption></figure><ul><li><strong>TotalIncome</strong> ได้แก่รายได้รวมของผู้กู้และผู้กู้ร่วม ซึ่งเรา assume ว่าเป็นรายได้ต่อเดือน</li><li><strong>Installment</strong> เป็นค่าประมาณยอดเงินต้นที่ต้องผ่อนชำระต่อเดือน โดยหาร LoanAmount ด้วย Loan_Amont_Term หน่วยเป็น thousand เช่นเดียวกับ LoanAmount</li><li><strong>DebtCoverage</strong> เป็นอัตราส่วนของ TotalIncome ต่อ Installment ซึ่งแสดงให้ว่ารายได้รวมของผู้กู้มีสัดส่วนเป็นเท่าไรของภาระหนี้ที่ต้องผ่อนชำระ ซึ่งบ่งชี้ความสามารถในการชำระหนี้ได้ระดับหนึ่ง โดยผู้กู้ที่มีรายได้รวมสูงเมื่อเทียบกับยอดผ่อนชำระของตนเองก็น่าจะชำระหนี้ได้ดี</li><li><strong>ResidualIncome</strong> หมายถึงรายได้ส่วนที่เหลือหลังจากชำระคืนเงินกู้แล้ว ซึ่งมาจาก asuumption ว่าผูู้กู้ที่มีรายได้หลังชำระเงินกู้มากกว่าก็จะสามารถไปใช้จ่ายเพื่อการดำเนินชีวิตและในด้านอื่นๆได้มากกว่า น่าจะช่วยให้มีความพร้อมหรือเต็มใจจะจ่ายคืนเงินกู้มากกว่า</li><li><strong>RI_Ratio</strong> เป็นการต่อยอดนำ ResidualIncome มาคิดอัตราส่วนเทียบกับ Installment เพิ่มไปอีกขั้น เป็น feature ที่รวมเอารายได้และภาระหนี้มาคำนวณรวมกันเช่นเดียวกับ DebtCoverage</li></ul><p>และเช่นเดียวกับ feature เดิมที่มากับ dataset เราลองทำ visualization ดูด้วยว่าแต่ละ feature ที่คำนวณขึ้นมาใหม่จะมีความสัมพันธ์กับ label อย่างไรบ้าง</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1005/1*SEekFV7_tW3DKCnUF5WS3A.jpeg" /><figcaption>Total Income</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/983/1*gEcY7XcXCj57_Nb9xVD2TA.jpeg" /><figcaption>Installment</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1010/1*HGfZ05cSJFQZ8Czul2Iv7A.jpeg" /><figcaption>Residual Income</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1001/1*Wkva8Cg6X9m2UtQDdg_43g.jpeg" /><figcaption>RI_Ratio</figcaption></figure><p>จากการกราฟของแต่ละ feature เราค่อนข้างแปลกใจอยู่ใจอยู่เหมือนกันว่าทำไมถึงไม่มี feature ไหนที่แสดงให้เห็นความแตกต่างระหว่างกลุ่มที่ได้ approve กับ reject อย่างขัดเจนเลย แล้วเราจะเลือกใช้ feature อย่างไรดีล่ะ</p><p>มาถึงตรงนี้ เราคิดว่าคงไม่มีทางเลือกเท่าไรนอกจากจะทดลองเทรนโมเดลด้วยชุด combination ของ feature ต่างๆ และวัดกันด้วยผล prediction ให้เห็นกันชัดๆไปเลยว่า feature ใดบ้างที่ให้ผลที่ดีที่สุด ซึ่งได้ผลลัพธ์ว่าการใช้ TotalIncome และ Installment แทน ApplicantIncome, CoapplicantIncome, LoanAmount และ Loan_Amount_Term เป็นคู่ที่ให้ผลดีที่สุด</p><p><strong>Removing outliers</strong></p><p>เราได้เห็นจาก boxplot แล้วว่า numerical feature แต่ละอย่าง รวมทั้งที่สร้างขึ้นมาเพิ่มนั้นมี outliers อยู่พอสมควร ในการทดลองเทรนโมเดลแต่ละครั้ง เราจึงได้ลบค่า outlier ของ feature นี้ออกไปก่อนทุกครั้ง โดยใช้ค่า upper และ lower ที่คำนวณจาก Interquartile Range (IQR) มาเป็นเกณฑ์ อย่างไรก็ตาม จำนวน row ที่มีค่าสูงเกินกว่า upper ก็มีจำนวนค่อนข้างมาก เราจึงเลือกลบออกไปเพียงบางส่วน เพื่อไม่ให้มีข้อมูลสำหรับ train set และ validation set เหลือน้อยจนเกินไป</p><p>นี้เป็นการจัดการกับ outlier ของ TotalIncome และ Installment ที่เราเลือกใช้ในโมเดลสุดท้าย โดยเริ่มจาก TotalIncome ก่อน</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/428/1*083-jjqNa_5My1OJuv3fqg.jpeg" /><figcaption>histogram ของ TotalIncome ก่อนลบ outlier</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/360/1*GVocQir95k-gyorZFDAmXQ.jpeg" /><figcaption>IQR ของ TotalIncome ก่อนลบ outlier</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/590/1*_g1jxxXozWMfRM3iSNAeaQ.jpeg" /><figcaption>จำนวน row ที่มีค่า outlier ของ TotalIncome</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/593/1*-JeptMllQ7a6hiLQuVUgpg.jpeg" /><figcaption>เลือกลบ row ที่มีค่า TotalIncome สูงเกิน 120% ของ upper ซึ่งมีถึง 31 row ที่ถูกลบออกไป</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/416/1*OfOgHJWmJcU4V8QnlWm6rg.jpeg" /><figcaption>histogram ของ TotalIncome หลังลบ outlier ออกไปบางส่วน</figcaption></figure><p>เราทำขั้นตอนเดียวกันนี้กับ Installment ด้วย หลังจากลบ outlier แล้ว การกระจายตัวของข้อมูลก็เข้าใกล้ normal distribution มากขึ้นเช่นเดียวกับ TotalIncome</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/575/1*lH1JvrUoEp-mDcmotcTUcg.jpeg" /><figcaption>จำนวน row ที่มีค่า outlier ของ Installment</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/424/1*w0J-ptxJZp3ZY4ZuEEwdfw.jpeg" /><figcaption>histogram ของ Installment หลังลบ outlier ออกไปบางส่วน</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/598/1*cclr9zQWUxiwSihXqXp_NA.jpeg" /><figcaption>จำนวนข้อมูลใน dataset หลังจากลบ outlier ของ Installment ออกไปอีก 19 rows</figcaption></figure><p>หลังจากลบ null value ของ Credit_History และ outliers ของ TotalIncome และ Installment ออกไป dataset ของเรามีข้อมูลเหลืออยู่ 514 rows รวมแล้วมีข้อมูลที่ถูกลบออกไป 100 rows ประมาณ 16.3% ของข้อมูลเดิม ซึ่งเราประเมินว่าเป็นต้นทุนที่มากพอสมควรแล้วสำหรับการแก้ปัญหา null value และ outliers</p><p><strong>Feature Selection</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ds3cmVUN9ZC9lk_1RsfZDg.jpeg" /><figcaption>feature ที่เลือกใช้ในโมเดลสุดท้าย</figcaption></figure><p>ในโมเดลสุดท้าย เราใช้ 9 feature ทั้ง Gender, Married, Dependents, Education, Self_Employed, Credit_History, Property_Area, TotalIncome และ Installment มาเทรนโมเดล ดังที่ได้กล่าว้ไปว่าแม้ visualization และ Random Forest’s Feature Importance กับ Mutual Information จะบ่งชี้ว่าบาง feature อาจจะตัดออกไปได้ แต่เราก็พบว่าการคง Gender, Married, Dependents, Education, Self_Employed และ Property_Area ไว้ยังให้ผลที่ดีกว่า ส่วน ApplicantIncome, CoapplicantIncome, LoanAmount และ Loan_Amount_Term แทนด้วย TotalIncome และ Installment (Credit_History ได้ importance score สูงโดดจาก feature อื่นๆ ซึ่งก็สอดคล้องกับ visualization แต่ก็ไม่ใช่จะตัด feature อื่นๆออกไปหมดได้)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Y4s_x-O-5Z1d4QheELZMaw.jpeg" /><figcaption>Random Forest’s Feature Importance</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/559/1*jmnVnFkvG_rDmZyKwWwqSg.jpeg" /><figcaption>Mutual Information</figcaption></figure><p><strong>Train-Test Split</strong></p><p>สำหรับการแบ่งข้อมูลเพื่อ train และ validate โมเดล เราได้ทดลองแบ่งข้อมูลเป็น validation set ตั้งแต่ 20%-40% และได้ผลว่าการแบ่ง 25% โดย stratify ค่า label ให้มีสัดส่วนเท่าๆกันด้วยเป็นทางเลือกที่ให้ผลดีที่สุด (ทีแรกเราใช้คำว่า test set และเลือกเปลี่ยนเป็น validation set เพื่อไม่ให้สับสนกับข้อมูล test set จริงที่จะใช้ predict)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*uooNzWovezjIrCClQO9sCQ.jpeg" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/538/1*Q4aRLudXsCT31y5QXtTKFQ.jpeg" /><figcaption>จำนวนข้อมูล train set และ validation set ที่ test_size = 25%</figcaption></figure><p><strong>Encoding</strong></p><p>เนื่องจาก dataset ชุดนี้มี feature ค่อนข้างมากและมีครบทั้ง categorical data, ordinal data และ numerical data และตัว label ก็เป็น categorical data จึงจำเป็นต้องแปลง categorical data และ ordinal data ให้เป็นตัวเลขก่อนเข้าโมเดล ซึ่งจะเป็นขั้นตอน pre-processing ที่เราใช้กับทั้ง train set และ validation set สำหรับเทรนโมเดล และ test set สำหรับผล prediction</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/273/1*IpXmGLIPR2XIaMmk9YtNSQ.jpeg" /><figcaption>data type ของแต่ละ feature ที่เลือกใช้</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/520/1*7DtDsDeVY8rApyNAZ1LUBg.jpeg" /><figcaption>เก็บค่า unique value ของแต่ละ feature และ label ไว้ทำ encode</figcaption></figure><p>แม้ว่า feature ส่วนใหญ่จะเป็น categorical data แต่ก็มี unique value แค่ 2 ค่า เราจึงเลือกใช้ ordinal encoding ซึ่งให้ผลออกมาเป็น 1 กับ 0 ไม่ต่างกับ one-hot encoding อย่างไรก็ตาม สำหรับ Property_Area ซึ่งมี unique value 3 ค่า ในท้ายที่สุดเราตัดสินใจเลือกใช้ one-hot encoding ซึ่งน่าจะเหมาะสมกว่าการแปลงค่าออกมาเป็น 0, 1 และ 2 และจริงๆแล้วมีแค่ Dependents เพียงอย่างเดียวที่เรามองเป็น ordinal data</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*8MgJ5kpVBSbqja-pezETFw.jpeg" /><figcaption>ordinal encoding และ one-hot encoding</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*cOaPZIC7AEUIIfyT5cdJGA.jpeg" /><figcaption>train set หลังทำ encoding เปลี่ยนเป็น numerical และพร้อมเข้าโมเดล ซึ่งทั้ง validation set และ test set ก็ถูกแปลงเป็นแบบนี้เช่นเดียวกัน</figcaption></figure><p><strong>Training Model</strong></p><p>มาถึงขั้นการเทรนโมเดล เราเริ่มต้นจากทดลองใช้ ensemble model ทั้ง Bagging, Random Forest, AdaBoost, GradientBoost และ XGBoost ที่คิดว่าน่าจะให้ผลที่ดี และก็ได้ว่า Random Forest และ XGBoost ให้ validation score ดีกว่า ensemble model อื่นๆ อย่างไรก็ตาม ต่อมาเราพบว่าก็มีบางบทความที่ใช้ Logistic Regression และได้ผลที่ดีอยู่เหมือนกัน จึงได้ทดลองบ้างและก็ปรากฎว่าได้ผลคู่คี่สูสีกับ Random Forest และ XGBoost ทีเดียว</p><p>ในตอนที่เราทดลองสลับ combination ของ feature ต่างๆ จึงลองเทรนและ predict ด้วยทั้ง 3 โมเดล นอกจากนั้นใน Random Forest และ XGBoost เราได้ทดลองจูน hyperparameter ทั้ง n_estimator, max_features, max_depth และ learning rate และเลือกใช้ hyperparameter ชุดที่ให้ validation score ดีที่สุด ส่วน Logistic Regression เราเลือกใ้ช้บริการของ GridsearchCV และนี่คือโมเดลที่เราใช้ในรอบสุดท้าย</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/789/1*XTnze8nZsa6ZHhdfqVIC6A.jpeg" /><figcaption>Random Forest</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/996/1*ka_4tqGS3y5_F1RN0mbUzA.jpeg" /><figcaption>XGBoost</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/558/1*UFj3L2facWJcpzO2uje-Yg.jpeg" /><figcaption>Logistic Regression</figcaption></figure><p><strong>Pre-process Test Set</strong></p><p>ก่อนจะทำผล prediction จากโมเดลที่เทรนไว้ เราต้องทำ preprocess ตัว test set ด้วยขั้นตอนเดียวกับ train set ได้แก่ การ fillna ด้วย mode และ median, การสร้าง numerical feature เพิ่มเติม และการ encode ให้เป็น numerical</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/566/1*CTDFgVVIPqS2iTh_e2R5mw.jpeg" /><figcaption>การเตรียม test set ก่อนเข้าโมดล</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/777/1*tlRU2vGmGdFwlnGnlxVRpA.jpeg" /><figcaption>test data หลัง pre-process และพร้อมทำ prediction</figcaption></figure><p><strong>Prediction</strong></p><p>เรารันผล prediction ด้วยโมเดล Random Forest, XGBoost และ Logistic Regression ที่เทรนไว้ (ทำขั้นตอนเหมือนกัน) จะได้ผลออกมาเป็นค่า 0 กับ 1 ซึ่งต้องแปลงกลับเป็น Y กับ N และ export เป็นไฟล์ csv สำหรับ submit บนเว็บ Analytics Vidhya ตามรูปแบบกำหนด</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/287/1*4Xs1NPkDQ2I83a0Q3mkDYw.jpeg" /><figcaption>การทำ prediction และแปลงให้อยู่ในรูปแบบไฟล์ submission ที่กำหนด</figcaption></figure><p>แม้ว่าผลรอบสุดท้ายของเรา Logistics Regression ได้ test score สูงสุด 78.47%, ตามมาด้วย XGBoost 77.78% และ Random Forest ได้ 76.39% แต่จริงๆแล้วในการ submission แต่ละรอบของเรา ได้ผล prediction ทั้ง 3 โมเดลออกมาใกล้เคียงกันมาก และก็สลับกันมากกว่า-น้อยกว่า จนเราคิดว่าไม่ควรจะสรุปไปชัดเจนว่าโมเดลไหนดีกว่ากันสำหรับชุดข้อมูลนี้</p><p><strong>Conclusion</strong></p><p>นี่เป็นครั้งแรกของเราที่ได้ร่วมการแข่งขันสร้างโมเดล machine learning จริงในระดับนานาชาติ และพอสัมผัสได้ว่าคนจากหลายๆประเทศได้พัฒนาทักษะความรู้ในสายนี้ไปไกลมาก เราคงยังรู้สึกไม่พอใจกับผลที่ได้เท่าไร เพราะเห็นใน Leaderboard แล้วว่ามีคนทำ accuracy ได้เต็ม 100% อยู่หลายคน น่าทึ่งมากๆ และที่ได้เกิน 80% ก็มีอีกนับพันคน</p><p>แต่ก็ต้องบอกว่าครั้งนี้เราได้ศึกษาผลงานของผู้เข้าแข่งขันอื่นเท่าที่มีเขียนบทความไว้พอสมควรและลองทำไปหลายแนวทางแล้ว และด้วยข้อจำกัดของเวลาเราคงต้องขอยอมรับผลนี้ไปก่อน อย่างไรก็ตาม แนวทางที่คิดได้ในตอนนี้และอาจได้ลองทำในอนาคตก็ได้แก่การนำ dimension reduction และ unsupervised clustering มาช่วยพิจารณา รวมถึง classification model อื่นๆที่ยังไม่ได้ใช้ในรอบนี้</p><p><strong>Reference</strong></p><ul><li><a href="https://dev.to/mage_ai/loan-prediction-2585">Loan prediction</a></li><li><a href="https://towardsdatascience.com/ml-basics-loan-prediction-d695ba7f31f6">ML Basics : Loan Prediction</a></li><li><a href="https://deepnote.com/@rhishab-mukherjee/Loan-Prediction-Project-TermPaper-54f48ea6-2cb0-4aee-8565-e3767caf1fba">Loan Prediction Project TermPaper</a></li><li><a href="https://medium.com/devcareers/loan-prediction-using-selected-machine-learning-algorithms-1bdc00717631">Loan Prediction Using selected Machine Learning Algorithms</a></li><li><a href="https://www.analyticsvidhya.com/blog/2022/02/loan-approval-prediction-machine-learning/">Loan Approval Prediction Machine Learning - Analytics Vidhya</a></li><li><a href="https://towardsdatascience.com/predict-loan-eligibility-using-machine-learning-models-7a14ef904057">Predict Loan Eligibility using Machine Learning Models</a></li></ul><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=95b9095773e3" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[สำรวจปัจจัยที่ผลต่อค่าตอบแทนงานสาย Data ด้วย Regularized Linear Regression Model]]></title>
            <link>https://medium.com/@pattanadej.cha/%E0%B8%AA%E0%B8%B3%E0%B8%A3%E0%B8%A7%E0%B8%88%E0%B8%9B%E0%B8%B1%E0%B8%88%E0%B8%88%E0%B8%B1%E0%B8%A2%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%9C%E0%B8%A5%E0%B8%95%E0%B9%88%E0%B8%AD%E0%B8%84%E0%B9%88%E0%B8%B2%E0%B8%95%E0%B8%AD%E0%B8%9A%E0%B9%81%E0%B8%97%E0%B8%99%E0%B8%87%E0%B8%B2%E0%B8%99%E0%B8%AA%E0%B8%B2%E0%B8%A2-data-%E0%B8%94%E0%B9%89%E0%B8%A7%E0%B8%A2-regularized-linear-regression-model-f239203ee9df?source=rss-44374bc717d2------2</link>
            <guid isPermaLink="false">https://medium.com/p/f239203ee9df</guid>
            <category><![CDATA[regularized-regression]]></category>
            <category><![CDATA[data]]></category>
            <category><![CDATA[linear-regression]]></category>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[data-science]]></category>
            <dc:creator><![CDATA[Pattanadej Chaengsrisuk]]></dc:creator>
            <pubDate>Fri, 17 Dec 2021 14:22:08 GMT</pubDate>
            <atom:updated>2021-12-17T14:31:33.486Z</atom:updated>
            <content:encoded><![CDATA[<p>สายงาน data กำลังมีความสำคัญเพิ่มขึ้นต่อองค์กรต่างๆ ด้วยการพัฒนาเทคโนโลยีอินเตอร์เน็ตและสมาร์ทดีไวซ์ ช่วยให้การทำกิจกรรมต่างๆย้ายขึ้นมาบนออนไลน์และกลายเป็นแหล่งข้อมูลดิจิตอลขนาดมโหฬาร เป็นสภาพแวดล้อมที่เอื้อต่อแนวคิดการใช้ data-driven decision มาแทนที่การตัดสินใจด้วย gut feeling และหนุนให้บทบาทของผู้เชี่ยวชาญสายดาต้าเด่นชัดขึ้น พร้อมกับทำให้ตำแหน่งงานในสายนี้มีค่าตอบแทนที่ดึงดูดในเพิ่มขึ้นไปด้วย</p><p>ในบทความนี้จะขอนำเสนอการวิเคราะห์ปัจจัยที่ผลต่อค่าตอบแทนงานสายดาต้าด้วยชุดข้อมูล Data Science Jobs Salaries ที่เป็น public dataset จากเว็บไซต์ Kaggle (<a href="https://www.kaggle.com/saurabhshahane/data-science-jobs-salaries">https://www.kaggle.com/saurabhshahane/data-science-jobs-salaries</a>) โดย ใช้โมเดล Regularized Linear Regression Model ได้แก่ Ridge Regression และ Lasso Regression</p><p>คำถามหลักของเราคือในชุดข้อมูลนี้มี feature อะไรบ้างที่เป็นปัจจัยที่สำคัญและมีความสัมพันธ์อย่างไรต่อค่าตอบแทนของงานสายดาต้า ซึ่งพิจารณาว่าจะสามารถอธิบายได้ด้วย coefficient ของ feature ต่างๆ ทั้งขนาดและทิศทางของความสัมพันธ์</p><p>ความน่าสนใจอีกอย่างของ dataset ชุดนี้คือประกอบด้วย feature ค่อนข้างหลากหลาย ทั้ง ordinal, nominal, discrete และ continuous variables ซึ่งทำให้ต้องใช้การทำ preprocessing ที่แตกต่างกันเข้ามาเตรียมข้อมูลก่อนเข้าโมเดล</p><p><strong>Dataset</strong></p><p>Dataset ชุดนี้มีข้อมูลทั้งหมด 245 แถว 11 คอลัมน์ ได้แก่</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/653/1*H3iirsjpirA8fZ4O4KCdag.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/703/1*SfsRFbeI8ijU0Lp3CuWqAA.png" /><figcaption>ตัวอย่างข้อมูลใน dataset</figcaption></figure><p><strong>EDA &amp; Visualization</strong></p><p>dataset ชุดที่ถูกนำมาเผยแพร่นี้มีความสมบูรณ์ แต่ไม่มีคอลัมน์ที่มี null value เลย จึงไม่มีแถวใดที่ต้องลบออกไปเพราะข้อมูลไม่ครบถ้วน</p><p>จากการคำถามหลักของเราที่สนใจปัจจัยที่มีผลกับเงินเดือน เราจึงเลือกใช้ salary_in_usd เป็น target สำหรับวิเคราะห์ ขณะที่ข้อมูลในคอลัมน์ salary ไม่สามารถนำมาเปรียบเทียบกันได้โดยตรง เพราะอยู่ในคนละ currency</p><p>ในส่วน feature เราเลือกตัด work_year ออกไป เนื่องจากพิจารณาว่าใน dataset นี้มีข้อมูลเพียงแค่ปี 2020–2021 เท่านั้น ไม่มากพอที่จะใช้วิเคราะห์ในเชิง time series ดังนั้น features ของเราจึงมี 7 varibles ได้แก่ experience_level, employment_type, job_title, employee_residence, remote_ratio, company_location และ company_size</p><p>เราพล็อตกราฟข้อมูล salary_in_usd ทั้งในภาพรวม และโดยแยกตาม variable ต่างๆ เพื่อตรวจดูลักษณะการกระจายของข้อมูลและแนวโน้มความสัมพันธ์ในเบื้องต้น</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/635/1*Rh6CitSL9wcc_8wDkU92ig.png" /><figcaption>ภาพรวมของ target</figcaption></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/666/1*OBEcFTzkF2e0DA7oJtpnUQ.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/660/1*pkRl1beF3c7aX65MfsdDHQ.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/669/1*tq2ddrJxexJz_E4zz_S9HA.png" /></figure><p>จากการพล็อตกราฟ เราพบว่าข้อมูลใน target บางส่วนเป็น outlier มีค่าสูงเกินกว่าค่าเฉลี่ยและขอบบนของ boxplot ไปค่อนข้างมาก จนอาจทำให้การวิเคราะห์คลาดเคลื่อน จึงนำคอนเซ็ปของ Interquartile range (IQR) มาเป็นเกณฑ์พิจารณา และเลือกลบค่า target ที่สูงกว่า upper ซึ่งถือเป็น outlier โดยมีข้อมูล 10 row ที่ถูกลบออกไป ทำให้เหลือข้อมูล 235 row สำหรับเข้า model</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/676/1*09SfQArhml_I-i8mAQhqXw.png" /></figure><p>นอกจากนั้น เราพิจารณาว่าข้อมูล job_title มีข้อมูล unique ถึง 41 ค่า และมีบาง job_title ที่มีความหมายใกล้เคียงกันมาก แต่ถูกแยกออกเป็นคนละค่า เพราะเขียนไม่เหมือนกัน จึงเห็นควรแทนค่าด้วย job_title ที่ใกล้เคียงกันดังนี้ เพื่อให้ job_title แต่ละค่ามีจำนวนข้อมูล (count) เพิ่มขึ้นสำหรับการวิเคราะห์ ซึ่งภายหลังการแทนค่าข้อมูลดังนี้ จำนวนข้อมูล unique ของ job_title ลดลงเหลือ 37 ค่า</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/414/1*nbGCSaRDvZVwbOgD33ENxg.png" /></figure><p><strong>Preprocessing</strong></p><p>เนื่องจาก feature ของเรามีทั้งที่เป็น ordinal, norminal และ discrete variable จึงยังไม่สามารถนำมาเข้าโมเดล machine learning ได้ในทันที และต้องการการทำ preprocessing ที่แตกต่างกัน ในกรณีนี้เราจึงเลือกใช้ ordinal encoder และ one-hot encoder สำหรับ ordinal variable และ nominal variable ตามลำดับดังตารางนี้ ในส่วน remote_ratio เป็น discrete numeric ที่สามารถใช้คำนวณได้เลย จึงไม่ encode อีก เพื่อให้มีการประมวลผลเท่าที่จำเป็น</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/454/1*jhLHxhtGT10sW-T5ktW-wA.png" /></figure><p>ซึ่งจากการแยกทำทั้ง ordinal encoder และ one-hot encoder ด้วย column transformer ตามข้างต้น ทำให้จำนวน feature ที่จะนำเข้าโมเดลเพิ่มขึ้นเป็น 130 คอลัมน์ ซึ่งเท่ากับผลรวมจำนวน feature ที่เป็น oridinal variable และ discrete และจำนวนค่า unique ทั้งหมดของ nominal variables</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/618/1*a-Vw6iDyS92gMktuORLsNg.png" /></figure><p>ทั้งนี้ ในส่วนค่าพารามิเตอร์ categories ที่ใช้ใน encoder เราใช้ unique value ของ dataset ทั้งหมดก่อนแบ่ง training data และ test data เพื่อให้มี encoded feature ที่ครอบคลุม test data และสามารถทดสอบโมเดลได้</p><p><strong>Model Selection &amp; Result</strong></p><p>เนื่องจาก taget ของเราคือ salary_in_usd มีลักษณะเป็น continuous variable ดังนั้นโมเดลที่เลือกใช้จึงเป็น linear regression ซึ่งในที่นี้เราเลือกใช้ทั้ง linear regression, ridge regression และ lasso regression และใช้ GridSearchCV โดยกำหนดให้ทำ 10-fold cross-validation กับโมเดลทั้ง 3 แบบ</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/491/1*XddtaQbqtvpqr34ab-R6eA.png" /></figure><p><strong>การวิเคราะห์ผล</strong></p><p>จากการทำ encode ตัวแปร ordinal และ nominal ทำให้เราได้ค่า coeffcient จาก regression model มากถึง 130 ค่า เท่ากับจำนวน encoded features (ridge และ lasso อย่างละ 130 ค่า) ซึ่งคงเป็นการยากที่จะให้ความสนใจกับทุกค่า อย่างไรก็ตาม ด้วยคุณลักษณะของ ridge และ lasso ที่มีแนวโน้มจะลดทอนน้ำหนักของ feature ที่ไม่มีความสัมพันธ์ที่ชัดเจนกับ target ให้ยิ่งน้อยลงไปอีก จึงช่วยให้ขนาดของค่า coefficient มีความแตกต่างกันมากเพียงพอที่เราจะเลือกสนใจเฉพาะบางรายการเท่านั้น</p><p>นอกจากนั้น ทั้ง ridge และ lasso ค่อนข้างจะให้ค่า coefficient แก่ features หลายรายการไปในทางเดียวกัน โดย feature ที่มีค่า ridge coefficient สูง (โดยเปรียบเทียบ) ก็จะมี lasso coefficient สูงไปด้วย (และไปในทาง positive หรือ negative ตรงกัน) ซึ่งเป็นการช่วยยืนยันความสำคัญของแต่ละ feature</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/683/1*turqyY1XauK5FkgSf1896g.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/665/1*rWG_EuANoguPlDThkhRcMg.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/662/1*T9FcSCwkxMGU0bwax3YHPg.png" /></figure><p>เนื่องจากค่อนข้างชัดเจนว่ามี encoded features เพียงจำนวนหนึ่งที่มีขนาดของ coefficient ที่มากกว่า feature อื่นอย่างชัดเจน เราจึงเลือกเอา encoded features ที่มีค่า absolute ของ coefficient สูงที่สุด 20 อันดับแรกของ ridge และ lasso ขึ้นมาพิจารณาต่อ ซึ่งผลที่ได้ของ ridge และ lasso ค่อนข้างใกล้เคียงกัน</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/678/1*P-fymPD_iPIlqIICJsT8Ew.png" /></figure><p>ดังนั้นจากการวิเคราะห์ปัจจัยที่ผลต่อค่าตอบแทนงานสายดาต้าจากชุดข้อมูล Data Science Jobs Salaries ด้วยโมเดลดังกล่าว เราพอจะอธิบายสิ่งที่ค้นพบได้ดังนี้</p><p>1) พบว่าปัจจัยที่มีผลต่อค่าตอบแทนของงานสายดาต้าอย่างมีนัยสำคัญ ได้แก่ experience level, employment type, job title, company location และ employee residence ขณะที่ remote ratio ไม่ได้มีความสำคัญมากนัก</p><p>2) experience level มีความสัมพันธ์เชิงบวกกับค่าตอบแทน ซึ่งหมายถึงประสบการณ์ทำงานในระดับที่สูงขึ้นช่วยให้มีค่าตอบแทนที่สูงขึ้น</p><p>3) การจ้างงานแบบ full-time มีความสัมพันธ์เชิงบวกกับค่าตอบแทน ขณะที่การจ้างงานแบบ contract, part-time และ freelance ซึ่งอาจตีความได้ว่าการจ้างงานแบบ full-time จะช่วยให้ได้ค่าตอบแทนสูงกว่าการจ้างงานในลักษณะอื่น</p><p>4) ความสัมพันธ์ของ Job title กับค่าตอบแทน พิจารณาได้ว่าค่อนข้างสอดคล้องกับ experience level โดยตำแหน่งงานเป็นระดับบริหารหรือผู้เชี่ยวชาญระดับสูง เช่น ตำแหน่ง Director, Head, Lead และ Principle จะมี positive coefficient และตำแหน่งงานในระดับปฏิบัติและผู้บริหารระดับกลางจะเป็น negative ขณะที่ตำแหน่งงานในสาขาย่อยที่แตกต่างกัน ได้แก่ data engineering, data analysis และ data science ไม่ได้มีความแตกต่างอย่างชัดเจน ยกเว้นตำแหน่ง cloud data engineer ที่น่าจะมีค่าตอบแทนโดดเด่นกว่าสาขาย่อยอื่นๆ</p><p>5) ในด้านประเทศที่ทำงาน การทำงานสาย data ใน USA, UK และ France มีส่วนช่วยให้มีค่าตอบแทนที่สูงขึ้นอย่างชัดเจน แต่ในกรณีของ Brazil จะเป็นในทางตรงกันข้าม และการทำงานในประเทศอื่นไม่ได้ทำให้มีความแตกต่างอย่างมีนัยสำคัญ</p><p>ส่วนประเทศที่อยู่อาศัย ก็ค่อนข้างสอดคล้องกับประเทศที่ทำงาน โดย USA เป็นทั้งประเทศที่ทำงานและที่พักอาศัยที่ช่วยสนับสนุนการทำงานในสายดาต้า</p><p>ส่วน Puerto Rico ที่ปัจจุบันมีสถานะเป็นมลรัฐหนึ่งของ USA เมื่อเปรียบเทียบกับประเทศอื่นใน dataset นี้ จึงอาจเป็น employee residence ที่มีความได้เปรียบที่สุดที่จะเข้าไปทำงานใน USA เช่นเดียวกับการพักอาศัยใน Canada และเข้าไปทำงานใน USA</p><p>ขณะที่ Jersey เป็นเกาะขนาดเล็กบริเวณใกล้ชายฝั่งทางด้านใต้ของเกาะ UK (บริเวณช่องแคบอังกฤษ) และ Germany ก็ตั้งอยู่ใจกลางของทวีปยุโรปซึ่งมีเครือข่ายการเดินทางที่สะดวกรวดเร็ว และมีพรมแดนติดกับ France และอยู่ไม่ไหลจาก UK ในทางปฏิบัติจึงน่าจะมีความได้สะดวกในการเข้าไปทำงานใน France หรือ UK มากกว่าผู้ที่พักอาศัยที่อื่น เช่นเดียวกับกรณีพักอาศัยใน Puerto Rico และ Canada และเข้าไปทำงานใน USA</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=f239203ee9df" width="1" height="1" alt="">]]></content:encoded>
        </item>
    </channel>
</rss>