<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Feliks VP Samosir on Medium]]></title>
        <description><![CDATA[Stories by Feliks VP Samosir on Medium]]></description>
        <link>https://medium.com/@feliksmakarios?source=rss-60752bf53018------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/1*ut4xq5xSYxU--ZmjmPMDHQ.jpeg</url>
            <title>Stories by Feliks VP Samosir on Medium</title>
            <link>https://medium.com/@feliksmakarios?source=rss-60752bf53018------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Sun, 22 Nov 2026 18:10:50 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@feliksmakarios/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[Panduan Esensial Analisis Data: Memahami Metode, Etika, dan Sumber Dataset Terbuka]]></title>
            <link>https://medium.com/@feliksmakarios/panduan-esensial-analisis-data-memahami-metode-etika-dan-sumber-dataset-terbuka-ee7ab487fd96?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/ee7ab487fd96</guid>
            <category><![CDATA[etika-digital]]></category>
            <category><![CDATA[open-data]]></category>
            <category><![CDATA[artificial-intelligence]]></category>
            <category><![CDATA[data-collection]]></category>
            <category><![CDATA[data-analysis]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Sat, 29 Aug 2026 09:32:28 GMT</pubDate>
            <atom:updated>2026-08-29T09:32:28.102Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>Di era digital, visualisasi data dan algoritma <em>machine learning</em> sangat bergantung pada kualitas data yang mendasarinya. Memahami dari mana data berasal, bagaimana data dikumpulkan secara etis, dan di mana menemukan sumber gratis adalah fondasi utama bagi setiap praktisi data.</blockquote><h3>Etika dan Privasi dalam Pengumpulan Data</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*nhgb58w7Y9xN8JAm.jpg" /><figcaption>Sumber: The Economist</figcaption></figure><p>Setiap kali berurusan dengan pengumpulan data, Anda wajib memprioritaskan perlindungan <em>Personally Identifiable Information</em> (PII) atau informasi identitas pribadi, seperti email, alamat, nomor telepon, nomor jaminan sosial, hingga rekam medis. Pengumpulan data tidak boleh dilakukan secara sembarangan dan harus mematuhi empat pilar etika berikut:</p><ul><li><strong>Persetujuan (<em>Consent</em>):</strong> Individu harus mendapat informasi lengkap dan memberikan izin eksplisit sebelum data mereka dikumpulkan.</li><li><strong>Kepemilikan (<em>Ownership</em>):</strong> Peneliti atau analis harus menyadari bahwa individu tetap menjadi pemilik sah atas informasi pribadi mereka.</li><li><strong>Niat (<em>Intention</em>):</strong> Pengguna data wajib bersikap transparan mengenai jenis informasi yang diambil, cara data tersebut disimpan, dan tujuan akhir penggunaannya.</li><li><strong>Privasi (<em>Privacy</em>):</strong> Keamanan sistem harus dijamin untuk mencegah kebocoran informasi, terutama untuk data-data yang bersifat sensitif atau PII.</li></ul><h3>Metode Pengumpulan Data</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1000/0*Ov3zvWoKVxEirWf4.png" /><figcaption>Sumber: GeeksforGeeks</figcaption></figure><p>Proses pengumpulan data dapat disesuaikan dengan kebutuhan analisis, mulai dari pencatatan manual hingga pelacakan otomatis secara <em>real-time</em>.</p><ul><li><strong>Data Statis (Pengukuran Langsung):</strong> Mengumpulkan informasi baru yang belum ada melalui survei, studi observasional, atau eksperimen. Data ini umumnya direkam satu kali dan tidak berubah, seperti hasil kuesioner yang dikirimkan melalui pos.</li><li><strong>Data Dinamis (Sistem <em>Live</em>):</strong> Data yang terus diperbarui secara otomatis seiring berjalannya waktu. Contohnya adalah situs web yang melacak klik dan durasi kunjungan pengguna secara bersamaan, atau sensor cuaca yang secara konstan memperbarui input untuk menghasilkan prediksi cuaca paling akurat.</li><li><strong>Data Sekunder (Sumber Pihak Ketiga):</strong> Menggabungkan dan memanfaatkan dataset yang sudah dikumpulkan oleh organisasi lain. Cara ini sangat efisien karena peneliti hanya perlu mengompilasi data publik yang sudah tersedia sebelum melakukan analisis.</li></ul><h3>Sumber Dataset Terbuka untuk Eksplorasi</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*UPlvC0jmQHbP-vV1.jpg" /><figcaption>Sumber: Opus Project EU</figcaption></figure><p>Meskipun banyak perusahaan mengunci data mereka demi melindungi privasi, menjaga keunggulan kompetitif, atau alasan komersial, masih banyak sumber kredibel yang menyediakan akses data publik secara gratis. Data ini umumnya bisa diunduh dalam format CSV, Excel, atau diakses melalui API:</p><ul><li><a href="https://www.who.int/data/gho/"><strong>World Health Organization (WHO)</strong></a><strong>:</strong> Menyediakan laporan lengkap dan dataset terkait kesehatan global, termasuk pandemi, <a href="https://www.who.int/health-topics/mental-health#tab=tab_1">kesehatan mental</a>, hingga <a href="https://www.who.int/data/gho/data/themes/topics/topic-details/GHO/road-traffic-mortality">angka kematian lalu lintas</a>.</li><li><a href="https://data.fivethirtyeight.com/"><strong>FiveThirtyEight</strong></a><strong>:</strong> Portal jurnalisme data populer yang membagikan dataset di balik artikel mereka. Anda bisa menemukan data seputar <a href="https://projects.fivethirtyeight.com/nba-player-ratings/">statistik pemain olahraga</a>, <a href="https://projects.fivethirtyeight.com/polls/"><em>polling</em> politik</a>, hingga ekonomi.</li><li><a href="https://www.data.gov/"><strong>Data.gov</strong></a><strong>:</strong> Gudang data terbuka milik pemerintah Amerika Serikat yang mencakup berbagai topik penting seperti iklim, <a href="https://catalog.data.gov/dataset/ncdc-storm-events-database2">cuaca ekstrem</a>, pertanian, hingga <a href="https://ec.europa.eu/eurostat/web/population-demography/population-housing-censuses">sensus penduduk</a>.</li><li><a href="https://data.unicef.org/"><strong>UNICEF Data</strong></a><strong>:</strong> Menyediakan akses global terhadap data anak-anak dari berbagai negara untuk mendorong pengambilan keputusan yang lebih adil dan berbasis bukti.</li><li><a href="https://datasetsearch.research.google.com/"><strong>Google Dataset Search</strong></a><strong>:</strong> Berfungsi layaknya mesin pencari biasa, namun khusus untuk menemukan dataset spesifik di internet. Sangat cocok untuk mencari data unik seperti <a href="https://datasetsearch.research.google.com/search?src=0&amp;query=Value%20of%20the%20import%20and%20export%20of%20orchids%20in%20the%20Netherlands%202020&amp;docid=L2cvMTFweDF5bnRzOQ%3D%3D">total ekspor anggrek dari Belanda</a>, <a href="https://datasetsearch.research.google.com/search?query=national%20parks&amp;docid=L2cvMTFqbl82ZmdmeQ%3D%3D">keanekaragaman hayati elang botak di taman nasional</a>, hingga <a href="https://datasetsearch.research.google.com/search?query=cosmetics&amp;docid=L2cvMTFuZmJqOWtsXw%3D%3D">pendapatan industri kosmetik global</a>.</li></ul><p>Data terbuka di Indonesia diatur secara resmi melalui kebijakan <strong>Satu Data Indonesia</strong> berdasarkan Peraturan Presiden Nomor 39 Tahun 2019. Tujuan utamanya adalah memastikan data pemerintah akurat dan mutakhir, mendukung tata kelola pemerintahan yang terbuka dan menjadi dasar pengambilan keputusan berbasis bukti (<em>evidence-based policy).</em></p><p>Beberapa platform data terbuka di Indonesia adalah:</p><ul><li><a href="https://data.go.id/">Portal Satu Data Indonesia</a>: Pusat data terbuka nasional yang dikelola oleh Kementerian PPN/Bappenas untuk mewujudkan transparansi dan akuntabilitas pemerintah.</li><li><strong>Portal Daerah</strong>: Berbagai wilayah seperti <a href="https://opendata.jabarprov.go.id/id/dataset">Open Data Jabar</a> menyediakan akses data transparan dari perangkat daerah tanpa birokrasi panjang.</li><li><strong>Portal Kementerian</strong>: Instansi seperti Kementerian PUPR juga menyediakan <a href="https://data.pu.go.id/search/type/dataset">Open Data PUPR</a> untuk data terbuka seputar infrastruktur.</li></ul><p>Memahami landasan etika dan metode yang tepat tidak hanya melindungi privasi pengguna, tetapi juga memastikan analisis yang dihasilkan akurat dan dapat dipertanggungjawabkan. Dengan memanfaatkan berbagai sumber terbuka yang tersedia di internet, siapa pun kini dapat mulai mengeksplorasi tren dan membangun proyek data yang berdampak nyata.</p><p><em>Artikel asli dari </em><strong><em>Codecademy</em></strong><em> yang berjudul </em><strong><em>Data Collection methods, ethics and free sources</em></strong><em>. Diringkas dan diterjemahkan ke dalam Bahasa Indonesia dengan beberapa tambahan informasi.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=ee7ab487fd96" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Panduan Menyusun Tinjauan Literatur]]></title>
            <link>https://medium.com/@feliksmakarios/panduan-menyusun-tinjauan-literatur-7626468a71ac?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/7626468a71ac</guid>
            <category><![CDATA[skripsitips]]></category>
            <category><![CDATA[mahasiswa]]></category>
            <category><![CDATA[metodologi-penelitian]]></category>
            <category><![CDATA[tinjauan-literatur]]></category>
            <category><![CDATA[penelitian-ilmu-komputer]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Sun, 14 Jun 2026 03:31:37 GMT</pubDate>
            <atom:updated>2026-06-14T03:31:37.679Z</atom:updated>
            <content:encoded><![CDATA[<p><em>Panduan praktis untuk menyusun tinjauan literatur dari sekadar </em><strong><em>“daftar ringkasan”</em></strong><em> menjadi </em><strong><em>“argumen ilmiah”</em></strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*Q7PIMkDOVqQzd5p6" /><figcaption>src: sourcely.net</figcaption></figure><p>Ada satu kesalahan yang hampir selalu saya temukan ketika membaca draf tinjauan literatur mahasiswa. Polanya begini:</p><ul><li>Paragraf pertama membahas penelitian A, paragraf kedua membahas penelitian B, paragraf ketiga membahas penelitian C, dan seterusnya sampai paragraf kesepuluh.</li><li>Setiap paragraf berdiri sendiri seperti pulau yang tidak terhubung.</li><li>Pada akhir bagian, pembaca tahu sepuluh penelitian sudah dibaca, tetapi tidak tahu apa-apa tentang: <strong>bagaimana bidang itu berkembang</strong>, di mana <strong>perdebatannya</strong>, dan <strong>celah mana</strong> yang belum terisi.</li></ul><p>Inilah yang oleh <strong>Webster dan Watson</strong> disebut sebagai pendekatan <strong><em>author-centric. </em></strong>Mereka berargumen bahwa pendekatan semacam ini gagal menyintesis literatur <a href="https://misq.umn.edu/misq/article/26/2/xiii/1323/Analyzing-the-Past-to-Prepare-for-the-Future">(Webster &amp; Watson, 2002)</a>. Tinjauan literatur yang baik menurut mereka harus bersifat <strong><em>concept-centric</em></strong>, yaitu ketika kerangka pengorganisasian ditentukan oleh konsep atau tema, bukan urutan penulis.</p><p>Artikel ini akan menjelaskan secara praktis bagaimana melakukan pergeseran itu, dengan satu contoh kasus yang akan saya pakai konsisten dari awal sampai akhir yaitu: <strong>penelitian klasifikasi sentimen pada teks <em>code-mixing</em> dengan studi kasus komentar media sosial</strong>.</p><h3>1. Kegagalan A<em>uthor-centric</em></h3><p>Menulis dengan pola satu paragraf dari satu paper itu mudah dan terasa aman. Kita tinggal membaca satu artikel, merangkumnya, lalu pindah ke artikel berikutnya. Kita tidak perlu berpikir keras tentang hubungan antar penelitian. Masalahnya, output dari proses ini bukan tinjauan literatur, melainkan <strong>anotasi bibliografi</strong> yang dijejer rapi.</p><blockquote>Tinjauan literatur sejatinya adalah sebuah metode penelitian tersendiri, bukan formalitas administratif di bab dua <a href="https://www.sciencedirect.com/science/article/pii/S0148296319304564?via%3Dihub">(Snyder, 2019)</a>.</blockquote><p>Khusus untuk <strong>bidang ilmu komputer</strong>, melakukan tinjauan literatur adalah langkah pertama yang krusial untuk memahami <em>state-of-the-art</em> sekaligus mengidentifikasi celah dan tantangan dalam suatu bidang <a href="https://www.sciencedirect.com/science/article/pii/S2215016122002746">(Carrera-Rivera et al., 2022)</a>. Dengan kata lain, tinjauan literatur yang baik adalah alat untuk menemukan dan membenarkan celah riset kita. Kalau strukturnya hanya daftar ringkasan, celah itu tidak akan pernah muncul ke permukaan, <strong>karena celah hanya terlihat ketika beberapa penelitian dibandingkan secara langsung.</strong></p><h3>2. Concept-centric: Atur Berdasarkan Konsep</h3><p>Pergeseran paling fundamental yang perlu kita lakukan adalah mengubah unit pengorganisasian. Alih-alih satu paragraf untuk satu penulis, gunakan satu bagian atau paragraf untuk satu <strong>konsep</strong>, <strong>pendekatan</strong>, atau <strong>tema</strong>, lalu tempatkan <strong>beberapa penelitian yang relevan</strong> di dalam bagian itu.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*2VCSSkROG2WWnC_J" /><figcaption>Photo by <a href="https://unsplash.com/@maria_shalabaieva?utm_source=medium&amp;utm_medium=referral">Mariia Shalabaieva</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>Mari kita pakai contoh kasus kita. Misalkan kita meneliti <strong>klasifikasi sentimen pada teks <em>code-mixing</em></strong>, yaitu teks yang mencampur dua bahasa atau lebih, seperti komentar media sosial berbahasa campuran Indonesia dan Inggris.</p><ul><li>Pendekatan <em>author-centric</em> akan menulis “<em>Penelitian X memakai SVM, penelitian Y memakai LSTM, penelitian Z memakai BERT</em>”.</li><li>Pendekatan <em>concept-centric</em> akan mengelompokkan literatur menjadi tiga keluarga pendekatan:<br>a. berbasis <em>machine learning</em> klasik dengan rekayasa fitur,<br>b. berbasis <em>deep learning</em> dengan <em>word embedding</em>, dan<br>c. berbasis <em>pretrained language model</em> seperti varian BERT multibahasa.</li></ul><p>Pada pendekatan <em>concept-centric</em>, beberapa penelitian masuk ke salah satu kelompok. Di dalam tiap kelompok, kita susun secara kronologis sehingga evolusi atau perkembangan pemikiran terlihat:</p><ul><li>pendekatan klasik punya keterbatasan apa,</li><li>lalu <em>deep learning</em> muncul untuk mengatasi apa,</li><li>lalu <em>pretrained model</em> menjawab persoalan apa yang tersisa.</li></ul><p>Tinjauan literatur sistematis tentang analisis sentimen pada teks <em>code-mixed</em> memang lazim mengategorikan penelitian berdasarkan jenis pendekatan pemrosesannya <a href="https://ieeexplore.ieee.org/document/9299004">(Tho et al., 2020)</a>. Untuk bahasa dengan sumber daya terbatas (<em>low-resource language</em>), sintesis lintas penelitian bahkan menunjukkan pola yang jelas, yaitu kecenderungan bergeser ke arah <em>transfer learning</em> dan arsitektur berbasis <em>transformer</em> karena keduanya unggul pada kondisi data beranotasi yang terbatas <a href="https://link.springer.com/article/10.1007/s13278-026-01588-2">(Lal et al., 2026)</a>.</p><blockquote>Pola seperti ini hanya bisa kita lihat kalau literatur diatur per konsep, bukan per penulis.</blockquote><p>Tabel perbandingan sering kali menjadi alat bantu yang kuat di sini, asalkan satu hal diingat: tabel tidak boleh sekadar menjadi daftar artikel (Webster &amp; Watson, 2002). <strong>Tabel yang baik membandingkan penelitian berdasarkan dimensi konseptual, misalnya jenis pendekatan, ukuran dan bahasa dataset, serta metrik hasil, sehingga pola dan celah langsung terlihat mata.</strong></p><h3>3. Lima Hal yang Harus Diekstrak dari Setiap Paper</h3><p>Agar sintesis berjalan, kita butuh bahan yang konsisten dari setiap penelitian yang dibaca. Dalam tinjauan literatur sistematis, tahap ini disebut <em>data extraction</em>, dan disarankan menggunakan formulir ekstraksi yang terstandar agar setiap penelitian dinilai dengan dimensi yang sama (Carrera-Rivera et al., 2022). Saya menyarankan mengekstrak lima hal yang sama untuk setiap paper:</p><ol><li>klaim atau kontribusi utama,</li><li>metode inti yang digunakan,</li><li>hasil kunci dalam angka konkret bila ada,</li><li>kelemahan penelitian sebelumnya yang ingin diatasi, dan</li><li>relevansinya dengan penelitian kita sendiri.</li></ol><p>Dalam contoh kasus kita tadi untuk sebuah paper tentang klasifikasi sentimen <em>code-mixed</em>, <strong>Poin 3</strong> bisa berupa akurasi atau skor F1 pada dataset tertentu, dan <strong>Poin 4</strong> bisa berupa ketidakmampuan model sebelumnya menangani peralihan bahasa di tengah kalimat. <strong>Poin 5</strong> sering dilupakan, padahal itu yang membuat tinjauan kita terarah. <strong>Kalau kita tidak bisa menjelaskan mengapa sebuah paper relevan dengan riset kita, mungkin paper itu memang tidak perlu masuk.</strong></p><h4>3.1 Mengubah Daftar Menjadi Narasi</h4><p>Setelah bahan terkumpul, hal berikutnya ada pada kalimat transisi antar penelitian. Inilah yang membedakan narasi dari daftar.</p><ul><li><strong>Daftar berbunyi</strong> <em>“Penelitian A memakai SVM dengan fitur n-gram. Penelitian B memakai BiLSTM.”</em></li><li><strong>Narasi berbunyi</strong> <em>“Penelitian A memakai SVM dengan fitur n-gram, </em><strong><em>tetapi pendekatan ini kesulitan</em></strong><em> menangkap konteks ketika bahasa beralih di tengah kalimat. </em><strong><em>Untuk mengatasi keterbatasan tersebut</em></strong><em>, penelitian B mengusulkan BiLSTM yang memodelkan urutan kata secara lebih utuh. </em><strong><em>Namun, pendekatan ini belum menjawab</em></strong><em> adanya kebutuhan proses komputasi yang lebih cepat. </em><strong><em>Hal ini ditangani dengan baik</em></strong><em> oleh Penelitian C pada ulasan e-commerce. Penelitian C menggunakan pre-trained model berbasis Transformers yang memproses setiap input secara paralel.”</em></li></ul><p>Perhatikan kata penghubungnya: <strong><em>“tetapi”</em></strong>, <strong><em>“untuk mengatasi keterbatasan tersebut”</em></strong>, <strong><em>“namun pendekatan ini belum menjawab”</em></strong>.</p><blockquote>Kata-kata ini menyiratkan <strong>logika sebab akibat dan evolusi</strong>.</blockquote><p>Mereka memberi tahu pembaca bahwa bidang ini bergerak, ada masalah yang dipecahkan, dan ada masalah baru yang muncul. Tinjauan yang dipenuhi transisi semacam ini terbaca sebagai cerita tentang perkembangan ilmu, bukan inventaris.</p><h4>3.2 Tutup Setiap Bagian dengan Sintesis Eksplisit</h4><p>Di akhir setiap kelompok konsep, tulislah satu paragraf yang secara eksplisit menjawab tiga pertanyaan:</p><ul><li>apa yang sudah dipecahkan oleh penelitian-penelitian tadi,</li><li>apa yang masih belum terjawab, dan</li><li>di mana posisi penelitian kita dalam peta itu</li></ul><p>Dalam contoh kasus kita, paragraf sintesis untuk kelompok <em>pretrained model</em> mungkin menyimpulkan bahwa:</p><blockquote>Model multibahasa sudah meningkatkan akurasi pada teks <em>code-mixed. </em>Namun, masih sedikit yang menguji secara khusus pada komentar media sosial berbahasa campuran Indonesia dengan segala kekhasannya seperti singkatan dan ejaan tidak baku.</blockquote><p>Di situlah posisi penelitian kita! Paragraf inilah yang menautkan <strong>tinjauan literatur</strong> dengan <strong>rumusan masalah</strong> kita. Tanpa paragraf sintesis, pembaca dibiarkan menyimpulkan sendiri. Padahal itu adalah pekerjaan yang seharusnya kita lakukan untuk mereka.</p><h3>4. Proses yang Sistematis dan Dapat Direplikasi</h3><p>Satu aspek yang membedakan tinjauan literatur ilmiah dari sekadar membaca acak adalah <strong>transparansi proses</strong>. Dalam tradisi <em>systematic literature review</em>, peneliti diharapkan mendokumentasikan bagaimana mereka <strong>mencari</strong>, <strong>memilih</strong>, dan <strong>menyaring</strong> penelitian, sehingga proses itu dapat direplikasi orang lain <a href="https://legacyfileshare.elsevier.com/promis_misc/525444systematicreviewsguide.pdf">(Kitchenham &amp; Charters, 2007. hal 3–5)</a>.</p><p>Untuk bidang ilmu komputer, panduan praktis (Carrera-Rivera et al., 2022) menyarankan langkah-langkah konkret seperti:</p><ul><li><strong>merumuskan pertanyaan</strong> penelitian (mis: menggunakan kriteria PICOC),</li><li><strong>menentukan <em>string</em> pencarian</strong> dan basis data (cth: Elsevier, atau IEEE Xplore, ACM Digital Library)</li><li><strong>menetapkan kriteria</strong> inklusi dan eksklusi (berdasarkan aspek periode, bahasa, jenis literatur, jenis sumber, dll), lalu</li><li><strong>melakukan penilaian kualitas</strong> terhadap kandidat paper dengan menilai aspek Pelaporan, Ketelitian, Kredibilitas, dan Relevansi.</li></ul><p>Untuk tugas akhir tingkat sarjana, kita mungkin tidak perlu seketat itu. Namun prinsip dasarnya tetap berlaku: catat dari basis data apa kita mencari, kata kunci apa yang dipakai, dan kriteria apa yang membuat sebuah paper kita masukkan atau kita buang. Kebiasaan ini tidak hanya membuat tinjauan kita lebih kredibel, tetapi juga menyelamatkan kita saat penguji bertanya <strong><em>“kenapa paper ini tidak dibahas?”</em></strong>.</p><h3>5. WAJIB: Verifikasi Setiap Sitasi</h3><p>Terakhir dan ini yang paling sering diabaikan di era kecerdasan buatan:</p><blockquote>VERIFIKASI SETIAP SITASI SAMPAI KE SUMBER ASLINYA!!!!!</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*2BbXiX5L-svPGxOQ.png" /><figcaption>src: <a href="https://www.tub.tuhh.de/en/2022/02/15/new-acquisitions-2022-e-books-journals-and-databases/">TUHH University Library</a></figcaption></figure><p>Jangan pernah mempercayai ingatan, baik ingatan kita sendiri maupun ingatan asisten AI yang kita gunakan. Nama penulis, tahun, nama jurnal atau konferensi, nomor volume, dan halaman harus dicocokkan dengan sumber primer seperti situs penerbit resmi, DOI, atau pangkalan data seperti IEEE Xplore, Elsevier, ACM, dan ACL Anthology untuk bidang ilmu komputer dan komputasi linguistik. Sitasi palsu atau salah atribusi adalah cara tercepat menghancurkan kredibilitas sebuah karya ilmiah. <strong>Lucunya, kesalahan semacam ini sebenarnya paling mudah dicegah hanya dengan beberapa menit pengecekan.</strong></p><h3>Penutup</h3><p>Tinjauan literatur yang baik bukan tentang seberapa banyak paper yang kita baca, melainkan tentang seberapa baik kita menghubungkannya menjadi sebuah argumen. Geser unit pengorganisasian dari penulis ke konsep, ekstrak lima hal yang konsisten dari setiap paper, rangkai dengan transisi yang menunjukkan logika perkembangan, tutup tiap bagian dengan sintesis, jaga proses tetap sistematis, dan verifikasi setiap sitasi tanpa kompromi.</p><p>Untuk membantu Anda langsung mempraktikkannya, saya sudah menyiapkan template kerja satu lembar yang bisa Anda isi sambil membaca paper. Template ini juga dilengkapi dengan kartu ekstraksi dan daftar periksa verifikasi sitasi. Silakan akses dan coba template pada tautan terlampir, lalu pakai pada tinjauan literatur tugas akhir atau manuskrip publikasi Anda. Selamat mencoba!</p><blockquote><a href="https://docs.google.com/document/d/1C1wGt4TJKtY9YzNibuzAAMg4pOFcqKaMap50Xh3cB_w/edit?usp=sharing"><strong>Template Tinjauan Literatur — Google Docs</strong></a></blockquote><h3>Daftar Pustaka</h3><p>Carrera-Rivera, A., Ochoa, W., Larrinaga, F., &amp; Lasa, G. (2022). How-to conduct a systematic literature review: A quick guide for computer science research. <em>MethodsX, 9</em>, 101895. <a href="https://doi.org/10.1016/j.mex.2022.101895">https://doi.org/10.1016/j.mex.2022.101895</a></p><p>Kitchenham, B., &amp; Charters, S. (2007). <em>Guidelines for performing systematic literature reviews in software engineering</em> (EBSE Technical Report EBSE-2007–01). Keele University and University of Durham.</p><p>Lal, S., et al. (2026). Sentiment analysis for code-mixed low-resource languages: A systematic review of approaches, techniques, applications, challenges, and future directions. <em>Social Network Analysis and Mining, 16</em>. <a href="https://doi.org/10.1007/s13278-026-01588-2">https://doi.org/10.1007/s13278-026-01588-2</a></p><p>Snyder, H. (2019). Literature review as a research methodology: An overview and guidelines. <em>Journal of Business Research, 104</em>, 333–339. <a href="https://doi.org/10.1016/j.jbusres.2019.07.039">https://doi.org/10.1016/j.jbusres.2019.07.039</a></p><p>Tho, C., Heryadi, Y., Warnars, H. L. H. S., Soewito, B., &amp; Gaol, F. L. (2020). Code-mixed sentiment analysis using machine learning approach: A systematic literature review. <em>2020 4th International Conference on Informatics and Computational Sciences (ICICoS)</em>, 1–6. IEEE. <a href="https://doi.org/10.1109/ICICoS51170.2020.9299081">https://doi.org/</a><a href="https://doi.org/10.1109/ICICoS51170.2020.9299004">10.1109/ICICoS51170.2020.9299004</a></p><p>Webster, J., &amp; Watson, R. T. (2002). Analyzing the past to prepare for the future: Writing a literature review. <em>MIS Quarterly, 26</em>(2), xiii–xxiii. <a href="https://doi.org/10.2307/4132319">https://doi.org/10.2307/4132319</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=7626468a71ac" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Dari Hitungan ke Prediksi: Bagaimana Mesin Belajar Memahami Hubungan Antarkata]]></title>
            <link>https://medium.com/@feliksmakarios/dari-hitungan-ke-prediksi-bagaimana-mesin-belajar-memahami-hubungan-antarkata-9bd0282f0a46?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/9bd0282f0a46</guid>
            <category><![CDATA[negative-sampling]]></category>
            <category><![CDATA[neural-networks]]></category>
            <category><![CDATA[gloves]]></category>
            <category><![CDATA[word2vec]]></category>
            <category><![CDATA[skip-gram]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Sun, 24 May 2026 09:33:01 GMT</pubDate>
            <atom:updated>2026-05-24T09:33:01.538Z</atom:updated>
            <content:encoded><![CDATA[<p><em>Ini adalah bagian </em><strong><em>kedua</em></strong><em> dari seri catatan belajar saya atas video perkuliahan dari </em><strong><em>CS224N (Stanford University)</em></strong><em> dan </em><strong><em>CMU 11–737 (Carnegie Mellon University)</em></strong><em>. Seri ini ditulis untuk membangun fondasi riset NLP untuk low-resource languages di Indonesia.</em></p><p>Artikel ini dari video <a href="https://youtu.be/nBor4jfWetQ?si=IKXG2hireYLqN3Tu"><strong>CS224N Lecture 2: <em>Word Vectors and Language Model</em></strong></a></p><p>Daftar catatan saya untuk setiap video dapat dilihat di sini:</p><ul><li><a href="https://medium.com/@feliksmakarios/bagaimana-komputer-memahami-makna-kata-sebuah-pengantar-tentang-vektor-kata-2ecf8d0f5e52">Catatan 1: CS224N Lecture 1 — Intro and Word Vectors</a></li><li><strong>Catatan 2: CS224N Lecture 2 — Word Vectors and Language Models <em>(artikel ini)</em></strong></li><li>Catatan 3: CMU 11–737 Lecture 1 — Introduction to Multilingual NLP</li><li>Catatan 4: CMU 11–737 Lecture 2 — Typology — The Space of Language</li><li>Catatan 5: CS224N Lecture 8 — Self-Attention and Transformers</li><li>Catatan 6: CS224N Lecture 9 — Pretraining (BERT, T5, GPT)</li><li>Catatan 7: CMU 11–737 Lecture 10 — Multilingual Training and Cross-lingual Transfer</li><li>Catatan 8: CS224N Lecture 18 — Linguistics and NLP</li><li>Catatan 9: CMU 11–737 Lecture 22 — Multilingual NLP for Indigenous</li></ul><p>Pada catatan kuliah pertama, kita sudah melihat bagaimana Word2Vec mengubah kata menjadi vektor berdimensi tinggi yang menangkap makna. Tapi satu pertanyaan besar belum terjawab: <strong>bagaimana sebenarnya model itu dilatih? Dan apakah ada cara lain untuk mendapatkan vektor kata selain memprediksi konteks?</strong> Kuliah kedua menjawab keduanya.</p><h3>Melatih Model, Bagai Menuruni Bukit</h3><p>Melatih Word2Vec pada dasarnya adalah masalah optimisasi. Kita punya fungsi biaya (<strong><em>cost function</em></strong>) yang <strong><em>mengukur seberapa buruk model menebak kata konteks dari kata pusat</em></strong>.</p><blockquote>Nilai fungsi ini besar ketika model menebak dengan buruk, dan kecil ketika tebakannya akurat. <strong>Tujuannya</strong>: buat nilai ini sekecil mungkin.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*MTlj-93cXeqeTHfx.jpg" /><figcaption>Danau Toba — Ilustrasi lanskap pegunungan (Sumber: <a href="https://marclaninternational.com/wp-content/uploads/2025/03/14-2.jpg">marclaninternational</a>)</figcaption></figure><p>Bayangkan fungsi biaya sebagai lanskap pegunungan. Setiap titik di lanskap itu mewakili satu konfigurasi vektor kata, dan ketinggiannya adalah besar kesalahan. Kita berdiri di suatu tempat dan ingin turun ke lembah terendah, tapi kita tidak bisa melihat seluruh lanskap sekaligus. Hal yang bisa kita lakukan hanyalah meraba kemiringan tanah tepat di bawah kaki. Kemiringan itu adalah gradien, dan ia memberi tahu arah mana yang paling curam naik. Kita melangkah ke arah sebaliknya.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*SIR4Z3cotiaNPuBB.png" /><figcaption>Ilustrasi learning rate pada gradient descent (Sumber: <a href="https://aiwitharzaan.com/what-is-the-learning-rate-in-machine-learning/">AI with Arzaan</a>)</figcaption></figure><p>Inilah <strong><em>gradient descent</em></strong>: hitung kemiringan, langkah kecil ke arah turun, hitung lagi, langkah lagi. Ukuran langkah disebut <em>learning rate</em>. Terlalu besar, kita melompati lembah. Terlalu kecil, kita turun sangat lambat.</p><p>Masalahnya, untuk menghitung gradien yang “sempurna”, kita harus menelusuri seluruh korpus di setiap langkah. Untuk korpus miliaran kata, satu langkah saja bisa memakan waktu sangat lama. Di sinilah <strong><em>stochastic gradient descent</em> (SGD)</strong> mengambil jalan pintas yang cerdas: alih-alih menghitung gradien dari seluruh data, ambil satu sampel kecil, hitung gradien dari sampel itu, lalu langsung melangkah.</p><p>Untuk melihat perbedaannya secara konkret, bayangkan kita punya:</p><ul><li>model sederhana <strong><em>ŷ = w × x</em>, </strong>dan</li><li>empat contoh data: (1, 3), (2, 5), (3, 7), (4, 9).</li></ul><p>Kita mulai dengan tebakan awal:</p><ul><li><strong>w = 1</strong></li><li><strong><em>learning rate (</em>α<em>) </em>= 0.01, </strong>dan</li><li>aturan pembaruan: <strong><em>w</em>_baru</strong> = <strong><em>w</em>_lama</strong> — <strong>α</strong> × <strong>gradien</strong></li><li>gradien untuk satu contoh dihitung dengan: <strong>2 × (<em>w </em>× <em>x</em> —<em> y</em>) × <em>x</em></strong>.</li></ul><p><strong>Dengan <em>batch</em> gradient descent penuh</strong>, kita harus menghitung gradien untuk keempat contoh terlebih dahulu, merata-ratakannya, baru kemudian melangkah satu kali.</p><ul><li>Gradien masing-masing contoh: -4, -12, -24, -40.</li><li>Rata-ratanya: -20.</li><li>Perbarui <strong><em>w</em>:<em> w</em></strong> = 1 – 0.01 × (-20) = 1 + 0.20 = <strong>1.20. </strong>Setelah satu langkah, <strong><em>w</em></strong> berubah dari <strong>1.0</strong> menjadi <strong>1.2</strong>.</li><li>Satu <em>epoch</em> (satu putaran seluruh data) menghasilkan <strong>satu langkah saja</strong>.</li></ul><p><strong>Dengan SGD murni</strong>, kita langsung melangkah setelah setiap contoh.</p><ul><li>Data pertama menghasilkan gradien <strong>-4</strong></li><li>Perbarui <strong><em>w</em></strong>: <strong><em>w</em></strong> = 1–0.01 × (-4) = 1 + 0.04 = <strong>1.04. <em>w</em></strong> berubah menjadi <strong>1.04</strong>.</li><li>Data kedua (dengan <strong><em>w</em></strong> yang sudah diperbarui) menghasilkan gradien -11.68, <strong><em>w</em></strong> menjadi <strong>1.1568</strong>. Data ketiga, <strong><em>w</em></strong> menjadi <strong>1.3686</strong>. Data keempat, <strong><em>w</em></strong> menjadi <strong>1.6506</strong>.</li><li>Satu <em>epoch</em> yang sama menghasilkan <strong>empat langkah</strong>.</li></ul><p>Keduanya menuju arah yang sama, tapi SGD melangkah empat kali lebih sering dalam waktu yang sama. Untuk korpus miliaran kata, perbedaan efisiensi ini menjadi sangat signifikan. Perkiraannya memang tidak selalu tepat dan penuh <em>noise</em>, tapi rata-ratanya tetap mengarah ke lembah. Setiap langkah menjadi jauh lebih murah, sehingga model bisa melangkah ribuan kali dalam waktu yang sama.</p><h3>Skip-Gram dan Negative Sampling: Menyederhanakan Pertanyaan</h3><p>Di Lecture 1, kita belajar bahwa Word2Vec menggunakan <strong><em>softmax</em></strong> untuk menghitung probabilitas kata konteks. Masalahnya, <em>softmax</em> mengharuskan kita menjumlahkan nilai eksponensial untuk seluruh kosakata di penyebutnya. Kalau kosakatanya 500.000 kata, setiap langkah pelatihan membutuhkan 500.000 perhitungan eksponensial.</p><p>Skip-gram dengan <em>negative sampling</em> mengubah pertanyaannya secara fundamental. Alih-alih bertanya <strong><em>“dari seluruh kosakata, kata mana yang paling mungkin muncul di konteks kata pusat ini?”</em></strong>, pertanyaannya menjadi jauh lebih sederhana: <strong><em>“apakah pasangan dua kata ini memang muncul berdekatan, atau tidak?”</em></strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/305/0*LwHVCndeoE-XYnvW" /><figcaption>Contoh Negative Sampling (Sumber: <a href="http://www2.stat.duke.edu/~banks/790gdrr-lectures.dir/Chenxi.Wu.Slides.pdf">Chenxi Wu</a>)</figcaption></figure><p>Ini menjadi tugas klasifikasi biner. Untuk setiap kata pusat, kita ambil satu kata yang memang muncul di konteksnya (pasangan positif), lalu ambil beberapa kata secara acak dari kosakata (pasangan negatif). Model dilatih untuk memberi skor tinggi pada pasangan positif dan skor rendah pada pasangan negatif. Dari 500.000 perhitungan menjadi hanya 6 atau 11 saja, bergantung pada berapa banyak sampel negatif yang kita pilih.</p><p>Tujuannya tidak berubah. Kita tetap ingin vektor kata yang menangkap kemiripan makna. Yang berubah hanyalah cara pelatihannya, yang dibuat jauh lebih efisien.</p><h3>Jalur Lain: Menghitung Alih-alih Memprediksi</h3><p>Word2Vec adalah metode prediktif. Tetapi, ada jalur alternatif yang lebih tua:</p><blockquote>alih-alih melatih model untuk memprediksi konteks, bagaimana kalau kita langsung menghitung seberapa sering dua kata muncul bersamaan?</blockquote><p>Pendekatan ini menghasilkan matriks <strong>ko-okurensi</strong>. Bayangkan sebuah tabel raksasa di mana setiap baris dan kolom merepresentasikan satu kata dalam kosakata. Sel pada baris <strong><em>“like”</em></strong> dan kolom <strong><em>“deep”</em></strong> berisi angka yang menunjukkan berapa kali kedua kata itu muncul berdekatan di seluruh korpus. Setiap baris dalam matriks ini sudah merupakan vektor kata: ia mencatat distribusi lengkap kata-kata apa saja yang muncul di sekitar kata tersebut.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*RHqgAdKC1ZK-233x8QTR8g.png" /><figcaption>Contoh Matriks Ko-okurensi berbasis Window (Sumber: Lecture 2)</figcaption></figure><p>Masalahnya, kalau kosakata berisi 400.000 kata, matriksnya berukuran 400.000 kali 400.000. Itu 160 miliar sel, dan sebagian besar berisi nol karena kebanyakan pasangan kata tidak pernah muncul berdekatan. Vektor-vektor ini terlalu panjang dan terlalu jarang (<em>sparse</em>) untuk digunakan secara praktis.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/480/0*_XplYuTxisV3SIPq.gif" /><figcaption>Ilustrasi SVD (Sumber: <a href="https://angeloyeo.github.io/2019/08/01/SVD_en.html">Angelo’s Math Notes</a>)</figcaption></figure><p>Di sinilah SVD (<em>Singular Value Decomposition</em>) berperan. SVD adalah teknik aljabar linear yang menemukan “pola-pola utama” dalam matriks dan membuang detail yang kurang penting. Analoginya seperti kompresi foto: gambar 1000 kali 1000 piksel mengandung banyak informasi, tapi sebagian besar bisa ditangkap oleh pola-pola dominan seperti garis besar bentuk dan distribusi warna. SVD melakukan hal serupa pada matriks ko-okurensi, mereduksinya menjadi vektor berdimensi 300 yang jauh lebih padat dan bermakna.</p><p>Meskipun hasilnya cukup baik, SVD pada hitungan mentah punya kelemahan. Kata-kata fungsional yang sangat sering muncul (seperti <strong><em>“at”</em></strong>, <strong><em>“and”</em></strong>, <strong><em>“the”</em></strong>) mendominasi hitungan dan mendistorsi hasil. Selain itu, hubungan antara frekuensi dan makna tidak linier: <strong><em>dua kata yang muncul bersamaan 100 kali tidak berarti 10 kali lebih “bermakna” daripada pasangan yang muncul 10 kali</em></strong>.</p><h3>GloVe: Menyatukan Dua Dunia</h3><p>GloVe (<em>Global Vectors for Word Representation</em>) lahir dari pertanyaan: <strong><em>bisakah keunggulan metode hitungan dan metode prediktif disatukan?</em></strong> Jawabannya terletak pada satu prinsip kunci: <em>yang informatif bukan </em><strong><em>probabilitas ko-okurensi mentah</em></strong><em>, melainkan </em><strong><em>rasionya</em></strong>.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*LU6tFhLDwFpRfDtj5A0JTg.png" /><figcaption>Contoh kasus dengan GloVe (Sumber: Lecture 2)</figcaption></figure><p>Bayangkan kita ingin memahami hubungan antara <strong><em>“ice”</em></strong> dan <strong><em>“steam”</em></strong>. Kata <strong><em>“solid”</em></strong> muncul sering bersama <strong><em>“ice”</em></strong> tapi jarang bersama <strong><em>“steam”</em></strong>, sehingga rasio probabilitasnya bernilai besar. Kata <strong><em>“water”</em></strong> muncul sering bersama keduanya (<strong><em>“ice”</em></strong> dan <strong><em>“steam”</em></strong>), sehingga rasionya mendekati 1. Informasi pembeda ada pada rasio:</p><blockquote>nilai yang jauh dari 1 menandakan kata tersebut relevan untuk membedakan dua kata target, sementara nilai yang mendekati 1 menandakan kata itu tidak informatif.</blockquote><p>GloVe merancang fungsi tujuan yang memodelkan rasio ini secara langsung. Model dilatih agar hasil <em>dot product</em> antara dua vektor kata mendekati logaritma dari probabilitas ko-okurensi mereka. Penggunaan logaritma krusial karena ia mengubah rasio menjadi selisih (log(a/b) = log(a) — log(b)), dan selisih adalah operasi linier.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/662/0*1obtIGQBgnPLErzn" /><figcaption>Ilustrasi word analogies (Sumber: <a href="https://informatics.ed.ac.uk/news-events/news/news-archive/king-man-woman-queen-the-hidden-algebraic-struct">The University of Edinburgh</a>)</figcaption></figure><p>Inilah yang membuat analogi kata bisa bekerja. Ketika kita menghitung <strong>vektor(“king”) — vektor(“man”) + vektor(“woman”)</strong> dan mendapatkan vektor yang dekat dengan <strong>“queen”</strong>, itu bukan kebetulan. Hubungan semantik dikodekan sebagai arah dalam ruang vektor, dan arah-arah itu bisa dijumlahkan serta dikurangkan. Komponen <strong><em>“gender”</em></strong>, komponen <strong><em>“ibukota-negara”</em></strong>, komponen <strong><em>“bentuk waktu kata kerja”</em></strong> semuanya muncul sebagai arah yang konsisten dalam ruang vektor. Pola ini tidak diprogram secara eksplisit, melainkan <strong>muncul secara alami dari proses pelatihan</strong>.</p><h3>Mengukur Kualitas Vektor Kata</h3><p>Setelah vektor kata dihasilkan, bagaimana kita tahu apakah hasilnya bagus? Ada dua pendekatan evaluasi.</p><p><strong>Evaluasi intrinsik</strong> menguji kualitas vektor kata itu sendiri, terlepas dari tugas akhir. Salah satu caranya adalah analogi kata: apakah <strong>vektor(“king”) — vektor(“man”) + vektor(“woman”)</strong> memang menghasilkan vektor terdekat <strong>“queen”</strong>? Cara lain adalah membandingkan skor kemiripan yang dihasilkan model dengan penilaian manusia. Kalau manusia menilai <strong>“pesawat”</strong> dan <strong>“mobil” </strong>cukup mirip dan model juga memberikan skor kemiripan yang tinggi, berarti vektornya menangkap intuisi manusia dengan baik.</p><p><strong>Evaluasi ekstrinsik</strong> menguji seberapa besar dampak vektor kata terhadap kinerja sistem nyata. Contohnya, dalam tugas <em>Named Entity Recognition</em> (NER), yaitu mengenali nama orang, tempat, atau organisasi dalam teks, penggunaan vektor kata GloVe secara signifikan meningkatkan akurasi dibandingkan pendekatan tradisional. Ini membuktikan bahwa vektor kata bukan sekadar representasi abstrak, melainkan benar-benar berguna secara praktis.</p><h3>Satu Kata, Banyak Makna</h3><p>Ada satu tantangan yang belum terselesaikan sepenuhnya: <strong>polisemi</strong>. Kata <strong>“bintang” </strong>bisa berarti benda langit atau selebritas. Kata <strong>“bank”</strong> bisa berarti institusi keuangan atau tepi sungai. <strong>Dalam Word2Vec dan GloVe, setiap kata hanya punya satu vektor.</strong></p><p>Prof. Manning menjelaskan bahwa vektor tunggal ini sebenarnya menyimpan informasi dari berbagai makna secara bersamaan, sebuah kondisi yang ia sebut “superposisi”. Vektor untuk <strong>“bank”</strong> adalah rata-rata tertimbang dari semua konteks di mana kata itu pernah muncul, baik konteks keuangan maupun konteks sungai.</p><p>Pendekatan awal mencoba memecahkan ini dengan memetakan setiap makna kata ke vektor terpisah melalui pengelompokan (<em>clustering</em>). Tapi Prof. Manning berpendapat bahwa pembagian makna kata ke dalam kategori-kategori kaku sering kali bersifat artifisial. Dalam kenyataan, <strong>batas antara satu makna dengan makna lainnya sering kabur</strong>. Pendekatan satu vektor yang merepresentasikan distribusi konteks justru lebih sesuai dengan sifat bahasa yang fleksibel dan bernuansa.</p><p>Untuk kasus di mana pemisahan makna memang diperlukan, ada teknik bernama <strong><em>sparse coding</em> </strong>yang memanfaatkan sifat ruang berdimensi tinggi. Secara intuitif, ini seperti prisma yang memecah cahaya putih menjadi spektrum warnanya. Vektor <strong>“bank”</strong> terlihat satu, tapi sebenarnya adalah campuran beberapa komponen makna yang bisa dipisahkan kembali.</p><h3>Dari Vektor Kata ke Jaringan Saraf (Neural Network)</h3><p>Kuliah ditutup dengan pengantar yang membuka babak baru. Selama dua kuliah, <strong>fokusnya adalah mendapatkan representasi kata yang baik</strong>. Tapi vektor kata saja tidak cukup untuk tugas-tugas NLP yang kompleks. Diperlukan model yang mampu memproses vektor-vektor ini untuk membuat keputusan.</p><p>Model klasifikasi tradisional seperti regresi logistik bersifat linier: keputusan bergantung pada hubungan linier dari fitur input. Ini seperti memisahkan dua kelompok titik dengan satu garis lurus. Untuk banyak tugas bahasa, garis lurus tidak cukup.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/800/1*r7VJAA-s27i8IGqUNNDVhg.png" /><figcaption>Artificial Neural Network untuk tugas-tugas NLP (Sumber: <a href="https://www.geeksforgeeks.org/nlp/nlp-with-deep-learning/">GeeksforGeeks</a>)</figcaption></figure><p><strong>Jaringan saraf tiruan</strong> <strong><em>(artificial neural network)</em></strong> memperkenalkan lapisan tersembunyi <strong>(<em>hidden layers</em>)</strong> dengan <strong>fungsi aktivasi non-linier</strong>. Lapisan-lapisan ini mengubah bentuk ruang data sehingga pola yang tadinya tidak bisa dipisahkan secara linier menjadi bisa. Setiap lapisan tambahan memungkinkan transformasi yang lebih kompleks, dan yang terpenting, model mencari sendiri representasi terbaik tanpa kita harus mendesain fitur secara manual.</p><p>Inilah jembatan menuju kuliah-kuliah berikutnya. Dua kuliah pertama mengajarkan bagaimana mengubah kata menjadi vektor yang bermakna. Mulai dari sini, pertanyaannya bergeser: <strong><em>bagaimana arsitektur neural network yang lebih dalam memanfaatkan vektor-vektor ini untuk memahami bahasa secara lebih utuh?</em></strong></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=9bd0282f0a46" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[The Left-Behinds: Ketimpangan Bahasa di Dunia Riset NLP]]></title>
            <link>https://medium.com/@feliksmakarios/the-left-behinds-ketimpangan-bahasa-di-dunia-riset-nlp-a342704271cc?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/a342704271cc</guid>
            <category><![CDATA[kecerdasan-buatan]]></category>
            <category><![CDATA[low-resource-language]]></category>
            <category><![CDATA[bahasa-terabaikan]]></category>
            <category><![CDATA[linguistik]]></category>
            <category><![CDATA[nlp]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Mon, 11 May 2026 05:01:02 GMT</pubDate>
            <atom:updated>2026-05-11T05:01:02.682Z</atom:updated>
            <content:encoded><![CDATA[<p><em>Sebuah refleksi atas paper </em><a href="https://aclanthology.org/2020.acl-main.560/"><strong><em>Joshi et al. (2020) “The State and Fate of Linguistic Diversity and Inclusion in the NLP World”</em></strong></a><em> dan apa artinya bagi Bahasa Indonesia serta bahasa daerah kita.</em></p><p>Pernahkah kamu bertanya, mengapa berbagai merk AI-tools (ChatGPT, Claude, Gemini, dll) begitu fasih berbahasa Inggris tetapi sering tersendat saat diajak berbincang dalam Bahasa Batak Toba, Bahasa Jawa, atau bahkan Bahasa Indonesia untuk topik yang spesifik? Ada ketimpangan struktural di dunia riset <em>Natural Language Processing</em> (NLP) yang menentukan bahasa mana yang “naik kelas” dan mana yang tertinggal.</p><p>Pratik Joshi dan rekan-rekannya mencoba menjawab pertanyaan ini secara sistematis dalam paper berjudul <em>“The State and Fate of Linguistic Diversity and Inclusion in the NLP World”</em> yang dipublikasikan di ACL 2020. Hasilnya cukup mengejutkan dan, bagi saya pribadi sebagai orang Indonesia, cukup <em>menyentil</em>.</p><h3>Dua Bahasa, Nasib yang Berbeda</h3><p>Joshi dkk membuka papernya dengan teka-teki menarik. Bayangkan ada dua bahasa:</p><ul><li><strong>Bahasa X</strong>: jumlah penuturnya jutaan, kaya akan sumber daya digital, dan menjadi fokus banyak riset NLP terkini.</li><li><strong>Bahasa Y</strong>: jumlah penuturnya juga jutaan, struktur bahasanya unik, tetapi nyaris tidak tersentuh oleh riset NLP.</li></ul><p>Apa yang membedakan keduanya? Bukan jumlah penutur, bukan pula kompleksitas linguistiknya. Hal yang membedakan adalah <strong>ketersediaan data</strong> dan <strong>perhatian komunitas riset</strong>. Bisakah kamu tebak kira-kira bahasa apakah X dan Y ini?</p><h3>Enam Kelas Bahasa di Dunia</h3><p>Salah satu kontribusi paling penting dari paper ini adalah taksonomi enam kelas bahasa berdasarkan ketersediaan sumber daya:</p><ul><li><strong>Kelas 0 (<em>The Left-Behinds</em>)</strong>: Bahasa-bahasa yang nyaris tak tersentuh teknologi. Hampir mustahil untuk diangkat ke ruang digital dalam waktu dekat.</li><li><strong>Kelas 1 (<em>The Scraping-Bys</em>)</strong>: Punya sedikit data tak berlabel. Bisa naik kelas jika ada gerakan terorganisir untuk mengumpulkan data berlabel.</li><li><strong>Kelas 2 (<em>The Hopefuls</em>)</strong>: Sudah punya sedikit dataset berlabel. Ada komunitas yang berjuang menjaganya tetap relevan secara digital.</li><li><strong>Kelas 3 (<em>The Rising Stars</em>)</strong>: Kuat di kehadiran web, tetapi minim usaha pengumpulan data berlabel.</li><li><strong>Kelas 4 (<em>The Underdogs</em>)</strong>: Punya banyak data tak berlabel, hampir setara dengan kelas atas. Tantangannya adalah pada data berlabel.</li><li><strong>Kelas 5 (<em>The Winners</em>)</strong>: Bahasa-bahasa pemenang. Punya kehadiran digital dominan dan investasi besar dari industri serta pemerintah. Bahasa Inggris adalah contoh paling jelas.</li></ul><p>Dan yang menarik, <strong>Kelas 0 berisi jumlah bahasa terbanyak dan mewakili 15% (1,2 miliar) penutur dari total 6,857 miliar penutur seluruh kelas</strong>. Artinya, lebih dari satu miliar manusia di dunia berbicara dalam bahasa yang nyaris tidak punya jejak digital.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/778/1*CZdVFT5jfpH4m7_eW_g0iQ.png" /><figcaption>Jumlah bahasa, penutur, dan persentase dari total bahasa untuk setiap kelas bahasa (Sumber: Joshi dkk (2020))</figcaption></figure><h3>Bagaimana Joshi Membuktikannya?</h3><p>Joshi tidak hanya memberi label. Ia membuktikannya secara kuantitatif dengan tiga pendekatan utama.</p><h4><strong><em>1. Language Occurrence Entropy</em></strong></h4><p>Untuk setiap konferensi NLP, dihitung proporsi tiap bahasa muncul di paper-papernya, lalu dimasukkan ke rumus entropi Shannon.</p><blockquote>Entropi yang tinggi berarti penelitian tersebar merata ke banyak bahasa.</blockquote><blockquote>Entropi yang rendah berarti menumpuk di sedikit bahasa dominan.</blockquote><p>Hasilnya? Tren entropi konferensi NLP utama tidak membaik signifikan dari tahun ke tahun.</p><h4><strong><em>2. Class-wise Mean Reciprocal Rank</em> (MRR)</strong></h4><p>Bahasa diurutkan berdasarkan frekuensi disebut di paper, lalu dihitung rata-rata 1/rank per kelas taksonomi. Nilai MRR untuk setiap konferensi dapat dilihat pada tabel di bawah ini.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/389/1*VHc4PTJ6O-QL8zKeRljLzA.png" /><figcaption>Class-wise (1/MRR) untuk setiap konferensi (Sumber: Joshi dkk (2020))</figcaption></figure><blockquote>Nilai Class-wise (1/MRR) yang tinggi berarti konferensi tersebut sangat <strong>eksklusif</strong> untuk kelas bahasa tersebut</blockquote><blockquote>Nilai Class-wise (1/MRR) yang rendah berarti konferensi tersebut sangat <strong>inklusif</strong> untuk kelas bahasa tersebut</blockquote><p>Tabel hasilnya menunjukkan pola konsisten: <strong>Kelas 5 (The Winners)</strong> selalu di kisaran 2-3, sedangkan <strong>Kelas 0</strong> di kisaran 647-974. Konferensi seperti LREC sedikit lebih inklusif untuk bahasa minoritas, tetapi pola dasar tetap sama yaitu sangat timpang.</p><h4><strong>3. Entity Embedding Analysis</strong></h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/398/1*lVjfwPzOVRIxtodfJEVr1A.png" /><figcaption>Arsitektur model untuk mempelajari embedding dari entitas (Sumber: Joshi dkk (2020))</figcaption></figure><p>Joshi melatih model yang merepresentasikan <strong>penulis</strong>, <strong>bahasa</strong>, dan <strong>konferensi</strong> sebagai vektor matematika menggunakan adaptasi algoritma Skipgram dari Word2Vec.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/968/1*puZ9ZvdM9zLcIdFczggSiQ.png" /><figcaption>Visualisasi t-SNE dari embedding konferensi dan bahasa yang dipelajari (Sumber: Joshi dkk (2020))</figcaption></figure><p>Visualisasi t-SNE-nya mengungkap dua hal menarik: <strong>(1)</strong> ada pergeseran riset NLP dari pendekatan teoritis ke pendekatan berbasis data, dan <strong>(2)</strong> konferensi seperti LREC dan berbagai workshop menjadi “tempat berlindung” bagi penelitian bahasa minoritas, sementara konferensi besar lebih dekat ke bahasa-bahasa populer.</p><h3>Alasan Transfer Learning Bukan Solusi Ajaib</h3><p>Salah satu temuan paling penting bagi konteks Indonesia adalah soal <strong>tipologi linguistik</strong>. Ada fitur-fitur bahasa tertentu yang umum pada bahasa miskin sumber daya tetapi langka pada bahasa kaya sumber daya. Akibatnya, model NLP yang dilatih pada bahasa kaya sumber daya cenderung gagal memahami fitur-fitur tersebut.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/473/1*Lb7Y7M13SQM2LBoBF65LNQ.png" /><figcaption>Ciri tipologi yang paling banyak ‘diabaikan’ dan paling sedikit ‘diabaikan’, jumlah kategori dalam setiap fitur yang telah diabaikan, dan jumlah bahasa yang mengandung fitur ini (Sumber: Joshi dkk (2020))</figcaption></figure><p>Misalnya, fitur tipologi <strong>144E</strong> hanya terdokumentasi pada 38 bahasa, tersebar dari Wolof di Afrika Barat, Islandia di Eropa Utara, hingga Kilivila di Pasifik. Bandingkan dengan fitur <strong>83A</strong> yang terdokumentasi pada 1321 bahasa.</p><p>Ini berarti pendekatan populer seperti <a href="https://www.geeksforgeeks.org/nlp/transfer-learning-in-nlp/"><em>transfer learning</em></a> dari bahasa kaya sumber daya ke bahasa miskin sumber daya <strong>tidak otomatis berhasil</strong>. Transfer learning bekerja lebih baik jika kedua bahasa memiliki kesamaan tipologi. Seperti yang pernah saya sebutkan pada <a href="https://medium.com/@feliksmakarios/catatan-dari-bender-2013-bab-1-kenapa-linguistik-penting-untuk-nlp-37fd5774243a"><strong>catatan Bab 1 dari Bender (2013)</strong></a>, Bahasa Inggris miskin morfologi dan sangat bergantung pada urutan kata. Pendekatan seperti <em>bag-of-words</em> dan n-gram bekerja baik untuk Bahasa Inggris karena hampir semua informasi sintaksisnya tersimpan di permukaan (urutan kata dan bentuk kata yang stabil).</p><p>Bahasa Batak Toba, Bahasa Jawa, atau Bahasa Indonesia punya struktur morfosintaksis yang berbeda. Memaksakan pendekatan yang berhasil di Bahasa Inggris tanpa pertimbangan tipologi adalah resep untuk performa yang buruk.</p><h3>Apa Artinya Bagi Indonesia?</h3><p>Sebagai orang Indonesia yang tertarik dengan riset NLP, paper ini membuka mata saya tentang seberapa jauh kita masih harus berjalan. Bahkan bahasa-bahasa dengan jutaan penutur seperti Bahasa Jawa dan Igbo masih sangat kekurangan dukungan komunitas riset dunia. Jumlah penutur ternyata bukan jaminan dukungan teknologi.</p><p>Saya rindu suatu saat Bahasa Indonesia bisa berada di Kelas 5, begitu juga dengan bahasa-bahasa daerah seperti Bahasa Batak Toba. Tetapi ini tidak akan terjadi sendirinya. Diperlukan gerakan massal untuk memperbanyak ketersediaan data dan riset terkait bahasa-bahasa tersebut.</p><p>Beberapa orang mungkin berargumen bahwa Large Language Model (LLM) modern dengan kemampuan <em>few-shot learning</em> akan mengatasi kesenjangan ini secara otomatis. Saya kurang yakin. Kualitas keluaran LLM dalam bahasa berdaya rendah masih perlu diverifikasi oleh anotator manusia. Tanpa data berkualitas dan riset linguistik yang matang, LLM hanya akan memperkuat ketimpangan yang sudah ada, bukan menyelesaikannya.</p><h3>Saran Joshi: Klausul Diversity &amp; Inclusion</h3><p>Joshi mengajukan saran konkret yaitu perlunya klausul <strong>“Diversity and Inclusion” (D&amp;I)</strong> dalam pengajuan paper di konferensi NLP. Klausul ini akan memastikan bahwa teknologi yang dikembangkan dapat diterapkan di banyak bahasa, bukan hanya pada segelintir bahasa dominan.</p><p>Bagi saya, ini bukan sekadar soal keadilan akademis. Ini soal apakah kemajuan teknologi AI akan menjadi alat pelestarian keberagaman linguistik dunia, atau justru menjadi mesin homogenisasi yang mempercepat punahnya bahasa-bahasa minoritas.</p><h3>Penutup</h3><p>Paper Joshi (2020) adalah bacaan wajib bagi siapa pun yang peduli pada masa depan bahasa-bahasa dunia di era AI. Pertanyaannya sekarang: jika kita orang Indonesia tidak yang membangun riset NLP untuk Bahasa Indonesia dan bahasa daerah kita sendiri, siapa lagi yang akan melakukannya?</p><p>Dunia sedang berlomba di trek pemenang. Tugas kita adalah memastikan bahasa-bahasa kita tidak tertinggal di garis <em>start</em>.</p><p>Oh ya, jawaban teka-teki Joshi di awal tadi: <strong>X</strong> adalah Bahasa Belanda, <strong>Y</strong> adalah Bahasa Somali.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=a342704271cc" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Catatan dari Bender (2013), Bab 1 — Kenapa Linguistik Penting untuk NLP?]]></title>
            <link>https://medium.com/@feliksmakarios/catatan-dari-bender-2013-bab-1-kenapa-linguistik-penting-untuk-nlp-37fd5774243a?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/37fd5774243a</guid>
            <category><![CDATA[kecerdasan-buatan]]></category>
            <category><![CDATA[struktur-linguistik]]></category>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[austronesian]]></category>
            <category><![CDATA[emily-bender]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Sun, 03 May 2026 05:45:01 GMT</pubDate>
            <atom:updated>2026-05-05T14:46:49.360Z</atom:updated>
            <content:encoded><![CDATA[<p><em>Ini adalah bagian </em><strong><em>pertama</em></strong><em> dari seri catatan bacaan saya atas buku </em><strong><em>Emily Bender, “Linguistic Fundamentals for Natural Language Processing: 100 Essentials from Morphology and Syntax” (2013)</em></strong><em>.</em></p><p>Artikel ini dari <strong>Bab 1 — Introduction/Motivation</strong></p><p>Daftar catatan saya untuk setiap bab dapat dilihat di sini:</p><ul><li><strong>Bab 1 — Introduction/Motivation <em>(artikel ini)</em></strong></li><li>Bab 2 — Morphology: Introduction</li><li>Bab 3 — Morphophonology</li><li>Bab 4 — Morphosyntax</li><li>Bab 5 — Syntax: Introduction</li><li>Bab 6 — Parts of Speech</li><li>Bab 7 — Heads, arguments and adjuncts</li><li>Bab 8 — Argument types and grammatical functions</li><li>Bab 9 — Mismatches between syntactic position and semantic roles</li><li>Bab 10 — Resources</li></ul><p>Banyak orang mungkin berpikir model NLP modern sudah “melampaui” linguistik, tinggal berikan data besar ke model besar, dan selesai. Emily Bender (2013) membuka bukunya dengan argumen sebaliknya: <strong>memahami struktur bahasa itu penting untuk mendesain fitur yang lebih baik dan menganalisis kesalahan sistem NLP.</strong></p><h3>Morfosintaksis: Sekumpulan Kata yang Bermakna</h3><p>Perhatikan kalimat ini:</p><blockquote>“Kim sent Pat Chris.” | “Kim was sent to Pat by Chris.”</blockquote><p>Dua kalimat di atas memiliki kata-kata yang hampir sama, tetapi <strong>siapa mengirim siapa?</strong> Inilah yang disebut <strong>morfosintaksis </strong>yaitu<strong> </strong>struktur non-linear yang mengubah sekumpulan kata (<em>bag of words</em>) menjadi kalimat <strong>bermakna</strong>. Struktur inilah yang meng-<em>encode</em> informasi tentang:</p><blockquote><strong><em>siapa melakukan apa kepada siapa</em></strong><em> </em>(who did what to whom)</blockquote><p>Bender bahkan memperluasnya dengan menyebutkan bukan hanya “siapa melakukan apa kepada siapa,” tapi juga:</p><blockquote><strong><em>“siapa yang seperti apa melakukan hal yang seperti apa kepada siapa yang seperti apa, di mana, mengapa, kapan, dan bagaimana.”</em></strong></blockquote><p>Hampir semua task NLP (dari <a href="https://www.ibm.com/id-id/think/topics/machine-translation"><em>machine translation</em></a>, <a href="https://www.ibm.com/id-id/think/topics/information-extraction"><em>information extraction</em></a>, hingga <a href="https://www.ibm.com/id-id/think/topics/sentiment-analysis"><em>sentiment analysis</em></a><em>) </em>pada intinya berusaha mengekstrak struktur ini.</p><p>Jika kita ingin mengekstrak informasi ini, kita perlu memahami <strong>bagaimana bahasa-bahasa meng-<em>encode</em>-nya.</strong> Setiap bahasa punya strategi berbeda: ada yang mengandalkan <strong>urutan kata</strong>, ada yang mengandalkan <strong>morfologi (imbuhan)</strong>, ada yang menggunakan <strong>keduanya</strong>.</p><h3>Tiga Cara Mengklasifikasikan Bahasa</h3><p>Bender memperkenalkan tiga cara mengklasifikasikan bahasa, dan ketiganya punya implikasi langsung untuk NLP:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/987/1*IT1ck6YlgfjXi8lMUR3BWA.png" /><figcaption>Klasifikasi Rumpun Bahasa Romawi/Romance (Sumber: <a href="https://upload.wikimedia.org/wikipedia/commons/9/99/Romance-lg-classification-en.svg">Wikipedia</a>)</figcaption></figure><p><strong>1.Genealogis</strong> — berdasarkan keturunan. Bahasa Latin melahirkan 41 bahasa Romawi/Romance (Prancis, Italia, Spanyol, dll). Bahasa yang berkerabat cenderung berbagi properti gramatikal yang mirip. Implikasinya: model yang dilatih pada satu bahasa bisa di-<em>transfer</em> lebih mudah ke bahasa sekerabatnya (misalnya dari Bahasa Indonesia ke Bahasa Melayu)</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/658/1*GnKqEJK_IA4rPWblwq7mNg.png" /><figcaption>Kata-kata serapan Indonesia dari berbagai bahasa asing (Sumber: <a href="https://www.instagram.com/p/DAVWSqoRcHw/">lsp_penuliseditorpro</a>)</figcaption></figure><p><strong>2. Areal </strong>— berdasarkan kontak geografis. Ketika penutur bahasa berbeda hidup berdampingan dalam waktu lama, bahasa-bahasa mereka saling mempengaruhi. Fenomena ini menghasilkan <em>Sprachbund</em> (wilayah linguistik). Bahasa Indonesia sendiri adalah contoh nyata: kosakatanya meminjam dari Arab (<em>kursi</em>, <em>kitab</em>), Belanda (<em>kantor</em>, <em>gratis</em>), Portugis (<em>gereja</em>, <em>meja</em>), dan Inggris (<em>komputer</em>, <em>data</em>). Pola peminjaman ini mempengaruhi tokenisasi dan cakupan kosakata model NLP.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*ZJWr-4T1vtXt-azd.png" /><figcaption>World Atlas of Language Structure (Sumber: <a href="https://datarepository.wolframcloud.com/resources/World-Atlas-of-Language-Structures">Wolfram Data Repository</a>)</figcaption></figure><p><strong>3. Tipologis</strong> — berdasarkan fitur gramatikal, terlepas dari lokasi/areal atau keturunan/genealogis. Bahasa Jepang dan Turki sama-sama SOV dan aglutinatif, padahal tidak berkerabat dan terpisah ribuan kilometer. <a href="https://wals.info/">WALS (<em>World Atlas of Language Structures</em>)</a> dan <a href="https://github.com/LeeLanguageLab/URIELPlus">URIEL</a> adalah basis data yang memetakan fitur-fitur tipologis ini dan sudah digunakan untuk multilingual NLP.</p><h3>7.000 Bahasa, 128 Rumpun, dan Kreol</h3><p><a href="https://www.ethnologue.com/">Ethnologue</a> pada tahun 2013 mencatat 6.909 bahasa hidup (data 2026 menunjukkan ada 7,170 bahasa) yang tersebar di 128 rumpun bahasa. Di antara proses pembentukan bahasa, ada satu yang unik: <strong>kreolisasi</strong>. <a href="https://id.wikipedia.org/wiki/Bahasa_kreol">Kreol</a> lahir dari situasi kontak bahasa (sering melibatkan perbudakan atau kolonialisasi) di mana penutur bahasa <em>substrat</em> harus menggunakan kosakata bahasa <em>superstrat</em> untuk berkomunikasi. Hasilnya: <a href="https://id.wikipedia.org/wiki/Bahasa_pijin"><em>pidgin</em></a> yang kemudian menjadi bahasa penuh ketika digunakan anak-anak sebagai bahasa ibu.</p><p>Contoh yang dekat: <a href="https://id.wikipedia.org/wiki/Bahasa_Betawi"><strong>Melayu Betawi</strong></a><strong>, </strong><a href="https://id.wikipedia.org/wiki/Bahasa_Melayu_Ambon"><strong>Melayu Ambon</strong></a><strong>, </strong><a href="https://id.wikipedia.org/wiki/Bahasa_Melayu_Manado"><strong>Melayu Manado</strong></a><strong>, dan </strong><a href="https://id.wikipedia.org/wiki/Bahasa_Melayu_Larantuka"><strong>Melayu Larantuka</strong></a><strong> </strong>merupakan<strong> </strong>kreol berbasis Melayu yang bercampur dengan bahasa lokal dan Belanda/Portugis. Tantangan NLP-nya unik yaitu kosakata mirip bahasa <em>superstrat</em> sehingga model bisa “tertipu,” tapi tata bahasanya sangat berbeda.</p><h3>Bias Tersembunyi dalam Desain NLP</h3><p>Bender menunjukkan bahwa banyak pendekatan NLP yang tampak “umum” sebenarnya <strong>dioptimalkan secara tidak sadar untuk properti spesifik dalam Bahasa Inggris </strong>dimana sebenarnya Bahasa Inggris itu memiliki <strong>struktur morfologi yang miskin</strong> dan <strong>urutan kata yang kaku</strong>.</p><p>Pendekatan <em>n-gram</em> dan <em>bag-of-words</em> bekerja baik untuk Inggris <strong>justru karena</strong> kedua properti tersebut.</p><blockquote><strong><em>BAHASA INGGRIS : kata kerja “walk”:</em></strong></blockquote><blockquote>walk, walks, walked, walking<em>. Hanya </em><strong><em>4 bentuk</em></strong><em>.</em></blockquote><blockquote><strong><em>BAHASA TURKI: kata kerja “gelmek” (datang):</em></strong></blockquote><blockquote>geliyor, geliyorum, geliyorsun, geliyoruz, geliyorsunuz, geliyorlar, geldi, geldim, geldin, geldik, geldiniz, geldiler, gelecek, geleceğim…<em> dan seterusnya.</em></blockquote><blockquote><em>Satu kata kerja bisa punya </em><strong><em>ratusan bentuk</em></strong><em> karena informasi tentang pelaku, waktu, aspek, modus, bahkan negasi semuanya ditempelkan di dalam kata.</em></blockquote><blockquote><strong><em>BAHASA INDONESIA: “makan”:</em></strong></blockquote><blockquote>makan, memakan, dimakan, termakan, pemakan, makanan<em>.</em></blockquote><blockquote><em>Sudah lebih kaya dari Bahasa Inggris tapi masih lebih sederhana dari Turki.</em></blockquote><p>Kata <strong>morfologi Inggris “miskin,”</strong> maksudnya adalah Bahasa Inggris meng-<em>encode</em> sedikit informasi gramatikal di dalam kata itu sendiri. Sebagian besar informasi disampaikan lewat <strong>urutan kata dan kata fungsi terpisah</strong> (preposisi, artikel, kata bantu).</p><p>Dalam Bahasa Inggris, urutan SVO hampir tidak bisa diubah tanpa mengubah makna atau menjadi tidak gramatikal. Itu sebabnya disebut kaku. Contoh:</p><blockquote>“The dog bit the man.” <em>(anjing menggigit orang)</em></blockquote><blockquote>“The man bit the dog.” <em>(orang menggigit anjing)</em></blockquote><p>Tukar posisi, maka makna pun bertukar. Tidak ada imbuhan atau penanda kasus yang memberi tahu siapa pelaku dan siapa penderita. <strong>Posisi dalam kalimat adalah satu-satunya petunjuk</strong>.</p><p>Bandingkan dengan Bahasa Rusia yang punya kasus (<em>case marking</em>):</p><blockquote>“Sobaka ukusila čeloveka.”<em> (anjing menggigit orang)</em></blockquote><blockquote>“Čeloveka ukusila sobaka.”<em> (anjing menggigit orang. </em><strong><em>Makna sama</em></strong><em> meski urutan berubah, karena akhiran -a dan -a pada kata benda menunjukkan siapa pelaku dan siapa penderita)</em></blockquote><p>Atau Bahasa Indonesia dalam konteks tertentu:</p><blockquote><em>“Buku itu saya baca.”</em></blockquote><blockquote><em>“Saya membaca buku itu.”</em></blockquote><p>Makna sama, urutan berbeda, karena morfologi <em>me-</em> dan konteks topikalisasi membantu. Itu sebabnya untuk mengekstrak <em>“siapa melakukan apa kepada siapa”</em> akan sangat berbeda dari Bahasa Inggris.</p><h4>Kenapa Ini Membuat N-gram dan Bag-of-Words “Cocok” untuk Inggris</h4><p><strong>Bag-of-words</strong> memperlakukan kalimat sebagai kumpulan kata tanpa urutan. Ini “cukup” untuk Inggris karena:</p><ul><li>Morfologi miskin → sedikit variasi bentuk kata → kosakata (vocabulary) model tetap kecil dan <em>manageable</em>. Kata “<em>walk</em>” muncul sebagai “<em>walk</em>” di hampir semua konteks.</li><li>Bandingkan Turki: satu lema “<em>gelmek</em>” muncul dalam ratusan bentuk berbeda, sehingga<em> bag-of-words</em> melihatnya sebagai ratusan kata berbeda padahal artinya sama.</li></ul><p><strong>N-gram</strong> (urutan <em>n</em> kata berturutan) menangkap konteks lokal. Ini efektif untuk Bahasa Inggris karena:</p><ul><li>Urutan kata kaku → hubungan sintaktis hampir selalu tercermin dalam urutan linear. <em>“Dog bit man”</em> vs <em>“man bit dog”</em> sudah cukup dibedakan oleh <em>n</em>-gram.</li><li>Untuk bahasa dengan urutan kata fleksibel, <em>n</em>-gram gagal menangkap hubungan antar-kata yang posisinya jauh atau berubah-ubah.</li></ul><p><strong>Karenanya, </strong>kedua pendekatan ini bekerja dengan baik karena Bahasa Inggris kebetulan menyimpan hampir semua informasi sintaktis di permukaan (di urutan kata dan di bentuk kata) yang tidak banyak berubah. Pendekatan ini jadi <strong>menipu</strong> karena terlihat “universal,” padahal sebenarnya mengandalkan properti yang <strong>tidak dimiliki sebagian besar bahasa di dunia.</strong></p><h3>Refleksi</h3><p>Bahasa Indonesia (SVO, aglutinatif ringan) dan <strong>Batak Toba</strong> (VOS dalam konstruksi tertentu, morfologi <em>voice</em> yang lebih kaya (dengan prefiks <em>mang-</em>, <em>di-</em>, <em>tar-)</em> keduanya berada dalam rumpun Austronesia, tetapi strategi morfosintaksisnya cukup berbeda. Ini menunjukkan bahwa <strong>transfer learning dari bahasa dominan tidak bisa diasumsikan linear</strong>, bahkan antar-bahasa berkerabat dekat.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/720/0*e2ROW8hfOFYKLVaU" /><figcaption>Bahasa Batak Toba, Bahasa Indonesia, dan Bahasa Jawa (Sumber: <a href="https://web.facebook.com/photo.php?fbid=370083612355603&amp;set=a.1101225487076601&amp;id=100080619010632&amp;_rdc=1&amp;_rdr#">SEA Heritage &amp; History</a>)</figcaption></figure><p>Jika pendekatan yang dirancang untuk Bahasa Inggris sudah <strong>bias</strong> terhadap properti Inggris, maka bias itu berlipat ganda ketika kita bicara tentang bahasa daerah di Indonesia yang tipologinya lebih jauh lagi dari Bahasa Inggris.</p><p><em>Bab 2 akan membahas Morfologi: unit terkecil bermakna dalam bahasa, dan bagaimana variasi morfologis antar-bahasa mempengaruhi desain sistem NLP.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=37fd5774243a" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Bagaimana Komputer Memahami Makna Kata? Sebuah Pengantar tentang Vektor Kata]]></title>
            <link>https://medium.com/@feliksmakarios/bagaimana-komputer-memahami-makna-kata-sebuah-pengantar-tentang-vektor-kata-2ecf8d0f5e52?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/2ecf8d0f5e52</guid>
            <category><![CDATA[word2vec]]></category>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[makna-kata]]></category>
            <category><![CDATA[word-vectors]]></category>
            <category><![CDATA[semantik]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Sat, 02 May 2026 11:55:16 GMT</pubDate>
            <atom:updated>2026-05-23T11:45:18.917Z</atom:updated>
            <content:encoded><![CDATA[<p><em>Ini adalah bagian </em><strong><em>pertama</em></strong><em> dari seri catatan belajar saya atas video perkuliahan dari </em><strong><em>CS224N (Stanford University)</em></strong><em> dan </em><strong><em>CMU 11–737 (Carnegie Mellon University)</em></strong><em>. Seri ini ditulis untuk membangun fondasi riset NLP untuk low-resource languages di Indonesia.</em></p><p>Artikel ini dari video <a href="https://youtu.be/DzpHeXVSC5I"><strong>CS224N Lecture 1: <em>Intro to Word Vectors</em></strong></a></p><p>Daftar catatan saya untuk setiap video dapat dilihat di sini:</p><ul><li><strong>Catatan 1: CS224N Lecture 1 — Intro and Word Vectors <em>(artikel ini)</em></strong></li><li>Catatan 2: CS224N Lecture 2 — Word Vectors and Language Models</li><li>Catatan 3: CMU 11–737 Lecture 1 — Introduction to Multilingual NLP</li><li>Catatan 4: CMU 11–737 Lecture 2 — Typology — The Space of Language</li><li>Catatan 5: CS224N Lecture 8 — Self-Attention and Transformers</li><li>Catatan 6: CS224N Lecture 9 — Pretraining (BERT, T5, GPT)</li><li>Catatan 7: CMU 11–737 Lecture 10 — Multilingual Training and Cross-lingual Transfer</li><li>Catatan 8: CS224N Lecture 18 — Linguistics and NLP</li><li>Catatan 9: CMU 11–737 Lecture 22 — Multilingual NLP for Indigenous</li></ul><p>Bahasa adalah teknologi kognitif tertua yang dimiliki manusia. Dengan bahasa, kita tidak hanya berbagi informasi, tetapi juga <a href="https://www.amacad.org/sites/default/files/publication/downloads/Daedalus_Sp22_09_Manning.pdf">mewariskan pengetahuan lintas ruang dan waktu</a>. Tulisan, yang baru berusia sekitar 5.000 tahun, membuktikan betapa dahsyatnya peran bahasa sebagai alat berpikir.</p><p><strong>Tapi ada satu hal menarik:</strong> bahasa itu fleksibel, ambigu, dan terus berubah. Kita bisa berbicara dengan ketidaktepatan yang disengaja, menyisipkan nuansa dan emosi, bahkan menciptakan kata-kata baru setiap hari. Pertanyaannya, <strong><em>bagaimana komputer bisa memahami sesuatu yang begitu luwes dan hidup?</em></strong></p><h3>Makna sebagai Simbol Diskret</h3><p>Pendekatan paling awal dalam pemrosesan bahasa alami <em>(Natural Language Processing/NLP)</em> memperlakukan <strong>kata sebagai simbol diskret</strong>. Dalam pendekatan ini, setiap kata dianggap sebagai <strong>entitas terpisah yang tidak punya hubungan bawaan dengan kata lain</strong>. Salah satu cara merepresentasikan kata dalam paradigma ini adalah <a href="https://www.geeksforgeeks.org/nlp/one-hot-encoding-in-nlp/"><em>one-hot vector</em></a>: sebuah vektor yang panjangnya sama dengan jumlah kata dalam kosakata, berisi angka 1 di satu posisi dan 0 di posisi lainnya.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/672/1*-dhZumZYrZvbWRAP5de9Hw.png" /><figcaption>Merepresentasikan kata sebagai simbol diskret (Sumber: Slide Lecture 1)</figcaption></figure><p>Bayangkan kosakata berisi 500.000 kata. Setiap kata direpresentasikan oleh vektor berdimensi 500.000 dengan hanya satu angka 1. Secara komputasi, ini sangat boros. Lebih parah lagi, representasi ini membuat setiap pasangan kata berjarak sama. Vektor “<strong>motel</strong>” dan “<strong>hotel</strong>” saling tegak lurus (ortogonal), sehingga hasil perkalian titik (<em>dot product</em>) keduanya selalu nol, persis sama seperti pasangan “<strong>motel</strong>” dan “<strong>kucing</strong>”. Padahal, kita tahu “<strong>motel</strong>” dan “<strong>hotel</strong>” jauh lebih mirip maknanya.</p><p>Solusi lain yang lebih tua adalah <a href="https://wordnet.princeton.edu/"><strong>WordNet</strong></a>, sebuah tesaurus digital yang berisi daftar himpunan sinonim dan relasi hipernim (hubungan “<strong>adalah-sebuah</strong>”). WordNet punya keterbatasan serius:</p><ul><li>kehilangan nuansa (kata “mahir” terdaftar sebagai sinonim “baik”),</li><li>tidak mencakup konotasi atau kelayakan penggunaan kata,</li><li>membutuhkan tenaga manusia untuk terus diperbarui,</li><li>dan yang paling krusial, WordNet tidak bisa digunakan untuk menghitung kemiripan antar-kata secara akurat.</li></ul><h3>Semantik Distribusional: Makna dari Konteks</h3><p>Terobosan besar datang dari gagasan yang sebenarnya sudah lama ada. Pada tahun 1957, linguis <strong>John Rupert Firth</strong> menulis kalimat yang kini terkenal: <em>“You shall know a word by the company it keeps.”</em> Kamu akan mengenal sebuah kata dari kata-kata yang menemaninya.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/289/1*xuzjS3sN7sHXJ3CQm739Dw.png" /><figcaption>John Rupert Firth — English Linguist</figcaption></figure><p>Gagasan ini, yang dikenal sebagai <a href="https://mbrenndoerfer.com/writing/distributional-hypothesis-word-meaning-context"><strong>semantik distribusional</strong></a>. Ini adalah klaim epistemologis: <strong>makna sebuah kata dapat ditangkap sepenuhnya dari pola kemunculannya bersama kata-kata lain dalam teks</strong>.</p><blockquote>Ketika kata <em>w</em> muncul dalam sebuah teks, konteksnya adalah kata-kata yang muncul di sekitarnya dalam jendela berukuran tetap.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/724/1*YKt2JgdO_gV700F8ldPJmQ.png" /><figcaption>Merepresentasikan kata melalui konteksnya (kata yang ada di sekitarnya) (Sumber: Slide Lecture 1)</figcaption></figure><p>Dari prinsip ini lahir konsep vektor kata (<a href="https://d2l.ai/chapter_natural-language-processing-pretraining/word2vec.html"><strong><em>word vector</em></strong></a>): representasi padat (<em>dense</em>) untuk setiap kata, yang dirancang sedemikian rupa sehingga kata-kata yang muncul dalam konteks serupa akan memiliki vektor yang mirip. Vektor-vektor ini juga sering disebut <strong><em>embeddings</em></strong> atau representasi neural kata, karena setiap kata ditanamkan (<em>embedded</em>) sebagai sebuah posisi dalam ruang berdimensi tinggi.</p><h3>Mengapa Ruang Vektor Berdimensi Tinggi?</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1004/1*nE-sEPPKFFqU0hGc7lEKcw.png" /><figcaption>Word Embeddings (Sumber: <a href="https://tonia.ai/dl-nlp.html">TONIA.AI</a>)</figcaption></figure><p>Di sinilah intuisi kita sering bingung. Kita terbiasa berpikir dalam dua atau tiga dimensi. Dalam ruang dua dimensi, kalau dua titik berjauhan, ya memang berjauhan. Tidak banyak ruang bagi sebuah titik untuk “dekat” dengan banyak titik sekaligus.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/600/1*UCKRYEj85S3eH1uv1vFfCw.gif" /><figcaption>Word embeddings pada ruang vektor berdimensi tinggi (Sumber: <a href="https://medium.com/data-science/mastering-word-embeddings-in-10-minutes-with-imdb-reviews-c345f83e054e">TDS Archive</a>)</figcaption></figure><p>Ruang berdimensi tinggi bekerja sangat berbeda. Dengan ratusan dimensi yang tersedia, sebuah kata tidak perlu memilih hanya <strong>satu makna</strong> atau <strong>satu tetangga</strong>. Kata “<strong>bintang</strong>”, misalnya, bisa dekat dengan istilah astronomi (“<strong>nebula</strong>”, “<strong>galaksi</strong>”) pada satu kombinasi dimensi, dan sekaligus dekat dengan istilah selebritas (“<strong>aktor</strong>”, “<strong>artis</strong>”) pada kombinasi dimensi yang berbeda. Kedua kelompok makna ini tidak saling bertabrakan karena ruangnya cukup luas untuk menampung relasi-relasi yang tumpang tindih secara bersamaan.</p><p>Jadi, kalau kita memilih ruang 300 dimensi, vektor kata untuk “<strong>motel</strong>” adalah daftar 300 bilangan riil yang merepresentasikan koordinat kata tersebut dalam ruang itu. Dimensionalitas ruang sama dengan panjang vektor.</p><h3>Word2Vec: Dari Gagasan Filosofis ke Algoritma</h3><p><a href="https://www.tensorflow.org/text/tutorials/word2vec">Word2Vec</a>, yang diperkenalkan oleh Mikolov dan rekan-rekan pada tahun 2013, adalah kerangka kerja untuk mempelajari vektor kata dari data. Mekanismenya bisa diringkas sebagai berikut:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/552/1*ZkG_iwy5Xb4cQPXoMql9SA.png" /><figcaption>Gambaran Umum Word2Vec (Sumber: Slide Lecture 1)</figcaption></figure><ol><li>Mulai dengan korpus teks yang besar. Setiap kata dalam kosakata direpresentasikan oleh sebuah vektor. Di awal pelatihan, vektor-vektor ini diisi dengan nilai acak.</li><li>Model kemudian menelusuri setiap posisi dalam teks. Di setiap posisi, ada satu kata pusat (<strong><em>c</em></strong><em>enter word</em>) dan beberapa kata konteks (<strong><em>o</em></strong><em>utside words</em>) di sekitarnya.</li><li>Model menghitung seberapa besar kemungkinan <strong>kata konteks</strong> muncul di dekat <strong>kata pusat</strong>, berdasarkan <strong>kemiripan vektor keduanya</strong>.</li><li>Vektor-vektor ini kemudian disesuaikan secara iteratif agar probabilitas yang dihitung semakin mendekati pola yang teramati dalam data.</li></ol><blockquote><strong>Satu detail teknis yang penting</strong> yaitu setiap kata sebenarnya memiliki dua vektor: Satu vektor digunakan ketika kata tersebut berperan sebagai kata pusat, dan satu lagi ketika ia berperan sebagai kata konteks.</blockquote><h3>Fungsi Prediksi dan Softmax</h3><p>Bagaimana model menghitung probabilitas kemunculan kata konteks? Prosesnya terdiri dari tiga langkah.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/823/1*dZ1XDDQt0l_Ecpbfwbw9UA.png" /><figcaption>Fungsi Prediksi (Sumber: Slide Lecture 1)</figcaption></figure><ul><li>Pertama, hitung hasil <strong>perkalian titik</strong> antara <strong>vektor kata pusat</strong> dan <strong>vektor kata konteks</strong>. <em>Semakin tinggi nilainya, semakin mirip kedua vektor, dan semakin besar kemungkinan keduanya muncul berdekatan.</em></li><li>Kedua, terapkan <strong>fungsi eksponensial</strong> pada hasil kali titik. Langkah ini memastikan semua nilai menjadi <strong>positif</strong>, sebuah syarat agar bisa diperlakukan sebagai <strong>probabilitas</strong>.</li><li>Ketiga, normalisasi dengan fungsi <strong><em>softmax</em></strong>: bagi nilai eksponensial kata target dengan jumlah nilai eksponensial seluruh kata dalam kosakata. Hasilnya adalah distribusi probabilitas yang jumlahnya tepat 1. Fungsi <em>softmax</em> secara “lembut” menonjolkan kata-kata yang paling mungkin sambil tetap memberi peluang kecil pada kata-kata lainnya.</li></ul><h3>Optimisasi untuk Meminimalkan Kesalahan</h3><p>Model dilatih dengan meminimalkan fungsi tujuan (<em>objective function</em>), yang mengukur seberapa jauh prediksi model dari kenyataan. Fungsi tujuan yang digunakan adalah <strong>rata-rata <em>negative log likelihood</em></strong>.</p><blockquote>Ketika model membuat prediksi yang buruk, nilai fungsi ini tinggi.</blockquote><p>Dengan menggunakan kalkulus dan <strong><em>gradient descent</em></strong>, model secara bertahap <strong>menyesuaikan parameter</strong> (yaitu vektor-vektor kata) untuk menurunkan nilai fungsi tujuan.</p><blockquote>Meminimalkan kesalahan berarti memaksimalkan akurasi prediksi.</blockquote><p>Dari vektor acak di awal, proses optimisasi ini mengubahnya menjadi representasi padat <strong><em>(dense representation)</em></strong> yang bermakna. Kata-kata yang sering muncul dalam konteks serupa akan berakhir di “lingkungan” yang berdekatan dalam ruang berdimensi tinggi.</p><p>Tentu saja, manusia tidak bisa melihat ruang 300 dimensi. Untuk memvisualisasikan vektor kata, digunakan teknik reduksi dimensi. Salah satu metode yang populer adalah <a href="https://dqlab.id/kenali-t-distributed-stochastic-neighbor-estimated-t-sne"><strong>t-SNE</strong></a>, sebuah teknik reduksi dimensi non-linier yang cenderung bekerja lebih baik untuk representasi neural berdimensi tinggi dibandingkan PCA. Dengan t-SNE, kita bisa melihat bagaimana kata-kata yang bermakna serupa mengelompok berdekatan dalam proyeksi dua dimensi.</p><h3>Refleksi</h3><p>Hal yang paling menarik dari Lecture 1 ini bukan rumus matematikanya, melainkan pergeseran cara pandang. NLP modern dimulai dari kesadaran bahwa <em>makna tidak bisa sekadar dicari di kamus</em>. <strong>Makna harus dipelajari dari data</strong>.</p><p>Hipotesis distribusional bukan sekadar inspirasi teknis namun seperti taruhan bahwa makna dapat ditangkap dari pola distribusional. Ini menimbulkan pertanyaan menarik: <strong><em>kalau sebuah kata jarang muncul dalam korpus, </em></strong><em>misalnya kata dari bahasa daerah atau domain yang sangat spesifik,</em><strong><em> makna apa yang sebenarnya bisa ditangkap oleh model?</em></strong> Pertanyaan ini menjadi semakin relevan ketika kita berbicara tentang keadilan <em>(fairness)</em> dan inklusivitas <em>(inclusivity)</em> dalam NLP.</p><p>Word2Vec sendiri adalah <strong>salah satu cara</strong> mengoperasionalkan gagasan filosofis ini. Mekanismenya (korpus, jendela geser, hasil perkalian titik, <em>softmax</em>, <em>gradient descent</em>) hanyalah alat untuk mengeksekusi prinsip yang lebih dalam yaitu makna adalah posisi geometris yang dipelajari lewat tugas prediktif, bukan sesuatu yang didefinisikan secara statis.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=2ecf8d0f5e52" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Panduan Mengadaptasi Large Language Model: Dari Teori ke Praktik]]></title>
            <link>https://medium.com/@feliksmakarios/panduan-lengkap-mengadaptasi-large-language-model-dari-teori-ke-praktik-10f440d7c235?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/10f440d7c235</guid>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[kecerdasan-buatan]]></category>
            <category><![CDATA[kurasi-data]]></category>
            <category><![CDATA[llm]]></category>
            <category><![CDATA[fine-tuning]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Thu, 19 Feb 2026 01:01:00 GMT</pubDate>
            <atom:updated>2026-02-19T08:10:26.458Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*IT5vR7TK5UuGwtCXTx6U2Q.png" /></figure><p>Bayangkan kantormu baru saja merekrut seorang karyawan baru yang sangat cerdas — dia lulus cum laude dari universitas terbaik, membaca ribuan buku, dan mampu berdiskusi tentang hampir semua topik. Tapi ada satu masalah: dia belum pernah bekerja di industri kamu yang sangat spesifik. Dia tidak tahu istilah teknis internal perusahaan, tidak terbiasa dengan format laporan yang kamu gunakan, dan terkadang memberikan jawaban yang terlalu umum ketika kamu butuh presisi.</p><p>Itulah, kurang lebih, situasi yang dihadapi tim produk AI ketika mereka mencoba menggunakan <em>Large Language Model</em> (LLM) siap pakai untuk kebutuhan spesifik bisnis atau organisasi. LLM seperti <a href="https://www.llama.com/"><em>Llama</em></a>, <a href="https://openai.com/index/chatgpt/"><em>GPT</em></a>, atau <a href="https://mistral.ai/"><em>Mistral</em></a> adalah “karyawan baru” yang sangat cerdas itu — dilatih dengan triliunan token data, mampu mengerjakan banyak hal, tapi belum tentu optimal untuk domain atau tugas tertentu yang kamu butuhkan.</p><p>Pertanyaan besarnya adalah:</p><blockquote>Bagaimana cara terbaik untuk “melatih ulang” atau mengadaptasi model ini agar bekerja persis seperti yang kamu inginkan? Haruskah kamu <strong>melatihnya dari nol</strong>, <strong>fine-tuning</strong>, atau cukup dengan <strong>teknik prompting</strong> yang cerdas?</blockquote><p>Tim Meta AI menerbitkan sebuah seri tiga bagian yang secara sistematis menjawab pertanyaan ini, dari pemahaman dasar tentang <strong>metode adaptasi</strong>, panduan kapan harus <strong>fine-tuning</strong>, hingga cara <strong>menyusun dataset</strong> yang efektif. Berikut adalah ringkasan yang saya susun dengan beberapa <em>take-away</em> untuk konteks Indonesia dan berbagai domain kebutuhan lokal.</p><h3>Bagian 1: Mengenal Lanskap Metode Adaptasi LLM</h3><p>Sebelum memutuskan metode mana yang akan digunakan, penting untuk memahami spektrum pilihan yang ada — karena keputusan ini akan berdampak besar pada <strong>biaya</strong>, <strong>kualitas output</strong>, dan <strong>kemampuan jangka panjang sistem</strong> yang kita bangun.</p><h4>Pre-training: Membangun dari Nol</h4><p>Pre-training adalah proses melatih sebuah LLM dari nol menggunakan triliunan token data. Model dilatih menggunakan algoritma <strong><em>self-supervised</em></strong> — paling umum dengan cara memprediksi token berikutnya secara autoregresif, yang dikenal sebagai <em>causal language modeling</em>. Proses ini membutuhkan ribuan hingga jutaan jam GPU (berkisar antara <a href="https://research.nvidia.com/publication/2023-10_chipnemo-domain-adapted-llms-chip-design">10⁵ hingga 10⁷ GPU-hours</a>) yang tersebar di ratusan atau ribuan GPU secara paralel. Hasilnya adalah apa yang kita kenal sebagai <em>foundation model</em> — model dasar seperti <a href="https://arxiv.org/pdf/2307.09288">Llama 2</a>, GPT-3, atau Falcon.</p><p>Secara praktis, pre-training dari nol hampir tidak pernah menjadi pilihan realistis bagi tim produk AI kebanyakan. Biayanya bisa mencapai puluhan juta dolar, dan infrastrukturnya sangat kompleks. Ini adalah area riset perusahaan-perusahaan besar seperti Meta, Google, atau OpenAI.</p><h4>Continued Pre-training: Memperluas Pengetahuan Domain</h4><p><em>Continued pre-training</em> — atau dikenal juga sebagai <em>second-stage pre-training</em> — adalah cara yang lebih hemat untuk menyuntikkan pengetahuan domain baru ke dalam model yang sudah ada. Alih-alih melatih dari nol, kita melanjutkan proses pelatihan menggunakan data domain spesifik yang belum pernah dilihat model sebelumnya. Teknik yang sama dengan pre-training digunakan, dan biasanya sebagian kecil data original dicampur dengan data domain baru untuk menjaga keseimbangan kemampuan model.</p><p>Ini berguna ketika kita memiliki domain yang benar-benar <em>underrepresented</em> dalam data pelatihan model original — misalnya, bahasa daerah yang sangat langka, terminologi industri yang sangat teknis, atau dokumen internal perusahaan yang sifatnya proprietari.</p><h4>Fine-tuning: Mengasah Kemampuan yang Sudah Ada</h4><p><em>Fine-tuning</em> adalah proses mengadaptasi model yang sudah di-pre-train menggunakan dataset yang dianotasi/dilabeli secara supervised — artinya, kita menyediakan pasangan input-output yang “benar” sebagai panduan pembelajaran. Ini berbeda secara fundamental dari pre-training dalam dua hal penting.</p><p><strong>Pertama</strong>, fine-tuning menggunakan supervised training dengan data berlabel, <strong><em>bukan</em></strong> self-supervised training. Kita secara eksplisit memberitahu model: <em>“ketika diberikan input seperti ini, output yang benar adalah seperti itu.”</em> <strong>Kedua</strong>, jumlah data yang dibutuhkan jauh lebih sedikit — ribuan hingga jutaan token, bukan miliaran atau triliunan seperti pada pre-training.</p><p>Di dalam kategori fine-tuning sendiri, ada dua dimensi penting yang perlu dipahami.</p><ul><li><strong>Dimensi pertama: berapa banyak parameter yang diubah.</strong> <em>Full fine-tuning</em> berarti semua parameter model diperbarui — pendekatan ini lebih powerful tapi juga lebih mahal secara komputasi dan lebih rentan terhadap masalah yang disebut <a href="https://www.ibm.com/id-id/think/topics/catastrophic-forgetting"><em>catastrophic forgetting</em></a> (model lupa kemampuan lamanya karena terlalu fokus pada tugas baru). Di sisi lain, <strong><em>Parameter-Efficient Fine-Tuning</em></strong> atau <strong>PEFT</strong> hanya melatih sebagian kecil parameter — biasanya 1 hingga 6% dari total parameter — sehingga jauh lebih hemat sumber daya. Teknik populer dalam kategori PEFT antara lain <a href="https://arxiv.org/pdf/2106.09685"><strong>LoRA</strong> (Low-Rank Adaptation)</a> dan <a href="https://openreview.net/pdf?id=OUIFPHEgJU"><strong>QLoRA</strong> (LoRA dengan kuantisasi 4-bit)</a>, yang memungkinkan fine-tuning model besar di GPU konsumer biasa.</li><li><strong>Dimensi kedua: kemampuan apa yang ingin ditambahkan.</strong> Fine-tuning bisa digunakan untuk mengajarkan model mengikuti instruksi (<em>instruction following</em>), menyelaraskan output dengan preferensi manusia (<em>human alignment</em>), atau meningkatkan performa pada tugas spesifik seperti klasifikasi sentimen atau ekstraksi entitas <em>(named entity recognition)</em>.</li></ul><h4>Retrieval-Augmented Generation (RAG): Memberikan Memori Eksternal</h4><p>RAG adalah pendekatan yang secara fundamental berbeda dari fine-tuning. Alih-alih mengubah bobot model, RAG menambahkan sebuah <em>knowledge base</em> eksternal yang bisa diakses model secara dinamis saat inferensi. Cara kerjanya:</p><p><em>Ketika user mengajukan pertanyaan, sistem pertama-tama melakukan pencarian semantik di </em><strong><em>knowledge base</em></strong><em> untuk menemukan dokumen yang relevan, kemudian dokumen tersebut diinjeksikan ke dalam </em><strong><em>prompt</em></strong><em> sebagai konteks sebelum LLM menghasilkan jawaban.</em></p><p>RAG sangat cocok untuk <em>use case</em> di mana informasi sering berubah (seperti berita terbaru, harga saham, atau dokumentasi produk yang terus diperbarui), karena kita tidak perlu melatih ulang model setiap kali ada informasi baru — cukup perbarui <em>knowledge base</em>-nya. Popularitas RAG melonjak karena kemampuannya memberikan jawaban yang <em>grounded</em> pada fakta spesifik dan dapat diverifikasi sumbernya.</p><h4>In-Context Learning (ICL): Belajar dari Contoh di Prompt</h4><p>ICL memanfaatkan kemampuan LLM untuk belajar dari contoh-contoh yang ditempatkan langsung di dalam prompt, tanpa mengubah bobot model sama sekali. Ini meliputi <em>few-shot learning</em> (memberikan beberapa contoh input-output di prompt), <a href="https://arxiv.org/abs/2201.11903"><em>Chain-of-Thought prompting</em></a> (menambahkan langkah-langkah reasoning untuk memandu model berpikir <em>step-by-step</em>), hingga <a href="https://arxiv.org/abs/2210.03629"><em>ReACT</em></a> yang mengajarkan model untuk merencanakan dan merefleksikan strategi pemecahan masalahnya.</p><p>ICL adalah titik awal yang paling cepat dan murah untuk dicoba — tidak memerlukan data berlabel, tidak perlu infrastruktur training, dan bisa langsung dicoba dalam eksperimen. <strong>Kelemahannya</strong> adalah ada batas pada jumlah contoh yang bisa dimasukkan ke dalam <em>context window</em>, dan performanya cenderung tidak sestabil fine-tuning untuk tugas-tugas yang kompleks.</p><h3>Bagian 2: Kapan Harus Fine-tuning, dan Kapan Tidak?</h3><p>Setelah memahami pilihan yang ada, pertanyaan praktisnya adalah:</p><blockquote>kapan fine-tuning menjadi pilihan yang tepat, dan kapan kita seharusnya memilih RAG, ICL, atau bahkan kombinasi keduanya?</blockquote><p>Sebelum era LLM besar (&gt;1B parameter), fine-tuning hampir selalu menjadi jawaban default — model seperti BERT dan XLM-R (100–300M parameter) biasanya di-fine-tune untuk hampir setiap <a href="https://www.baeldung.com/cs/downstream-tasks"><em>downstream task</em></a>. Tapi dengan munculnya model-model yang lebih besar, pertimbangannya menjadi jauh lebih kompleks, karena <strong>biaya komputasi</strong>, risiko <strong><em>catastrophic forgetting</em></strong>, dan kebutuhan <strong>data berlabel yang signifikan</strong>.</p><h4>Empat Skenario di mana Fine-tuning Memberi Nilai Nyata</h4><p><strong>Pertama, kustomisasi nada, gaya, dan format output.</strong> Jika produk kita membutuhkan LLM yang perlu berbicara dengan persona tertentu — misalnya sebagai asisten <em>customer service</em> yang ramah tapi formal, atau sebagai analis keuangan yang berbicara dalam gaya laporan profesional — fine-tuning adalah cara paling andal untuk mencapai konsistensi ini. Kita juga bisa melatih model untuk selalu menghasilkan output dalam format tertentu seperti JSON terstruktur, YAML, atau Markdown, yang sangat berguna untuk integrasi sistemik.</p><p><strong>Kedua, meningkatkan akurasi dan menangani <em>edge case</em>.</strong> Ada situasi di mana <em>prompt engineering</em> saja tidak cukup untuk memperbaiki kesalahan atau halusinasi model. Fine-tuning bisa menjadi solusi ketika kamu menghadapi pola kesalahan yang berulang dan perlu “mengajarkan ulang” model tentang fakta atau logika yang benar. Contoh nyata yang dikutip dalam artikel Meta: <a href="https://www.theaidream.com/post/exploring-phi-2-microsoft-s-latest-small-language-model-slm">akurasi Phi-2</a> pada analisis sentimen data keuangan melonjak dari 34% menjadi 85% setelah fine-tuning. Dalam contoh lain, <a href="https://wandb.ai/mostafaibrahim17/ml-articles/reports/Fine-Tuning-ChatGPT-for-Sentiment-Analysis-With-W-B--Vmlldzo1NjMzMjQx">akurasi ChatGPT</a> pada analisis sentimen Reddit meningkat 25 poin persentase (dari 48% menjadi 73%) hanya dengan menggunakan 100 contoh fine-tuning. Ini menunjukkan bahwa untuk kasus dengan akurasi awal yang rendah (&lt;50%), fine-tuning dengan dataset kecil pun bisa memberikan lompatan yang sangat signifikan.</p><p><strong>Ketiga, menangani domain yang <em>underrepresented</em>.</strong> Ini adalah skenario yang paling relevan untuk konteks Indonesia dan banyak negara berkembang. LLM besar dilatih dengan data yang didominasi oleh bahasa Inggris dan bahasa-bahasa besar lainnya. Domain yang sangat <em>niche</em> atau spesifik secara lokal — hukum perdata Indonesia, <a href="https://blogs.oracle.com/ai-and-datascience/post/finetuning-in-large-language-models#:~:text=Instruction%20finetuning%3A%20Unlike%20supervised%20finetuning,with%20instructions%20in%20natural%20language">terminologi medis</a> dalam konteks sistem kesehatan nasional, bahasa daerah, atau jargon industri lokal — kemungkinan besar <em>underrepresented</em> dalam pre-training data. Fine-tuning adalah cara untuk menjembatani <em>gap</em> atau kesenjangan ini.</p><p><strong>Keempat, reduksi biaya melalui model distilasi.</strong> Fine-tuning bisa digunakan untuk “mendistilasi” kemampuan model besar (misalnya Llama 2 70B atau GPT-4) ke dalam model yang lebih kecil (misalnya Llama 2 7B). Model kecil yang sudah di-fine-tune untuk tugas spesifik bisa mendekati performa model besar pada tugas tersebut, dengan biaya inferensi yang jauh lebih rendah dan <em>latency</em> yang lebih cepat — sangat relevan untuk produksi skala besar.</p><h4>Kapan Fine-tuning Bukan Pilihan Terbaik?</h4><p>Fine-tuning membutuhkan biaya besar: membutuhkan data berlabel yang berkualitas, infrastruktur training, waktu eksperimen, dan pemeliharaan model yang berkelanjutan. Ada situasi di mana investasi ini tidak sepadan.</p><ul><li>Jika masalah kita adalah kurangnya pengetahuan faktual terkini (misalnya, model tidak tahu tentang regulasi yang baru terbit bulan lalu), <strong>RAG</strong> adalah pilihan yang jauh lebih tepat — karena kita bisa memperbarui <em>knowledge base</em> tanpa melatih ulang model.</li><li>Jika tugasnya relatif sederhana dan model sudah cukup performanya dengan sedikit contoh di prompt, <strong>ICL dengan few-shot</strong> bisa menjadi solusi yang lebih cepat dan murah.</li><li>Jika masalahnya adalah bahwa domain kita benar-benar belum dilihat model sama sekali (bukan sekadar kurang representatif), <strong><em>continued pre-training</em></strong> mungkin perlu dipertimbangkan sebelum fine-tuning.</li></ul><p>Rekomendasi umum dari Meta AI adalah memulai dengan teknik yang paling sederhana terlebih dahulu — <strong>prompt engineering</strong> dan <strong>ICL</strong> — kemudian naik ke <strong>fine-tuning</strong> hanya jika hasilnya tidak memuaskan. Fine-tuning sebaiknya dipandang sebagai investasi yang dilakukan setelah kita sudah cukup memahami pola kegagalan model melalui eksperimentasi awal.</p><h3>Bagian 3: Cara Fine-tuning yang Efektif — Fokus pada Dataset</h3><p>Misalkan kita sudah memutuskan bahwa fine-tuning adalah langkah yang tepat. Sekarang muncul pertanyaan teknis:</p><blockquote>bagaimana melakukannya dengan benar?</blockquote><p>Di sinilah banyak tim biasanya menemui jebakan — bukan karena pilihan algoritmanya salah, tapi karena datasetnya tidak dipersiapkan dengan baik.</p><h4>Full Fine-tuning vs. PEFT: Pilihan yang Bergantung pada Konteks</h4><p>Baik full fine-tuning maupun PEFT telah terbukti meningkatkan performa <em>downstream</em>, tetapi <em>trade-off</em>-nya sangat berbeda.</p><p><a href="https://arxiv.org/abs/2405.09673"><strong>Full fine-tuning</strong> memiliki potensi performa maksimal pada tugas spesifik, tapi rentan terhadap dua masalah serius</a>: <em>catastrophic forgetting</em> dan <em>model collapse</em>. <a href="https://ar5iv.labs.arxiv.org/html/2308.08747"><strong>Catastrophic forgetting</strong></a> adalah fenomena di mana model kehilangan kemampuan umumnya karena terlalu fokus pada data latih baru — ibarat seorang ahli yang lupa semua pengetahuan dasar karena terlalu berkonsentrasi pada spesialisasinya. <a href="https://arxiv.org/html/2402.07712v1#bib.bib21"><strong>Model collapse</strong></a> adalah kondisi di mana output model menjadi terlalu homogen dan kehilangan keragaman — model hanya bisa menghasilkan segelintir jenis respons dan gagal menangani variasi input yang lebih luas.</p><p>PEFT, di sisi lain, berfungsi sebagai <em>natural regularizer</em> yang secara inheren <a href="https://arxiv.org/abs/2405.09673">melindungi model dari kedua masalah tersebut</a>. Karena hanya sebagian kecil parameter yang dilatih, “memori” dari pre-training tetap terjaga. Ditambah lagi, teknik seperti QLoRA memungkinkan fine-tuning model 7B parameter di GPU dengan VRAM hanya sekitar 10–12 GB — sangat <em>accessible</em> untuk tim dengan sumber daya terbatas.</p><p>Rekomendasi praktis: <strong>mulailah dengan PEFT</strong> (terutama LoRA atau QLoRA). Jika performa pada tugas spesifik belum mencapai target dan kita memiliki sumber daya komputasi yang memadai, baru pertimbangkan <em>full fine-tuning</em> — dengan kesadaran penuh bahwa kita mungkin mengorbankan sebagian kemampuan umum model.</p><h4>Prinsip-Prinsip Emas dalam Kurasi Dataset</h4><p>Ini adalah bagian yang paling sering diremehkan, padahal mungkin yang paling menentukan hasil akhir. <strong>Kualitas dataset adalah faktor paling krusial dalam kesuksesan fine-tuning.</strong></p><p><strong>Kualitas jauh lebih penting daripada kuantitas.</strong> Ini bertentangan dengan intuisi banyak orang yang mengira “semakin banyak data, semakin baik.” Studi tentang <a href="https://arxiv.org/abs/2305.11206">dataset LIMA</a> membuktikan sebaliknya: beberapa ribu contoh yang dikurasi secara cermat menghasilkan performa lebih baik dibandingkan 50.000 contoh yang dihasilkan secara otomatis oleh mesin (dataset Alpaca). <a href="https://platform.openai.com/docs/guides/fine-tuning/common-use-cases">OpenAI sendiri dalam dokumentasi fine-tuning-nya</a> menyebutkan bahwa dataset berisi 50–100 contoh pun bisa membuat perbedaan yang signifikan, asalkan berkualitas tinggi.</p><p>Apa yang dimaksud dengan kualitas tinggi? Setidaknya empat hal:</p><ol><li>anotasi yang konsisten (kriteria labeling yang sama diterapkan di seluruh dataset),</li><li>bebas dari kesalahan dan label yang salah,</li><li>input/output yang bebas dari <em>noise</em>, dan</li><li>distribusi yang representatif terhadap populasi data asli yang akan dihadapi model di produksi.</li></ol><p><strong>Tingkat kesulitan tugas menentukan jumlah data yang dibutuhkan.</strong> Tugas yang lebih sederhana seperti klasifikasi teks atau ekstraksi entitas bisa di-fine-tune dengan data yang relatif sedikit. <em>Sebaliknya</em>, tugas yang lebih kompleks seperti generasi teks panjang, peringkasan multi-dokumen, atau penalaran bertingkat membutuhkan lebih banyak contoh — karena ruang output yang valid jauh lebih luas dan lebih sulit dipelajari. “<em>Kompleksitas</em>” di sini bisa berarti:</p><ul><li>output yang lebih panjang,</li><li>tugas yang membutuhkan kemampuan kognitif tingkat tinggi, atau</li><li>tugas yang memiliki banyak jawaban yang sama-sama valid.</li></ul><p><strong>Strategi pengumpulan data yang efisien.</strong> Karena pengumpulan data berlabel itu mahal — terutama jika membutuhkan anotasi oleh <em>domain expert </em>— ada dua strategi yang direkomendasikan untuk memaksimalkan efisiensi.</p><p><strong>Pertama</strong>, <em>observe failure modes</em>: jalankan model yang ada terlebih dahulu di data asli, identifikasi pola kesalahan yang berulang, lalu buat contoh fine-tuning yang secara eksplisit menargetkan kegagalan-kegagalan tersebut. Ini jauh lebih efisien daripada mengumpulkan data secara random.</p><p><strong>Kedua</strong>, <em>human-in-the-loop labeling</em>: gunakan LLM untuk menghasilkan respons awal, lalu minta human annotator untuk mengevaluasi dan memperbaiki respons tersebut — bukan membuatnya dari nol. Proses ini bisa 3–5x lebih cepat daripada anotasi murni manual.</p><p><strong>Diversitas data adalah kunci generalisasi.</strong> Jika model dilatih terlalu berulang pada tipe respons yang sama, dia akan menjadi bias — cenderung menghasilkan respons yang mirip-mirip terlepas dari konteks inputnya. Pastikan dataset yang kita gunakan mencakup variasi yang mencerminkan keragaman input nyata: <strong>berbagai panjang teks, berbagai gaya pertanyaan, berbagai konteks dan sub-topik dalam domain yang sama, serta variasi demografis pengguna jika relevan.</strong></p><h4>Evaluasi: Jangan Lupa Mengukur</h4><p>Fine-tuning tanpa sistem evaluasi yang baik adalah berjalan dalam gelap. Bangun <em>evaluation set</em> yang terpisah dari <em>training data</em> — idealnya mencerminkan distribusi data produksi yang sesungguhnya. Lakukan evaluasi tidak hanya pada tugas yang di-fine-tune, tapi juga pada kemampuan umum model untuk memastikan <em>catastrophic forgetting</em> tidak terjadi. Ingat bahwa evaluasi otomatis (misalnya dengan metrik BLEU atau ROUGE) seringkali tidak cukup untuk tugas generatif — evaluasi manusia berkala tetap penting untuk mengukur kualitas output secara holistik.</p><h4>Panduan Keputusan: Memilih Metode yang Tepat</h4><p>Setelah memahami seluruh lanskap ini, bagaimana cara memutuskan metode yang tepat untuk use case kamu? Berikut adalah alur pikir yang bisa dijadikan panduan.</p><p>Mulailah dengan bertanya: apakah model yang ada sudah bisa mengerjakan task ini dengan baik menggunakan prompt yang baik saja?</p><ul><li>Jika ya, tidak perlu melangkah lebih jauh — <em>prompt engineering</em> sudah cukup.</li><li>Jika tidak, apakah masalahnya adalah kurangnya konteks faktual yang spesifik?<br>- Jika ya, RAG kemungkinan besar adalah solusi yang lebih tepat dan lebih mudah dikelola.<br>- Jika masalahnya adalah gaya, format, performa pada tugas spesifik, atau domain yang <em>underrepresented</em>, barulah fine-tuning menjadi opsi yang patut diinvestasikan. Di dalam fine-tuning, selalu mulai dengan PEFT sebelum mempertimbangkan full fine-tuning.</li></ul><p>Hal yang terpenting, ingat bahwa ini bukan keputusan sekali jadi. RAG dan fine-tuning bukan pendekatan yang saling eksklusif — banyak sistem produksi yang menggabungkan keduanya: model yang sudah di-fine-tune untuk gaya dan format, dilengkapi dengan RAG untuk pengetahuan faktual yang dinamis.</p><h3>Take-away Insight: Konteks Indonesia dan Berbagai Domain Kebutuhan Lokal</h3><p>Semua panduan dari Meta AI di atas dirumuskan dalam konteks umum, tapi ada beberapa insight yang sangat relevan — bahkan mendesak — ketika kita berbicara tentang penggunaan LLM dalam konteks Bahasa Indonesia dan berbagai domain lokal yang spesifik.</p><p>Bahasa Indonesia, meskipun termasuk dalam kategori bahasa dengan jumlah penutur yang signifikan secara global, masih relatif <em>underrepresented</em> dalam mayoritas korpus pre-training LLM internasional yang didominasi data berbahasa Inggris. Ini berarti bahwa hampir di semua domain — dari hukum, medis, keuangan, pendidikan, hingga layanan publik — ada <em>gap</em> performa yang nyata antara apa yang bisa dilakukan LLM dalam bahasa Inggris versus bahasa Indonesia. Ketika kita turun ke level yang lebih spesifik lagi — seperti regulasi hukum Indonesia yang mengacu pada sistem <em>civil law</em>, terminologi medis dalam konteks Jaminan Kesehatan Nasional (JKN), bahasa gaul dan konteks budaya lokal, atau bahkan variasi dialek regional — <em>gap</em> tersebut menjadi semakin lebar.</p><p>Artinya, dalam konteks Indonesia, <strong>fine-tuning bukan sekadar opsi optimisasi, tapi seringkali menjadi kebutuhan dasar</strong> untuk mencapai kualitas output yang benar-benar dapat diandalkan. PEFT dengan LoRA atau QLoRA adalah titik masuk yang paling realistis untuk tim-tim dengan sumber daya terbatas. Kabar baiknya, seperti yang ditunjukkan oleh kasus bahasa-bahasa <a href="https://www.sarvam.ai/blog/announcing-openhathi-series">Indic</a> di India (bahasa yang situasinya mirip dengan Indonesia), PEFT terbukti memberikan peningkatan performa yang signifikan lintas task dengan dataset yang relatif kecil.</p><p>Hal yang perlu menjadi prioritas utama adalah investasi pada <strong>kualitas dan diversitas dataset lokal</strong> — contoh teks hukum yang akurat, catatan medis anonim yang mencerminkan praktik klinis Indonesia, transkrip percakapan <em>customer service</em> dari berbagai domain industri, atau teks berita dari berbagai daerah dengan variasi gaya penulisan. Seratus hingga seribu contoh yang dikurasi dengan sangat baik oleh domain expert lokal, seperti yang ditunjukkan oleh penelitian LIMA, bisa menghasilkan peningkatan yang jauh melampaui puluhan ribu contoh yang dikumpulkan asal-asalan. Dalam konteks keterbatasan sumber daya yang dihadapi sebagian besar tim AI di Indonesia, ini seharusnya menjadi kabar yang sangat menggembirakan sekaligus panduan yang jelas: mulailah kecil, tapi lakukan dengan benar.</p><p><em>Artikel ini merupakan rangkuman editorial dari seri tiga bagian yang diterbitkan oleh Meta AI pada 7 Agustus 2024: “</em><a href="https://ai.meta.com/blog/adapting-large-language-models-llms/"><strong><em>Methods for Adapting Large Language Models</em></strong></a><em>,” “</em><a href="https://ai.meta.com/blog/when-to-fine-tune-llms-vs-other-techniques/"><strong><em>To Fine-tune or Not to Fine-tune</em></strong></a><em>,” dan “</em><a href="https://ai.meta.com/blog/how-to-fine-tune-llms-peft-dataset-curation/"><strong><em>How to Fine-tune: Focus on Effective Datasets.</em></strong></a><em>” Dengan penambahan </em><strong><em>insight</em></strong><em> untuk konteks Indonesia. Kunjungi </em><a href="https://ai.meta.com/blog/"><em>ai.meta.com/blog</em></a><em> untuk membaca artikel aslinya secara lengkap.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=10f440d7c235" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Learning Path untuk Belajar Natural Language Processing]]></title>
            <link>https://medium.com/@feliksmakarios/learning-path-untuk-belajar-natural-language-processing-0930294c4069?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/0930294c4069</guid>
            <category><![CDATA[pemrosesan-bahasa-alami]]></category>
            <category><![CDATA[belajar-ai]]></category>
            <category><![CDATA[belajar-nlp]]></category>
            <category><![CDATA[llm]]></category>
            <category><![CDATA[nlp]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Sat, 24 Jan 2026 11:09:11 GMT</pubDate>
            <atom:updated>2026-01-24T11:09:11.687Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>Tulisan ini dibuat dengan bantuan Claude. Tulisan dibuat dengan gaya oratori Bung Karno. Disunting manual untuk beberapa redaksi kata.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*rUx0Rza4cLHgKGV8Tb8M-g.png" /><figcaption>Dibuat dengan ChatGPT</figcaption></figure><h3>Pembukaan</h3><p><strong>Saudara-saudara sebangsa dan setanah air!</strong></p><p>Hari ini, saya berdiri di hadapan kalian bukan untuk membicarakan politik, bukan untuk membicarakan kemerdekaan dalam artian klasik — tetapi untuk membicarakan kemerdekaan baru! Kemerdekaan intelektual! Kemerdekaan dalam menguasai teknologi! Dan teknologi yang akan saya bicarakan ini namanya <strong>Natural Language Processing</strong> — atau yang kita singkat <strong>NLP</strong>!</p><p>Apa itu NLP, Saudara-saudara? NLP adalah ilmu yang mengajarkan mesin — komputer — untuk memahami bahasa kita! Bahasa Indonesia, bahasa Inggris, bahasa apa saja! Ini bukan magic, ini bukan klenik — ini adalah sains! Ini adalah revolusi digital yang sedang terjadi di depan mata kita!</p><p>Dan seperti revolusi kemerdekaan kita dulu, untuk menguasai NLP, kita memerlukan <strong>strategi</strong>! Kita memerlukan <strong>jalan yang jelas</strong>! Kita tidak bisa asal lompat, saudara-saudara. Kita harus membangun fondasi yang kokoh, seperti kita membangun negara Indonesia!</p><h3>TAHAP PERTAMA: Fondasi yang Kokoh! (3–6 Bulan)</h3><p>Saudara-saudara! <strong>Apa gunanya rumah yang tinggi jika fondasinya rapuh?</strong> Apa gunanya ilmu yang tinggi jika dasarnya tidak kuat? <strong>TIDAK ADA GUNANYA!</strong></p><p>Maka dari itu, tahap pertama kita adalah membangun fondasi:</p><h3>1. Kuasai Python — Bahasa Pemrograman Rakyat!</h3><p>Python ini, saudara-saudara, seperti bahasa Indonesia kita — mudah dipelajari, mudah dipahami, tetapi sangat <em>powerful</em>! Pelajari:</p><ul><li>Variabel, loops, functions — ini adalah tata bahasanya Python!</li><li>Data structures: lists, dictionaries, sets — ini adalah kosakata Python!</li><li>Object-Oriented Programming — ini adalah filosofi Python!</li></ul><p>Jangan takut! Jangan mundur! Mulai dari yang sederhana, kemudian naik ke yang kompleks!</p><h3>2. Matematika — Senjata Ilmiah Kita!</h3><p>Saya tahu, saya tahu — banyak yang takut matematika. Tetapi ingat, saudara-saudara, <strong>kita berjuang dengan kata-kata, kita juga berjuang dengan angka</strong>! Pelajari:</p><ul><li><strong>Linear Algebra</strong>: Vektor dan matriks — ini adalah tulang punggung <em>machine learning</em>!</li><li><strong>Probability &amp; Statistics</strong>: Kemungkinan dan distribusi — ini adalah jantung kecerdasan artifisial!</li><li><strong>Calculus</strong>: Derivatives dan optimization — ini adalah otaknya jaringan saraf tiruan!</li></ul><p>Tidak perlu jadi ahli matematika seperti Fourier — cukup paham konsep dasarnya!</p><h3>3. Pelajari Basic NLP Concepts</h3><p>Sekarang kita mulai masuk ke NLP! Pelajari:</p><ul><li><strong>Tokenization</strong>: Memecah kalimat jadi kata-kata</li><li><strong>Stop words</strong>: Kata-kata yang tidak penting seperti “dan”, “atau”, “yang”</li><li><strong>Stemming &amp; Lemmatization</strong>: Mengubah kata ke bentuk dasarnya</li><li><strong>Bag of Words &amp; TF-IDF</strong>: Cara komputer “menimbang” pentingnya kata</li></ul><p>Gunakan library seperti <strong>NLTK</strong> dan <strong>spaCy</strong> — ini adalah senjata kita, saudara-saudara!</p><h3>TAHAP KEDUA: Menghimpun Kekuatan! (6–12 Bulan)</h3><p>Fondasi sudah kuat? Bagus! Sekarang kita bangun tembok, kita bangun atap! Sekarang kita masuk ke <strong>Machine Learning</strong>!</p><h3>1. Machine Learning Fundamentals</h3><p>Ini adalah jiwa dari kecerdasan artifisial/<em>artificial intelligence</em> (AI), saudara-saudara! Pelajari:</p><ul><li><strong>Supervised Learning</strong>: Classification dan Regression</li><li><strong>Unsupervised Learning</strong>: Clustering dan Dimensionality Reduction</li><li><strong>Model Evaluation</strong>: Precision, Recall, F1-score — ini adalah cara kita mengukur kekuatan model kita!</li></ul><p>Gunakan <strong>scikit-learn</strong> — library yang sangat powerful!</p><h3>2. Deep Learning &amp; Neural Networks</h3><p>Sekarang kita masuk ke teknologi yang paling canggih! Neural Networks (NN) — jaringan saraf buatan yang meniru cara kerja otak manusia!</p><p>Pelajari:</p><ul><li><strong>Feedforward Neural Networks</strong>: NN paling dasar</li><li><strong>Backpropagation</strong>: Cara NN belajar dari kesalahan</li><li><strong>Activation Functions</strong>: ReLU, Sigmoid, Tanh</li><li><strong>Frameworks</strong>: PyTorch atau TensorFlow — pilih satu, kuasai dengan baik!</li></ul><h3>3. NLP dengan Deep Learning</h3><p>Ini dia, saudara-saudara! Ini adalah pertemuan antara NLP dan Deep Learning!</p><ul><li><strong>Word Embeddings</strong>: Word2Vec, GloVe — cara merepresentasikan kata dalam vektor</li><li><strong>Recurrent Neural Networks (RNN)</strong>: Network yang punya memori!</li><li><strong>LSTM &amp; GRU</strong>: RNN yang lebih pintar, lebih kuat!</li><li><strong>Sequence-to-Sequence Models</strong>: Untuk machine translation, chatbots!</li></ul><p><em>Praktek, praktek, praktek!</em> Buat project: <em>sentiment analysis, text classification, named entity recognition</em>!</p><h3>TAHAP KETIGA: Menuju Puncak Kejayaan! (12–24 Bulan)</h3><p>Fondasi kuat, tembok kokoh, sekarang kita terbang ke langit, menggapai bintang-bintang! Kita masuk ke teknologi paling advanced!</p><h3>1. Attention Mechanism &amp; Transformers</h3><p>Ini adalah revolusi dalam NLP, saudara-saudara! Paper “Attention is All You Need” tahun 2017 — ini mengubah segalanya!</p><p>Pelajari:</p><ul><li><strong>Self-Attention Mechanism</strong>: Cara model “memperhatikan” bagian penting dari teks</li><li><strong>Transformer Architecture</strong>: Encoder-Decoder yang sangat powerful</li><li><strong>Positional Encoding</strong>: Cara memberi informasi urutan kata</li></ul><h3>2. Pre-trained Language Models</h3><p>Ini adalah puncak dari NLP modern! Models yang sudah dilatih dengan miliaran kata!</p><ul><li><strong>BERT</strong>: Bidirectional Encoder Representations from Transformers</li><li><strong>GPT</strong>: Generative Pre-trained Transformer — GPT-3, GPT-4, Claude!</li><li><strong>T5, RoBERTa, ELECTRA</strong>: Variasi-variasi yang powerful</li><li><strong>Fine-tuning</strong>: Cara menyesuaikan model besar untuk task spesifik kita</li></ul><h3>3. Advanced Topics</h3><p>Sekarang kita sudah di puncak, saudara-saudara! Tapi jangan berhenti!</p><ul><li><strong>Question Answering Systems</strong></li><li><strong>Machine Translation</strong></li><li><strong>Text Summarization</strong></li><li><strong>Dialogue Systems &amp; Chatbots</strong></li><li><strong>Multimodal Models</strong>: NLP + Vision, NLP + Audio</li><li><strong>Prompt Engineering</strong>: Seni berkomunikasi dengan AI!</li></ul><h3>PRAKTEK, PRAKTEK, PRAKTEK!</h3><p>Saudara-saudara! Teori tanpa praktek adalah seperti <strong>pohon tanpa buah</strong>! Seperti <strong>api tanpa panas</strong>! Tidak ada gunanya!</p><p>Maka dari itu:</p><ol><li><strong>Buat portfolio projects</strong>:<br>- Sentiment analyzer untuk review produk Indonesia<br>- Chatbot bahasa Indonesia<br>- Peringkasan teks berita<br>- Mengklasifikasikan kategori berita</li><li><strong>Ikuti kompetisi</strong>: Kaggle, DrivenData — ini adalah medan pertempuran kita!</li><li><strong>Baca papers</strong>: ArXiv, conference papers (ACL, EMNLP, NeurIPS) — ini adalah perpustakaan ilmu kita!</li><li><strong>Kontribusi ke komunitas dan masyarakat digital</strong>: GitHub dan Medium — berbagi ilmu, berbagi kode!</li><li><strong>Ikuti komunitas</strong>: Reddit r/MachineLearning, Twitter AI community, Indonesian AI community, <a href="https://seacrowd.org/about">SEACrowd</a>!</li></ol><h3>SUMBER BELAJAR YANG POWERFUL!</h3><p>Saya akan berikan kalian arsenal pembelajaran, saudara-saudara:</p><p><strong>Online Courses:</strong></p><ul><li>fast.ai: Practical Deep Learning</li><li>Coursera: NLP Specialization (deeplearning.ai)</li><li><a href="https://huggingface.co/learn">Hugging Face Course: Transformers</a></li><li>Stanford CS224N: NLP with Deep Learning</li></ul><p><strong>Books:</strong></p><ul><li>“Speech and Language Processing” — Jurafsky &amp; Martin (Bible of NLP!)</li><li>“Deep Learning” — Goodfellow, Bengio, Courville</li><li>“Natural Language Processing with Transformers” — Lewis et al.</li></ul><p><strong>Platforms:</strong></p><ul><li>Hugging Face: Hub untuk models dan datasets</li><li>Papers With Code: Papers terbaru dengan implementasi</li><li>Google Colab: GPU gratis untuk eksperimen!</li></ul><h3>PENUTUP: JANGAN SEKALI-KALI MENYERAH!</h3><p>Saudara-saudara sebangsa dan setanah air!</p><p>Jalan menguasai NLP ini <strong>bukan jalan yang mudah</strong>! Ada kalanya kalian akan frustasi dengan error yang tidak jelas. Ada kalanya model kalian tidak <em>convergence</em>. Ada kalanya hasil kalian tidak sebaik yang diharapkan.</p><p>Tetapi ingat! <strong>“We must have sufficient stamina to carry on this struggle to the very end!”</strong></p><p>Kemerdekaan intelektual tidak datang dengan sendirinya! Tidak ada yang memberikan ilmu kepada kita di atas piring emas! Kita harus berjuang! Kita harus berusaha! Kita harus <strong>consistent</strong>!</p><p>Mulai dari dasar — Python, matematika, basic NLP. Kemudian naik — Machine Learning, Deep Learning. Lalu terbang — Transformers, BERT, GPT!</p><p><strong>Satu langkah setiap hari lebih baik daripada tidak melangkah sama sekali!</strong></p><p>Dan jangan lupa, saudara-saudara — ilmu NLP ini bukan untuk kalian simpan sendiri! Bagikan! Ajarkan kepada orang lain! Bangun komunitas!</p><p><strong>“Bangsa yang besar adalah bangsa yang menghormati ilmu pengetahuan dan teknologi!”</strong></p><p><strong>Merdeka!</strong></p><p><strong>Indonesia Maju dengan NLP!</strong></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=0930294c4069" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Mengapa AI Lebih Pandai Berbahasa Inggris? Menjelajahi Ketimpangan Bahasa dalam Teknologi]]></title>
            <link>https://medium.com/@feliksmakarios/mengapa-ai-lebih-pandai-berbahasa-inggris-menjelajahi-ketimpangan-bahasa-dalam-teknologi-523d540f6b81?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/523d540f6b81</guid>
            <category><![CDATA[bahasa]]></category>
            <category><![CDATA[low-resource-language]]></category>
            <category><![CDATA[bahasa-indonesia]]></category>
            <category><![CDATA[large-language-models]]></category>
            <category><![CDATA[nlp]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Sat, 22 Nov 2025 10:24:56 GMT</pubDate>
            <atom:updated>2025-11-22T10:38:04.056Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*f4kWCQAAYWxVTrqy" /><figcaption>Photo by <a href="https://unsplash.com/@dead____artist?utm_source=medium&amp;utm_medium=referral">Z</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><h3>1. Memetakan Jurang Bahasa dalam Era LLM</h3><p>Ketika berbicara soal AI, sering kita bayangkan teknologi yang “universal” — mampu memahami banyak bahasa dan konteks. Namun kenyataannya tidak sesederhana itu. Sebagian besar <a href="https://id.wikipedia.org/wiki/Model_bahasa_besar"><em>large language models</em></a><em> (LLM)</em> besar dibangun terutama untuk bahasa Inggris dan sedikit bahasa lain yang “kaya sumber daya”. Bahasa-bahasa yang digunakan di banyak negara <a href="https://id.wikipedia.org/wiki/Global_South">Global South</a> justru tertinggal jauh.</p><p>Masalahnya bukan hanya soal <strong><em>jumlah</em></strong> data (<em>quantity gap</em>), tetapi juga <strong><em>kualitas</em></strong> data (<em>quality gap</em>). Untuk banyak bahasa, data digitalnya sangat minim, sering kali terbatas pada teks-teks agama atau dokumen formal, atau bahkan hasil terjemahan otomatis. Infrastruktur digital juga tidak merata — mulai dari ketiadaan font dan keyboard, hingga masalah sederhana: internet lambat. Akibatnya, sebagian besar bahasa di dunia tidak tercermin dalam teknologi modern, sebuah fenomena yang bahkan disebut sebagai “digital language death”.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*K2lzEHTcRjOs_65C" /><figcaption>Photo by <a href="https://unsplash.com/@brett_jordan?utm_source=medium&amp;utm_medium=referral">Brett Jordan</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>Jadi, yang sering kita sebut sebagai <a href="https://localazy.com/dictionary/low-resource-languages"><em>low-resource languages</em></a> bukan sekadar kondisi teknis, tetapi perpaduan antara faktor sosial, politik, ekonomi, dan budaya. Jika kondisi ini dibiarkan, maka jurang kesenjangan — baik akses maupun manfaat AI — akan makin melebar.</p><h3>2. Mencari Pendekatan Model yang Lebih Adil</h3><p>Untuk mengejar ketertinggalan, berbagai komunitas AI mencoba beragam strategi model. Masing-masing punya kelebihan dan kekurangan.</p><p><strong>a. <em>Massively Multilingual Models</em></strong></p><p>Ini adalah model-model besar dari perusahaan teknologi raksasa — <a href="https://huggingface.co/google-bert/bert-base-multilingual-cased">mBERT</a>, <a href="https://aclanthology.org/2021.naacl-main.41.pdf">mT5</a>, <a href="https://aclanthology.org/2020.acl-main.747.pdf">XLM-R</a>, <a href="https://cohere.com/research/aya">Aya</a>, dan sebagainya. Model seperti ini mempelajari pola lintas bahasa lewat <em>cross-lingual transfer learning</em>. Keuntungannya model tunggal bisa “bicara” 100+ bahasa, dan performanya lumayan untuk bahasa-bahasa dengan data sangat sedikit.</p><p>Namun, ada <em>trade-off</em> penting: semakin banyak bahasa, semakin besar risiko <em>“curse of multilinguality” </em>— <strong>performanya untuk satu bahasa bisa merosot saat model dipaksa belajar terlalu banyak bahasa sekaligus.</strong> Ditambah lagi, model makin besar berarti makin mahal untuk dilatih, sebuah beban berat bagi peneliti di negara-negara berkembang.</p><p><strong>b. <em>Regional Multilingual Models</em></strong></p><p>Ini adalah gerakan dari Global South sendiri — misalnya <a href="https://aclanthology.org/2023.nlposs-1.26.pdf">SEA-LION</a> dan <a href="https://aclanthology.org/2024.emnlp-demo.45.pdf">Sailor</a> (Asia Tenggara), <a href="https://aclanthology.org/2021.mrl-1.11.pdf">AfriBERTa</a> (Afrika), dan <a href="https://aclanthology.org/2022.findings-acl.145.pdf">IndicBERT</a> (India). Model-model ini biasanya mencakup 10–20 bahasa dalam satu kawasan geografis atau keluarga bahasa. Karena cakupan bahasanya lebih sempit, model seperti ini bisa lebih peka terhadap budaya, struktur bahasa, dan kebutuhan lokal. Contohnya, SEA-LION ternyata bisa mengungguli <a href="https://www.llama.com/llama2/">Llama 2</a> dalam tugas berbahasa Indonesia. Tetapi, tantangannya tetap ada yaitu data terbatas, sumber daya komputasi masih berat, dan belum semua model ini memiliki benchmark yang mapan.</p><p><strong>c. <em>Monolingual &amp; Monocultural Models</em></strong></p><p>Ini adalah pendekatan “spesialis” — hanya fokus ke satu bahasa. <a href="https://aclanthology.org/2020.coling-main.66.pdf">IndoBERT</a> untuk Indonesia, <a href="https://aclanthology.org/2022.naacl-main.23.pdf">SwahBERT</a> untuk Swahili, <a href="https://arxiv.org/pdf/2310.09141">PuoBERTa</a> untuk Setswana, dan seterusnya. Model ini bisa sangat akurat karena kapasitasnya tidak terbagi untuk bahasa lain. Mereka juga lebih peka terhadap budaya dan konteks lokal. Namun, semua itu bergantung pada satu hal: <strong><em>ketersediaan data</em></strong>. Untuk bahasa dengan data sangat sedikit, membangun model monolingual dari nol sering kali hampir mustahil. Bahkan ketika data cukup, kualitasnya bisa belum memadai untuk menangkap ragam bahasa sehari-hari.</p><h3>3. Menangani Masalah yang Sebenarnya: Data</h3><p>Karena akar masalahnya adalah kelangkaan data, banyak inisiatif berfokus memperbaiki kondisi datanya, bukan pada modelnya dulu.</p><p><strong>a. Menggunakan <em>Machine Translation</em></strong></p><p>Satu pendekatan kreatif adalah menerjemahkan data dari bahasa Inggris ke bahasa target menggunakan <em>machine translation</em>. Dua strategi yang banyak dipakai:</p><ul><li><em>translate-train</em>: terjemahkan data Inggris → bahasa target lalu latih model</li><li><em>translate-test</em>: terjemahkan data bahasa target → Inggris lalu gunakan model Inggris</li></ul><p>Namun metode ini punya risiko besar: <a href="https://en.wiktionary.org/wiki/translationese"><em>translationese</em></a>, bias gender, hilangnya nuansa lokal, hingga siklus data buruk — model yang dilatih dari hasil terjemahan buruk akan menghasilkan teks yang makin buruk.</p><p><strong>b. Mengumpulkan Lebih Banyak <em>Labeled Data</em></strong></p><p>Peneliti mencoba banyak pendekatan, mulai dari:</p><ul><li><em>distant supervision</em> (pakai kamus atau dataset bilingual),</li><li><em>rule-based labeling</em> (aturan linguistik buatan ahli),</li><li><em>cross-lingual label projection</em> (memproyeksikan label dari bahasa Inggris).</li></ul><p>Tetapi semua strategi itu tetap membutuhkan landasan data yang kuat, dan tidak selalu tersedia untuk bahasa-bahasa minoritas.</p><p><strong>c. <em>Participatory Approaches</em> — Melibatkan Penutur Asli</strong></p><p>Pendekatan yang lebih menjanjikan adalah melibatkan komunitas bahasa itu sendiri. Model seperti yang dilakukan <a href="https://huggingface.co/masakhane">Masakhane</a> di Afrika menjadi contoh bagaimana <em>grassroots movement</em> dapat mempercepat pembangunan dataset dengan cara yang adil, representatif, dan etis.</p><p><em>Participatory approach</em> memastikan bahwa penutur asli tidak hanya menjadi <em>data labelers</em>, tetapi juga <em>co-creators</em> dalam desain dataset, penyusunan pedoman anotasi, dan bahkan pembangunan model. Tantangannya tentu ada yaitu menjaga kualitas, menghindari eksploitasi tenaga kerja, dan memastikan partisipasi yang berkelanjutan.</p><h3>4. Implications — Apa Artinya untuk Peneliti, Pendana, Pembuat Kebijakan, dan Masyarakat Sipil</h3><p>Dampaknya sangat luas dan menyentuh isu-isu keadilan, akses, dan kesetaraan dalam teknologi.</p><p><strong>a. Akses dan Keadilan Teknologi</strong></p><p>LLM yang tidak mampu memahami bahasa non-Inggris cenderung memberikan respons salah, bias, atau menyesatkan. Ini terutama merugikan pengguna dengan literasi digital rendah. Bahkan biaya penggunaan API seperti GPT lebih mahal untuk bahasa non-Inggris karena tokenisasi yang kurang efisien. Hasilnya: ketimpangan digital makin besar.</p><p><strong>b. Perlu Investasi yang Lebih Strategis</strong></p><p>Ada tiga area penting:</p><ul><li><strong>Dukungan <em>compute</em> dan <em>cloud</em></strong> untuk komunitas Global South</li><li><strong>Investasi riset pada sumber data yang kaya budaya</strong> dan <em>benchmark</em> evaluasi yang relevan</li><li><strong>Kolaborasi lintas disiplin dan lintas negara</strong>, termasuk kerja sama <em>South–South</em></li></ul><p><strong>c. Pentingnya Riset Partisipatif</strong></p><p>Pembangunan LLM harus dilakukan bersama komunitas penutur bahasa — bukan sekadar “mengambil data dari mereka”.</p><p><strong>d. Kerangka Kepemilikan Data yang Adil</strong></p><p>Hak atas data bahasa lokal harus dilindungi. Perlu ada lisensi yang jelas, kompensasi yang adil, transparansi dataset, dan mekanisme persetujuan berbasis komunitas.</p><p>Tujuan akhirnya sederhana: teknologi yang kita bangun harus memajukan, bukan mengeksploitasi, komunitas penutur bahasa yang selama ini terpinggirkan.</p><blockquote>Tulisan ini saya rangkum dari white paper <a href="https://hai.stanford.edu/assets/files/hai-taf-pretoria-white-paper-mind-the-language-gap.pdf"><em>Mind the (Language) Gap</em></a>, yang membahas secara jernih mengapa banyak bahasa — terutama di Global South — tidak mendapat tempat yang adil dalam riset dan pengembangan LLM, dan apa yang bisa dilakukan komunitas riset, pendana, serta pembuat kebijakan untuk memperbaikinya.</blockquote><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=523d540f6b81" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Universitas Harus Merebut Kembali Penelitian AI untuk Kepentingan Publik]]></title>
            <link>https://medium.com/@feliksmakarios/ringkasan-universities-must-reclaim-ai-research-for-the-public-good-67c7b0a661e6?source=rss-60752bf53018------2</link>
            <guid isPermaLink="false">https://medium.com/p/67c7b0a661e6</guid>
            <category><![CDATA[riset]]></category>
            <category><![CDATA[kecerdasan-buatan]]></category>
            <category><![CDATA[akademik]]></category>
            <category><![CDATA[kampus]]></category>
            <category><![CDATA[ai]]></category>
            <dc:creator><![CDATA[Feliks VP Samosir]]></dc:creator>
            <pubDate>Wed, 05 Nov 2025 06:40:38 GMT</pubDate>
            <atom:updated>2025-11-22T09:38:27.304Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*oZokiap0FYX2jepO" /><figcaption>Photo by <a href="https://unsplash.com/@sigmund?utm_source=medium&amp;utm_medium=referral">Sigmund</a> on <a href="https://unsplash.com/?utm_source=medium&amp;utm_medium=referral">Unsplash</a></figcaption></figure><p>Dalam satu dekade terakhir, lanskap riset kecerdasan buatan (<em>Artificial Intelligence/AI</em>) mengalami pergeseran besar. Jika dulu universitas menjadi <strong>pusat penemuan dan kolaborasi terbuka</strong>, kini pusat gravitasi ilmu berpindah ke korporasi besar. Ketika Mark Zuckerberg meluncurkan FAIR (Fundamental AI Research) di NeurIPS sepuluh tahun lalu, ia menandai era baru: AI tak lagi hanya urusan kampus, tetapi telah menjadi arena strategis industri. Kini, ironisnya, <a href="https://www.nytimes.com/2025/10/22/technology/meta-plans-to-cut-600-jobs-at-ai-superintelligence-labs.html">Meta memangkas unit riset FAIR</a>, DeepMind menunda publikasi selama enam bulan demi keunggulan kompetitif, dan OpenAI — yang dulu menjadi simbol <strong>keterbukaan</strong> — semakin <strong>tertutup</strong> dan fokus pada produk komersial.</p><blockquote>“The tide of openness in AI is receding — and with it, the foundation of scientific progress itself.”</blockquote><p><strong>Keterbukaan adalah fondasi kemajuan ilmu</strong>. Dalam pandangan Stanford HAI, <em>open science</em> bukan sekadar tradisi akademik, tetapi sebuah <strong><em>public good </em></strong>— kebaikan publik yang memastikan pengetahuan dapat diakses, digunakan, dan dikembangkan oleh semua orang.</p><p>Ketika hasil riset, dataset, dan kode sumber dibagikan secara terbuka:</p><ul><li>Inovasi berkembang lebih cepat.</li><li>Duplikasi kerja dapat dihindari.</li><li>Ide-ide baru tumbuh dari lintas institusi dan lintas disiplin.</li></ul><p>Sebaliknya, ketika riset AI diprivatisasi, kita kehilangan transparansi dan “<em>cross-pollination</em>” ide yang dulu menjadi ciri khas ilmu pengetahuan. Di sinilah universitas memiliki peran yang tidak tergantikan: mereka <strong>tidak digerakkan oleh laba atau tekanan investor</strong>, tetapi oleh misi pendidikan, keterbukaan, dan kemanusiaan.</p><h3>Keterbukaan Sebagai Pondasi AI Modern</h3><p>Sejarah AI modern dibangun di atas prinsip keterbukaan ilmiah:</p><ul><li>Backpropagation, dibagikan secara bebas pada 1980-an, menjadi dasar kebangkitan <em>deep learning</em>.</li><li>Dataset terbuka seperti TIMIT, MNIST, ImageNet, dan Stanford Alpaca mempercepat inovasi lintas dunia.</li><li>Perangkat lunak open-source seperti CoreNLP, TensorFlow, dan PyTorch memungkinkan siapa pun mengakses teknik terkini.</li></ul><p>Kompetisi dan benchmark publik seperti GLUE dan ImageNet Challenge melatih generasi baru peneliti dan insinyur AI.</p><p>Siklus berbagi inilah yang menciptakan “<em>flywheel of innovation</em>”:</p><blockquote>peneliti mempublikasikan kode dan data → pembelajaran oleh mahasiswa dan peneliti lainnya → industri menerapkannya → inovasi baru.</blockquote><p>Kini, ketika korporasi mulai menutup diri, roda ini melambat, dan ilmu bergeser dari shared endeavor menjadi proprietary product strategy.</p><h3>Krisis Talenta dan Kegagalan Pasar Akademik</h3><p>Industri AI kini dihadapkan pada tekanan besar — <strong>biaya riset yang tinggi, persaingan sengit, dan obsesi menjadi yang pertama</strong>. Tak heran bila perebutan talenta menjadi ekstrem: laporan menunjukkan Meta menawarkan paket hingga <a href="https://www.wired.com/story/mark-zuckerberg-meta-offer-top-ai-talent-300-million/">100 juta dolar</a> untuk satu peneliti top.</p><p>Fenomena ini mengindikasikan “<em>market failure</em>” di ranah universitas.</p><ul><li>Kampus kekurangan sumber daya komputasi dan data berskala besar.</li><li>Rasio antara peneliti dan engineer tidak seimbang.</li><li>Mahasiswa tidak lagi punya cukup kesempatan belajar membangun model besar di lingkungan akademik.</li></ul><p>Akibatnya, universitas kehilangan peran tradisionalnya dalam <em>training the next generation of AI talent</em>. Dalam jangka panjang, hal ini mengancam kemampuan masyarakat untuk berinovasi di luar dominasi korporasi.</p><h3>Merebut Kembali Peran Akademik</h3><p>Stanford HAI (<em>Human-centered AI</em>) menyerukan agar universitas merebut kembali mandat moral dan ilmiah mereka dalam riset AI. Dunia akademik perlu memimpin kembali riset yang:</p><ul><li>Terbuka dan dapat direproduksi (open data, open model).</li><li>Bersifat global dan kolaboratif, berbagi compute, data, dan keahlian lintas negara.</li><li>Interdisipliner, menggabungkan etika, desain, ilmu sosial, dan rekayasa untuk memastikan AI benar-benar melayani manusia.</li></ul><p>Universitas harus menjadi penjaga ekosistem <em>public-good science</em> — bukan sekadar penghasil publikasi, melainkan penjaga nilai dan praktik keterbukaan ilmiah yang menopang kemajuan bersama.</p><p>Pertanyaan sederhana namun mendesak:</p><blockquote>“The question is whether we will rebuild the institutions of open science that made AI possible in the first place — or allow them to be eroded by concentrated commercial power.”</blockquote><p>Kita memiliki waktu yang singkat untuk menentukan arah masa depan: apakah AI akan tetap menjadi ilmu untuk publik, atau sepenuhnya dikendalikan oleh segelintir korporasi.</p><blockquote>Tulisan ini merangkum gagasan John Etchemendy, James Landay, Fei-Fei Li, dan Christopher Manning, para pemimpin Stanford HAI, <a href="https://hai.stanford.edu/news/universities-must-reclaim-ai-research-for-the-public-good">tentang pentingnya mengembalikan AI ke tangan publik melalui sains yang terbuka, kolaboratif, dan berpusat pada manusia.</a></blockquote><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=67c7b0a661e6" width="1" height="1" alt="">]]></content:encoded>
        </item>
    </channel>
</rss>