<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Birol Kuyumcu on Medium]]></title>
        <description><![CDATA[Stories by Birol Kuyumcu on Medium]]></description>
        <link>https://medium.com/@birolkuyumcu?source=rss-4fd2556fbb77------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/1*coZDn2tLmaZcKSoDIQ_k9A.png</url>
            <title>Stories by Birol Kuyumcu on Medium</title>
            <link>https://medium.com/@birolkuyumcu?source=rss-4fd2556fbb77------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Wed, 18 Nov 2026 15:18:12 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@birolkuyumcu/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[FastText ile hızlı metin sınıflandırma — 3]]></title>
            <link>https://medium.com/@birolkuyumcu/fasttext-ile-h%C4%B1zl%C4%B1-metin-s%C4%B1n%C4%B1fland%C4%B1rma-3-3b2b7f3f4cf2?source=rss-4fd2556fbb77------2</link>
            <guid isPermaLink="false">https://medium.com/p/3b2b7f3f4cf2</guid>
            <dc:creator><![CDATA[Birol Kuyumcu]]></dc:creator>
            <pubDate>Sat, 31 Aug 2019 08:39:11 GMT</pubDate>
            <atom:updated>2019-08-31T08:39:11.433Z</atom:updated>
            <content:encoded><![CDATA[<h3>FastText ile hızlı metin sınıflandırma — 3</h3><p>Bir önceki yazımızda veri kümemimiz ile FastTextGUI kullanarak eğitim işlemini yapmıştık. Eğitim sonucunda uzantısı <strong><em>.bin</em></strong> olan bir models dosyası oluşturuldu. Bu yazımızda eğittiğmiz modeli nasıl kullanacağımızı göreceğiz.</p><p>Eğtilmiş modeli kullanmanın iki yolu var. Birincisi FastText in komut satırı çalıştırılabilir programını kullanarak. İkinci yolu FastText i python kütüphanesi olarak yükleyerek.</p><p>İlkinden başlıyalım. FastText programının kullanım parametrelerine bakalım</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*INI1jbn443TxdWoi.jpg" /></figure><p>Bu seçeneklerden tahmin için “predict” yada “predict-prob” sçeneğini kullanabiliriz. aralarındaki fark ikincisinde tahmin ile birlikte tahin kesinlik ihtimalinide veriyor. Tahmin yapılmasını istediğiniz metinleri her biri bir satır olacak şekilde bir metin dosyasına kaydetmemiz gerekmekdedir. Her tahmin için geçici bir metin dosyası yazdırıp FastText programıyla çalıştırmamız gerekiyor. Bu işlem için bir fonksiyon yazdık</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*lHtA5v7OHUcwJoZ0.jpg" /></figure><p>Kullanım için test için hazırladığımız dosyayı yüklüyoruz. Burdaki gerçek sonuçları da ayırıp sorgumuz yapıyoruz sonuçlarıda gerçek sonuçlarla karşılaştırmak için sckit-learn kütüphanesinin , <em>confusion_matrix</em>, <em>classification_report</em> fonksiyonlarını kullanıyoruz.<br><a href="https://www.wikiwand.com/en/Confusion_matrix">confusion_matrix </a>: Karşılaştırma matrisi tahmin edilen ile gerçek değerelri karşılaştırmanıza yarar matrisin bir ekseni gerçek değerler diğer ekseni tahmin edilen değerleri gösterir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*AycVhgJKzJSQ3WBJ.jpg" /></figure><p>her satır gerçek değerleri gösterir her sutunda tahminleri gösteriyor. Eğer modelimiz %100 başarılı olsaydı satır ve sutun indeksi aynı olan yerlerde her sını için örnek sayısı olan 5 bin dğerini göremiz gerekirdi. Örnek vermek gerekirse ilk sınıfımız olan Şirket sınıfındaki 5 bin örnekden 4767 tanesi <strong>Doğru</strong> tahmin edilmiş. 39 tanesi 2. sınıf olan Eğitim kurumu olarak <strong>Yanlış</strong> tahmin edilmiş.<br> Bir güzelliğide bir birine karıştırılan sınıfların kolaylıkla görülebilmesidir.</p><p>classification_report : fonksiyonu ise sınıf bazında recall: duyarlılık , precision: kesinlik ve bu ikisinin karışımı bir ölçüt olan f1 skorlarını hesaplayıp listler. Adıyla müsemma Sınıflandırıcı raporu düzenler</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*BFPO8994BGuz1U5e.jpg" /></figure><p>İkinci metodumuz FastText python pakedini yüklemek. Tahmin edebilecğiniz gibi</p><pre><strong><em>pip install fasttext</em></strong></pre><p>şeklinde yapıyorsunuz.</p><blockquote>import fasttext<em><br></em> model = fasttext.load_model(‘models/dbpedia_1.bin’)</blockquote><p>ile yüklüyoruz<br> tahmin için sorgu listemizi bir yere kaydetmemize gerek yok artık direk çağırıyoruz</p><blockquote>model.predict(qlist)</blockquote><p>sonuçları yine ilk örneğimizdeki gibi hesaplattırıyoruz. Aşağı yukarı aynı sonuçlara ulaşıyoruz. Toplamda 98.3 lük başarı değerine ulaşıyor modelimiz. Eğitim aşamasına geri dönüp değişik parametre ayarlarıyla daha iyi sonuçlara ulaşmaya çalışabilirsiniz. Yada ilk aşamaya dönüp Veri kümesi üzerinde değişik ön işlemeler yapıp sonuçlar üzerindeki etkisini gözlemleyebilirisiz . gerisi size kalmış</p><p>FastText hakındaki bu seri yazımızı bitiriyoruz. Üç yazı boyunca yaptıklarımızı github hesabımızdan paylaşıyoruz. Kimbilir belki taş üstüne taş koyan çıkar.</p><p>Bu yazımızdaki kullanım ile ilgili kodlar, “example” dizininde “evaluation_with_executable” ve “evaluation_with_python_binding” isimli ipython dosyalar olarak bulunuyor.<br> Veri kümesini FastText ‘in kullandığı şekle çeviren kod yine “example” dizininde “prepare_data” isminde</p><p>FastTextGUI nin kodlarına ise gui dizinin içinde ulaşabilirsiniz</p><h4>Projenin github adressi ;</h4><blockquote><a href="https://github.com/birolkuyumcu/fasttext_gui">https://github.com/birolkuyumcu/fasttext_gui</a></blockquote><p>Her türlü görüş ve önerilerinizi bekleriz.</p><p><em>Originally published at </em><a href="https://derindelimavi.blogspot.com/2019/08/fasttext-ile-hzl-metin-snflandrma-3.html"><em>http://derindelimavi.blogspot.com</em></a><em>.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=3b2b7f3f4cf2" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[FastText ile hızlı metin sınıflandırma — 2]]></title>
            <link>https://medium.com/@birolkuyumcu/fasttext-ile-h%C4%B1zl%C4%B1-metin-s%C4%B1n%C4%B1fland%C4%B1rma-2-65ea59076784?source=rss-4fd2556fbb77------2</link>
            <guid isPermaLink="false">https://medium.com/p/65ea59076784</guid>
            <category><![CDATA[naturallanguageprocessing]]></category>
            <category><![CDATA[doğal-dil-işleme]]></category>
            <category><![CDATA[fasttext]]></category>
            <dc:creator><![CDATA[Birol Kuyumcu]]></dc:creator>
            <pubDate>Fri, 30 Aug 2019 06:17:25 GMT</pubDate>
            <atom:updated>2019-08-30T07:41:43.287Z</atom:updated>
            <content:encoded><![CDATA[<h3>FastText ile hızlı metin sınıflandırma — 2</h3><p>Metin sınıflandırma için öncelikle bir veri seti bulmamız gerekiyor biz bu yazımız için dbpedia veri kümesini kullanacağız. Sizde uygulama istiyorsanız aşağıdaki <a href="https://github.com/le-scientifique/torchDatasets/raw/master/dbpedia_csv.tar.gz">linkden indirebilirsiniz</a></p><p>Veri Kümesinin açıklamasını okuyoruz.</p><blockquote>…<em><br></em>The DBpedia ontology classification dataset is constructed by picking 14 non-overlapping classes from DBpedia 2014. They are listed in classes.txt. From each of thse 14 ontology classes, we randomly choose 40,000 training samples and 5,000 testing samples. Therefore, the total size of the training dataset is 560,000 and testing dataset 70,000.<em><br></em>…</blockquote><p>Yani DBpedia 2014 den çekilmiş 14 değişik sınıfa ait yazılar başlık + içerik olarak toplanmış. Her sınıf için eğitimde 40 bin test veri seti için 5 bin örnek kaydedilmiş. DBpedia wikipedia da üretilmiş içeriklerin yapısal bir şekilde derlenip torpalanmış halidir diyelim. <a href="https://wiki.dbpedia.org/">DBpedia</a> hakkında daha fazla bilgi için <a href="https://wiki.dbpedia.org/">sitesine</a> gidebilirsiniz. Belkide size lazım olan veri kümesini bu şekilde temin edebilirsiniz…</p><p>Açıklamanın tamamını veri kümesini indirip açtığınızda “readme” belgesinden okuyabilirsiniz</p><p>veri kümemiz sıkıştırılmış dosya olarak geliyor bulunduğumuz dizine açınca “dbpedia_csv” isimli bir dizine açılıyor</p><p>Sınıf isimlerimizi okuyoruz</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/314/0*fG7nSMqyvopDFhgd.jpg" /></figure><p>Şirket , eğitim kurumu, vs diye başlayan 14 başlık var. Başlıkları ayrı yazmışlar çünkü veri kümelerinde yani “dbpedia_csv/train.csv” ve “dbpedia_csv/test.csv” de sınıf isimleri 1 den başlayan sayı olarak yazılmış</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/320/0*FJPFQ4NR3kJjRDoO.jpg" /></figure><p>FastText eğitim için veri kümesinin bir metin dosyası halinde verilmesini istiyor. İstediği Format ise her satırda bir veri birimi başta “__label__” a hangi sınıf sa onu yazıyoruz sonrasında boşluk ve virgül ile ayrıp satırın devamında o sınıfa ait bir metin yazıyoruz. Bizim metin kısmı başlık ve açıklamda olarak iki parçalı geldiğinden birleştiriyoruz. Etiket olarak yukarıda okuduğumuz sınıf isimlerini kullanıyoruz. Metin verisinde yaptığımız tek işlem ise küçük harfe çevirmek. Veriler sıralı şekilde verilmiş, bizde karışmadan aynı şekilde FastTextin istediği formata çevirip yazıyoruz</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*E2M58yYuI7YyPVlQ.jpg" /></figure><p>aynı işlemi test verisi içinde yapıyoruz.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*3YMXizrI7anTAnx6.jpg" /></figure><p>Evet artık ‘dbpedia.train’ ve ‘dbpedia.test’ diye 2 dosyamız oldu içine bakıyoruz</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*OZNCmFMbZnoeOAmn.jpg" /></figure><p>Bu aşamadan sonra sıra geliyor FastText’e. İki şekilde kullanmak mümkün FastText’i derleyip komut satırından çağırmak , yada Python paketi olarak kurup onu kullanmak. FastText ilk çıktığında python paketi yoktu ve bizde bu eğitim işinde parametere ayarlarını kolay yapabilmek için bir GUI yazdık. Ve halende kullanıyoruz. Fakat malesef kod python2 de kaldı python3 e taşımaya fırsat ve gerek bulamadık daha kullanmak için python2 , pyside , pygal, paketleri gerekiyor. <br> Görünümü şu şekilde ;</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/388/0*wMLE2-Q2U8fNs2Uv.jpg" /></figure><p>FastText i kullandığından kelime vektörü hesabı içinde kullanılabilir elbette ama bizim şu anki önreğimiz metin sınıflandırma olduğundan <strong><em>command</em></strong> kısmında “<strong><em>supervised</em></strong>” seçeneğine ayarlıyoruz. <strong><em>TextFile</em></strong> kısmına eğitim veri kümemiz için hazırladığımız dosyayı seçiyoruz. <br><strong><em>Model File</em></strong> kısmında Eğitim sonrası eğitilen modelin ismini belirliyorsunuz. <br> Sağ üstteki<strong><em>Play</em></strong> tuşu ile eğitimi başlatabiliyorsunuz. En sağdaki <strong>Dur</strong> işaretide durdurmak için<br> Altta<strong><em>Learning Rate</em></strong> ile başlangıç öğrenme hızını belirliyorsunuz<br><strong><em>Epoch</em></strong> Diğer makina öğrenme metodlarından bildiğiniz gibi eğitim kaç adım yapılacağı<br> En az kaç defa geçen kelimenin alınacağı, karekter ngramlarında hangi aralığın kullanılacağı, kelime ngramı kaçlık kullanılacağı vs gibi pek çok seçenek var. Ayarlı seçenekler ile başlayıp denemeler yapmak gerekiyor.</p><p>Eğitim bitince eğitim veri kümesinin ismi aynı uzantısı .test olan bir dosya varsa eğitilmiş model ile bu test dosyası çalıştırılıp sonuçda veriyor</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/392/0*e9IZaxrs7eTcjARe.jpg" /></figure><p>Resimden de göreceğiniz üzere</p><p>değerlerine ulaşttık ki gayet güzel sonuçlar</p><p>Eğitim sonunda Loss değerinin düşüşünüde grafik olarak alabiliyorsunuz.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*5dCbDt-pcsViqbZX.jpg" /></figure><p>Eğitim sonucunda uzantısı bizim belirlediğimiz isimde<br> uzantısı .bin olarak model dosyası<br> uzantısı .vec olarak kelime vektörelrinin tutulduğu dosya oluşturulur<br> FastTextGUI de bunlara ilaveten<br> uzantısı .log olan eğitim serencamını tutan dosya<br> uzantısı .svg olan loss düşüş grafiğinin dosyasını oluşturur.</p><p>Eğittiğimiz modeli kullanmak için sadce uzantısı .bin olan dosya yeterli olmaktadır.</p><p>Eğittiğimiz modelin kullanımını bir sonraki yazımıza bırakıyoruz. Yazı dizimiz bittiğinde bütün kodlar yayınlanacaktır.</p><p>Her türlü görüş ve önerilerinizi bekleriz.</p><p><em>Originally published at </em><a href="https://derindelimavi.blogspot.com/2019/08/fasttext-ile-hzl-metin-snflandrma-2.html"><em>http://derindelimavi.blogspot.com</em></a><em>.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=65ea59076784" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[FastText ile hızlı metin sınıflandırma — 1]]></title>
            <link>https://medium.com/@birolkuyumcu/fasttext-ile-h%C4%B1zl%C4%B1-metin-s%C4%B1n%C4%B1fland%C4%B1rma-1-4112b49ca4a6?source=rss-4fd2556fbb77------2</link>
            <guid isPermaLink="false">https://medium.com/p/4112b49ca4a6</guid>
            <category><![CDATA[naturallanguageprocessing]]></category>
            <category><![CDATA[fasttext]]></category>
            <category><![CDATA[yapay-zeka]]></category>
            <category><![CDATA[doğal-dil-işleme]]></category>
            <dc:creator><![CDATA[Birol Kuyumcu]]></dc:creator>
            <pubDate>Thu, 29 Aug 2019 10:34:24 GMT</pubDate>
            <atom:updated>2019-08-29T10:34:24.442Z</atom:updated>
            <content:encoded><![CDATA[<h3><a href="https://derindelimavi.blogspot.com/2019/08/fasttext-ile-hzl-metin-snflandrma-1.html">FastText ile hızlı metin sınıflandırma — 1</a></h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*DLANksHGwILv9p_u.jpg" /></figure><h3>Girizgah :</h3><p>Önce bu konuya nerden girdik ondan bahsetmek istiyorum. Blogda duyuru şeklinde yazmamış olsamda <a href="https://www.blogger.com/">Linkedin hesabımdan</a> beni takip edenler biliyor ki artık bir dökümcü değilim. 2016 yılı Temmuz ayın dan beri <a href="http://sefamerve.com/">Sefamerve.com</a> un ArGe kısmında çalışmaktayız. Bu yılın başından beride bölümümüz ArGe merkezi statüsüne kavuştu. <em>“Bir dökümcü ve bir simitçiyle”</em> başlayan macera bizi nerelere götürecek ? Kısmetimizde ne tür <a href="https://derindelimavi.blogspot.com/2012/12/vav-cizmek_2.html">vavlar çizmek</a> var göreceğiz bakalım…<br> <br> 2017 yılında metin sınıflandırma ile ilgili bir ihtiyacımız oldu. Bu konu daha öncesinda tecrübemizin olmadığı bir alandı. Hızlıca bu problemi nası çözeriz diye araştırır ken <a href="https://fasttext.cc/">FastText</a>’e ulaştık. Çokda beğendik. O zamanlar sadece komut satırından program olarak çalışan hali yayınlanmıştı. Kullanımını kolaylaştırmak için üzerine çala kalem bir GUI yazdık ve kendi işlerimizde kullandık.<br> <br> FastText i kullanarak makale çalışmasıda yaptık. <a href="https://www.linkedin.com/in/deniz-kilin%C3%A7-64606622/">Deniz Kılınç</a> hocamızın yayınladığı <a href="https://github.com/denopas/TTC-3600">TTC-3600</a> veri seti üzerinde bir uygulama yaptık. Bu konuda Deniz hocamızın zaten öncesinde yaptığı çalışmalarda vardı. Makalede ismi geçmiyor olsada emekleri büyüktür, teşekkür ederiz. Bu makaleyi biz Japonyada Tokushima üniversitesinde düzenlenen <a href="http://nlpir.net/2019.html">NLPIR 2019</a> konferansına yolladık ve kabul aldık. Yakın zamanda da makalemiz ACM (Association for Computing Machinery) Digital Library altında yayınlandı.<br> <br> <a href="https://dl.acm.org/citation.cfm?doid=3342827.3342828">“An automated new approach in fast text classification (fastText): A case study for Turkish text classification without pre-processing”</a></p><h3>FastText:</h3><p>Uzunca girizgahdan sonra esas konumuza dönüyoruz. Elimizde pek çok Yapay Öğrenme — Makine Öğrenmesi — algoritması var. Fakat Bu metodların hepsi sayılar üzerinde çalışıyor. Doğal Dil İşleme üzerinde ki ana problem de burda başlıyor. Metin verisini nasıl sayısallaştırabiliriz ? Kelime bazlı, harf bazlı yada bunların gurupları -ngram- şeklinde yaklaşımlar olmuştur. Kategorik dönüşüm şeklinde ilk akla sistemdir. Kelime sayısının çok büyük olmasıyla devasa vektör uzunluklarıyla sonuçlanabilir.<br> <br> Sonra Kelime vektörü — <a href="https://www.wikiwand.com/en/Word2vec">word2vec</a> — denen bir kavram çıkmış ortaya. Her kelime için sabit uzunlukta bir vektör kullanmak. “Birlikte geçen kelimeler anlamca yakındır” var sayımından yola çıkılıyor. Başlangıçda aynı yapay sinir ağlarındaki gibi kelimeler için rastgele seçilmiş vektör değerleri atanıyor. Devasa derlem — corpus — kullanarak danışmansız şekilde — unsupervised — her kelime için birlikte geçtiği kelimelere göre bu vektörler güncelleniyor. Bu öğrenme sürecinin iki ana şekli var. CBOW ve skipgram <br> <br> bu iki yapının şematik gösterimi şöyle</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*_Aemn1qHSgMBzVKl.png" /></figure><p>cbow da hedef kelime vektörüne o kelimenin etrafında geçen kelimelerin vektörlerinin toplamıyla ulaşılmaya çalışıyor ve bu hedef doğrultusunda vektörler güncelleniyor<br> skipgramda ise tersine hedef kelimeyle birlikte geçebilecek kelime yada kelime ngramlarına ulaşılmaya çalışıyor ve bu hedef doğrultusunda vektörler güncelleniyor<br> <br> <br> Bir rivayete göre cbow daha hızlı eğitilir ve sık geçen kelimeleri daha iyi temsil eden vektörlere ulaşabilir. Skipgram eğitim veriniz az da olsa iyi çalışır, nadir geçen kelimeleri bile yeterince iyi temsil edebilecek vektörlere ulaşabilir.<br> <br> Eğitim sonucunda vektör uzayında benzer anlamlara gelen kelimeler yakın yerlerde kümelendiği gibi<br> kelime vektörleri uzayında yapılan işlemler de anlammı sonuçlar verebilmektedir. Meşhur örnekler</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*F6a9GJi5mQkRIhry.jpg" /></figure><p>Erkek kelimesinin vektöründen Kral keliimesinin vektörünü çıkarıp Kadın kelimesini ilave edine ulaştığımız vektörel değer Kraliçe kelimesinin vektörel kaşılığına ulaşıyor</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*Axgup8ht-qB1e4TZ.png" /></figure><p>yada ülkeler ve başkentleri arasında böyle bir vektörel ilişki görülebiliyor. <br> <br> Kelimelerin bu tür anlamsal bağ içeren vektörel dönüşümleri elbette doğal dil işleme için elbette çok önemlidir. <br> <br> Word2vect metodu 2013 yılında googleda <a href="https://www.wikiwand.com/en/Tomas_Mikolov">Mikolov</a> un liderlik ettiği bir gurup tarafından yapılmıştır. Sonrasında Mikolov Facebook a geçmiş ve FastText bir anlamda bu metodun daha gelişkin halidir.<br> Temel üstünlüğü kelimeleri harf engramları olarakda görebilmesinden gelmektedir. Halen geliştirilmeye devam edilmektedir. FastText in detayları için aşağıdaki makaleleri incelemenizi tavsiye ederiz.</p><ul><li><a href="https://arxiv.org/abs/1607.04606">Enriching Word Vectors with Subword Information</a></li><li><a href="https://arxiv.org/abs/1607.01759">Bag of Tricks for Efficient Text Classification</a></li><li><a href="https://arxiv.org/abs/1612.03651">FastText.zip: Compressing text classification models</a></li></ul><p>Epeyde teoriden bahsetmişiz gelelim pratiğe. FastText in “supervised” kısmıyla çok başarılı Metin sınıflandırma işleri yapabiliyorsunuz. Hemde küçük harfe dönüştürmek dışında hiç bir ön işlem yapmadan mümkün oluyor. GPU istemiyor. GPU nuz olsa bile RNN bazlı sistemlere göre çok çok çok daha hızlı eğitiliyor.<br> <br> Bu yazıy burada noktalayalım bir sonraki yazımızda örnek uygulama yapacağız. Her türlü görüş ve önerilerinizi bekleriz.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=4112b49ca4a6" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Sahibinden Üçkağıtçı Proje]]></title>
            <link>https://medium.com/@birolkuyumcu/sahibinden-%C3%BC%C3%A7ka%C4%9F%C4%B1t%C3%A7%C4%B1-proje-52bbfdf0bd34?source=rss-4fd2556fbb77------2</link>
            <guid isPermaLink="false">https://medium.com/p/52bbfdf0bd34</guid>
            <category><![CDATA[yapay-zeka]]></category>
            <category><![CDATA[görüntü-i̇şleme]]></category>
            <dc:creator><![CDATA[Birol Kuyumcu]]></dc:creator>
            <pubDate>Wed, 03 Jul 2019 07:49:32 GMT</pubDate>
            <atom:updated>2019-07-03T07:49:32.956Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*3JWQ32lwXuSlenRU.jpg" /></figure><p>- Abi biz sizi takip ediyoruz, bizim bir projemiz var ortaklaşa yapalım diye rahatsız ediyoruz<br> <br> — Yapalım tabi kardeş, Nedir projeniz<br> <br> — Abi projemiz “Görüntü işleme bazlı Yapay Zekalı ! Bahçe rekolte tahmini”<br> <br> — Yani ne bekliyorsunuz kafanızda ne var ?<br> <br> — Abi Şimdi malum artık her cepte telefon var. Cep telefonundan Ağaçların fotoğraflarını çekecekler. Bu fotoğraflara göre bizim uygulama bu bahçeden şu kadar ürün çıkar diye tahmin yapacak. Nasıl süper fikir ama değilmi abi ?<br> <br> — Dabi Dabi süper fikirmiş. Peki kardeş bu fotoğrafların çekimlerini nasıl standartlaştıracaksınız.<br> <br> — Ne standardı abi öyle şey mi olur. Alacak vatandaşın biri çekecek. Sistem artık kendisi eline ne gelirse oradan karar verecek.<br> <br> — Peki proje esas sahibi kim ?<br> <br> — Abi büyük şirketler varmış bahçeleri toptan alıyorlarmış, Bizim bir arkadaşın <strong><em>“pek bir yakın tandığı !”</em></strong> böyle bir şirketlerde çalışıyormuş. O diyor “<strong>yapın projeyi paraya para demezsiniz.</strong>”<br> <br> — Anladım baştan size para verecek kişi de yok yani<br> <br> — Evet abi de ne olacak sanki sen yazarsın görüntü işlemeli ve YZ lı kısımları bizde üzerine bir GUI patlatırız. Oldu bitti işte.<br> <br> — Peki kardeş verileri nereden alacaksınız. ?<br> <br> — Yine bizim bir arkadaşın <strong><em>“pek bir yakın tandığı !” </em></strong>nın tanıdığı bahçe sahipleri varmış. Oralardan çekeriz abi<br> <br> — Kardeş benim anladığım aslında elinizde para yok , veri de yok, verinin düzgünce çekilebileceği imkanda yok ve hazır müşteride yok.<br> <br> — Proje var ya işte abi, sen varsın, biz varız<br> <br> — Dabi canım, ama unuttun sen ben yazmış olayım arkadaşın <strong><em>“pek bir yakın tandığı !”</em></strong> da var<br> <br> — Sen işleri niye böyle yokuşa sürüyorsun abi, biraz olumlu baksana<br> <br> — Senin bakdığın gibi kolay bir problem değil bu. Şak diye çözüm bekleyemezsin. Helde giriş verisinin standart bir yapısı olmadığında. Aynı ağacı çok değişik şekillerde çekebilirsin mesela bundan düzgün bir sonuç çıkarabilmek pek mümkün olmaz.<br> <br> — Ya abi ya okuyoruz hep;</p><blockquote><em>Doktordan daha iyi teşhis koyan,<br> İnsandan daha iyi resim tanıyan<br> İnsandan daha iyi ses tanıyan,<br> …</em></blockquote><p>çalışmalar var yalan mı bunlar <br> <br> — Yalan değilde sana aktarıldığı gibi abartılı da değil<br> <br> — Bir orta yol bulalım abi<br> <br> — Bak güzel kardeşim tamam anladım ki anlatamayacağım vaz geçiyorum. Sana çok kestirme bir çözüm sunacağım<br> <br> — Dinliyorum abi<br> <br> — Geçmiş yılların hasılatlarını alabilirmisin ?<br> <br> — Alırız tabi abi<br> <br> — Şimdi sen bir Cep telefonu uygulaması yapıyorsun<br> <br> — Evet<br> <br> — Bu uygulamada ağaç fotoğraflarını çekecekler<br> <br> — Geçmiş yılların hasılatlarından ve ağaç sayısından ağaç başına yıllık hasılat miktarlarını gösteren bir zaman serisi oluşturacaksın<br> <br> — Evet abi<br> <br> — Sonra bu bu serinin ortalamasını ve standart sapmasını bulacaksın<br> <br> — Eee abi<br> <br> — Formülü yazıyorum bak yaz bir kenara</p><blockquote><strong>Hasılat = Ortalama_Hasılat + Random() * Hasılat_Standart_Sapması</strong></blockquote><p>Uygulamada her ağaç fotoğraf geldikçe bu formülle bir hasılat miktarı hesaplar ve sonuda da hepsini toplarsın bi zahmet.<br> <br> — Eee abi Görüntü işleme ve yapay zeka neresinde bunun<br> <br> — Elbette reklamında kardeş<br> <br> — Süpermiş abi ben hemen çalışmalara ! başlayayım. Peki sen ne isteyeceksin proje için abi<br> <br> — Ben bir şey istemiyorum al sana <strong>SAHİBİNDEN ÜÇ KAĞITÇI PROJE</strong> hayrını gör.<br> <br> — Abi peki ucundan kıyısından Yapay Zeka felan da sokuştursak iyi olurdu<br> <br> — Şimdi böyle başlayında İlla soran olursa, sonra resimleri az meyveli çok meyveli diye etiketlersen rastgele sayıyı ona göre ayarlarız.<br> <br> — Süper olur abi biz bununla hemide <a href="https://www.aa.com.tr/tr/sirkethaberleri/hizmet/sahibindencomun-fotograftan-arac-tanima-ozelligi-en-iyi-secildi/650816"><strong><em>Innovasyon ödülü</em></strong> </a>bilem alırız<br> <br> — Alırsınız elbette neyiniz eksik…</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=52bbfdf0bd34" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Ses ile Kalp Atışı Sınıflandırma]]></title>
            <link>https://medium.com/@birolkuyumcu/ses-ile-kalp-at%C4%B1%C5%9F%C4%B1-s%C4%B1n%C4%B1fland%C4%B1rma-89755ac51db8?source=rss-4fd2556fbb77------2</link>
            <guid isPermaLink="false">https://medium.com/p/89755ac51db8</guid>
            <dc:creator><![CDATA[Birol Kuyumcu]]></dc:creator>
            <pubDate>Fri, 10 May 2019 08:29:31 GMT</pubDate>
            <atom:updated>2019-05-10T08:29:31.572Z</atom:updated>
            <content:encoded><![CDATA[<p>Evet başlığından da anlaşılacağı üzere yine sağlık alanında bir yazımız var. Bu seferek verimizi ses olarak alıyoruz.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*wlsk-hveuidrgNtR.jpg" /></figure><p>Verimizin kaynağı yine Kaggle</p><blockquote><a href="https://www.kaggle.com/kinguistics/heartbeat-sounds"><em>https://www.kaggle.com/kinguistics/heartbeat-sounds</em></a></blockquote><p>Biz kaggle dan ulaşmış olsakda asıl verinin kaynağı 2011 tarihli bir yarışmadan geliyorumuş</p><blockquote><a href="http://www.peterjbentley.com/heartchallenge/index.html"><em>http://www.peterjbentley.com/heartchallenge/index.html</em></a></blockquote><p>İki ayrı şekilde kaydedilmiş ses dosyaları var<br> ilki “<a href="https://itunes.apple.com/tr/app/istethoscope-pro/id322110006?mt=8"><strong><em>iStethoscope Pro</em></strong></a>” isimli bir iphone uygulaması kullanılarak kaydedilmiş sesler</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*TE1fh_DQPr4QIjPm.jpg" /></figure><p>Kalanlar “DigiScope” marka bir dijital steteskop ile alınmış</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*aXmEPjbnFCcRk0CA.jpg" /></figure><p>Ses dosyalarının uzunlukları farklı tahmin edeceğiniz gibi ses dosyalarının çoğuda Normal seslerden oluşuyor.<br> Önce ses dosyalarımızı test ve eğitim olarak iki guruba ayırıyoruz.<br> Eğitim %80<br> Test %20</p><p>Bu ayrımdan sonra ses dosyalarımızı 0.5 saniyelik kaydırmayla 2 saniyelik kısımlara bölüyoruz. ve giriş verisi olarak bunu kullanıyoruz.Yani giriş verimiz 2 saniyelik ses sinyali. Elimizdeki ses dosyalarına göre konuşursak ( sample rate 22050 ) 44100 lük vektörü giriş olarak kullanıyoruz.</p><p>Veri dosyalarımızı oluşturduktan sonra tek boyutlu evrişim katmanları kullanan bir ağ tasarladık ve bir sınıflandırıcı eğittik.</p><ul><li>Opimizasyon metodu : <a href="https://arxiv.org/abs/1412.6980v8">Adam</a></li><li>Toplam parametre sayısı : 1,366,865</li><li>Eğitim Epoch sayısı : 29 — earlystop ile -</li></ul><p>Eğitim grafiği</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*FPdhhjQ4MeA88fdP.jpg" /></figure><p>Modelin başarısı eğitim için kullandığımız datalarla %95 in üzerinde</p><p>Eğitim için kullanmadığımız datalarla yaptığımız test ve sonuçlarıda şöyle gösterelim</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*YAMgOW12lJENjJif.jpg" /></figure><p>ortalama %73 -75 arası bir başarı görünüyor.</p><p>Başarının düşük olması ve artımamız gerektiği bir gerçek elbette. Ama sadece ham ses sinyali vererek. Bir dönüşüm -fft mel vs gibi — yapmadan bir sınıflandırıcı eğitilebilmeside zannımca çok önemli bir özellik.</p><p>Fırsat bulabilirde bu çalışmaya tekrar dönebilirmiyiz bilemiyorum ama. Bu çalışmaya devam isteyenlere ilk önce ses sinyalinde kalp atış kısımlarının ayrıştırılması sonrasında bu çalışmanın yapılmasının başarıyı oldukça yükselteceğini düşünüyoruz.</p><p>Her türlü görüş ve önerilerinizi bekleriz.</p><p><em>Originally published at </em><a href="http://derindelimavi.blogspot.com/2018/09/ses-ile-kalp-ats-snflandrma.html"><em>http://derindelimavi.blogspot.com</em></a><em>.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=89755ac51db8" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[DeepCon’18 payment anomaly workshop]]></title>
            <link>https://medium.com/@birolkuyumcu/deepcon18-payment-anomaly-workshop-ed0672e2e548?source=rss-4fd2556fbb77------2</link>
            <guid isPermaLink="false">https://medium.com/p/ed0672e2e548</guid>
            <dc:creator><![CDATA[Birol Kuyumcu]]></dc:creator>
            <pubDate>Fri, 10 May 2019 08:22:56 GMT</pubDate>
            <atom:updated>2019-05-10T08:22:56.974Z</atom:updated>
            <content:encoded><![CDATA[<p><a href="http://deepcon.deeplearningturkiye.com/">DeepCon’18</a> geçtiğimiz cuma ve cumartesi günü yapıldı. Yoğun bir katılım vardı. Emeği geçen herkese burdan teşekkür etmek isteriz. Pek çok konu konuşuldu. Bence çok daha önemlisi ilgili insanlar bir araya geldi. İletişim pek çok zaman gelişmedeki temel motor işlevini görür. İnsanların bir şeyler yapma ve öğrenme gayretini görmek, Yada yaptıklarınızın takip edildiğini öğrenmek gayretinizin artmasına vesile oluyor.<br> <br> <a href="http://sefamerve.com/"><em>SefaMerve.com</em></a><em> ArGe Merkezinin</em> çalışmalarından bahsettiğimiz, “Eticarette yapay Zeka Uygulamaları” başlıklı bir sunumumuz oldu. Sunumu <a href="https://www.linkedin.com/in/cuneyt-aksakall%C4%B1/">Cüneyt</a> bey yaptı. Sunumun ilk kısmında “Payment Anomaly” başlıklı bir kısım sonrasında genel yapılanlar anlatıldı. Ben burada İlk kısım için biraz daha teferruatlı bir açıklma yazmak istiyorum. İnşallah birilerine Faydalı olur.<br> <br> Bir E-Ticaret firmasının helede Uluslararası satışı varsa pek çok kaynakdan ve çeşitli kurlarda tahsilat yapması gerekmektedir. Pek çok banka, değişik ödeme türleri ( paypal, paybyme vs… ) gibi Değişik ülkelerde çalışmaktadır. Yani sistemin sağlıklı yürüyebilmesi için pek çok tahsilat sisteminide sağlıklı yürüyor olması lazımdır.<br> <br> Biz tahsilat sistemindeki olası anormalliklerin tespiti için, her türdeki alt sistem için yapılan saatlik tahsilatların toplamlarını bir zaman serisine dönüştürdük. Sonra 24 saatlik veri ile 25. saat deki değeri tahmin edecek bir model kurduk. Tahmin ve gerçek değer arasındaki belli eşik edeğerinden fazla farklılık ve bu farklılığın belli saat boyunca devam etmesinin bir anomaly olacağını varsaydık.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*t0Lko8Zs6DswUaYV.jpg" /></figure><p>Çalışmamız bu anlamda klasik bir zaman serisi tahmini modeline benzetilebilir. Bir kaç özelliği var ; çok girişli, çembersel normalizsayon, gurup normalizasyonu.</p><h3>Circular Normalization:</h3><p>Genelde İnsan davranışları için elebtte burda bizim ana ilgimiz olan satın alma için zamanın önemi büyük. Zamanın dönügüleri var. Gün içinde bazı saatlerde satışlar artarken bazı saatlerde çok düşe biliyor. Haftanın günlerine görede bu değişimi gözlemleye biliriz, hafta içi ile hafta sonu davranış farkları olması gibi. Normalde bu döngüsel zaman değerlerinin girişi klasik kategorik veri gibi yapılmaktadır. yani mesela haftanın günleri için.</p><blockquote>Pazartesi : 0 0 0 0 0 0 1<em><br> </em>Salı : 0 0 0 0 0 1 0 <em><br> </em>…<em><br> </em>Pazar : 1 0 0 0 0 0 0</blockquote><p>gibi Bu durumda her bir günün bir birine uzaklığı eşit olmaktadır. Oysa Cumartesi gününün Pazar gününe uzaklığı ile Çarşamba gününe uzaklığı farklıdır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*WhJvAuAMVCYB28U7.png" /></figure><p>Biz bu tip döngüsel kategorik değişkenler için Birim çember üzerinde eşit aralıklı noktalar olarak Normalize etmeyi kullandık. Üstteki grafikde olduğu gibi. Pazar Günü pazartesi ve Cumartesi gününe yakındır. Bu şekilde bir dönüşümün bir faydasıda girdi büyüklüğünün küçülmesidir. Kasik metodla kodladığımızda 7 lik vektör olarak kodlayabilirken. Çembersel Normalizasyonla 2 lik vektöre dönüştürmüş oluyoruz. Bu sayede günün hangi saati olduğunuda 24 yerine 2 lik vektör olarak kodluyoruz. Yada Ayın hangi günü olduğunuda 31 lik vektör yerine 2 lik vektör olarak kodlamış oluyoruz. Bu tip bi kodlamanın daha önce uygulandığına dair bir bilgimiz yok. İşin akademik yönünüde klasik metodlarla karşılaştırıp teferruatlı test etme imkanımız olmadı malesef. Tecrübi bir yöntem olarak bahsetmiş oluyoruz.</p><h3>Grup Normalization :</h3><p>Zaman serisinde tedrici genel — belki mevsimsel — bir değişim olabilmektedir. Zaman serisinin normalizasyonunda komple bütün serinin maksimum değerine göre yapılması bizce kısmen problem olabilir. Hele bu genel değeşim çok büyükse. Genel maksimuma göre normalizasyon yerine biz bu çalışmamızda giriş olarak aldığımız 24 saatlik gurubun maksimum değerine göre bir normalizasyon yapmayı tercih ettik.</p><h3>Multiple Input Model :</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/181/0*oCTI2WcSQn9bMAJR.jpg" /></figure><p>Çok girişli bir ağ yapısını kullandık. Çünkü ; Zaman serisi dışında tahmin etmememiz gereken saatin zaman döngüsünde nerede olduğunun da tahmin ile ilgili olduğunu düşündük ve onuda kattık.<br> İlk girdimiz zaman serisi ve 24 saatlik bir birini takip eden tahsilat değerleri LSTM ile işleniyor.<br> İkinci girdimiz Zaman ile ilgili verimiz 8 lik bir vektör . ( haftanın günü, saat, ayın günü, ay ) kalsik YSA katmanı — Dense layer — ile işleniyor. Sonrasında bu iki kısım birleştiriliyor.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*QwieAfzK7P8C5RFs.jpg" /></figure><p>Sonuç olarak sıradışı bir anormallik tespiti yaklaşımı üzerine bir çalışma yapmış olduk. Koda ve verilere ve sunuma şağıdaki github sayfamızdan ulaşabilirsiniz</p><blockquote><a href="https://github.com/birolkuyumcu/deep_con18_payment_anomaly_workshop"><strong><em>github.com/birolkuyumcu/deep_con18_payment_anomaly_workshop</em></strong></a></blockquote><p>Her türlü görüş ve önerilerinizi bekleriz.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=ed0672e2e548" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Keloğlanın Optimizasyonla imtihanı]]></title>
            <link>https://medium.com/deep-learning-turkiye/kelo%C4%9Flan%C4%B1n-optimizasyonla-imtihan%C4%B1-4cd65005138b?source=rss-4fd2556fbb77------2</link>
            <guid isPermaLink="false">https://medium.com/p/4cd65005138b</guid>
            <category><![CDATA[yapay-zeka]]></category>
            <category><![CDATA[optimizasyon]]></category>
            <dc:creator><![CDATA[Birol Kuyumcu]]></dc:creator>
            <pubDate>Mon, 30 Jul 2018 06:01:02 GMT</pubDate>
            <atom:updated>2018-07-30T13:51:11.234Z</atom:updated>
            <content:encoded><![CDATA[<h3>Zek<strong>â</strong> Hakkında Kıssalı Yazılar — 6 *</h3><p>Evvel zaman içinde kalbur saman içinde…Develer tellal iken, pireler berber iken, ben annemin beşiğini tıngır mıngır sallar iken…Bir varmış bir yokmuş…</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*IbHAmhAywfus48mx.jpg" /></figure><p>Diyarın birinde bir garip Keloğlan varmış. Sevdiceği Aykız ile mutlu mesut yaşarmış. Mutlu mesut yeknesaklığından sıkılan YZ Cadısı, Aykızın zihnini çalıvermiş ve “<em>Optimizasyon</em>” namlı diyarda bir kuyuya saklamış. Aykız Keloğlan’ ı, tanımaz, bilmez olmuş. Aslına bakarsanız YZ cadısı düşünüldüğü kadar kötü de değilmiş, sadece canı biraz macera istermiş. Bu yüzden Keloğlan’ a Aykız’ ın zihnini bulabilmesi için çeşitli alet edavat bırakmış.</p><p>Keloğlan önce afallamış. Bu alet edavatlar nedir? Ne işe yarar? Optimizasyon diyarı nerededir? Nasıl gidilir? Üzerinde nasıl gezilir? Kel kafacığında deli sorular dolanırken, aklına <a href="http://derindelimavi.blogspot.com/2005/06/zeka-hakknda-kssal-yazlar-3.html">“Tarihteki ilk YZ projesini”</a> yürüten Nasrettin Hoca gelir. YZ cadısının bıraktıklarını toparlayıp, çalar hocanın kapısını.</p><p>Hoca keloğlanın anlattıklarını dinler. Bırakılan alet edavatları inceler. Sonra başlar anlatmaya:<br> <br><em> “- Evlat, optimizasyon denen diyar büyülü bir diyardır. YZ Cadısı, Aykız’ın zihnini billur bir şişede, su olarak, o diyarda bir kuyuda saklamış. O diyara dünyevi araçlarla ulaşamazsın. Şu bırakılan sihirli halılardan birini seçmen l</em>â<em>zım. Halı seni her</em> hâlükârda<em> o diyara götürüp bırakır. Bırakacağı yeri sen seçemezsin. Ama halının köşelerinde ecnebi lisanı ile yazılmış ; “glorot , lecun , xavier , gaussian” diye geçen tılsımlar var. Bu tılsımlardan kiminin diğerlerinden daha uygun noktaya inmeni sağlayacağına inanılıyor. Denemeden bilinmez.<br> <br>İndikten sonra karayolu ile ilerlemen lazım. Karayolunda seyahat etmek için şu çizmeleri kullanacaksın. Bu çizmeyi giyerek 1 arşından 100 bin arşınlık mesafeye kadar değişen “learning rate” uzaklıklara zıplayabilirsin. Uzaklık ayarını çizmenin bağcığıyla ayarlayabiliyorsun.<br> <br>Son olarak bu çok gözlü heybe var. İçlerinde milyonlarca minyatür kristal kürecikler var. Optimizasyon diyarında sayısız kuyu ve kuyularda, sayısız billur şişeler varmış. Doğru kuyu ve elbette doğru billur şişeyi bulabilmek için bu kristal kürecikleri kullanacaksın. Bu kristal kürecikler sana gideceğin yön ve uzaklığa dair bilgicik verir. Her kürecik sana kısmen doğru kısmen de yalan söyler. Bu yüzden tek birinin göstergesine güvenemezsin. Sen bir seferde aklında tutabileceğin kadar küreyi çıkar, sonuçları birleştir, ortalamasını al ve o yönde hareket et. Her hareketin öncesinde bu işlemi farklı küreciklerle yap. Kürecikler bazen yalan söylüyor dedik ya! Seni yanlış bir kuyuya da götürebilirler. Bu yüzden en başta küreciklerden bir kısmını -test verisi -ayır. Ve hareket için asla kullanma! Kalanları grup grup kullanıp hepsi bitince, bu ayırdığın küreciklerle ulaştığın noktanın sonucunu test edebilirsin.”<br> </em><br>Hocadan gereken taktikleri alan Keloğlan, halıya binip çıkmış yola. İlk indiği noktada hedefine hızlıca varacağını umarak çizmesinin hızını en yükseğe çıkarmış. Ama görmüş ki, bir o yana bir bu yana tutarsızca zıplayıp durmuş. Keza zıplamalar sırasında pek çok vadinin üzerinden geçtiğini görmüş. O zaman farkına varmış ki, çok yavaş giderse hedefine ulaşması çoook uzun sürecek; çok hızlı giderse kontrol edemediği pek çok alanı geçecek. Böylece ilk optimizasyonunun çizme hızını düzgün seçmek olduğunu anlamış. Hızını orta dereceye alıp biraz da böyle devam etmeye başlamış. Yaklaştığımı anladıkça biraz dahada yavaşlarım demiş.</p><p>Her seferinde seçtiği küreciklerden çıkan sonuca göre yön belirleyip giderken, farketmiş ki kısmi de olsa her seferde yalpalar yapmaktaymış. Bu yalpalamaları azaltıp daha hızlı yol alabilmek için önceki seferlerde küreciklerin söylediklerini de kısmen hesaba katayım demiş -<em>momentum-.</em> Böylece daha düzgün bir yol almaya başlamış.</p><p>Derken güzel bir konuma ulaşmış. Ulaşmış ama, ulaştığı yerde hareket için kullanmadığı kürecikler -t<em>est verisi- </em>doğru yerde olmadığını gösteriyormuş. Hareket için kullandığı kürecikler hedefe ulaştık derken, diğerleri ulaştığımız yerin yanlış olduğunu söylüyormuş -<em>Local Minimum</em>-.</p><p>Ne yapacağını şaşırmış kalmış. Düşünürken, farkına varmış ki kürecikler yalan üzerinde ittifaka varıyor. Sonra, küreciklerin yeterli olacağını düşünüp sadece birazını aldığını, çoğunu boşuna yük olur deyip bıraktığını hatırlamış. Geri dönüp bütün kürecikleri yüklenmiş ve baştan başlamış.</p><p>Küre sayısının artması sebebiyle, ilerlemesi çok daha uzun sürmüş ama kürecikler de yalan üzerinde ittifak edememişler. Peyderpey gerçek hedefe doğru ilerleyebildiğini hareket için kullanmadığı küreciklerden görmüş. Uzun bir yolculuktan sonra hedefine varmış. Billur şişeyi bulup Aykız’ a götürmüş. Billur şişedeki suyu içen Aykız eski haline dönmüş…<br> <br> Gökten üç elma düşmüş biri Hinton’un biri Lecun’un biri de Ng’ nin başına …<br> <br> * Zeka Hakkında Kıssalı Yazılar Serisi — <a href="http://derindelimavi.blogspot.com/2005/06/zeka-hakknda-kssal-yazlar-1.html">1</a> <a href="http://derindelimavi.blogspot.com/2005/06/zeka-hakknda-kssal-yazlar-2.html">2</a> <a href="http://derindelimavi.blogspot.com/2005/06/zeka-hakknda-kssal-yazlar-3.html">3</a> <a href="http://derindelimavi.blogspot.com/2007/06/bakan-bilgisayar-gren-bilgisayar.html">4</a> <a href="http://derindelimavi.blogspot.com/2009/09/nasrettin-hocadan-bulank-mantk-dersi.html">5</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=4cd65005138b" width="1" height="1" alt=""><hr><p><a href="https://medium.com/deep-learning-turkiye/kelo%C4%9Flan%C4%B1n-optimizasyonla-imtihan%C4%B1-4cd65005138b">Keloğlanın Optimizasyonla imtihanı</a> was originally published in <a href="https://medium.com/deep-learning-turkiye">Deep Learning Türkiye</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Derin Öğrenme Tabanlı (seq2seq) Türkçe Kelime Kök Ayırıcı]]></title>
            <link>https://medium.com/deep-learning-turkiye/derin-%C3%B6%C4%9Frenme-tabanl%C4%B1-seq2seq-t%C3%BCrk%C3%A7e-kelime-k%C3%B6k-ay%C4%B1r%C4%B1c%C4%B1-5d3acc764c76?source=rss-4fd2556fbb77------2</link>
            <guid isPermaLink="false">https://medium.com/p/5d3acc764c76</guid>
            <category><![CDATA[yapay-zeka]]></category>
            <category><![CDATA[deep-learning]]></category>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[derin-ogrenme]]></category>
            <category><![CDATA[keras]]></category>
            <dc:creator><![CDATA[Birol Kuyumcu]]></dc:creator>
            <pubDate>Sat, 07 Apr 2018 10:17:06 GMT</pubDate>
            <atom:updated>2018-04-07T10:17:06.739Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*hUKz7x4W5xXmcF69yhO55g.png" /><figcaption><a href="https://nlp-kokbulma.herokuapp.com/">https://nlp-kokbulma.herokuapp.com/</a></figcaption></figure><p>Günümüzde Yapay Sinir Ağları (YSA), Doğal Dil İşleme (DDİ / NLP) alanında da kendini net şekilde göstermeye başladı. Özellikle, Derin Öğrenme algoritmalarının kullanıldığı yeni çözümleri etrafımızda sıkça görmemiz mümkün.</p><p>DDİ yaklaşımlarında, elimizdeki metin verisini temizlemek adına bazı işlemlerden geçiriyoruz. Tüm kaynaklar dikkate alındığında ön işleme (preprocessing) adımları aşağıdaki gibi:</p><ol><li><em>Kelimeleri ayır (Tokenization)</em></li><li><em>Kelimelerin kökünü/gövdesini bul (Stemming)</em></li><li><em>Anlama etki etmeyen genel kelimeleri at (Stop-words elimination)</em></li></ol><p>Ön işleme adımlarının temel amacı “genel anlamı bozmadan” kelime sayısını (number of terms/features) azaltmaktır. Eğer ön işleme yapılmazsa bir modeldeki kelime sayısı yüksek boyutlara ulaşır (high dimensionality) ve modelin karmaşıklaşarak çalıştırılamaz hale gelmesi kaçınılmaz olur.</p><p>Tabi bu noktada dillerin morfolojik yapısı önem teşkil ediyor. Örneğin, İngilizce dilinin morfolojik yapısı basit olduğu için bu dilde kök bulma işlemi hem algoritmik tasarım açısından kolay hem de hata oranı az. Fakat sondan eklemeli bir dil olan Türkçe’de yapısı gereği sondan eklerle bazen fazlasıyla anlam değişikliği oluyor. Bu yüzden yapılacak çalışmada buna dikkat etmek gerekiyor.<br> <br><strong> Örneğin;</strong></p><blockquote>gözüm ağrıyordu. göz doktoruna gitttim. gözlük numaram değişmiş. <em><br> </em>gözlüğümün çerçeveside eskimişti. gözlükçüye gidince, yeni bir gözlük çerçevesi de aldım.</blockquote><p>göz, gözüm, gözlük, gözlüğümün gözlükçüye, gözlük … diye geçen kelimelerin hepsinin köküne <strong>göz demek anlamı bozar</strong>.</p><p>Bunun yerine aşağıdaki gibi farklı bir yaklaşım deneyelim:</p><blockquote><em>gözüm =&gt; göz<br> gözlüğümün =&gt; gözlük <br> gözlükçüye =&gt; gözlükçü</em></blockquote><p>Evet, bu yaklaşım sanki daha doğru oldu… Elbette bir anlam kaybı var ama nispeten daha doğru olduğunu söylemek mümkün. Tabi anlamları farklı, yazılışları aynı kelimeler için bir çözüm olmadığını da belirtmemiz lazım.</p><blockquote>Ortada çözümü olmayan genel bir optimizasyon problemi var.</blockquote><p>Eğer sadece kökü kullanırsanız, bazı anlamları kaybetme ihtimaliniz var, öte yandan kelimenin tamamını kullandığınızda ise kelime sayınız astronomik sayılara çıkıyor.<br> <br>Kelime vektörleri bu işi çözmez mi? Kelime vektörleri dediğimiz yaklaşımda kelimeler sabit uzunlukta vektörler olarak ifade ediliyor. Temelindeki fikir şudur: Aynı anlamı ifade eden kelimeler aynı bağlamda — context — de kullanılır. Büyük derlemde — corpus — kelimeler birlikte kullanıldıkları kelimelere göre optimize edilerek her birisi için sabit bir vektöre ulaşılıyor. Yakın anlamlı kelimeler kelime vektör uzayında birbirine yakın konumlarda oluyorlar. Burada şöyle bir problem var her kelimenin her türlü ekiyle birlikte yeterli miktarda derlemde olması pek mümkün değil.<br> <br>Şu ana kadar anlattıklarımız size sıkı gelmiş olabilir, kusura bakmayın :)Fakat problemi net olarak ortaya koymamız ve bu probleme çözüm olarak sunduğumuz çalışmamızın farkını ortaya koymamız lazımdı…Çalışmamızda, kök bulma işlemini <strong>seq2seq </strong>bir modele öğretmeye çalıştık. Modeli eğitirken <a href="https://www.linkedin.com/in/ahmet-aksoy-0512b721/"><strong>Ahmet Aksoy</strong></a> beyin yayınladığı bir <a href="https://github.com/ahmetax/kalbur/blob/master/veri/KOKBULTEST.txt">veriyi</a> kullandık. Sistemi genel kullanıma açabilmek adına <a href="https://www.linkedin.com/in/yavuzkomecoglu/"><strong>Yavuz Kömeçoğlu</strong></a> ile birlikte bu model için etkileşimli bir web sayfası hazırladık.</p><p><a href="http://nlp-kokbulma.herokuapp.com/">Derin Öğrenme Tabanlı - seq2seq - Türkçe için kelime kökü bulma uygulaması - v0.2.1</a></p><p>Mevcut haliyle kullanıcının vereceği kelime için model çalıştırılıp bir cevap dönüyor. Kullanıcı cevabın doğru ya da yanlış olup olmadığını ve doğrusunu geri bildirimle sisteme girebiliyor.</p><ul><li>Bu projenin özelliği ne peki ? Yukarıdaki girizgahtan tahmin edeceğiniz gibi çok zor bir problemi çözdük gibi bir <strong>iddiamız yok</strong>.</li></ul><blockquote>Bu projenin ana özelliği klasik yaklaşımın dışında bir çözüm getirmesi.</blockquote><ul><li>Klasik yaklaşımda şöyle olursa nasıl yaparım böyle olursa nasıl yaparım diye kurallar silsilesi kurgulamanız lazım. Hatta karşımıza kurguladığımız hiç bir kurala uymayan bir kelime çıkarsa, <br>“<em>if kelime </em><strong><em>BU</em></strong><em> ise kök </em><strong><em>ŞU</em></strong><em> dur” </em>demek zorunda kalıyorsunuz.<br><br>Modern yaklaşımlarda olabildiğince çok veri bularak, birbirini takip eden bir yapının diziliminden örüntüler çıkarıp istenen sonuca ulaşılmaya çalışılır. Biz bu projede bunu yapmaya çalıştık. Verimizi sağlıklı bir şekilde büyütebilirsek, modelin başarısı artacağını umuyoruz.</li><li>Bir başka büyük özelliği etkileşimli bir şekilde sunuluyor olması. Günümüzde Türkçede DDİ üzerine çalışma yapacak kişinin, ilk toslayacağı duvar, elde hazırda verinin olmayışıdır. Sağ olsunlar Yıldız Üniversitesinden <a href="http://www.kemik.yildiz.edu.tr/"><strong>Kemik</strong></a> gurubunun yıllar önce yaptıkları dışında açık şekilde ulaşılabilir bir veri seti maalesef yok. Bu çalışmayla gönüllülerin girdiği yeni kelimeler ve düzeltmelerle çok daha geniş bir veri setine ulaşabilme imkanını sunuyor.</li></ul><p>Bu proje bir rol model olarak düşünülüp çok daha kompleks DDİ problemleri için bir çözüm ve veri seti toplama sistemi olarak düşünülebilir.<br> <br>Elbette bunu özel sektörde çalışan ben ve master tezini vermeye uğraşan Yavuz, tek başımıza yapamayız. Kullananlar olması lazım. Kullanıcaların yazdıklarının toparlanıp ayıklanması lazım. Sistemin yeniden eğitilmesi lazım. Epey bir emek gerekiyor. Hatta bence bu tip bir proje ve elbette daha gelişmişleri, akademik olarak sahiplenilmesi gereken projelerden. Biz projeyi çalıştırdık. Kodumuzuda <a href="http://deeplearningturkiye.com/"><strong>Deep Learning Türkiye</strong></a> gurubunun github hesabında yayınladık.</p><p><a href="https://github.com/deeplearningturkiye/kelime_kok_ayirici">deeplearningturkiye/kelime_kok_ayirici</a></p><p>Bundan sonra Proje sahiplerini bekliyor.</p><h3>Derin Öğrenme Kısmı:</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/352/0*GJoMstEu0L1OwAku.jpg" /></figure><p><strong>Gelelim işin teknik kısmına:</strong></p><p>Modelimiz Seq2Seq denen yapıda bir ağ olup, gerçekleştiriminde Keras kullanıldı. Kelimeler harf bazlı kodlandı. Harf çeşit sayımız 34. Yani bir harfi 34 uzunluğunda vektör olarak kodluyoruz. Maksimum kelime uzunluğu eldeki veri setine göre 22 olarak belirlendi.</p><p>RNN tipi ağ katmanları veriyi zaman bazında istiyor. Bizim durumumuzda kelime uzunluğu 22 olduğundan 22 seferde 34 uzunluklu vektörler. Ağın çıkışı da aynı şekilde kodlanmış olarak sadece Kök kısmını üretiliyor.<br> <br><strong> Ağın genel yapısına bakalım:</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/295/0*pliBfmmfCEoqw2Qo.png" /></figure><p>Çok sade bir çoklu girişten çoklu çıkış -seq2seq- üreten RNN li bir model. <br>Fazladan diyebileceğimiz sadece başta Dikkat — Attention — kısmı var. Girişdeki verilerin önem derecesini öğrenmesi için bir YSA katmanı yerleştiriyoruz ve katmanın çıkışını veri için bir önek katsayısı olarak kullanıyoruz.</p><p>Modeli sade tuttuk çünkü eğitim eğrisi gayet güzel, test verisi başarısı da epey yüksek.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/400/0*8Wx9V1LHOATqSUSb.png" /></figure><p>Elbette verilerin çoğalması ile modele de ilaveler gerekebilir. Kodda Keras’ın çeşitli callback fonksiyonları kullanıldı. Onlardan da bahsedelim.</p><ul><li><strong>EarlyStopping </strong>: Eğitim esnasında takip ettiğiniz değerde belirleyeceğiniz adım — epoch — boyunca iyileşme yoksa eğitim veridiğiniz adım sayısından önce durduruluyor. Bizim kodumuzda 9 adım boyunca test verisi başarımında bir iyileşme olmuyorsa duryor.</li><li><strong>ReduceLROnPlateau</strong> : Eğitim esnasında takip ettiğiniz değerde belirleyeceğiniz adım — epoch — boyunca iyileşme yoksa Öğrenme hızını sizin belirleyeceğiniz bir katsayıyla çarparak küçültüyor. Bizim kodumuzda 2 adım boyunca test verisi başarımında bir iyileşme olmuyorsa öğrenme hızı 0.5 çarpılarak yarıya indiriliyor.</li><li><strong>ModelCheckpoint</strong> : Eğitim esnasında her adım sonunda belirleyeceğiniz şartlara göre modelin komple yada sadece ağırlıklarının kaydedilmesi işini yapar. Bizim kodumuzda test verisi başarım değerinde bir yükselme olmuşsa kaydediyor.</li><li><strong>CSVLogger</strong> : Eğitim esnasında her adım sonunda, hem eğitim hem test verisi için, hata değeri — loss — başarım değeri — acc — ve öğrenme hızı — learning rate — değerlerini kaydeder.</li></ul><p>Bizim anlatacaklarımız bu kadar. Buraya kadar sabırla okuduğunuz için teşekkürler. Her türlü görüş ve önerilerinizi bekleriz.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=5d3acc764c76" width="1" height="1" alt=""><hr><p><a href="https://medium.com/deep-learning-turkiye/derin-%C3%B6%C4%9Frenme-tabanl%C4%B1-seq2seq-t%C3%BCrk%C3%A7e-kelime-k%C3%B6k-ay%C4%B1r%C4%B1c%C4%B1-5d3acc764c76">Derin Öğrenme Tabanlı (seq2seq) Türkçe Kelime Kök Ayırıcı</a> was originally published in <a href="https://medium.com/deep-learning-turkiye">Deep Learning Türkiye</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
    </channel>
</rss>