<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Başak Buluz - Medium]]></title>
        <description><![CDATA[My Blog - Medium]]></description>
        <link>https://medium.com/basakbuluz?source=rss----1c9dea6b94d9---4</link>
        <image>
            <url>https://cdn-images-1.medium.com/proxy/1*TGH72Nnw24QL3iV9IOm4VA.png</url>
            <title>Başak Buluz - Medium</title>
            <link>https://medium.com/basakbuluz?source=rss----1c9dea6b94d9---4</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Sat, 21 Nov 2026 05:53:14 GMT</lastBuildDate>
        <atom:link href="https://medium.com/feed/basakbuluz" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[Ulusal Yapay Zekâ Stratejisi’ne Dair Önemli Notlar..]]></title>
            <link>https://medium.com/basakbuluz/ulusal-yapay-zeka-stratejisine-dair-onemli-notlar-7b57118f2adf?source=rss----1c9dea6b94d9---4</link>
            <guid isPermaLink="false">https://medium.com/p/7b57118f2adf</guid>
            <category><![CDATA[yapay-zeka-çağı]]></category>
            <category><![CDATA[yapay-zeka]]></category>
            <category><![CDATA[uyzs]]></category>
            <category><![CDATA[dijital-dönüşüm-ofisi]]></category>
            <dc:creator><![CDATA[Başak Buluz Kömeçoğlu]]></dc:creator>
            <pubDate>Thu, 26 Aug 2021 12:02:05 GMT</pubDate>
            <atom:updated>2021-08-26T12:16:13.656Z</atom:updated>
            <content:encoded><![CDATA[<p>Yaklaşık 2 senedir üzerinde çalışılan ve dijital çağın başrollerinden birini üstlenen Yapay Zeka alanında önümüzdeki 5 yılı kapsayan çalışmalara yön vermesi beklenen <strong>Ulusal Yapay Zekâ Stratejisi (UYZS)</strong> geçtiğimiz gün görkemli bir <a href="https://www.youtube.com/watch?v=6CGjZ-vK1_g">lansman</a> ile tanıtıldı🎉</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*h2EwN1HwPdzmVsbNQqy57g.png" /></figure><p>UYZS, 11. Kalkınma Planı ile Cumhurbaşkanlığı Yıllık Programları doğrultusunda Cumhurbaşkanlığı Dijital Dönüşüm Ofisi Başkanlığı (CBDDO) ile Sanayi ve Teknoloji Bakanlığı (STB) tarafından hazırlandı.</p><blockquote><strong><em>Hedefi ise, çağa yön verecek YZ alanında ulusal anlamda hedeflerin koyulması, stratejilerin belirlenmesi, çalışmaları ortak bir zemine oturtacak tedbirlerin ve bu tedbirleri hayata geçirmek üzere oluşturulacak yönetişim mekanizmasının oluşturulması..</em></strong></blockquote><p>Tüm bu hedeflerin belirlenmesi ve deyim yerindeyse yol haritasının çizilmesi için özel sektörden, akademiden, STK’lardan, kamudan alanında uzman kişiler ve uluslararası organizasyon temsilcileri ile fiziki ve çevrim içi platformlarda görüşmelerin yürütülmüş, çalıştaylar düzenlenmiş ve farklı disiplinlerdeki alan uzmanlarının değerlendirmelerin alınması yönüyle oldukça umut verici 🙌🏻</p><p><strong>UYZS aşağıda listelenen 6 ana bölümden oluşmaktadır:</strong></p><p>📍 <a href="#36fd">Giriş</a></p><p>📍 <a href="#39b6">Küresel Gelişmeler ve Eğilimler</a></p><p>📍 <a href="#1973">Türkiye’de Mevcut Durum</a></p><p>📍 <a href="#e394">YZ Değerleri ve İlkeleri</a></p><p>📍 <a href="#c8e6">Stratejik Öncelikler, Amaçlar ve Tedbirler</a></p><p>📍 <a href="#f876">Yönetişim Mekanizması</a></p><p>UYZS vizyonu, hazırlanış süreci ve stratejik öncelik alanlarının belirlenmesinde uygulanan yöntemleri inceleyen giriş bölümünden sonra, yukarıda listelenen diğer 5 ana bölümden önemli bilgilere birlikte göz atalım..🤗</p><h3>♟️ UYZS’nin vizyonu</h3><p>UYZS vizyonu; <strong>müreffeh bir Türkiye için çevik ve sürdürülebilir YZ ekosistemiyle küresel ölçekte değer üretmek </strong>olarak belirlenmiştir ve bu vizyonu hayata geçirmek üzere 6 stratejik öncelik etrafında tasarlanmıştır.</p><figure><img alt="Şekil 1. Ulusal YZ Stratejisi Vizyonu ve Stratejik Öncelikleri" src="https://cdn-images-1.medium.com/max/727/1*9VAg4knaANToUIEVOGtVXA.png" /><figcaption>Şekil 1. Ulusal YZ Stratejisi Vizyonu ve Stratejik Öncelikleri</figcaption></figure><p>UYZS’de Şekil 1.’de de gösterilen stratejik öncelikler kapsamında <strong>24 amaç ve 119 tedbir</strong> belirlenmiş ve bunların uygulayıcı kurumların detaylarını belirleyeceği eylemlerin çerçevesini çizeceği öngörülmüştür. Ayrıca tüm bu belirlenen amaç ve tedbirlerin, ülkemizin <strong>“Dijital Türkiye”</strong> vizyonu ve <strong>“Millî Teknoloji Hamlesi”</strong> ile uyumlu olacak şekilde kurgulanıldığının da altı çizilmektedir.</p><h3>🎬 UYZS’nin Hazırlanışı</h3><p>UYZS küresel ölçekte uluslararası kuruluşların politikaları ve çeşitli ülkelerin strateji belgeleri, yerel ölçekte ise ilgili paydaşların görüş ve katkıları alınarak katılımcı bir yaklaşımla hazırlanmıştır. Bu bağlamda faydalanılan kaynaklar ve yöntemler:</p><ul><li>11. Kalkınma Planı, Bilim, Teknoloji ve Yenilik Politikaları Kurulu (BTYPK) Kararları, 2020–2023 Akıllı Şehirler Stratejisi ve Eylem Planı, 2023 Eğitim Vizyonu, vb. ulusal stratejiler ile plan ve programlar incelenmiş,</li><li>T.C. Cumhurbaşkanlığı ve bağlı 7 kuruluş , 16 bakanlık ve bunlara bağlı olan 13 kuruluş, 38 özel sektör, 3 STK, 26 üniversite, farklı disiplinlerdeki 103 alan uzmanı ile görüşülmüş,</li><li>CBDDO ve STB koordinasyonunda 2 adet çalıştay düzenlenmiş ve 40 kamu kurumu, 38 özel sektör kuruluşu, 26 üniversite ve 4 STK’nın katılımıyla ülkemizin güçlü ve zayıf yönleri ile fırsat ve tehditler belirlenmiş,</li><li>YZ konusunda ulusal ölçekte gerçekleştirilen çalıştay ve 10 farklı çalışmaya aktif katılım sağlanmış ve ihtiyaçlar/eğilimler tespit edilmiş,</li><li>Kamu kurum ve kuruluşlarının YZ alanı ile bu alanın sosyoekonomik yapıya etkileri için yürüttüğü çalışmalar değerlendirilmiş,</li><li>Uluslararası kuruluşların yanı sıra YZ stratejisi hazırlamış ülkelerden 4 uzman ile fikir alışverişi yapılmış, uluslararası kuruluşlar ve önde gelen ülkelere ait alan çalışmaları ile danışmanlık firmaları ve düşünce kuruluşlarının değerlendirmeleri analiz edilmiş,</li><li>Teknoloji Geliştirme Bölgeleri’nde faaliyet gösteren firmalar ile AR-GE merkezi olan firmaların YZ çalışmaları hakkında bilgi edinilmek üzere “Yapay Zekâ Faaliyet Anketi” düzenlenmiş,</li><li>Özel sektörde ve girişim ekosistemindeki örnek uygulamalar ile sektörel olarak çözülebilecek problemler incelenmiştir.</li></ul><h3>🛠️ Stratejik Öncelik Alanlarının Belirlenmesi</h3><p>UYZS’nin hazırlanmasında önemli konuların başında hiç şüphesiz stratejik öncelik alanların belirlenmesi gelmektedir. Belirlenen alanların ülkemizin ulusal politika belgeleri ile uyumlu olmasının yanı sıra, sektörel ve tematik stratejilerinde vurgulanan önceliklerin de dikkate alınmış olması büyük önem taşımaktadır. Ayrıca yalnızca ulusal ölçekte bir bakış açısı ile değil, uluslararası arenada da rekabete dahil olmak adına uluslararası kuruluşların YZ alanındaki eğilim ve yaklaşımları, çeşitli ülkelerin bu alanda hazırlamış olduğu ulusal strateji belgeleri ile uluslararası kıyaslama çalışmalarının ölçümleme metodolojilerinin değerlendirilmiş olması da oldukça önemlidir.</p><p>Birçok ulusal ve uluslararası rapor alan uzmanları tarafından incelenmiş ve bu raporlarda odaklanılan ve aşağıda listelenen 6 ana etki alanı belirlenmiştir:</p><ul><li>YZ alanında ileri becerilere sahip uzmanların yetiştirilmesi ve bu bağlamda eğitim sisteminin uyumlaştırılması,</li><li>YZ alanında AR-GE çalışmalarının artırılması, girişimciliğin geliştirilmesi, yüksek nitelikli kaliteli veriye ve teknik altyapıya erişimin sağlanması,</li><li>YZ alanı için uygun bir etik ve hukuki çerçeve oluşturulması,</li><li>YZ alanında uluslararası iş birliklerinin geliştirilmesi,</li><li>YZ’nin istihdam ve meslekler üzerindeki etkisinin yönetilmesi,</li><li>Kurumların ve firmaların YZ uygulamalarıyla dönüştürülmesi.</li></ul><p>Bu temel 6 etki alanları ile ülkemizin ulusal, sektörel ve tematik politika ve stratejileri dikkate alınarak belirlenen stratejik öncelikler çerçevesinde; Şekil 2’de gösterildiği gibi odağında ise <strong>“beceri”, “veri” ve “altyapı”</strong> olarak belirlenen üç temel YZ yetkinliği yer alacak şekilde, <strong>“kurumsal yetkinlik”</strong>, <strong>“stratejik uyum”</strong> ve <strong>“yönetişim”</strong> boyutları etrafında tasarlanmıştır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/542/1*V_dQgBl7_YtdfX41uQeAWQ.png" /><figcaption>Şekil 2. Ulusal YZ Stratejisinin Boyutları</figcaption></figure><p>UYZS, firma ve kamu kurumları özelinde olgunlaşma rotasının takip edilmesine imkân verecek stratejik tedbirleri de stratejik öncelik alanlar kapsamında gruplandırarak tanımlamıştır:</p><p>📍 <strong>YZ Uzmanları ve Alanda İstihdam</strong></p><p>📍 <strong>Araştırma, Girişimcilik ve Yenilikçilik</strong></p><p>📍 <strong>Teknik Altyapı, Platformlar ve Veri</strong></p><p>📍 <strong>Sosyoekonomik Yapıda Uyum ve Düzenlemeler</strong></p><p>📍 <strong>Uluslararası İş Birlikleri</strong></p><p>📍 <strong>Yapısal ve İş Gücü Dönüşümü</strong></p><h3>🌏 Küresel Gelişmeler ve Eğilimler</h3><p>UYZS’nin bu bölümünde sırasıyla küresel YZ pazarı, ülkelerin YZ stratejileri, stratejik öncelik alanları kapsamında küresel gelişmeler ve eğilimler hakkında bilgiler verilmiştir.</p><p>Bu bölümden dikkat çeken bilgilerden bazıları:</p><p>📌Geçtiğimiz yıl yaklaşık <strong>50,1 milyar ABD doları</strong> olduğu tahmin edilen küresel pazar büyüklüğünün, 2024 yılına kadar <strong>%20,1’lik yıllık büyüme oranıyla</strong> 110 milyar ABD dolarını aşması beklenmektedir.</p><p>📌 YZ alanının, 2030 yılına kadar küresel ekonomiye 13–15,7 trilyon ABD doları katkı yaparak<strong> %13- 14 arasında büyüme </strong>sağlaması beklenmektedir.</p><p>📌 YZ kaynaklı küresel ekonomi <strong>büyümesinde en büyük payın %15 ile tüketim ürünleri, konaklama ve gıda hizmetleri alanında</strong> olması beklenmektedir. İkinci sırada yer alan “teknoloji, medya ve iletişim” sektörünün %12,5’lik etkisi olacağı öngörülmektedir.</p><p>📌YZ’ye ilişkin ulusal politika ve strateji belgeleri 2016 yılından itibaren yayımlanmaya başlanmıştır ve günümüz itibarıyla <strong>60’tan fazla ülkenin YZ stratejisini yayımladığı görülmektedir.</strong></p><p>📌YZ ekosisteminde yer alan tüm paydaşlar arasında iş birliğine vurgu yapılması tüm strateji belgelerinin önemli ortak özelliğidir.</p><p>📌Dünyada YZ alanında <strong>bir doktora programından mezun olanların</strong> 2004 yılında sadece %20’si <strong>sanayide istihdam edilirken 2018 yılında bu oran %60’</strong>ın üstüne çıkmıştır.</p><p>📌YZ alanında yapılan yayınların bölgesel dağılımına bakıldığında ise <strong>en fazla yayının Avrupa ülkeleri tarafından</strong> çıkarıldığı görülmektedir.</p><p>📌Bilimsel üretkenlik ve verimlilik için kullanılan H endeksine bakıldığında ABD lider konumundadır. Aynı zamanda, atıfta küresel ortalamanın %40 üzerindedir.</p><p>📌Meslek kümesi için gerekli beceri setleri incelendiğinde ise <strong>en çok ihtiyaç duyulacak beceri setinin</strong> yaklaşık %45 ile <strong>“ileri teknoloji” bilgisi olacağı</strong> değerlendirilmektedir.</p><p>📌Son 5 yılda, gelişmiş ve gelişmekte olan ülkeler arasında farklılıklar olmakla birlikte <strong>YZ uzmanı, veri bilimci, büyük veri mimarı ve yazılım robotu mühendisi küresel ölçekte talebi en hızlı büyüyen mesleklerin</strong> ilk sıralarında yer almaktadır.</p><p>📌2014–2019 yılları arasında <strong>YZ girişimlerine yapılan yatırım yıllık ortalama %48 oranında artış</strong> göstermiştir.</p><p>📌<strong>ABD ve Çin’deki YZ girişimlerinin toplamı dünyadaki YZ girişimlerinin %60’ını</strong> oluşturmaktadır.</p><p>📌 <strong>Günümüzde 55 ZB</strong> düzeyinde olan küresel veri hacminin <strong>2024 yılında kümülatif olarak 143 ZB düzeyine</strong> ulaşması beklenmektedir.</p><p>📌Uluslararası düzeyde, <strong>güvenilir YZ konusunda standartlaşma süreci de başlamıştır.</strong> ISO bünyesinde çalışmalar yürütülmektedir ve 2020 yılında güvenilir YZ için ISO/IEC TR 24028:2020 standardı yayımlanmıştır.</p><p>📌YZ odaklı girişimler ve kuruluşlar arasında uluslararası iş birliklerinin kolaylaştırılması ve farklı coğrafyadaki uzmanlar arasında bilgi alışverişinin sağlanması amacıyla <strong>“OECD Yapay Zekâ Uzmanları Ağı (OECD ONE AI)”</strong> oluşturulmuştur.</p><h3>🔮Türkiye’de Mevcut Durum</h3><p>UYZS’nin bu bölümünde, bir yandan ülkemizin YZ ile ilgili küresel endekslerdeki görünümü incelenirken diğer bir taraftan, belirlenen stratejik öncelik alanları çerçevesinde mevcut durum analizi de yapılmıştır.</p><p>Ülkelerin kamu hizmetlerinde YZ’yi kullanmak için hazırlıklı olma durumu ölçüldüğü <strong>Kamu Yönetimi YZ Hazır Olma Endeksi 2020 Raporu’nda, ülkemiz 172 ülke içerisinde 67’nci sırada yer almıştır. “Sorumlu YZ” alt-endeksinde ise ülkemiz; 34 ülke içerisinde 31’inci olmuştur.</strong></p><p>7 alt göstergeden oluşan bir analiz ile belirlenen 2019 Küresel YZ Endeksi incelendiğinde ülkemizin <strong>54 ülke içerisinde 41’inci sırada</strong> yer aldığı görülmektedir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/468/1*7yLLNLfckIcRH60IV1lctQ.png" /><figcaption>Şekil 3.Küresel YZ Endeksi 2019’da Türkiye’nin Görünümü</figcaption></figure><p>🔶 <strong>Ülkemizdeki YZ üst politikası, mevzuat ve kurumlar kapsamındaki gelişmelerden bazıları:</strong></p><ul><li>11. Kalkınma Planı’nda nesnelerin interneti, artırılmış gerçeklik, büyük veri ve sensör teknolojileri gibi belirlenen kritik teknoloji alanları arasında sayılmıştır. İş gücünün bu teknolojilerle etkin biçimde çalışabilecek şekilde dönüştürülmesi ve kamu hizmetlerinin geliştirilmesinde bu teknolojilerden yararlanılmasına yönelik politika ve tedbirlere yer verilmiştir.</li><li>BTYPK bünyesinde, “Yapay Zekâ Teknoloji Yol Haritası” hazırlanmaktadır.</li><li>Çeşitli ulusal politika belgelerinde öncelikli teknoloji alanı olarak belirlenen YZ’ye yönelik uzun dönemli bir yol haritası oluşturmak amacıyla “Ulusal Yapay Zekâ Stratejisi”nin hazırlanması görevi CBDDO ve STB’ye verilmiştir.</li><li>2023 Sanayi ve Teknoloji Stratejisi, 2023 Eğitim Vizyonu, 2020–2023 Ulusal Siber Güvenlik Stratejisi ve Eylem Planı, 2020–2023 Akıllı Şehirler Stratejisi ve Eylem Planı ve 2020–2023 Ulusal Akıllı Ulaşım Sistemleri (AUS) Stratejisi Belgesi ve Eylem Planı’nda YZ teknolojilerinin geliştirilmesi ve uygulanmasıyla ilişkili çeşitli hususlara yer verilmiştir.</li></ul><p>🔶<strong>YZ alanında ulusal çerçevede kurumsal yapılanmalardan bazıları ise:</strong></p><ul><li>CBDDO Büyük Veri ve Yapay Zekâ Uygulamaları Dairesi Başkanlığı</li><li>Sanayi ve Teknoloji Bakanlığı Millî Teknoloji Genel Müdürlüğü</li><li>TÜBİTAK Yapay Zekâ Enstitüsü</li><li>Adalet Bakanlığı bünyesinde Bilgi İşlem Genel Müdürlüğü altında, “Büyük Veri ve Yapay Zekâ Uygulamaları Şube Müdürlüğü”</li><li>Sağlık Bakanlığı bünyesinde Sağlık Bilgi Sistemleri Genel Müdürlüğü, Ulusal Projeler Yönetim Koordinatörlüğü altında “Yapay Zekâ ve Giyilebilir Teknolojiler Birimi”</li><li>Millî Savunma Bakanlığı bünyesinde Muhabere ve Bilgi Sistem Dairesi Başkanlığı altında, “Süreç Yönetimi ve Yapay Zekâ Uygulamaları Şube Müdürlüğü”</li><li>Gaziantep Büyükşehir Belediyesi bünyesinde “Yapay Zekâ Eğitim ve Araştırma Şube Müdürlüğü”</li><li>Türkiye Sağlık Enstitüleri Başkanlığı bünyesinde kurulan “Türkiye Sağlık Veri Araştırmaları ve Yapay Zekâ Uygulamaları Enstitüsü”</li></ul><p>🔶<strong>YZ uzmanları ve alanda istihdam çerçevesinde ülkemizde atılan önemli adımlardan bazıları:</strong></p><ul><li>Yükseköğretim Kurulu (YÖK) <strong>Doktora Projesi kapsamında, YZ öncelikli alanlar</strong> içerisinde belirlenmiştir. Bu kapsamda YZ alanında araştırma görevlisi ve öğretim üyesi istihdamı daha da artacaktır.</li><li>Hazine ve Maliye Bakanlığı koordinasyonunda başlatılan <strong>“1 Milyon İstihdam” </strong>projesi ile YZ alanı dâhil, ücretsiz çevrim içi eğitim imkânları sunulmakta ve işverenlere açık öz geçmiş havuzu oluşturulmaktadır.</li><li>2023 Sanayi ve Teknoloji Stratejisi’nde 500 bin yazılım geliştirici yetiştirmek üzere, bu yeteneklerin başarısını dünya seviyesine ulaştırmak ve ülkemizden uluslararası iddiası olan yazılım tabanlı ürünler çıkarmak amacıyla <strong>“Türkiye Açık Kaynak Platformu”</strong> kurulmuştur.</li><li>Beşerî sermaye boyutunda belirlenmiş hedeflerin gerçekleştirilmesine katkı sağlamak üzere, STB uhdesinde <strong>Millî Teknoloji Akademisi</strong> kurulmaktadır.</li><li>Akademi,<strong> YZ teknolojisinin ön plana çıktığı</strong> kullanım alanlarında özel uzmanlık tanımlarının yapılacağı ve nitelikli insan kaynağının yetiştirilmesi amacını güden<strong> programlar yürütecektir.</strong></li><li>TÜİK’in TÜBİTAK B3Lab iş birliği ile deneysel olarak yürüttüğü ve çevrim içi iş ilanlarının büyük veri yöntemleriyle analiz edilmesini amaçlayan bir projeyle <strong>YZ yetkinlik ihtiyaçları bağlamında istihdam arz ve talebini daha iyi anlamaya yönelik analizler</strong> yapılması hedeflenmektedir.</li><li>Türkiye İş Kurumunun sorumluluğunda <strong>“Mesleki Beceri Envanterinin Çıkarılması ve Eşleştirme Hizmetlerinin Beceri Temelinde Geliştirilmesi Projesi”</strong> ile ülkemizin genel beceri ve nitelik haritalarının güncel mesleki dağılımının oluşturulması hedeflenmektedir.</li><li>Ülkemizde<strong> 4 üniversitemizde YZ alanında lisans programı</strong> açılmıştır. Ayrıca <strong>YZ özelinde 14 yüksek lisans ve 1 doktora programı</strong> ile büyük veri, robotik ve akıllı sistemlere yönelik 24 yüksek lisans ve 5 doktora programı açılmıştır. Hâlihazırda <strong>YZ odaklı 13; büyük veri, robotik ve akıllı sistemlere yönelik 20 merkez</strong> kurulmuştur.</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/567/1*NQTSKmLEqqYi8QQszqOPHQ.png" /><figcaption>Şekil 4. YZ Alanındaki Yayın Kalitesinin Dünya ve Türkiye Oranları, 2009–2018</figcaption></figure><ul><li>YZ alanında çalışmalar yürüten <strong>1.218 akademisyen</strong> mevcuttur.</li><li><strong>Türkiye</strong> YZ alanındaki <strong>yayın sayısına göre dünya sıralamasında 16’ncı</strong> sıradadır.</li></ul><p>⚠️<strong>Tüm bu listelenen ve belgede çok daha fazlası bulunan sevindirici adımın yanı sıra önemle altı çizilen gereklilikler de belgede şu şekilde özetlenmiştir:</strong></p><blockquote>YZ konusunda alan uzmanlarının yetiştirilmesi ve istihdamın artırılması ile bu konularda politika üretme kapasitesinin iyileştirilmesi amacıyla öncelikle bu alana yönelik<strong> mesleki tanımlamaların ve yeterliliklerin belirlenmesi ve alanda çalışan uzman ve araştırmacıları kapsayan bir envanter oluşturulması</strong> gereklidir. Ayrıca, alana yönelik lisansüstü programların açılması, bu programlarda eğitim verebilecek akademisyenlerin yetiştirilmesi ve öğrencilerin bu programlara katılmaya özendirilmesi de önem arz eden hususlardandır. Diğer taraftan yetenekli gençlerin yükseköğretim öncesinde YZ alanında uzmanlaşmak için temel yetkinliklerle donatılması da diğer bir ihtiyaçtır. Bu çerçevede, <strong>konu odaklı yeni nesil eğitim olanaklarının artırılması</strong> gerekmektedir.</blockquote><p>🔶<strong>Araştırma, Girişimcilik ve Yenilikçilik yönüyle ülkemizdeki gelişmelerden bazıları :</strong></p><ul><li>TÜBİTAK, son 10 yıl içerisinde yürüttüğü yaklaşık <strong>1.715 AR-GE ve yenilik projesine 1,7 milyar TL</strong> (2020 fiyatlarıyla) finansman sağlamıştır.</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/472/1*KCdLeu0GlB5BYgN4WLi8jQ.png" /><figcaption>Şekil 5. TÜBİTAK YZ Destek Tutarlarının Dağılımı, 2009–2019</figcaption></figure><ul><li>TÜBİTAK desteği alan özel sektör kuruluşlarının YZ AR-GE projelerinin çift kelime frekans analizi sonuçlarına göre, desteklenen projelerin çoğunun karar destek sistemi, görüntü işleme ve büyük veri alanlarında olduğu görülmektedir. Bu alanları; derin öğrenme, görüntü işleme, doğal dil işleme, yapay görme, yapay öğrenme, yapay sinir ağları, sanal gerçeklik, yüz tanıma gibi YZ teknolojileri takip etmektedir.</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/491/1*7MoLpVbDlAurR5WevfWd6A.png" /><figcaption>Şekil 6. YZ Alanında Özel Sektöre Sağlanan TÜBİTAK AR-GE Proje Desteklerinin Çift Kelime Frekans Analizi, 2007-Mart 2020</figcaption></figure><ul><li>TGB firmaları ile AR-GE merkezi olan firmaların %56’sı YZ alanında çalışan yetkin personele sahipken, %30’unda da YZ alanında yüksek lisans ya da doktora tezi yazmış uzman bulunmaktadır. Ayrıca firmaların %35’i, YZ alanında kullanabilecekleri veriye sahip ya da ulaşabilir olduklarını belirtmektedir.</li><li>YZ çalışmalarında bulunan TGB’lerin ve/veya AR-GE merkezi olan firmaların %45’i YZ çalışmaları için TÜBİTAK, %7’si de KOSGEB desteklerinden faydalanmaktayken, %14’ü ise çalışmalarını kendi sermayeleriyle finanse etmektedir.</li><li>Türkiye’de yerleşik 205 YZ girişimi olduğu belirlenmiştir. Bu girişimlerin %11’i sanal asistan ve %11’i görüntü işleme girişimidir. Girişimlerin yaklaşık %50’si teknoparklarda, %73’ü ise İstanbul’da bulunmaktadır.</li><li>STB tarafından, bakanlık ve bağlı/ilgili kuruluşları tarafından sağlanan destek ve teşviklerin tek pencereden yönetilerek orta-yüksek ve yüksek teknoloji seviyeli sektörlere yoğunlaştırılmasına yönelik <strong>“Teknoloji Odaklı Sanayi Hamlesi Programı”</strong> başlatılmıştır.</li><li>Savunma Sanayii Başkanlığı tarafından yürütülen <strong>Yenilikçi Yazılımlar Yarışıyor (Y3) programı</strong> ile YZ başta olmak üzere savunma ihtiyaçları için kritik olan belirli yazılım geliştirme alanlarında yetkinlik havuzunun oluşturulması amaçlanmaktadır.</li><li>Yenilikçi YZ teknolojilerinin geliştirilmesi ve bunların teknoloji hazırlık seviyelerinin yükseltilmesi için <strong>“TÜBİTAK Yapay Zekâ Enstitüsü”</strong> kurulmuş olup yapılandırılmasına yönelik çalışmalar sürmektedir.</li></ul><p><strong>🔶 Teknik Altyapı, Platformlar ve Veri konuları ile ilgili ülkemizdeki gelişmelerden bazıları :</strong></p><ul><li>Kamu kurumlarının tüm uygulama, platform ve altyapı katmanlarında kullandıkları verilere ilişkin standart ve tanımlamaların yer alacağı <strong>Ulusal Veri Sözlüğü’nün (UVS) oluşturulması </strong>çalışmaları CBDDO tarafından yürütülmektedir.</li><li>CBDDO tarafından başlatılan bir başka çalışma da <strong>“Açık Devlet Verisi Portali”</strong> ile kamu kurum ve kuruluşlarının ürettiği verilerin; fikrî mülkiyet haklarının, mahremiyetin ve ulusal güvenliğin korunması ilkeleri çerçevesinde, kamuya açık şekilde paylaşılması sağlanacaktır.</li><li>Savunma Sanayii Başkanlığı tarafından hayata geçirilen <strong>Veri Etiketleme Platformu (Veri Kovanı)</strong> ile öncelikle kurum bünyesinde gerçekleştirilen/ gerçekleştirilecek projeler için etiketlenmiş veri kümelerinin elde edilmesi amacıyla kullanılacak verilerin etiketlenmesini sağlayacak bir platform geliştirilmektedir.</li><li>Kamu Yatırım Programları aracılığıyla; TÜBİTAK ULAKBİM bünyesindeki <strong>“Türk Ulusal Bilim e-Altyapısı”</strong> projesi, İTÜ bünyesindeki <strong>“Ulusal Yüksek Başarımlı Hesaplama Merkezi”</strong> projesi, ODTÜ bünyesindeki <strong>“Robotik Teknolojileri Araştırma, Geliştirme ve Eğitim Merkezi”</strong> projesi, Boğaziçi Üniversitesi bünyesindeki <strong>“Robotik ve Yapay Akıl Laboratuvarları”</strong> projesi ile Ankara Üniversitesi, Gazi Üniversitesi ve ODTÜ ortaklığıyla yürütülen <strong>“Nörobilim ve Nöroteknoloji Mükemmeliyet Merkezi”</strong> projesi hayata geçirilmiştir.</li><li>Türkiye Açık Kaynak Platformu’nda yürütülmekte olan bir proje kapsamında; araştırmacı ve girişimcilerin üzerinde çalışabileceği, uygulamalarını geliştirebileceği metin ve ses veri kümeleri ve açık kaynak algoritma kütüphaneleri hazırlanmaktadır.</li></ul><p><strong>🔶 Sosyoekonomik Yapıda Uyum ve Düzenlemeler bazında ülkemizdeki gelişmelerden bazıları:</strong></p><ul><li>YZ uygulamalarına ilişkin hukuki düzenlemelerin, evrensel hukuk sistemine de örnek olacak şekilde yapılması ihtiyacına yönelik, Türkiye’de hukuk ve YZ ilişkisine odaklanan <a href="https://www.istanbulbarosu.org.tr/files/docs/Yapay_Zeka_Caginda_Hukuk2019.pdf"><strong>Yapay Zekâ Çağında Hukuk Raporu</strong></a>, 2019 yılında yayımlanmıştır.</li><li>Ülkemizde sosyoekonomik yapının YZ’ye uyumunu hızlandırmaya yönelik ihtiyaçları belirlemek amacıyla Türkiye Yapay Zekâ İnisiyatifi tarafından 2017 yılında bir çalıştay gerçekleştirilmiştir.</li><li>Türkiye Bilişim Vakfı Başlangıç Noktası Platformu tarafından 2019 yılında <strong>“Yapay Zekâ Uygulamalarında Ön Yargı Çalıştayı”</strong> gerçekleştirilmiştir.</li><li><strong>Ulusal Veri Yönetişimi ve Mahremiyeti Çalışma Grubu</strong> oluşturulması yönünde çalışmalar CBDDO tarafından başlatılmıştır.</li></ul><p><strong>🔶YZ alanında sağlanan Uluslararası İş Birlikleri’nden bazıları:</strong></p><ul><li>Son 10 yılda YZ alanında uluslararası iş birliğiyle yapılan <strong>75 proje</strong>, YZ için kamu tarafından ayrılan <strong>toplam bütçenin %10,5’ine</strong> karşılık gelmektedir.</li><li>2014–2020 dönemini kapsayan AB Ufuk2020 Programı’nda ülkemizden 27 projede, 49 tane Türk ortak <strong>14 milyon avro</strong> değerinde fon almıştır.</li><li>ULAKBİM’in paydaş olduğu AB destekli GN2, GN3, GN3Plus ve EGI-InSPIRE büyük veri ve yüksek başarımlı hesaplama projeleri ile Türkiye’de yürütülen AR-GE çalışmalarında uluslararası iş birliği sağlanmaktadır.</li><li>Türkiye’nin 2009–2018 yılları arasında diğer ülkelerdeki akademisyenlerle ortak şekilde çıkarılan yayınlar ile <strong>dünya sıralamasında 25’inci</strong> sırada yer almaktadır.</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/609/1*WVflKtO8iip4ugTUZKGT2Q.png" /><figcaption>Şekil 7. YZ Alanındaki Akademik Çalışmalarda Uluslararası İş Birliği ve Türkiye’nin Görünümü, 2009–2018</figcaption></figure><ul><li>G20 bünyesinde YZ ve veri yönetişimine ilişkin hususların ele alındığı çalışmalara ülkemizce düzenli olarak katılım sağlanmaktadır. Ayrıca OECD ONE AI çalışma gruplarında Türkiye’den de uzmanlar ve gözlemciler bulunmaktadır.</li><li>Ülkemiz, 47 üyesi bulunan Avrupa Konseyi Yapay Zekâ Geçici Komitesi (CAHAI) toplantılarına aktif katılım sağlamaktadır.</li></ul><p><strong>🔶 Yapısal ve İş Gücü Dönüşümü bakımından ülkemizdeki gelişmelerden bazıları:</strong></p><ul><li>Adalet Bakanlığı bünyesinde; <strong>sesli asistan ile </strong>denetimli serbestlik ve icra gibi konu başlıklarında <strong>karar destek sistemleri</strong> geliştirme projeleri, çağrı merkezi ve yardım masası gibi birimlerde kullanılması amacıyla <strong>“Chat-bot”</strong> uygulaması geliştirilmesi, “Daha Zeki UYAP” doğrultusunda <strong>“İcra Süreçlerinde Büyük Veri ve Yapay Zekâ Kullanımı”</strong> hususlarında çalışmalar aktif olarak yürütülmektedir.</li><li>Çalışma ve Sosyal Güvenlik Bakanlığı bünyesinde çalışmaları devam eden İş Sağlığı ve Güvenliği Bilgi Yönetim Sistemi kapsamında; kaza riskinin etkenleri matematiksel olarak modellenerek <strong>risk profillerinin çıkarılması,</strong> çalışan, işveren ve iş sağlığı güvenliği uzmanlarına yönelik <strong>erken uyarı sistemi </strong>hizmeti verilmesi amaçlanmaktadır.</li><li>İçişleri Bakanlığı bünyesinde, <strong>gerçek zamanlı olay entegrasyonu</strong> ve YZ uygulamalarından yararlanarak kolluk kuvvetlerinin yeteneklerini yükseltecek çalışmalar yürütmektedir. Bunların yanı sıra <strong>gelecekte meydana gelebilecek olayların tespit edilebilmesi, risklerin öngörülebilmesi</strong> adına YZ uygulamalarının kullanıldığı çalışmalar hayata geçirilmektedir.</li><li>MEB Yenilik ve Eğitim Teknolojileri Genel Müdürlüğü tarafından, “Dünya Bankası Güvenli Okullaşma ve Uzaktan Eğitim Projesi” kapsamında, 2021 yılında <strong>Eğitim Teknolojileri Kuluçka ve İnovasyon Merkezi</strong> hayata geçirilecektir.</li><li>Sağlık Bakanlığı bünyesinde radyolojik görüntüleme tekniklerinde robotik değerlendirme kullanımını test edilmektedir. Teleradyoloji Sistemi kapsamında, <strong>Bilgisayarlı Tomografi görüntülerinden COVID-19 teşhisi</strong> yapan bir YZ uygulaması geliştirilmiştir. Benzer şekilde, beyin görüntülerine ait radyoloji raporlarına ve hastaya ait MR Difüzyon görüntülerine de bakılarak hazırlanan veri kümesi ile <strong>İnme (Var/Yok) ve İnme Tipi (Tıkayıcı/Kanayıcı) Tespiti ile Mamografi görüntülerinde lezyon ve kalsifiye tespitine</strong> yönelik YZ çalışmaları yapılmaktadır. Ayrıca, bir e-Triyaj platformu olan <strong>“Neyim Var?”</strong> projesiyle randevu taleplerinin doğru polikliniğe yönlendirilmesi amaçlanmaktadır.</li><li>Tarım ve Orman Bakanlığı, yangın ve süneyle mücadele gibi hızlı karar alınması gereken alanlarda <strong>görüntü işlemeye dayalı YZ uygulamalarını</strong> aktif olarak kullanmaktadır.</li><li>Ticaret Bakanlığı, Ankara’daki komuta kontrol merkezinde farklı kaynaklardan topladığı verileri analiz ederek <strong>gümrük işlemlerini risk analizi odaklı olarak hızlandırmak üzere</strong> pilot çalışmalar yürütmektedir. Çevrim içi kullanıma açılan Kolay İhracat Platformu’nda <strong>YZ destekli akıllı ihracat robotu ile firmalara kişiselleştirilmiş öneriler</strong> yapılmaktadır.</li><li>Savunma Sanayii Başkanlığı tarafından, Sosyal Medya Anomali Tespiti, Olay Takibi ve Analizi, Derin Öğrenme Büyük Veri Analiz Platformu, Sosyal Medya Analizi Performans Geliştirilmesi, Küresel Konumlama Sistemi Bağımsız Otonom Seyrüsefer Geliştirilmesi, Radar ile Tespit Edilen Su Üstü Hedeflerin Sınıflandırılması ve Kimliklendirilmesi, İşbirlikçi Robotlar ile Otonom Keşif, Güdüm ve Seyrüsefer, Hareket Tarzı Geliştiren Yapay Zekâlı Komutan Asistanı, Kara Araçları İçin Yapay Zekâ Destekli Atış Kontrol ve Otonom Sürüş, Yazılım Tanımlı Ağlarda Yapay Zekâ Temelli Zafiyet Tespiti ve Engelleme ve Küresel Zafiyet Analizi projeleri yürütülmektedir.</li><li>Ulaştırma ve Altyapı Bakanlığı Kıyı Emniyeti Genel Müdürlüğü tarafından; uzun mesafe gemi tanıma ve izleme sistemlerindeki verilerin işlenmesi suretiyle gemilerin işletme maliyetleri optimize edilmekte ve böylelikle sera gazı emisyon salınımlarının düşürülmesi sağlanmaktadır.</li><li>CBDDO Büyük Veri ve Yapay Zekâ Uygulamaları Dairesi Başkanlığı tarafından yürütülen “Yapay Zekâ ile COVID-19 Tespiti” projesi kapsamında, geliştirilen YZ modellerinin X-Ray ve Bilgisayarlı Tomografi görüntüleri üzerinde yapmış olduğu tahminler ve bu tahminlerin yapılış gerekçeleri şeffaf olarak ilgili doktorlara sunulabilmektedir. Ayrıca, Gazi Üniversitesi ile ortak çalışma sonucunda hayata geçirilen Türk Beyin Projesi kapsamında, MR görüntülerinden anomalilerin tespit ve teşhisini kolaylaştıracak bir karar destek sistemi geliştirilmektedir.</li></ul><h3>📚 YZ Değerleri ve İlkeleri</h3><p>Strateji belgesinin bu bölümünde YZ odaklı mevcut stratejilerin belirlenmesi kadar gelecek dönemlerde yürütülecek proje ve uygulamalar tarafından benimsenen ve benimsenmesi gereken YZ değer ve ilkelere yer verilmiştir.</p><blockquote><em>Ülkemiz; OECD, G20, AB ve UNESCO tarafından belirlenen insan odaklı YZ ilkelerinin paydaşı olup </em><strong><em>“güvenilir ve sorumlu YZ”</em></strong><em> değer ve ilkelerini benimsemektedir.</em></blockquote><h4>🚩UYZS’nin hazırlanmasında esas alınan YZ Değerleri aşağıda listelenmiştir:</h4><ul><li>İnsan Hakları, Demokrasi ve Hukukun Üstünlüğüne Saygı</li><li>Çevreyi ve Biyolojik Ekosistemi Geliştirmek</li><li>Çeşitliliğin ve Kapsayıcılığın Sağlanması</li><li>Barışçıl, Adil ve Birbirine Bağlı Toplumlarda Yaşamak</li></ul><h4>🚩UYZS’nin hazırlanmasında esas alınan YZ İlkeleri aşağıda listelenmiştir:</h4><ul><li>Ölçülülük</li><li>Emniyet ve Güvenlik</li><li>Tarafsızlık</li><li>Mahremiyet</li><li>Şeffaflık ve Açıklanabilirlik</li><li>Sorumluluk ve Hesap Verebilirlik</li><li>Veri Egemenliği</li><li>Çok Paydaşlı Yönetişim</li></ul><h3>🔐Stratejik Öncelikler, Amaçlar ve Tedbirler</h3><p>UYZS kurgulanırken yazının başında belirtilen vizyon çerçevesinde ve aşağıda listelenen stratejik öncelikler esas alınmıştır. Tüm stratejik öncelikler hayata geçirilmesi öngörülen üst seviye tedbirler ve tedbirlerin uygulanmasıyla gerçekleşmesi beklenen hedefleri tanımlamaktadır.</p><p>Aşağıda stratejik öncelikler ve ilgili stratejik kapsam için belirlenen hedefler listelenmiştir:</p><p>1️⃣<strong> Yapay Zekâ Uzmanlarını Yetiştirmek ve Alanda İstihdamı Artırmak</strong></p><ul><li>YZ alanında istihdam 50.000 kişiye çıkarılacaktır.</li><li>Kamu kurum ve kuruluşlarında YZ uzmanı istihdamı 1.000 kişiye çıkarılacaktır.</li><li>YZ alanında lisansüstü düzeyde mezun sayısı 10.000 kişiye çıkarılacaktır.</li><li>YZ alanında çalışan akademisyen sayısı 5.000&#39;e çıkarılacaktır.</li><li>YZ alanında sosyal ve teknik alanlarda yürütülen lisansüstü tez sayısının en az 1.000 olması sağlanacaktır.</li></ul><p><strong>2️⃣ Araştırma, Girişimcilik ve Yenilikçiliği Desteklemek</strong></p><ul><li>YZ AR-GE harcamalarının toplam AR-GE harcamalarına oranının en az %15 olması sağlanacaktır.</li><li>YZ alanında girişim sayısı 1.000&#39;e çıkarılacaktır.</li><li>Geliştirilen YZ çözümlerinin kamu alımlarında önceliklendirilerek ticarileştirilmeleri desteklenecektir.</li><li>Kamu kurum ve şirketlerinden YZ teknolojileri alanında faaliyet gösteren en az 5 filiz işletme(spin-off) çıkarılacaktır.</li><li>Doğal dil işleme alanında en az 1 küresel girişim çıkarılacaktır.</li><li>Görüntü işleme başta olmak üzere YZ teknolojisi alanında en az 10 rekabet öncesi iş birliği projesi başlatılacaktır.</li></ul><p><strong>3️⃣ Kaliteli Veriye ve Teknik Altyapıya Erişim İmkânlarını Genişletmek</strong></p><ul><li>Ortaklaştırılmış yüksek başarımlı hesaplama altyapılarına erişim sağlayan kamu kurumu ve işletme sayısının en az 200 olması sağlanacaktır.</li><li>Kamu Veri Alanı’na en az 50 kurum dâhil edilecektir.</li><li>Veri paylaşımına yönelik en az 10 sektörel bulut platformu kurulacaktır.</li><li>Türkiye Açık Kaynak Platformu kapsamında tekil YZ proje geliştirici sayısı en az 1.000’e çıkarılacaktır.</li><li>Açık Veri Portali üzerinden en az 1.000 açık veri kümesi paylaşılacaktır.</li></ul><p><strong>4️⃣ Sosyoekonomik Uyumu Hızlandıracak Düzenlemeleri Yapmak</strong></p><ul><li>Düzenleme deney alanından en az 20 girişimin faydalanması sağlanacaktır.</li><li>YZ alanında en az 10 sosyo-teknik araştırma projesi yürütülecektir.</li><li>YZ alanında her yıl, beyin göçü ve tersine beyin göçü araştırmaları yayımlanacaktır.</li><li>YZ alanında her yıl, eğitim iş gücü araştırmaları yayımlanacaktır.</li><li>Tanıtım ve bilgilendirme amaçlı farklı platformlarda paylaşılan dijital içeriklerden her yıl 1 milyon kişinin faydalanması sağlanacaktır.</li></ul><p><strong>5️⃣ Uluslararası Düzeyde İş Birliklerini Güçlendirmek</strong></p><ul><li>YZ alanında en az 100 sınır ötesi çağrılı projeye katılım sağlanacaktır.</li><li>Güvenilir ve Sorumlu YZ alanında en az 2 Türkiye odaklı uluslararası rapor çalışmasının yürütülmesi sağlanacaktır.</li><li>YZ alanında en az 10 uluslararası yarışma ve proje çağrısı açılacaktır.</li></ul><p><strong>6️⃣ Yapısal ve İş Gücü Dönüşümünü Hızlandırmak</strong></p><ul><li>Merkezî ve yerel yönetim kamu kurum ve kuruluşlarında YZ alanında istihdam 1.000 kişiye çıkarılacaktır.</li><li>Kamu YZ Ekosistemi’nde en az 40 proje geliştirilmesi sağlanacaktır.</li><li>Sektörel Birlikte Geliştirme Laboratuvarları’nda en az 100 proje geliştirilmesi sağlanacaktır.</li><li>Servis Olarak Kamu YZ Platformu kullanıcısı kurum ve kuruluş sayısının en az 100 olması sağlanacaktır.</li><li>YZ alanında en az 20 tematik ve ödüllü yarışma düzenlenecektir.</li><li>YZ olgunluk modeli ve proje yönetim rehberlerinin en az 150 kurum ve kuruluşta uygulanması sağlanacaktır.</li><li>Merkezî ve yerel yönetimlerde en az 50.000 çalışanın farkındalık eğitimini tamamlaması sağlanacaktır.</li><li>Akıllı şehir uygulamaları kapsamında en az 250 belediyenin YZ teknolojilerini aktif kullanması sağlanacaktır.</li><li>Güvenilir YZ Damgası alan en az 100 YZ uygulaması çıkması sağlanacaktır.</li><li>Yenilik ve Dijital Dönüşüm Merkezlerinde yürütülen uygulamalı eğitim ve farkındalık çalışmalarından en az 350.000 kişinin yararlanması sağlanacaktır.</li></ul><h3>👩🏻‍🏫👨🏻‍🏫 Yönetişim Mekanizması</h3><p>UYZS’nin hayata geçirilmesi için yürütülecek sürecin koordinasyonuna ilişkin yönetişim mekanizması bu bölümde açıklanmıştır.</p><p>Strateji’nin ana boyutları olan “Kurumsal Yetkinlik”, “Yönetişim” ve “Stratejik Uyum” esas alınarak <strong>iki katmanlı ve çevik bir yönetişim mekanizması</strong> oluşturulacağı belirtilmiştir.</p><p>UYZS iki katmanlı yönetişim mekanizması aşağıda listelenmiştir ve Şekil8.’de görülen 6 temel unsurdan oluşmaktadır. [Şekilde kullanılan renk kodları, Şekil 9. ve Şekil 10.’da ifade edilen yönetişim mekanizması ile aynıdır.]</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/648/1*P2rZLrHHY5HbI93HKKY41g.png" /><figcaption>Şekil 8. Ulusal YZ Stratejisi Yönetişim Mekanizmasının Temel Unsurları</figcaption></figure><p>📍 <strong>“Ulusal YZ Stratejisi Yönlendirme Mekanizması”: </strong>Stratejik öncelik ve amaçlara daha etkin ve hızlı şekilde ulaşabilmesi amacıyla gerekli üst seviye koordinasyonu sağlamak amacıyla oluşturulmuştur.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/677/1*1ZlY6LL7kEC70a9BXcMedA.png" /><figcaption>Şekil 8. Ulusal YZ Stratejisinin Yönetişimi için Yönlendirme Mekanizması</figcaption></figure><p>📍 <strong>“YZ Ekosistemi İdari ve Teknik Yönetişim Mekanizması”: </strong>Bakanlıklar düzeyinde eylem planlarının hayata geçirilmesi için gerekli idari ve teknik koordinasyon işlevlerinin yerine getirilmesi, kullanım senaryoları doğrultusunda uygulamaların geliştirilmesi ile kurumsal olgunluk düzeylerinin yükseltilmesi amacıyla oluşturulmuştur.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/785/1*TPpk3QWrbPylnvquth7Uhw.png" /><figcaption>Şekil 9. YZ Ekosistemi İdari ve Teknik Yönetişim Mekanizması</figcaption></figure><p>2021/18 sayılı Cumhurbaşkanlığı Genelgesi 20/08/2021 tarihli ve 31574 sayılı Resmî Gazete’de yayımlanarak yürürlüğe giren “Ulusal Yapay Zekâ Stratejisi 2021–2025” ‘nin tamam metnine <a href="https://cbddo.gov.tr/SharedFolderServer/Genel/File/TR-UlusalYZStratejisi2021-2025.pdf"><strong>buradan</strong></a> ulaşabilirsiniz.</p><blockquote><a href="https://medium.com/u/3800cff712ab"><em>Yavuz Kömeçoğlu</em></a><em> tarafından hazırlanan, “Yapay Zeka Stratejisi” anahtar kelimesi içeren Twitter paylaşımlarının duygu analizi ile incelendiği blog yazısına </em><a href="https://medium.com/yavuzkomecoglu/ulkemizin-ulusal-yapay-zeka-stratejisi-uyzs-twitter-mesajlari-sentiment-analizi-397894562d72"><strong><em>buradan</em></strong></a><strong><em> </em></strong><em>ulaşabilirsiniz.</em></blockquote><p>İlk ulusal YZ Stratejimiz’in hazırlanmasında ne kadar emek yoğun bir sürecin ilerletildiğinde vesileleriyle şahit olduğum kıymetli arkadaşlarım <a href="https://medium.com/u/ed38bb866abe">Ayyüce Kızrak, Ph.D.</a> ve <a href="https://medium.com/u/fd431d94ff1c">Zumrut MUFTUOGLU ツ</a> başta olmak üzere, emeği geçen herkese teşekkürler..</p><p>Belirlenen amaç ve hedeflere hızla ulaşmak dileğiyle..</p><h3>Keyifli okumalar.. ☕</h3><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=7b57118f2adf" width="1" height="1" alt=""><hr><p><a href="https://medium.com/basakbuluz/ulusal-yapay-zeka-stratejisine-dair-onemli-notlar-7b57118f2adf">🎯Ulusal Yapay Zekâ Stratejisi’ne Dair Önemli Notlar..</a> was originally published in <a href="https://medium.com/basakbuluz">Başak Buluz</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Makale okumaları — volm.1]]></title>
            <link>https://medium.com/basakbuluz/makale-okumalar%C4%B1-volm-1-fe46bf4af444?source=rss----1c9dea6b94d9---4</link>
            <guid isPermaLink="false">https://medium.com/p/fe46bf4af444</guid>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[doğal-dil-işleme]]></category>
            <dc:creator><![CDATA[Başak Buluz Kömeçoğlu]]></dc:creator>
            <pubDate>Mon, 11 May 2020 20:11:40 GMT</pubDate>
            <atom:updated>2020-05-11T20:11:40.633Z</atom:updated>
            <content:encoded><![CDATA[<h3>📚Makale okumaları — volm.1</h3><h3>Exploring Emoji Usage and Prediction Through a Temporal Variation Lens</h3><blockquote>Temporal Varyasyon Lensi İle Emoji Kullanımını ve Tahminini Keşfetme</blockquote><p>Sosyal medya hesaplarımızda paylaşımlar yaparken veya anlık mesajlaşma uygulamalarımızda eşimizle dostumuzla iletişim kurarken emoji kullanmayanımız var mı ❓ Emojiler yazılı iletişimde duygularımızı göstermenin etkili yollarından biri. Peki ya bu emojilerin hangilerini, ne zaman sık kullandığınızı hiç düşünmüş müydünüz 🧐 Dahası bu zaman bilgisinin, emojilerin anlamlandırılmasında etkili olabileceği fikri oldukça ilginç değil mi 🤩</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/481/1*v35n0AkM31HP4gZOZSj3Jw.png" /><figcaption>Photo by <a href="https://unsplash.com/@lidyanada?utm_source=unsplash&amp;utm_medium=referral&amp;utm_content=creditCopyText">Lidya Nada</a> on <a href="https://unsplash.com/s/photos/emoji?utm_source=unsplash&amp;utm_medium=referral&amp;utm_content=creditCopyText">Unsplash</a></figcaption></figure><p>Noel baba emojisinin 🎅🏻 Christmas dönemi, sahildeki şemsiye emojisinin🏖️ yazın daha sık kullanılması aslında bu noktada kolayca görülen bir bağıntı. Diğer taraftan, 4 yapraklı yonca emojisinin 🍀 genellikle iyi şans dilekleri için kullanılması tanıdık bir bilgi iken, Mart aylarında St. Patrick’s Day sebebiyle yeme, içmeye işaret etmesi gibi dolaylı bağıntılar da aslında bu öngörüyü destekler nitelikte.</p><p>E o zaman , “Herhangi bir temporal bilgiyle sahip olmayan 💪 gibi emojilerin tahminlenmesinde ve anlamlandırılmasında da, zaman bilgisinin olumlu etkisi olamaz mı❓ “ sorusu ile yola çıkılan ve ilk kez bu bakış açısına sahip, 2018 yılında <a href="https://www.linkedin.com/in/barbierifrancesco/">Francesco Barbieri</a>, <a href="https://www.linkedin.com/in/luismarujo/">Luís Marujo</a>, Pradeep Karuturi, <a href="https://www.linkedin.com/in/william-brendel-670b2a52/">William Brendel</a> ve <a href="https://www.linkedin.com/in/horacio-saggion-1749b916/">Horacio Saggion</a> tarafından yayınlanan <a href="https://arxiv.org/pdf/1805.00731.pdf">“Exploring Emoji Usage and Prediction Through a Temporal Variation Lens”</a> isimli çalışmayı birlikte ele alalım ✌🏻</p><h4>Çalışmada, emoji kullanımı ile yıl içerisindeki olaylar arasındaki zamansal korelasyon incelenerek, bu zaman bilgisinin emoji anlamlandırılmasındaki belirsizlikler konusunda yardımcı olabileceği öngörülmüştür⏳</h4><h4>⚡ Veri Kümeleri</h4><p>Çalışma kapsamında Ekim 2015&#39;ten Kasım 2017&#39;ye kadar yalnızca ABD’den paylaşılan 100 milyondan fazla İngilizce tweetten oluşan bir korpus toparlanmış ve bu korpustan 2 ayrı veri kümesi tasarlanmıştır.</p><p>🎨 <strong>Seasonal Emoji Veri Kümesi</strong></p><p>Farklı mevsimlerde emoji kullanımındaki farklılıkları incelemek için korpus, tweetlerin atıldıkları mevsimlere göre dört alt gruba ayrılmıştır. Bu kategorilendirme sonucunda 😂 , ❤️ ve 😍 emojilerinin her zaman çok sık kullanılırken; bazı emojilerin ise mevsime spesifik kullanımının oldukça arttığı görülmüştür, örneğin; sonbaharda 🎃 , kışın ❄️ve 🎄, yazın ve ilkbaharda ise☀️ .</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/353/1*EU0ccG_GpIE5TL0LhzKYJg.png" /><figcaption>Mevsimlere göre en sık kullanılan 15 emoji</figcaption></figure><p>🎨 <strong>Large Scale Emoji Tahminleme Veri Kümesi</strong></p><p>Başlangıçta oluşturulan korpus içerisindeki tweetler arasından yalnızca tek emoji içerenler ayıklanmış ve bu emoji eğer en sık kullanılan 300 emojiden biri ise o tweet saklanmıştır. Böylece finalde oluşturulan Large Scale Emoji Tahminleme Veri Kümesi 300 sınıf ve her bir sınıfta 3.000 tweet olmak üzere, toplamda 900.000 tweet içermektedir.</p><h4>⚡ Emojilerin kullanımı ve semantiği mevsimlere göre değişir mi❓</h4><p>Subjektif doğası gereği emojilerin semantiğinin anlaşılması oldukça zorlu bir konu. Burada zaman bilgisinin kullanılması ise oldukça yaratıcı bir fikir 💡</p><p>Birbirine anlamsal olarak yakın olan emojilerin birlikte sıklıkla kullanıldığı varsayımı olan bir yaklaşım benimsenmiştir. Bu kapsamda, Skip-gram kelime gömme modelleri Seasonal Emoji Veri Kümesinin 4 alt kümesi kullanılarak eğitilmiş ve bu gömmeler temel olarak emojileri birbirlerine anlamsal benzerlikleri açısından tarif etmeye yardımcı bilgileri oluşturmuştur. Ardından, emojinin semantiği, her mevsim için o emojinin en yakın komşuları (k-NN / k=10)ile birlikte tanımlanarak oluşturulmuştur.</p><p>Her bir emojinin farklı modeller için 10 en yakın komşusundan kaçıyla örtüşüp örtüşmediği incelenmiştir. Böylelikle, belirli bir emojinin farklı mevsimlerde aynı komşuluk kümesini paylaşıp paylaşmadığını görebiliyoruz ve dolayısıyla bu emojinin mevsimler boyunca anlamını koruyup korumadığını da anlayabiliyoruz. Ayrıca, yıl boyunca daha küçük anlam farklılıkları olan emojileri bulmak içinde, tüm mevsimlerde çakışan komşuların sayısı da ölçülmüş ve sonuçları gösterilmiştir.</p><p>Diğer taraftan, her model için, aynı tweet içerisinde görülen emoji çiftlerinin anlamsal korelasyonunu kodlayan bir korelasyon matrisi oluşturulmuştur. Daha sonra korelasyon istatistiklerinin farklı mevsimlerde korunup korunmadığını görmek için dört matris karşılaştırılmıştır 🙌🏻</p><p>🔴<strong> En Yakın Komşuluk ile Anlamlandırma Yaklaşımında Dikkat Çeken Sonuçlar</strong></p><p>Tablo-2&#39; nin üst kısmında bulunan emojilerin mevsimsellikten etkilenmediği ve dört mevsimde de aynı komşuluk kümesine ait olduğunu görebiliyoruz. Mevsimlere göre en fazla değişim gösteren emojiler ise tablonun alt kısmında listelenenlerdir. 🏀 ve 🏆gibi sporla ilişkili emojiler spor etkinliklerinin gerçekleştirildiği periyotlarda, kep emojisi 🎓 ise okulların mezuniyet dönemlerinde sıklıkla komşularıyla bir arada kullanılırken, diğer dönemlerde farklı emojilerle birlikte kullanılarak bir anlamda farklı manalarda kullanılmaktadırlar.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/404/1*Lj63-Hqz21PabYUbaaPn_A.png" /></figure><p>Bir diğer ilgi çekici ise çam ağacı emojisine 🌲 aittir ve sonuçları Tablo 3&#39;de gösterilmiştir. Bu emoji ilkbahar ve yaz aylarında bitki örtüsü, kamp ve gündoğumu ile ilgili emojilerle, sonbahar ve kış aylarında ise Noel ile ilişkin emojilerle birlikte sıklıkla kullanılmıştır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/397/1*ESyDOYgfYAExpW7noQjibw.png" /></figure><p>🔴<strong> Emoji Korelasyonu ve Dikkat Çeken Sonuçları</strong></p><p>Emoji çiftlerinin farklı mevsimlerde anlamsal olarak nasıl korunduğunun değerlendirildiği bölümdür. Burada, her bir mevsim için, emoji çiftlerinin korelasyonlarının mevsim modelinden çıkarılan 300 boyutlu özellik vektörleri arasındaki kosinüs benzerliği olarak hesaplandığı, bir 300x300&#39;lük bir korelasyon matrisi oluşturulmuştur.</p><p>İkinci adım olarak, mevsim çiftlerinin matrisleri arasında Pearson korelasyonu hesaplanarak bir karşılaştırma yapılmıştır. Bu karşılaştırmaya göre en yakın 2 mevsim İlkbahar-Yaz iken, en uzak iki mevsim İlkbahar-Kış olarak belirlenmiştir. Ancak yine de tüm matrislerin yüksek oranda ilişkili olduğu gözlenmiştir ve bu da sadece küçük bir emoji alt kümesinin anlamsal olarak mevsimlere bağlı olarak değiştiğini göstermektedir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/823/1*O1UpiEDc7cLf2cGuX8DLxQ.png" /></figure><h4>⚡ Emoji tahminlemesinde zaman bilgisinin etkisi</h4><p>Emoji tahminlemesi görevinde Large Scale Emoji Tahminleme Veri Kümesi kullanılmıştır ve bu veri kümesinde 300 emoji sınıfının her birine ait 3.000 tweet barındırmaktadır.</p><p>Mimarisi aşağıdaki figürde gösterildiği üzere; karakter ve kelime gömmeleri ile birlikte zaman bilgisinin etkisinin ölçülmesi amacıyla erken ve geç beslemeli olmak üzere 2 ayrı şekilde tarih gömmeleri de sisteme girdi olarak verilmiştir.</p><p>Tarih gömmeleri ay, gün ve saat bilgisini içecek şekilde 3 boyutlu olarak oluşturulmuştur. Erken beslemede Word LSTM öncesinde; geç besleme de ise Word Attention biriminin çıktısına bitiştirilerek sisteme dahil edilmiştir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/831/1*IL0ddfl4nKkI0fBNUtQexg.png" /></figure><h4>⚡ Sonuçlar</h4><p>Farklı zaman dilimlerinde emojilerin anlamsal olarak farklılaştığının gösterildiği bu çalışma, aynı zamanda emoji tahmini görevinde zaman bilgisinin kullanılması yönünde bir ilk olması yönüyle de önem taşımaktadır.</p><p>Tahminleme görevinde zaman bilgisi ile erken besleme (early), geri besleme (late)ve zaman bilgisi olmaksızın (W/O)elde edilen sonuçlar kesinlik (precision), duyarlılık (recall) ve F1 skorları ile değerlendirilmiştir. Sonuçlar irdelendiğinde, erken besleme ile tarih bilgisinin modele girdi olarak verilmesi ile en iyi sonuçlar elde edildiği görülmüştür.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/403/1*e4GFsO6ARYBhjoV2NTI_dQ.png" /></figure><p>Diğer taraftan tarih bilgisi eklendiğinde F1 skoru cinsinden en büyük kazanç sağlanan emojiler incelenmiş ve aşağıdaki tabloda verilmiştir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/409/1*m9r7DoB-dpfX3BXC4ZWx8A.png" /></figure><p>Tablodaki emojilerden 🌙 ve 🏖️ gibi bazıları zaten anlamsal olarak zaman bilgisi içerirler ve bu emojilerin tahminlenmesinde zaman bilgisinin faydalı olabileceği tahmin edilmesi güç bir sonuç değildir. Ancak 💪🏻, ⚠️ gibi zaman bilgisi ile ilintili olmayan bazı emojilerinde bu tabloda yer alıyor olması, anlamsal olarak emojilerin ifade edilmesinde zaman bilgisinin etkili olabileceğini destekleyen bir argüman olarak görülmektedir.</p><p>💎 Doğal Dil İşleme alanında yapılan yenilikçi çalışmalardan incelediklerimi paylaşacağım bir seriye başlıyorum ve bu serinin ilk ürünü olarak da <a href="https://arxiv.org/pdf/1805.00731.pdf">“Exploring Emoji Usage and Prediction Through a Temporal Variation Lens” </a>çalışmasını sizlere anlatmaya çalıştım.</p><p>Umarım incelediğim ve paylaştığım bu çalışmalar, sizler için de araştırmalarınız için fikir tohumları ekmenize veya konuya olan ilginizin artmasına vesile olur 🤗</p><p>Keyifli okumalar ☕</p><p>🌼 Değerli yorumları ve katkıları için <a href="https://medium.com/u/ed38bb866abe">Ayyüce Kızrak</a> ve <a href="https://medium.com/u/3800cff712ab">Yavuz Kömeçoğlu</a>’na özel teşekkürlerimle..</p><p><strong>Kaynak:</strong></p><ol><li>Barbieri, F., Marujo, L., Karuturi, P., Brendel, W., &amp; Saggion, H. (2018). <a href="https://arxiv.org/pdf/1805.00731.pdf">Exploring emoji usage and prediction through a temporal variation lens.</a> <em>arXiv preprint arXiv:1805.00731</em>.</li></ol><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=fe46bf4af444" width="1" height="1" alt=""><hr><p><a href="https://medium.com/basakbuluz/makale-okumalar%C4%B1-volm-1-fe46bf4af444">📚Makale okumaları — volm.1</a> was originally published in <a href="https://medium.com/basakbuluz">Başak Buluz</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[ 2018 Yapay Zeka Yıllık Raporu Yayınlandı!]]></title>
            <link>https://medium.com/basakbuluz/2018-yapay-zeka-y%C4%B1ll%C4%B1k-raporu-yay%C4%B1nland%C4%B1-69f94ae1cf81?source=rss----1c9dea6b94d9---4</link>
            <guid isPermaLink="false">https://medium.com/p/69f94ae1cf81</guid>
            <category><![CDATA[yapay-zeka]]></category>
            <category><![CDATA[artificial-intelligence]]></category>
            <category><![CDATA[2018-rapor]]></category>
            <dc:creator><![CDATA[Başak Buluz Kömeçoğlu]]></dc:creator>
            <pubDate>Sun, 10 May 2020 12:59:09 GMT</pubDate>
            <atom:updated>2018-12-31T06:01:00.644Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>Bu blog yazısı <a href="https://medium.com/u/cff0ed378ad5">Başak Buluz</a> ve <a href="https://medium.com/u/159d91972401">Sebnem Ozdemir</a> tarafından AI Index 2018 Annual Report’un ilk bölümünün çevrilmesi ve yorumlanması ile oluşturulmuştur.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1020/1*5d55ZpW-n2v81hew9FLtZA.png" /></figure><p>Minik Ada Robot’un sahneden düşmesinin ülkemizde yas etkisi yaratıp ne zaman tekrar erik dalı oynayabileceği konusunun tartışıldığı bugünlerde Stanford Üniversitesi tarafından ve SRI International, MIT, OpenAI, McKinsey Global Institute, Harvard Üniversitesi gibi bu alana yön veren kurum ve kuruluşlardan birçok araştırmacının desteği ile oluşturulan <a href="http://cdn.aiindex.org/2018/AI%20Index%202018%20Annual%20Report.pdf"><strong>‘Artificial Intelligence Index- 2018 Annual Report’</strong></a><strong> </strong>yayınlandı 🤖</p><p>Bizler de 2018 yılındaki gelişmeleri, özenle hazırlanmış bu raporu temel alarak sizlerle paylaşmak istedik!</p><h4>📌 <strong><em>Yapay Zeka Endeksi — 2018 Yıllık Raporu nedir, ne amaçla yayınlanır?</em></strong></h4><p>Yapay Zeka Endeksi, alandaki verilerin izlenip, harmanlanıp, damıtılmasının ardından, son adımda görselleştirilerek; hem bu alanda aktif rol alan kişilerin hem de genel kamuoyunun yapay zeka alanındaki teknik karmaşadan uzak, yalın ve kapsamlı bilgilere erişebilmesi hedefi ile ortaya çıkan bir rapordur.</p><p><strong><em>2017 Yıllık Raporu vs. 2018 Yıllık Raporu</em></strong></p><p>İlki geçen sene yayınlanan raporda yalnızca Kuzey Amerika faaliyetlerine yönelik bir rapor sunulmasına karşın, bu yıl küresel anlamda daha geniş çaplı bir araştırma gerçekleştirildi.</p><p><strong>🌍 There is no AI story without global perspective </strong>🌍</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/640/1*hh8nzzFhCUJCJ3Y4Aijrmw.gif" /></figure><blockquote>Raporun dikkat çektiği bir diğer nokta ise, cinsiyet ve ırk çeşitliliğinin artmasının yapay zeka alanının ilerlemesinde katkı sağlayacağı konusunda farkındalığın arttığı ve bu anlamda az temsil edilen gruplar için çeşitli imkanları yarattığı!</blockquote><p>🔎<strong> Yapay Zeka Endeksi’ne kuş bakışı bakacak olursak, ele alınan konuların 4 temel başlık altında toplanarak sunulduğunu görüyoruz.</strong></p><p>🔸 İlk olarak<strong> <em>‘Data: Volume of Activity and Technical Performance’</em> </strong>başlığı altında; akademisyenlerin, şirketlerin, girişimcilerin ve genel kamuoyunun yapay zeka faaliyetlerine katılım oranlarının incelenmesinin yanı sıra teknik performans metrikleri ile de bu alanda gerçekleşen teknik gelişmeler okuyuculara sunulmuştur.</p><p>🔸 İlk bölümün ardından bu kez de yapay zeka faaliyetlerinde akademik-endüstri dinamikleri, hükümet girişimleri ve insanüstü performans sergileyen, yapay zeka alanında kilometre taşları olarak nitelendirilen gelişmeler incelenmiştir.</p><p>🔸 Üçüncü bölümde uzmanlar tarafından alandaki eksikler tartışılarak gelecek çalışmalar için yol gösterici olmak hedeflenmiştir.</p><p>🔸 Son bölümde ise, raporda sunulan incelemeler için kullanılan kaynaklar şeffaf olarak sunulmuş, metodoloji ve nüanslar okuyucularla ayrıntılı olarak paylaşılmıştır.</p><p><strong>O zaman ilk bölümde en çok dikkat çeken değerlendirmelere birlikte göz atmaya başlayalım!</strong></p><h3>✍️ BİLİMSEL YAYINLAR</h3><p>📍<strong>Yayınlanan Akademik Yayınlar: Konuya Göre Yayınlar</strong></p><p>Elsevier Scopus veritabanı üzerinde ‘Yapay Zeka’ anahtar kelime grubu ile yapılan sorgu sonucunda 1996–2017 yılları arasında Bilgisayar Bilimleri (Computer Science-CS), yapay zeka konulu akademik yayınlar (AI Papers) ve bu sorgu kapsamına giren tüm akademik makalelerin gelişimlerinin karşılaştırıldığı grafik sunulmuştur.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/605/1*JvV6DzpfOttjlrijULI6fQ.png" /></figure><p><strong>✅ </strong>Scopus veri tabanındaki <strong>yapay zeka makaleleri 1996&#39;dan beri 8 kat</strong> artarken, <strong>Bilgisayar Bilimleri makaleleri</strong> aynı zaman diliminde<strong> 6 kat artmıştır!</strong></p><p>📍<strong>Yayınlanan Akademik Yayınlar: Bölgelere Göre Yapay Zeka Yayınları</strong></p><p>1998–2017 yılları arasında bölgelere göre yapay zeka konulu akademik yayınların artışını gösteren grafikte; Avrupa’nın her dönemde en yüksek yayın sayısına sahip olduğu görülürken, 2007–2017 yılları arasında<strong> Çin’de yayınlanan akademik yayın sayısının %150 arttığı</strong> göze çarpıyor! Çin’de görülen bu artışın sebebi Ulusal Bilim ve Teknoloji Geliştirme (Orta ve Uzun Dönemli) Programı ve yapay zeka için fon sağlayan çeşitli teşvik politikalarının büyük etkisi olduğu belirtilmiştir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*QHK1-K_0zFpZ7RhD9o3eTA.png" /></figure><p>📍<strong>Yayınlanan Akademik Yayınlar: Alt Kategorilere Göre Yapay Zeka Yayınları</strong></p><p>Yapay zekanın alt kategorilerindeki bilimsel yayın artışları incelendiğinde, en çok göze çarpan nokta <strong>2014–2017 yılları arasında Sinir Ağları konusundaki bilimsel yayınların büyüme oranının %37 olduğudur</strong>😎</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*NCHKQiVxzNV22Q84hOGi3A.png" /></figure><p><strong>✅ </strong>2014–2017 yılları arasında Yapay Zeka alanında yapılan, ArXiv üzerinde yayınlanan bilimsel çalışmalar incelendiğinde <strong>en büyük artışın ‘Bilgisayarlı Görme &amp; Örüntü Tanıma’ alt kategorisinde</strong> olduğu görülmektedir!</p><p><strong>✅ </strong>Yapay zeka alanında yapılan bilimsel çalışmaların bölge bazlı odaklandığı alt konular incelendiğinde, <strong>Çin’de daha çok Mühendislik, Teknoloji ve Tarım’a yönelik çalışmalar ağırlıktayken; Avrupa ve Amerika’da Beşeri Bilimler, Medikal ve Sağlık Bilimleri’ne yönelik çalışmalara</strong> daha çok odaklanıldığı görülmektedir.</p><p><strong>✅ </strong>Kamu, sektör ve medikal şirketlerinin alanda yaptıkları yayınlara odaklanıldığında yine en çarpıcı bilgi Çin’den geliyor! <strong>Çin’de</strong> 2007 yılından itibaren <strong>kamu kuruluşlarında üretilen yayınların sayısı %400 artarken</strong>😯 <strong>sektördeki firmaların yayın sayılarındaki artış %73!</strong> ABD’de Çin’den farklı olarak sektörde aktif rol alan şirketlerin yayın konusundaki üstünlüğü çok net bir şekilde görülmektedir. Öyle ki ABD’de sektörde üretilen yayın sayısı Çin’den 6.6 kat, Avrupa’dan ise 4.1 kat daha büyüktür!</p><p>📍<strong>Yayınlanan Akademik Yayınlar: Bölgelere göre alıntılanma oranı</strong></p><p>Citation index — Türkçe ifade etmek gerekirse “alıntılanma oranı”, özellikle akademisyenler için büyük anlamları olan bir terim!</p><p>Bu grafikte de bölgeler bazlı ağırlıklı alıntılanma oranı (FWCI) ile bölgeler karşılaştırılarak sunulmuştur.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*dVeHcz98G86aV3QvKwJMiQ.png" /></figure><p>Grafiği özetlemek gerekirse, ilk göze çarpan veri Avrupa’nın yılda en çok yayın yapılan bölge olmasına karşın, alıntılanma oranı açısından incelendiğinde ortalama bir değere sahip olduğudur. Bir diğer yandan <strong>Çin’deki yayınların alıntılanma oranları</strong> yıldan yıla büyük ölçüde artmıştır. Bu durum sayısal olarak <strong>2016 yılında 2000 yılına oranla %44 </strong>gibi büyük bir artışın sağlanması ile oldukça net bir bir biçimde görülebilmektedir! <strong>Yine de ABD’nin, bu konuda ipi göğüslediği de bir gerçek!</strong></p><p>✅ <strong>ABD’li yazarlara</strong> küresel ortalamanın <strong>% 83&#39;ünden daha fazla alıntı yapıldı.</strong></p><p><strong>✅ </strong>Yayınlanan bilimsel yayınlar üzerine yazarların hareketliliğinin etkisi araştırıldığında görülmüştür ki, kendi ülkeleri dışında bulunan <strong>mobil yazarlar daha sık yayın yapıyor ve bu yayınların alıntılanma sayıları da daha yüksek!</strong></p><p><strong>✅ </strong>Şubat ayında New Orleans’da gerçekleştirilen <strong>2018 Yapay Zeka Gelişimi Derneği Konferansı (AAAI)’de </strong>sunulan ve kabul edilen çalışmalar bölge bazında incelendiğinde<strong> en fazla başvuru </strong>268 adet ile <strong>Çin araştırmacılarına ait! 263 başvuru ile hemen hemen Çin ile aynı sayıda yayın başvurusunda bulunan bir diğer ülke ise ABD!</strong></p><p>Fakat başvurulan <strong>yayınların kabul oranları Çin için %29, ABD için ise %21. </strong>Daha az başvuruya sahip olmasına rağmen <strong>Alman ve İtalyan yayınlarının ise %41’i kabul edilmiştir.</strong></p><h3>🔎 DERS OLARAK YAPAY ZEKA..</h3><p>ABD’deki Bilgisayar Bilimleri konusunda önde gelen üniversitelerin ‘Yapay Zekaya Giriş’ ve ‘Makine Öğrenmesine Giriş’ derslerine kayıt oranlarının karşılaştırıldığı grafikten göze çarpan detaylar şöyle;</p><p><strong>✅ </strong>2012’den 2017’ye, <strong>‘Yapay Zekaya Giriş’ dersine kayıt olma oranı 3.4 kat, ‘Makine Öğrenmesine Giriş’ derslerinde ise bu oran 5 kat artmıştır!</strong></p><p><strong>✅ </strong>Biraz daha özele doğru odaklanıp ve UC Berkeley’de verilen <strong>‘Makine Öğrenmesine Giriş’ dersinin lisans öğrenci sayısına</strong> baktığımızda <strong>2017’deki öğrenci sayısının 2012’dekinin 6.8 katı olduğu görülmektedir!</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*r3RZBS6JhtElPVWh0WE6Ww.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*pyvxYe1OvOa0Jj4eGcNlMg.png" /></figure><p>❓ <strong>Peki ABD dışında bilgisayar bilimlerinde önde gelen üniversitelerinde yapay zeka ve makine öğrenmesi derslerine katılım durumları nasıl?</strong></p><p>Burada da çarpıcı sonuçlar görmek mümkün. Örneğin; <strong>Tsinghua Üniversitesinde birleştirilmiş AI ve ML dersine kayıt sayısında 2017 yılında 2010 yılına oranla 16 kat artış görülüyor</strong>😲</p><p>Raporda dikkat çeken bir diğer nokta da şu ki, yapay zeka derslerine kayıt sayısındaki artış bölgelere değil okullara bağlı!</p><h3><strong>👨 YAPAY ZEKADAKİ MASKÜLEN TAVIR!</strong></h3><h4><strong>Raporun giriş kısmında da çokça üstünde durulan bir nokta var ki o da; Yapay Zeka alanındaki çalışan kişi sayısının cinsiyet temelli incelenmesiyle ortaya çıkan uçurum!</strong></h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/498/1*Rdz4eHCU8Q81vEXRiiMrLQ.gif" /></figure><p>21 Eylül 2018 tarihli çeşitli okulların kadro sayıları incelendiğinde yapay zeka alanında eğitim veren <strong>akademisyenlerin %80’inin erkek </strong>olduğu görülüyor. Raporda bu bilginin resmin görünen çok küçük bir parçası olduğunun, birçok okulun verilerini paylaşmaması sebebiyle yalnızca 7 okul baz alınarak yapılmış bir istatistik olduğunun altı çiziliyor.</p><p>Sektörde de durum pek farklı değil! Raporda <strong>yapay zeka alanındaki işlerde başvuru havuzunun %71&#39;ini erkeklerin oluşturduğu</strong> söyleniyor. Fakat hatırlatmakta fayda var ki, bu ortalama yalnızca ABD bölgesinde gerçekleştirilen araştırma sonucunu yansıtmakta.</p><h3><strong>📜 KONFERANSLARA KATILIM</strong></h3><p><strong>✅ </strong>2000 kişiden fazla katılımcıya ev sahipliği yapan konferansların büyük ölçekte olduğu kabul edilen raporda, NeurIPS (NIPS), CVPR ve ICML gibi en çok katılım gösterilen konferanslar ele alınmış. Sırasıyla <strong>NIPS ve ICML’deki artış 2012’den bu yana 4.8 ve 6.8 kat!</strong></p><p><strong>✅ </strong>Küçük konferanslar olarak değerlendirilen 2000’den az kişiyi ağırlayan konferanslarda bu oran çok daha yüksek! <strong>ICLR konferansının 2018 yılındaki katılımcı sayısı, 2012 yılındakinin 20 katına ulaşmış!</strong></p><p><strong>✅ </strong>Makine öğrenmesi konusunda kadınları desteklemeye yönelik kurulmuş olan <strong>Women in Machine Learning (WiML) 2014&#39;te olduğundan %600 daha fazla katılımcıya sahipken</strong>, WiML’nin yapay zeka eğitim girişimi olan <strong>AI4All etkinliğinin ise 2015’te olduğundan %900 daha fazla mezunu var!</strong></p><h3>💡 ENDÜSTRİDE YAPAY ZEKA ETKİSİ</h3><p><strong>✅</strong>2015&#39;ten bugüne <strong>ABD’deki start-up sayısı 1.3 kat artarken yapay zeka alanındaki start-up sayısındaki artış 2.1 kat!</strong></p><p><strong>✅ </strong>Diğer yandan 2013&#39;ten 2017&#39;ye<strong> start-upların risk sermayeleri 2.08 kat artarken </strong>aynı zaman aralığında<strong> yapay zeka alanında bu sermaye artışı 4.5 kat </strong>olarak izlenmiştir.</p><p><strong>✅ </strong>Yapay zeka yetenekleri gerektiren iş olanaklarının incelendiği grafikte, <strong>2015&#39;ten 2017&#39;ye Derin Öğrenme yeteneği gerektiren iş olanaklarının 35 kat arttığı</strong> görülmektedir!</p><p><strong>✅</strong> 2014 yılındaki verilere göre yapay zeka alanında alınan patentlerin yaklaşık %30&#39;u ABD’ye aitken, ABD’nin hemen ardından her biri %16&#39;lık paya sahip Güney Kore ve Japonya geliyor. Bu araştırma ile ilgili dikkat çekici bir bilgi de, Güney Kore ve Tayvan’ın 2004 yılına oranla 5 kat artış gösteren patent sayısı!</p><p><strong>✅ </strong>İşletmelerin yapay zeka alanına adaptasyonları incelendiğinde görülen o ki; her işletme kendi sektöründe en fazla değer sağlayabilen alanlarda yapay zeka ürünlerine ve gelişmelerine yönelmiş durumda! Bu da yapay zekanın herhangi bir alandaki uygulamalarının gelişmesinin endüstriyel olarak da o alanın gelişmiş olması ile alakalı olduğu sonucunu doğurmakta!</p><p><strong>✅</strong>Endüstriyel robot ünitelerinin kurumlarının bölgelere göre incelenmesinde, Çin’in 2012 yılından bu yana %500 artış göstermiş olması şaşkınlık yaratırken diğer bölgelerdeki bu artışın %105-%122 aralığında olduğu göze çarpıyor.</p><h3>⭐️ GitHub STARS</h3><p>Yapay zeka alanında hangi yazılım paketlerinin çokça kullanıldığının kaba bir görüntüsünün GitHub aracılığı ile alınabileceğini öngören raporda, öncelikle bu alanda yapılmış projelerin aldığı yıldız sayısı ve kullanılan kütüphaneler temel alınarak bir grafik oluşturulmuş.</p><p>Bu grafikte <strong>TensorFlow’un</strong> yarışı açık ara önde tamamlamış olduğu görülüyor 😎</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*0e0x06VxBCe4xak61bj3bw.png" /></figure><p>Bu grafikteki uçurumun ardından rapor, kütüphaneleri TensorFlow ve diğerleri diye ayrıştırmayı uygun görüyor ve yeni bir grafikle diğer kütüphaneleri değerlendiriyor😊</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*3bzrqSW6fvijwG0MrefDWA.png" /></figure><p>Bu grafiğin yıldızı <strong>Scikit-learn</strong> iken hemen ardından ise bayrağı <strong>BVLC/caffe </strong>taşıyor ⭐️</p><h3>📺 MEDYADA YAPAY ZEKA</h3><p>Yapay zeka uygulamalarının bu denli günlük yaşantımıza dahil olması, medyada da bu konunun geniş yer almasına sebep oluyor. Gün geçmiyor ki şaşkınlık yaratan bir uygulama haberi basında yer almasın. Tabi her zaman medyada yer alan haberler olumlu olmuyor, bu güzel haberlerin yanı sıra insanları ürküten, tedirginlik yaratan paylaşımlar da sık sık yapılmaya devam ediyor.</p><p>Medyada yer alan ve değişkenlik gösteren bu olumlu ve olumsuz bilgiler yıllara göre sınıflandırıldığında ise aşağıdaki gibi bir grafik ortaya çıkıyor.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*dqChrxUks6IwHLL5XE3Ldg.png" /></figure><p>✅Grafikten çıkarılan en temel sonuç, <strong>2016&#39;dan bu güne</strong> yapay zeka ile ilgili basında yer bulan haberlerin<strong> 2.5 kat olumlu yöne doğru evrilmesi!</strong></p><p>2018 Yapay Zeka Yıllık Raporu’nun <strong>ilk bölümünün </strong>incelendiği bu blog yazısının ardından; raporda yer alan teknik performans açısından gelişmelerin, ülkelerin yapay zeka alanındaki girişimlerinin ve insanüstü performans sergileyen, büyük yankı uyandıran gelişmelerin incelendiği bölümlerini değerlendireceğimiz blog yazımıza göz atabilirsiniz!</p><p><a href="https://drive.google.com/drive/folders/1xTYmKMj2WIwpyYxeBKgSvIxY2ubsfzyO?usp=sharing">Raporun oluşturulmasında kullanılan verilere erişmek için</a> 🔗</p><p>Keyifli okumalar..</p><p><strong>KAYNAK :</strong> <a href="http://cdn.aiindex.org/2018/AI%20Index%202018%20Annual%20Report.pdf">AI Index 2018 Annual Report</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=69f94ae1cf81" width="1" height="1" alt=""><hr><p><a href="https://medium.com/basakbuluz/2018-yapay-zeka-y%C4%B1ll%C4%B1k-raporu-yay%C4%B1nland%C4%B1-69f94ae1cf81">📝 2018 Yapay Zeka Yıllık Raporu Yayınlandı!</a> was originally published in <a href="https://medium.com/basakbuluz">Başak Buluz</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Çok Gören Mi Bilir, Çok Soran Mı❓]]></title>
            <link>https://medium.com/basakbuluz/%C3%A7ok-g%C3%B6ren-mi-bilir-%C3%A7ok-soran-m%C4%B1-4bed5efdba41?source=rss----1c9dea6b94d9---4</link>
            <guid isPermaLink="false">https://medium.com/p/4bed5efdba41</guid>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[vqa]]></category>
            <category><![CDATA[deep-learning]]></category>
            <category><![CDATA[lstm]]></category>
            <category><![CDATA[cnn]]></category>
            <dc:creator><![CDATA[Başak Buluz Kömeçoğlu]]></dc:creator>
            <pubDate>Sun, 10 May 2020 12:58:57 GMT</pubDate>
            <atom:updated>2019-02-18T06:01:00.864Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>Bilgisayarlı Görü ve Doğal Dil İşleme alanlarını bir araya getiren ‘Görsel Soru Cevaplama (Visual Question Answering — VQA)’ probleminin tanıtıldığı bu yazıda çokça tercih edilen sistem yaklaşımları ve kullanılan veri kümelerinden bahsedilirken; bu konuda yapılmış en önemli çalışmalardan birinin canlı uygulama demosu oluşturulmuş ve bu çalışma <a href="https://medium.com/u/3800cff712ab">Yavuz Kömeçoğlu</a> tarafından API haline getirilmiştir.</blockquote><p>Yapay zekâ ile yaşamaya iyiden iyiye alıştığımız bu günlerde, beklentilerin üzerinde öğrenme yetenekleri sergileyen makineleri gördükçe beklentilerimizi daha da artırarak, bu akıllı makineler daha çok bizim gibi görsün, daha fazla bizim gibi konuşsun, daha iyi bizi hissetsin ister hale geldik!</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/360/1*nmw6LC3ckciUi-YODyvAaA.gif" /></figure><p>İnsan beyni günlük yaşantısında nasıl görme, duyma, hissetme, koku alma, tatma gibi aktiviteleri aynı anda yapabiliyor, aynı anda birçok farklı reflektörden gelen uyarıları işleyebiliyor ve bunlara bağlı olarak çeşitli kompleks sorulara cevaplar üretebiliyor veya kararlar verebiliyorsa; madem yapay da olsa bir zekâdan bahsediyorsak makinelerin de bunları yapabildiğini görmek istiyoruz 🤖</p><p>İstekler böyle karmaşıklaşınca artık yalnızca bir Doğal Dil İşleme probleminin çözülmesi, herhangi bir sesin sınıflandırılması veya bilgisayarlı görü ile bir nesnenin tanınması gibi adımların bu tür problemlerin yalnızca bir parçasının çözümü için yeterli olmaya başladığı gerçeğiyle baş başa kaldık ❗❗</p><p>💡 İşte tam da bu noktada bizlere ilgi çekici uygulama örnekleri sunan, Doğal Dil İşleme (Natural Language Processing-NLP) ve Bilgisayarlı Görü (Computer Vision) alanlarını bir araya getiren ve özellikle 2015 yılından itibaren üzerinde yapılan çalışmalarda bir hayli artış gösteren <strong>Görsel Soru Cevaplama (Visual Question Answering-VQA)</strong> <strong>Sistemleri </strong>dikkat çeker hale geldi!</p><h3>❓ <strong>Görsel Soru Cevaplama Nedir?</strong></h3><p>Orijinal adıyla <strong>Visual Question Answering (VQA)</strong>, sahip olduğumuz bir resim ile ilgili sorulan sorulara, resim içerisindeki bilgilerin analiz edilmesi ile cevaplar üretilmeye çalışılması problemi olarak tanımlanabilir.</p><p>Bu problemde metinler şeklinde ifade edilen soruların işlenmesi bir <strong>Doğal Dil İşleme</strong> problemi iken; resimler içerisinden cevapların üretiminde her bir soru ayrı bir <strong>Bilgisayarla Görü</strong> problemine işaret eder.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/424/1*G0aY7MHSMhie4EMTn0M06Q.png" /></figure><p>Örneğin yukarıda gösterilen resim için üretilen sorularda;</p><p>📍 Resimde kaç çocuk vardır? <em>— </em><strong><em>Nesne/varlık sayma (Counting)</em></strong></p><p>📍 Resimde turuncu kıyafeti olan bir çocuk var mıdır? <em>— </em><strong><em>Nesne/varlık tanıma (Object Detection)</em></strong></p><p>📍 Hava güneşli mi? — <strong><em>Sahne sınıflandırması (Scene classification)</em></strong></p><p>📍 Resimdeki çiçekler hangi renk? — <strong><em>Öznitelik sınıflandırması (Attribute classification)</em></strong></p><p>gibi birçok farklı bilgisayarla görü probleminin çözümüne ihtiyaç duyulur.</p><p>🎯 Bu noktada bir genelleme yapmak gerekirse <strong>kaç tane, nerede, nasıl, ne</strong> gibi soruların yanı sıra <strong>evet/hayır</strong> gibi kısa yanıtları olan sorular da soruluyor ve cevaplar üretilmeye çalışılıyor olabilir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/605/1*XUEiEX1M3tOWx9d8UsXA6Q.png" /><figcaption>Görsel Soru Cevaplama Sisteminin Genel Görünüşü</figcaption></figure><p>Makine öğrenmesi problemlerinin çözümüne yönelik oluşturulan farklı modellerin tamamında hayati önem taşıyan ortak bir etken varsa o da eğitimde kullanılacak <strong>veri kümeleridir!</strong></p><p>O zaman biz de sistem tasarımından önce literatürdeki çalışmalarda kullanılmış ve sizlerin de çalışmalarınızda rahatlıkla kullanabileceğiniz veri kümeleri ve bu veri kümelerine nasıl ulaşabileceğiniz ile başlayalım 😊</p><h3>📚 GÖRSEL SORU CEVAPLAMA İÇİN VERİ KÜMELERİ</h3><ul><li><a href="#85c9"><strong>DAQUAR</strong></a></li><li><a href="#56bf"><strong>COCO-QA</strong></a></li><li><a href="#c7f7"><strong>VQA</strong></a></li><li><a href="#9d63"><strong>FM-IQA</strong></a></li><li><a href="#8564"><strong>VISUAL GENOME</strong></a></li><li><a href="#f34a"><strong>VISUAL7W</strong></a></li></ul><p>📌<strong>DAQUAR (Dataset for Question Answering on Real-world images):</strong></p><p><a href="http://papers.nips.cc/paper/5411-a-multi-world-approach-to-question-answering-about-real-world-scenes-based-on-uncertain-input.pdf">2014’te akademik bir çalışma için</a> üretilmiş ve diğer araştırmacıların kullanabilmesi için 2015 yılında paylaşılmış olan görsel soru cevaplamaya yönelik <strong>ilk veri kümesi </strong>olma özelliğini taşır.</p><p>795’i eğitim ve 654’ü test olmak üzere toplam <strong>1449 resim</strong> ve her bir resme ait yaklaşık 8 farklı soru olmak üzere toplamda (6794’ü eğitim ve 5674’ü test için kullanılmak üzere) <strong>12.468 soru</strong> içerir.</p><p>✅<a href="https://www.mpi-inf.mpg.de/departments/computer-vision-and-multimodal-computing/research/vision-and-language/visual-turing-challenge/"><em>DAQUAR veri kümesine ve ilgili yayınlara ulaşmak için</em></a><em> </em>👍</p><p>📌<strong>COCO-QA:</strong> 123.287 adet doğal resim ve bu resimlere ait açıklamalar içeren MS COCO veri kümesinden yararlanılarak oluşturulmuş bir veri kümesidir. Bu veri kümesindeki <strong>sorular resimlere ait açıklamalardan doğal dil işleme yöntemleri ile otomatik</strong> oluşturulmuştur 🙌</p><p>78.736’i eğitim ve 38.948&#39;i de test için kullanılacak olan soru-cevap çiftlerini içerir. Soruların yaklaşık %70’i resim içerisindeki nesneler ile ilgili ve diğer sorular ise konum, renk ve sayı bilgisi üzerine yoğunlaşmıştır. <strong>Her bir sorunun cevabı ise yalnızca tek bir kelimedir.</strong></p><p>✅ <a href="http://www.cs.toronto.edu/~mren/imageqa/data/cocoqa/"><em>COCO-QA veri kümesine ulaşmak için </em></a>👍</p><p>✅<a href="https://github.com/renmengye/imageqa-public/tree/master/data"><em> COCO-QA veri kümesine erişim için alternatif olarak </em></a>👍</p><p>📌<strong>VQA: </strong>COCO-QA veri kümesinde olduğu gibi, VQA veri kümesi de MS COCO doğal resim veri kümesinden yararlanılarak oluşturulmuş ve COCO-VQA olarak adlandırılmıştır. Fakat <strong>bu doğal resimlerin haricinde 50.000 soyut karikatür görüntüsü</strong> içeren bir sentetik veri kümesi (SYNTH-VQA) ile de birleştirilerek veri kümesi zenginleştirilmiştir. COCO-VQA ve SYNTH-VQA veri kümeleri oluşturulurken <strong>her bir görüntüye ait 3 soru ve her soru için 10 olası cevap</strong> üretilmiştir. Her iki veri kümesi içinde de hem açık uçlu sorular hem de çoktan seçmeli sorular mevcuttur.</p><p>✅ <a href="http://visualqa.org/index.html"><em>Görsel soru cevaplama görevi için ideal oldukça geniş bir veri kümesi olan VQA’ın orijinal haline, versiyonlarına, bu veri kümesi üzerinde 2016 yılından itibaren her sene düzenlenen zorlu görevlere ve üretilen çözümlere ait demolara ulaşmak için</em></a><em> </em>👍</p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2FnMr_sSAMpkE%3Ffeature%3Doembed&amp;url=http%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DnMr_sSAMpkE&amp;image=https%3A%2F%2Fi.ytimg.com%2Fvi%2FnMr_sSAMpkE%2Fhqdefault.jpg&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=youtube" width="854" height="480" frameborder="0" scrolling="no"><a href="https://medium.com/media/569a9b785618169ffd4b833224e4ea06/href">https://medium.com/media/569a9b785618169ffd4b833224e4ea06/href</a></iframe><p>📌<strong>FM-IQA: </strong>Tam ismi <a href="https://papers.nips.cc/paper/5641-are-you-talking-to-a-machine-dataset-and-methods-for-multilingual-image-question.pdf">“The Freestyle Multilingual Image Question Answering”</a> olan bu veri kümesi COCO görüntü veri kümesini temel alarak oluşturulmuş, soru ve cevapları insanlar tarafından oluşturulmuş bir diğer görsel soru cevaplama veri kümesidir. Aslında <strong>Çince</strong> olarak toplanan bu veri kümesinin, <strong>İngilizceye </strong>çevrilmiş haline de erişebilmek mümkün. Cevapların tam cümle olmasına da izin verilmiş olması ve<strong> iki dili destekliyor olmas</strong>ı ile diğer veri kümelerinden ayrılmıştır.</p><p>✅<em> </em><a href="http://research.baidu.com/Downloads"><em>FM-IQA </em>v<em>eri kümesinin de içinde bulunduğu ve çalışmayı yapan araştırma grubunun yaptığı diğer çalışmaların toplandığı web sitesine erişmek için</em></a>👍</p><p>📌<strong>VISUAL GENOME: </strong>2017 yılında yapılan <a href="https://link.springer.com/article/10.1007/S11263-016-0981-7">‘Visual Genome: Connecting language and vision using crowdsourced dense image annotations’</a> akademik çalışması ile yayınlanan veri kümesinde YFCC100M ve COCO görüntü veri kümelerinin birleştirilmesiyle elde edilmiş <strong>108.249 görüntü, bu görüntülere ait 1.7 milyon soru-cevap çifti </strong>yer almaktadır.</p><p>Bu veri kümesinde yalnızca ‘ne, nerede, nasıl, ne zaman, kim’ soru kelimelerini içeren sorular bulunmaktadır, evet/hayır soruları yoktur. Sorular oluşturulurken 2 farklı yol izlenmiştir. Bunlardan ilkinde soruyu hazırlayan kişiler serbest bırakılmıştır ve istedikleri soruyu sorma hakkı verilmiştir. İkincisinde ise her bir resim parçalara bölünerek yalnızca o parçacıkta yer alan bölge ile ilgili soru hazırlamaları istenmiştir. Böylelikle diğer veri kümelerine oranla farklı soru oranı oldukça artmıştır, bu da daha zorlu sorular hazırlanmasını getirmiştir.</p><p>✅ <a href="https://visualgenome.org/"><em>Visual Genome veri kümesi hakkında ayrıntılı istatistiklere, yapılan akademik çalışmaya ve veri kümesine erişmek için</em></a><em> </em>👍</p><p>📌<a href="https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Zhu_Visual7W_Grounded_Question_CVPR_2016_paper.pdf"><strong>VISUAL7W:</strong></a><strong> </strong>Visual Genome veri kümesinde yer alan (aynı zamanda MS COCO veri kümesinde de bulunan) <strong>47.300 resim</strong> içerir. Soru türü olarak farklılık yalnızca <strong>‘hangi’</strong> soru kelimesinin eklenmiş olmasıdır, bu özelliği ile VISUAL7W veri kümesi, Visual Genome’un bir alt kümesi olarak düşünülebilir.</p><p>Veri kümesini farklı kılan kısım, ‘hangi’ soru kelimesinin geçtiği sorulara, algoritma tarafından cevap verilirken metin yerine resim üzerinde bir sınırlanmış alanın seçiliyor olmasıdır. Visual7W, standart değerlendirme olarak çoktan seçmeli bir cevap çerçevesi kullanır ve değerlendirme sırasında bir algoritmaya dört olası cevap verilebilir.</p><p>✅ <a href="http://web.stanford.edu/~yukez/visual7w/"><em>Visual7W veri kümesine ulaşmak için</em> </a>👍</p><p>⭐ <strong>Literatürde yapılan çalışmalarda en sık kullanılan veri kümelerine şöyle bir göz attığımıza göre artık Görsel Soru Cevaplama Probleminin çözümünde hangi yaklaşımlar ön plana çıkmış onları inceleyelim.</strong></p><h3>🔬Görsel Soru Cevaplama Probleminin Çözümü için Temel Yaklaşımlar</h3><p>2015 yılından itibaren odaklanılan VQA probleminin çözümüne yönelik literatürde birçok farklı model görebilmek mümkün ama bu farklı modellerin hemen hepsi temelde görüntü öznitelikleri ve soru özniteliklerinin ayrı ayrı elde edilmesinin ardından, cevap üretmek için bu özniteliklerin birleştirilmesine yönelik bir yaklaşım benimser.</p><p>Görüntüye ait özniteliklerin çıkarılmasında <strong>VGGNet, ResNet, GoogleNet</strong> gibi evrişimli sinirli ağları sıklıkla kullanılırken, soru özniteliklerinin çıkarılmasında <strong>Kelime/Sözcük Çantası (bag-of-words), Uzun Kısa Vadeli Hafıza Ağları (LSTM), Geçitlenmiş Özyinelemeli Birimler (gated recurrent units -GRU) ve Skipthought vektörler</strong> gibi farklı yöntemlerden faydalanıldığını görmekteyiz.</p><p>Bu iki temel işlem tamamlandıktan sonra cevabın üretilmesi safhasında ise genel yaklaşım bu zor problemi <strong>bir sınıflandırma problemine dönüştürmek </strong>yönündedir.</p><p>⚠️ Hatırlatmakta fayda var ki yapılan tüm çalışmalarda temel problem sınıflandırma problemine çevrilerek çözülmemiş, bazılarında <strong>cevabın üretilmesi (answer generation)</strong> yönünde farklı yaklaşımlar da denenmiştir. Bu çalışmaların ayrıntılarından bu yazıda bahsetmeyeceğiz fakat, merak edenler için sınıflandırma yaklaşımını benimsemeyen birkaç çalışmaya ait akademik makaleleri buraya bırakıyorum, tek tıkla erişebilmeniz mümkün ✌️</p><ul><li><a href="https://www.cv-foundation.org/openaccess/content_iccv_2015/papers/Malinowski_Ask_Your_Neurons_ICCV_2015_paper.pdf">Ask Your Neurons: A Neural-based Approach to Answering Questions about Images</a></li><li><a href="https://papers.nips.cc/paper/5641-are-you-talking-to-a-machine-dataset-and-methods-for-multilingual-image-question.pdf">Are you talking to a machine? Dataset and methods for multilingual image question answering</a></li><li><a href="https://arxiv.org/pdf/1511.05676.pdf">Compositional memory for visual question answering</a></li><li><a href="https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Wu_What_Value_Do_CVPR_2016_paper.pdf">What value do explicit high level concepts have in vision to language problems?</a></li><li><a href="https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=8046084">Fvqa: fact-based visual question answering</a></li></ul><p>Tekrar sınıflandırıcı yardımı ile çözüme ulaşmayı hedefleyen yaklaşımlara geri dönersek; basit bir ifade ile bu sistemlerin görüntü ve soru özniteliklerini bir sınıflandırma sisteminin girdileri olarak kabul edip her bir farklı cevabı da ayrı bir kategori olarak değerlendirmek şeklinde bir bakış açısı geliştirdiğini söyleyebiliriz.</p><p>Bu anlaması güç gibi gözüken karmaşık sistemin basit bir görünüşünü diyagram üzerinden anlamaya çalışalım.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/667/1*FzUI6tGbt2wqE5sEnX-TdQ.png" /></figure><p>Bu zorlu görevdeki en çok soru işareti doğuran adım, görüntü ve soru özniteliklerinin bir araya getirilerek cevabın üretilmesi kısmı olduğundan; bu adım için daha önceki çalışmalarda kullanılan modellere biraz daha ayrıntılı bir şekilde bakalım.</p><h4><strong>VQA modellerini çalışma prensiplerine göre 4 temel başlık altında toplayabiliriz:</strong></h4><p>📌 <strong>Temel Modeller:</strong></p><p>VQA sistemleri için kullanılan en temel modellerden biri görüntü ve soru özelliklerini tek bir vektörde birleştirdikten sonra çok katmanlı algılayıcı (Multi-layer Perceptron-MLP) gibi doğrusal olan veya olmayan bir sınıflandırıcı uygulamaktır.</p><p>Özniteliklerin bir araya getirilmesinde ise genellikle bitiştirme (concatenation), terimsel çarpım veya terimsel toplam (elementwise product/sum) yöntemlerinin kullanıldığı görülmektedir. Yapılan çalışmalarda temel sınıflandırma çerçeveleri ile birlikte çeşitli özniteliklendirme (featurization) yaklaşımları da kullanılmıştır.</p><p>Örneğin 2015 yılında yapılan <a href="https://arxiv.org/pdf/1512.02167.pdf">“Simple baseline for visual question answering” </a>isimli çalışmada; soruyu temsil etmek için kelime/sözcük çantası (bag-of-words) ve görüntü öznitelikleri için CNN öznitelikleri GoogleNet’ten elde edilmiş ve kullanılmıştır. Daha sonra bu öznitelikler bitiştirme(concatenation) işlemi birleştirilmiş ve çok sınıflı lojistik regresyon (multi-class logistic regression) ile sınıflandırma yapılmıştır.</p><p>Benzer şekilde soru öznitelikleri için skip-thought vektörlerini (<a href="https://papers.nips.cc/paper/5950-skip-thought-vectors.pdf">skip-thought vektörler ile ilgili ayrıntılı bilgi için</a>), görüntü özniteliklerini çıkarmak için ResNet-152’yi kullanarak yapılan <a href="https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Kafle_Answer-Type_Prediction_for_CVPR_2016_paper.pdf">bir diğer çalışmada</a> iki gizli katmanı bulunan MLP’nin hazır öznitelik üzerinde çok iyi çalıştığı gözlemlendi. Fakat MLP aşırı uyuma (overfitting) yatkın olması sebebiyle, küçük veri kümeleri için de benzer yüksek performansa sahip olduğunu söylemek hatalı olacaktır.</p><p>Sık kullanılan diğer bir temel modelde soruların kodlanmasında LSTM kullanılması öngörülmüştür. Örneğin, [3]’de soru özelliklerini temsil etmek için cümleye ait one-hot encoding üzerinde hareket eden LSTM kodlayıcı ve görüntü öznitelikleri için GoogleNet kullanılmıştır. CNN özniteliklerinin boyutu, LSTM kodlamasının boyutuna uyacak şekilde azaltılmış ve daha sonra bu iki vektör Hadamard çarpımı kullanılarak bir araya getirilmiştir. Birleştirilen vektör ise, yine iki gizli katmanı olan bir MLP’ye girdi olarak kullanılmıştır. Bu çalışmaya benzer LSTM kullanılarak çözüme ulaşılmaya çalışan birçok VQA araştırmasına rastlamak mümkündür. (bkz. [4], [10], [11])</p><p>📌 <strong>Bayesçi ve Soruya Duyarlı Modeller (Bayesian and Question-Aware Models):</strong></p><p>Sorular ve cevapların öznitelikleri elde edildikten sonra, bunların birlikte-oluşum istatistiklerinin (diğer bir anlamda ilişkilerinin) modellenmesi doğru cevaplar hakkında çıkarımlar yapmak konusunda yardımcı olabilir. Bu ilişkilerin modellenmesi için literatürde birçok kez Bayesçi yöntemlere başvurulmuştur.</p><p>VQA konusundaki ilk Bayesçi yaklaşım, 2014 yılında M. Malinowski ve M. Fritz tarafından önerilmiştir [12]. Araştırmacılar, bir görüntüdeki nesneleri ve konumlarını tanımlamak için semantik segmentasyon kullandılar. Daha sonra ise, nesnelerin mekansal ilişkilerini (spatial relationships) modellemek için bir Bayes algoritması eğitildi. Bu çalışma aynı zamanda VQA konusunda yapılan ilk çalışmalardandı ve kısa süre sonra temel modellerle yapılan çalışmalarla başarısı kolayca aşıldı.</p><p>Bu çalışmanın haricinde göze çarpan çalışmalardan bir diğerinde ise yeni bir Bayesçi yaklaşım tasarlanmıştır [9]. Bu çalışmadaki amaç ise bir soruya cevap vermekten daha çok, verilecek cevabın türünü (renk, sayı, evet/hayır vs.) belirlemektir. Bunu yapmak için olasılıkların belirlenmesinde ikinci dereceden bir diskriminant analizi varyantı kullanılmış ve temel modellere nazaran daha başarılı sonuçlar elde edilmiştir.</p><p>📌 <strong>Dikkat Temelli Modeller (Attention Based Models):</strong></p><p>Araştırmacılar dikkat temelli modeller ile Bilgisayarlı Görü ve Doğal Dil İşleme alanlarında yaptıkları çalışmalarda özellikle son yıllarda oldukça başarılı sonuçlar elde ettiler. Bu iki alanı bir araya getiren VQA problemlerinde ise sahip olduğumuz herhangi bir soru ile alakalı cevaba ulaşmaya ilişkin atacağımız adımlarda, tüm resim ile ilgilenmek yerine resmin (cevaba ulaşmada) daha fazla öneme sahip bölgelerine odaklanmak fikri için dikkat temelli modellerden faydalanılmıştır. Örneğin; ‘Resimde kaç çocuk vardır?’ sorusu için, çocukların bulunduğu görüntü bölgesi diğer alanlara göre bilgilendiricidir. Yine aynı şekilde soru cümlesinde ‘çocuk’ ve ‘kaç’ sözcükleri -diğer sözcüklere kıyasla- doğrudan ilgilenilmesi gereken sözcüklerdir.</p><p>Temel modellerde görüntü öznitelikleri için kullanılan CNN’in son gizli katmanı gibi veya metin öznitelikleri için kullanılan kelime/sözcük çantası (bag-of-words) gibi evrensel öznitelikleri bölgeye özgü soruların cevaplanması için yeterli ayrıntıya sahip değildir.</p><p>Bölgesel olarak dikkat gerektiren mekanizmaları (spatially attentive mechanism) kullanmadan önce sadece evrensel düzeyde değil, tüm bölgesel görsel özellikleri temsil eden bir algoritmaya ihtiyaç duyulur. Bu algoritmaya bağlı olarak soru ile ilgili bölgelerdeki yerel öznitelikler daha yüksek önem değeri verebilir. Burada yerel özniteliklerin kodlanmasında araştırmacılar tarafından tercih edilen 2 farklı yöntem vardır.</p><p>Bu yöntemlerden ilki resme ait sınırlayıcı kutular (bounding boxes) oluşturmak, bu kutuların her birini bir CNN kullanarak kodlamak ve sonra her bir kutunun özelliklerinin soruyu kullanarak ilgililiğini belirlemektir.</p><p>Diğer bir yaklaşım ise; mevcut yerel görüntü özellikleri ile tüm görüntü alanları üzerinde ızgara (grid) uygulama yöntemi olarak adlandırılır. Her ızgara konumunun alaka düzeyi daha sonra soru ile belirlenmektedir.</p><p>Dikkat temelli modellerle yapılmış çok fazla sayıda VQA uygulaması bulmak mümkündür. Bu uygulamaları ayrıntılı inceleyebilmeniz için parantez içerisinde belirtilen referans makalelere göz atabilirsiniz. [13, 14, 15, 16, 17]</p><p>📌 <strong>Bileşimsel Modeller (Compositional VQA Models)</strong></p><p>VQA’da sorulara cevap üretebilmek için çoğu zaman birden fazla basamağa ihtiyaç duyulur. Örneğin; ‘Sarışın çocuk ne yapıyor?’ gibi bir soru sorulduğunda önce sarışın çocuk ve ardından çocuğun gerçekleştirdiği eylem tespit edilmelidir. Bir dizi alt adımda çözüm gerektiren soruları da yanıtlamayı hedefleyen uygulamalar için <a href="https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Hendricks_Deep_Compositional_Captioning_CVPR_2016_paper.pdf">Sinir Modeli Ağı (Neural Module Network- NMN) </a>ve <a href="https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Noh_Image_Question_Answering_CVPR_2016_paper.pdf">Yinelenen Yanıtlama Birimleri (Recurrent Answering Units -RAU) </a>olmak üzere 2 bileşimsel çözümleme çerçevesi önerilmiştir.</p><p>NMN çerçevesi görsel soru cevaplama problemini her biri ayrı birer alt görevi gerçekleştirmek için özelleşmiş alt sinir ağları ile çözme yaklaşımı sergiler. Örneğin [x] modülü nesne tespiti için özelleşmişken, başka bir modül ölçüm için özelleşmiş olabilir. Farklı modüller tarafından elde edilen bilgilerin anlamlı bir düzende birleştirilmesi de zorlu işlemlerden biri olarak karşımıza gelmektedir. Birleştirme işlemi için önerilen yöntemlerden biri, öncelikle soruyu alt görevler halinde parçaladıktan sonra, her bir parçaya denk gelecek cevabı tespit ederek sorudaki sıranın aynısını cevap içinde uygulamaktır. Bir diğer yaklaşımda ise, verilen soru için üretilen cevapların otomatik oluşturulan düzenlerinden dinamik olarak en iyi olanını seçen algoritmaların geliştirilmesi üzerinde durulmuştur.</p><p>RAU’da ise harici bir dil ayrıştırıcısı yerine kompozisyonel bir bakış açısı mevcuttur. Bu modelde VQA alt görevlerini çözebilecek çok sayıda bağımsız cevaplama birimi kullanılmıştır. Zincir şeklinde tasarlanan her bir cevaplama birimi bir dikkat mekanizması ve sınıflandırıcı ile donatılmıştır. RAU’da alt cevapların örtük bir şekilde elde edildiği uçtan uca eğitim (end-to-end training) yaklaşımı sergilenir.</p><p>Yapay zeka alanında üzerinde en çok çalışılan konulardan olan Bilgisayarlı Görü ve Doğal Dil İşlemeyi bir araya getiren Görsel Soru Cevaplama için en sık kullanılan, literatürde geniş yer kaplayan veri kümeleri ve modelleri paylaştığımıza göre son olarak da pratik bir uygulama paylaşarak yazımızı sonlandıralım.</p><p>VQA probleminin çözümüne yönelik tasarlanan ilk modellerden biri olan ve aynı zamanda literatürde de çokça atıf alan “VQA: Visual Question Answering” çalışmasında önerilen modelden yararlanarak <a href="https://github.com/basakbuluz/Visual-Question-Answering/blob/master/VisualQuestionAnsweringDemo.ipynb">Jupyter Notebook</a> üzerinde demosu hazırladık. Ayrıca sizlerin de kendi uygulamalarınızda kullanabilmeniz için <a href="https://algorithmia.com/algorithms/yavuzkomecoglu/VQA">Görsel Soru Cevaplama API</a>’si geliştirerek, çalışmalara hız kazandırmak istedik!</p><p>✅ Çalışmanın eğitilmiş model dosyaları ve kaynak kodları için👍</p><p><a href="https://github.com/basakbuluz/Visual-Question-Answering">basakbuluz/Visual-Question-Answering</a></p><p>✅ VQA Çalışma Dosyası için 👍</p><p><a href="https://colab.research.google.com/github/basakbuluz/Visual-Question-Answering/blob/master/VisualQuestionAnsweringDemo.ipynb">Google Colaboratory</a></p><p>✅ API’nin detaylarına ulaşmak için 👍</p><p><a href="https://algorithmia.com/algorithms/yavuzkomecoglu/VQA">VQA - Algorithm by yavuzkomecoglu - Algorithmia</a></p><p><strong>KAYNAKLAR</strong></p><p>[1] : <a href="http://www.zutimacak.hr/ljetna-akcija-za-klince-i-klinceze/">http://www.zutimacak.hr/ljetna-akcija-za-klince-i-klinceze/</a></p><p>[2] : Malinowski, M., &amp; Fritz, M. (2014). A multi-world approach to question answering about real-world scenes based on uncertain input. In Advances in neural information processing systems (pp. 1682–1690).</p><p>[3] : S. Antol, A. Agrawal, J. Lu, M. Mitchell, D. Batra, C. L. Zitnick, and D. Parikh, \VQA:Visual question answering,” in The IEEE International Conference on Computer Vision (ICCV), 2015.</p><p>[4] : H. Gao, J. Mao, J. Zhou, Z. Huang, L. Wang, and W. Xu, \Are you talking to a machine? Dataset and methods for multilingual image question answering,” in Advances in Neural Information Processing Systems (NIPS), 2015.</p><p>[5]: R. Krishna, Y. Zhu, O. Groth, J. Johnson, K. Hata, J. Kravitz, S. Chen, Y. Kalantidis, L.-J. Li, D. A. Shamma, et al., \Visual genome: Connecting language and vision using crowdsourced dense image annotations,” International Journal of Computer Vision, vol. 123, no. 1, pp. 32{73, 2017.</p><p>[6] : Y. Zhu, O. Groth, M. Bernstein, and L. Fei-Fei, \Visual7w: Grounded question answering in images,” in The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016.</p><p>[7] : B. Zhou, Y. Tian, S. Sukhbaatar, A. Szlam, and R. Fergus, \Simple baseline for visual question answering,” arXiv preprint arXiv:1512.02167, 2015.</p><p>[8] : R. Kiros, Y. Zhu, R. Salakhutdinov, R. S. Zemel, A. Torralba, R. Urtasun, and S. Fidler,\Skip-thought vectors,” in Advances in Neural Information Processing Systems (NIPS),2015.</p><p>[9] : K. Kae and C. Kanan, \Answer-type prediction for visual question answering,” in The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016.</p><p>[10] : M. Malinowski, M. Rohrbach, and M. Fritz, \Ask your neurons: A neural-based approach to answering questions about images,” in The IEEE International Conference on Computer Vision (ICCV), 2015.</p><p>[11] : M. Ren, R. Kiros, and R. Zemel, \Exploring models and data for image question answering,” in Advances in Neural Information Processing Systems (NIPS), 2015.</p><p>[12] : M. Malinowski and M. Fritz, \”A multi-world approach to question answering about realworld scenes based on uncertain input,” in Advances in Neural Information Processing Systems (NIPS), 2014.</p><p>[13] : K. J. Shih, S. Singh, and D. Hoiem, \”Where to look: Focus regions for visual question answering,” in The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016.</p><p>[14] : Z. Yang, X. He, J. Gao, L. Deng, and A. J. Smola, \”Stacked attention networks for image question answering,” in The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016.</p><p>[15] : Z. Yang, X. He, J. Gao, L. Deng, and A. J. Smola, \”Stacked attention networks for image question answering,” in The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016.</p><p>[16] : J. Lu, J. Yang, D. Batra, and D. Parikh, \”Hierarchical question-image co-attention for visual question answering,” in Advances in Neural Information Processing Systems (NIPS), 2016.</p><p>[17] : I. Ilievski, S. Yan, and J. Feng, \”A focused dynamic attention model for visual question answering”, arXiv preprint arXiv:1604.01485, 2016.</p><p>[18] : Anne Hendricks, L., Venugopalan, S., Rohrbach, M., Mooney, R., Saenko, K., &amp; Darrell, T. \ “Deep compositional captioning: Describing novel object categories without paired training data”, In <em>Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition</em>,2016.</p><p>[19]: Noh, H., Hongsuck Seo, P., &amp; Han \”Image question answering using convolutional neural network with dynamic parameter prediction”, In <em>Proceedings of the IEEE conference on computer vision and pattern recognition, 2016.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=4bed5efdba41" width="1" height="1" alt=""><hr><p><a href="https://medium.com/basakbuluz/%C3%A7ok-g%C3%B6ren-mi-bilir-%C3%A7ok-soran-m%C4%B1-4bed5efdba41">Çok Gören Mi Bilir, Çok Soran Mı❓</a> was originally published in <a href="https://medium.com/basakbuluz">Başak Buluz</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Doğal Dil İşlemenin Yakın Tarihi]]></title>
            <link>https://medium.com/basakbuluz/do%C4%9Fal-dil-i%CC%87%C5%9Flemenin-yak%C4%B1n-tarihi-6f8f62f6fbea?source=rss----1c9dea6b94d9---4</link>
            <guid isPermaLink="false">https://medium.com/p/6f8f62f6fbea</guid>
            <category><![CDATA[neural-networks]]></category>
            <category><![CDATA[artificial-intelligence]]></category>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[deep-learning]]></category>
            <category><![CDATA[doğal-dil-işleme]]></category>
            <dc:creator><![CDATA[Başak Buluz Kömeçoğlu]]></dc:creator>
            <pubDate>Sun, 10 May 2020 12:58:41 GMT</pubDate>
            <atom:updated>2019-04-11T14:18:13.051Z</atom:updated>
            <content:encoded><![CDATA[<h4><strong>Yapay Sinir Ağı Temelli Doğal Dil İşleme</strong></h4><blockquote>Bu yazı DeepMind’da araştırmacı olarak çalışan <a href="http://ruder.io/"><strong>Sebastian Ruder</strong></a><strong> </strong>ve<strong> </strong>Stellenbosch University’de öğretim görevlisi olan <a href="https://www.kamperh.com/"><strong>Herman Kamper</strong></a> tarafından <a href="http://www.deeplearningindaba.com/">Deep Learning Indaba 2018</a> ‘da yapılan Doğal Dil İşlemenin Sınırları oturumunda sunulduktan sonra kaleme alınan <a href="http://ruder.io/a-review-of-the-recent-history-of-nlp/">‘<strong>A Review of the Neural History of Natural Language Processing’ </strong></a>makalesinin çevirisi ve yorumlanması ile oluşturulmuştur. ⭐</blockquote><p>Yapay Zeka uygulamalarının iyiden iyiye hayatımızda yer aldığı bu günlerde çalışmaların içerisinde yer alan şanslı geliştiriciler olarak, her gün akıl almaz bir uygulamayla karşılaşıyoruz. Görüntü işlemeden, doğal dil işlemeye hemen her alandaki bu gelişmeler heyecanımızı artırırken, takip etmeyi de bir hayli zorlaştırıyor 🤖</p><p>İşleri biraz daha kolaylaştıralım ve bir çırpıda <em>(kendi çalıştığım alana pozitif ayrımcılık yaparak</em>😊<em>)</em> doğal dil işleme alanında son zamanlarda sinir ağları temelli gelişmelere göz gezdirelim o zaman 👀</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/525/1*45ZirDNTID3pW9YgkkJE9A.png" /><figcaption><a href="https://medium.com/@arie_halpern/the-evolution-of-artificial-intelligence-eb4a7b0702e6">Resim Kaynağı</a></figcaption></figure><p>🎯 Hatırlatmakta fayda var ki, bu yazı yaklaşık son 15 senelik süreçte ortaya çıkmış 8 kilometre taşını ele almaktadır! Bu süreçte burada bahsedilenlerin haricinde de araştırmacılar tarafından ortaya konmuş birçok önemli çalışma mevcuttur. Bakış açısı olarak yalnızca <strong>sinir ağı temelli </strong>çalışmalardan bahsedilmiştir ve bu tutumun diğer yöntemlerin önemli olmadığı yönünde bir anlamla eş değer olmadığı <a href="http://ruder.io/about/">Ruder</a> tarafından özellikle belirtilmiştir. Zira bahsi geçen sinir ağı temelli gelişmelerin birçoğu döneminin sinirsel olmayan yaklaşımlarına dayanıyor 😊</p><h3>📌 2001 — Sinirsel Dil Modelleri (Neural Language Models)</h3><p>Dil modellemesi nam-ı diğer language modelling, metin içerisinde verilen bir kelimeden sonra gelecek olan kelimenin tahmin edilmesi görevidir. Akıllı klavyeler, e-posta yanıt önerisi <a href="https://www.kdd.org/kdd2016/papers/files/Paper_1069.pdf">(Kannan et al., 2016)</a>, yazım denetimi, vb. somut pratik uygulamaları olan en basit dil işleme görevlerindendir.</p><p>Hal böyle olunca, bu görevle ilgili zengin bir çalışma geçmişi olması da beklenen bir durum olarak karşımıza çıkıyor 😊</p><p>Klasik yaklaşımlar n-gramlara dayanırken, görünmeyen n-gramlar ile başa çıkabilmek için ise yumuşatma(smoothing) kullanılır <a href="https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&amp;arnumber=479394">(Kneser &amp; Ney, 1995)</a>.</p><p>Şekil-1&#39;de gösterilen, 2001 yılında Bengio ve arkadaşları tarafından geliştirilen <a href="https://papers.nips.cc/paper/1839-a-neural-probabilistic-language-model.pdf">ilk sinirsel dil modeli</a>, bir ileri beslemeli sinir ağı örneğidir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/497/1*r_tm0SYf-CgBTZ_9eqfvaQ.png" /><figcaption>Şekil 1: İleri beslemeli bir sinir ağı dili modeli (Bengio ve diğ., 2001; 2003)</figcaption></figure><p>Bu modelde, C tablosuna bakılarak önceki n kelimenin vektör temsilleri girdi olarak alınır. Günümüzde, bu tür vektörler <strong>kelime gömme (word embedding) </strong>olarak bilinir. Bu kelime gömmeleri bir gizli katmanı beslemek üzere bir araya getirilir. Gizli katmanın çıktısı ise Softmax katmanının girdisi olur.</p><p><em>Model hakkında daha fazla bilgi için </em><a href="http://ruder.io/word-embeddings-1/index.html#classicneurallanguagemodel"><em>bu yazıya</em></a><em> bir göz atabilirsiniz </em>✨</p><p>Daha sonraları dil modelleme görevinde ileri beslemeli sinir ağlarının yerini tekrarlayan sinir ağları <a href="https://www.fit.vutbr.cz/research/groups/speech/publi/2010/mikolov_interspeech2010_IS100722.pdf">(RNN’ler; Mikolov ve diğ., 2010)</a> ve uzun kısa süreli bellek ağları <a href="https://arxiv.org/abs/1308.0850">(LSTM’ler; Graves, 2013)</a> almaya başlamıştır.</p><p>Son yıllarda klasik LSTM’in genişletilmiş hali ile oluşturulmuş birçok yeni dil modelinin önerildiği görülse de, klasik LSTM güçlü bir temel olmaya devam etmektedir <a href="https://arxiv.org/abs/1707.05589?context=cs">(Melis ve diğ., 2018)</a>.</p><p>Hatta Bengio ve arkadaşlarının klasik ileri beslemeli sinir ağı bile bazı ortamlarda daha sofistike modellerle rekabet edebiliyor, çünkü bunlar tipik olarak sadece en son sözcükleri göz önünde bulundurmayı öğreniyor. <a href="https://arxiv.org/abs/1702.04521">(Daniluk ve diğ., 2017)</a>.</p><p><strong>“Sonuçta bu dil modelleri hangi bilgileri yakalıyor?” sorusunun cevabını daha iyi anlamak ise aktif bir araştırma alanı olarak karşımıza çıkıyor (</strong><a href="http://aclweb.org/anthology/P18-1132"><strong>Kuncoro ve diğ., 2018</strong></a><strong>; </strong><a href="http://arxiv.org/abs/1805.04218"><strong>Blevins ve diğ., 2018</strong></a><strong>).</strong></p><p>Dil modellemesinde Tekrarlayan Sinir Ağlarının (Recurrent Neural Networks) tercih edilmesi sıklıkla tercih edilen bir yaklaşımdır ve bu yaklaşım birçok kişi tarafından ilk kez <a href="http://karpathy.github.io/2015/05/21/rnn-effectiveness/">Andrej Karpathy</a>’nin <a href="http://karpathy.github.io/2015/05/21/rnn-effectiveness/">blog yazısında</a> anlattığı Resim Yorumlama (Image Captioning) görevindeki başarılı sonucu ile tanınmıştır.</p><p>⭐<a href="https://web.cs.hacettepe.edu.tr/~aykut/papers/siu16_tasviret.pdf"> <em>Resim yorumlama ile ilgili Türkçe dilinde Hacettepe Bilgisayarlı Görü Laboratuvarı araştırmacıları tarafından geliştirilen uygulamayı incelemek için buyrun</em></a> 😊</p><p>Dil modellemesi, Yann LeCun’un kestirimci öğrenme dediği ve sağduyuyu kazanmanın ön şartı olduğunu belirttiği denetimsiz bir öğrenme şeklidir.</p><p>Şüphesiz ki dil modellemeyle ilgili en dikkat çekici husus ise basit yapısına karşın, bu yazıda ele alınan daha sonraki ilerlemelerin birçoğunun çekirdeğini oluşturuyor olmasıdır:</p><p>🔸 <strong>Kelime gömmeleri (word embeddings):</strong> Word2vec’in amacı, dil modellemenin basitleştirilmesidir.</p><p>🔸 <strong>Sıradan sıraya modeller(sequence-to-sequence models):</strong> Bir seferde bir kelimeyi tahmin ederek bir çıktı dizisi oluşturur.</p><p>🔸 <strong>Önceden eğitilmiş dil modelleri (Pre-trained language models):</strong> Bu yöntemler, transfer öğrenme (transfer learning) için dil modellerinden temsilleri kullanır.</p><p>Tersten bakacak olursak, aslında NLP’deki en önemli sayılan gelişmelerin birçoğu, bir dil modellemesi biçimine indirgenmiştir.</p><p>Gerçek bir doğal dil anlayışı ile hareket edebilmek için, sadece ham metinin biçiminden öğrenmek yeterli olmayacağı ve yeni yöntemlere, modellere ihtiyacımız olacağı aşikar!</p><h3>📌2008 — Çoklu Görev Öğrenme (Multi-tasking learning)</h3><p>Çoklu görev öğrenme, birden çok görevde eğitilmiş modeller arasında parametre paylaşımı için genel bir yöntemdir. Yapay sinir ağlarında bu işlem, farklı katmanların ağırlıklarını bağlayarak kolayca yapılabilir.</p><p>Fikir ilk olarak 1993 yılında Rich Caruana tarafından önerilen çoklu görev öğrenme, yol takip ve zatürree tahmininde kullanılmıştır <a href="https://www.semanticscholar.org/paper/Multitask-Learning%3A-A-Knowledge-Based-Source-of-Caruana/9464d15f4f8d578f93332db4aa1c9c182fd51735">(Caruana, 1998)</a>.</p><p>Sezgisel olarak, modellerin birçok görev için faydalı olan temsillerini öğrenmeye teşvik edilmesi olarak nitelendirilebilir. Bu yaklaşım sınırlı sayıda eğitim verisi olan ortamlarda genel bir öğrenmenin sağlanması için oldukça faydalıdır 👍</p><p><a href="http://ruder.io/multi-task/"><em>Çoklu Görev Öğrenme için detaylı bilgi edinmek için bu blog yazısına buyrun </em></a>✨</p><p><a href="https://ronan.collobert.com/pub/matos/2008_nlp_icml.pdf">Collobert ve Weston</a>, çoklu görev öğrenme yaklaşımını NLP için sinir ağlarına ilk uygulayan araştırmacılar olarak literatürde yer edinmişlerdir. Modellerinde, arama tabloları (veya kelime gömme matrisleri), aşağıdaki Şekil 2&#39;de gösterildiği gibi, farklı görevlerde eğitilen iki model arasında paylaşılmaktadır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/585/1*dlbOJs5ZZaDVs1NOJPdtYg.png" /><figcaption>Şekil 2: Kelime gömme matrislerinin paylaşımı <a href="https://ronan.collobert.com/pub/matos/2008_nlp_icml.pdf">(Collobert ve Weston, 2008; Collobert ve diğ., 2011)</a></figcaption></figure><p>Kelime gömmelerinin paylaşımı modellerin ortak bir yaklaşımla hareket etmelerine ve genellikle bir modeldeki en büyük parametre sayısını oluşturan kelime gömme matrisindeki genel düşük seviyeli bilginin paylaşımına olanak sağlar.</p><p>2008 yılında Collobert ve Weston tarafından yayınlanan makale ile ortaya atılan fikrin aslında çoklu görev öğrenmenin kullanımının dışında, son zamanlarda yaygın olarak benimsenen önceden eğitilmiş kelime gömmeleri ve metinler için evrişimsel sinir ağlarının (CNN’ler) kullanılması gibi fikirlere de öncülük etmesi bakımından önemli bir kilometre taşı olduğunu söyleyebilmek mümkündür. Nitekim<a href="https://research.fb.com/facebook-researchers-win-test-of-time-award-at-icml-2018/"> <strong>ICML 2018&#39;de verilen Test of Time ödülü </strong></a>de bu söylenenin ispatı niteliğindedir 🏅</p><p>Şimdilerde çok farklı doğal dil işleme görevlerinde kullanılan çoklu görevli öğrenme, mevcut veya “yapay” görevlerden yararlanmak suretiyle oldukça faydalı bir araç haline gelmiştir.</p><p><a href="http://ruder.io/multi-task-learning-nlp/"><em>Farklı yardımcı görevler hakkında ayrıntılı bilgi için blog yazısına göz atabilirsiniz </em></a>✨</p><p>Parametrelerin paylaşımında genelde parametreler önceden tanımlanmış olsa da, optimizasyon sürecinde farklı parametre paylaşım örüntüleri de öğrenilebilir <a href="http://arxiv.org/abs/1705.08142">(Ruder ve diğ., 2017)</a>. Modellerin genelleme yeteneğini ölçmek için birden fazla görev üzerinde değerlendirilmesinin artmasıyla beraber, çok görevli öğrenme de önem kazanmakta ve son zamanlarda çoklu görev öğrenme için özel ölçütler önerilmektedir (<a href="https://arxiv.org/abs/1804.07461">Wang ve diğ., 2018</a>; <a href="https://arxiv.org/abs/1806.08730">McCann ve diğ., 2018</a>).</p><h3>📌2013 —Kelime Gömmeleri (Word embeddings)</h3><p>Metnin ayrık vektör gösterimi (sparse vector representation), diğer bir deyişle kelime-çantası modeli (bag-of-words) doğal dil işleme alanında uzun bir geçmişe sahiptir. Kelimelerin veya sözcük gömmelerinin yoğun vektör gösterimleri (dense vector representation) ise yukarıda da bahsedildiği gibi 2001 kadar eski tarihlerden itibaren kullanılmıştır.</p><p><a href="https://papers.nips.cc/paper/5021-distributed-representations-of-words-and-phrases-and-their-compositionality.pdf">2013 yılında Mikolov ve diğ. </a>gizli katmanı kaldırarak ve hedefe yaklaştırarak bu kelime gömmelerinin eğitimini daha verimli hale getirecek bir <a href="https://arxiv.org/abs/1301.3781">çalışmaya</a> imza attılar. Önerdikleri bu değişiklikler çok basit olmasına rağmen — verimli word2vec uygulaması ile birlikte — büyük ölçekli bir kelime gömme eğitimini gerçekleştirmelerine olanak sağladı.</p><p>Word2vec Şekil 3&#39;te görülebileceği iki şekilde sağlanır: continuous bag-of-words (CBOW) ve skip-gram. Amaçlarında farklılık gösteren bu 2 yaklaşımdan biri çevreleyen kelimelere dayanarak merkez kelimeyi öngörürken, diğeri ise tam tersini yapar.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/581/1*-BA4Y9_cbg97YE6-HcFbEg.png" /><figcaption>Şekil 3: Continuous bag-of-words ve skip-gram mimarileri (Mikolov et al., 2013a; 2013b)</figcaption></figure><p>Bu gömmeler kavramsal olarak ileri beslemeli bir sinir ağı ile öğrenilenlerden farklı olmasa da, çok büyük bir korpus üzerinde eğitim ile birlikte Şekil 4&#39;te görüldüğü gibi cinsiyetler, fiillerin zamana göre çekimleri, ülkeler-başkentler gibi kelimeler arasındaki özel ilişkilerin de yakalanmasına olanak tanır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*lawVbaeDnf2h1LC9.png" /><figcaption>Şekil 4: word2vec tarafından yakalanan ilişkiler (Mikolov ve diğ. 2013a; 2013b)</figcaption></figure><p>Bu ilişkiler ve bunların arkasındaki anlam, kelime gömmelerine karşı ilgi uyandırdı ve araştırmacılar birçok çalışmada bu doğrusal ilişkilerin kökenini araştırmak konusunda efor sarf etti. (<a href="https://aclweb.org/anthology/Q16-1028">Arora ve diğ., 2016</a>; <a href="https://www.aclweb.org/anthology/D17-1308">Mimno ve Thompson, 2017</a>; <a href="https://mimno.infosci.cornell.edu/papers/antoniak-stability.pdf">Antoniak ve Mimno, 2018</a>; <a href="https://aclweb.org/anthology/N18-1190">Wendlandt ve diğ., 2018</a>). Ancak daha sonraki çalışmalarda görüldü ki, öğrenilen ilişkiler ön yargı içeriyordu (<a href="https://arxiv.org/abs/1607.06520?context=cs">Bolukbaşı ve diğ., 2016</a>) 😒</p><p>Word2vec’in yakaladığı ilişkiler sezgisel ve neredeyse sihirli olarak ifade edilebilecek nitelikler kazandırırken sonraki <a href="http://arxiv.org/abs/1408.5882">çalışmalar</a>, aslında bu durumun word2vec ile ilgili özel bir durum olmadığını göstermiştir. Öyle ki, kelime gömmeleri matris faktorizasyonu yoluyla da öğrenilmekteydi (<a href="https://www.aclweb.org/anthology/D14-1162">Pennington ve diğ., 2014;</a> <a href="http://papers.nips.cc/paper/5477-neural-word-embedding-as-implicit-matrix-factorization">Levy ve Goldberg, 2014</a>) ve dahası uygun düzenlemeler ile SVD ve LSA gibi klasik matris faktorizasyon yaklaşımları da benzer sonuçlar elde edebilmekteydi (<a href="https://tacl2013.cs.columbia.edu/ojs/index.php">Levy ve diğ., 2015</a>).</p><p>Bu tarihten itibaren artık araştırmacılar kelime gömmelerinin farklı yönlerini görmek üzere birçok <a href="https://papers.nips.cc/paper/5021-distributed-representations-of-words-and-phrases-and-their-compositionality.pdf">çalışmada</a> bulundular.</p><p><em>Bu konudaki trendler ve geleceğe doğru bir bakış için </em><a href="http://ruder.io/word-embeddings-2017/"><em>blog postuna</em></a><em> göz atabilirsiniz </em>✨.</p><p>Ancak birçok gelişme olmasına rağmen, word2vec hala en popüler seçim olarak karşımıza çıkmakta ve günümüzde yaygın olarak kullanılmaktadır 😎</p><p>Word2vec’e erişim artık kelime düzeyinin ötesine geçilmesine yol açtı ve bu kez de negatif örneklemli skip-gram kullanılarak cümle temsilleri elde edildi (<a href="http://arxiv.org/abs/1405.4053">Mikolov ve Le, 2014</a>; <a href="http://arxiv.org/abs/1506.06726">Kiros ve diğ., 2015</a>). Ötesine geçilen yalnızca kelime düzeyi de değildi, bu yaklaşımla doğal dil işlemenin de ötesine geçilerek ağlarda (<a href="https://cs.stanford.edu/people/jure/pubs/node2vec-kdd16.pdf">Grover ve Leskovec, 2016</a>) ,biyolojik dizilerde (<a href="https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0141287">Asgari ve Mofrad, 2015</a>) daha birçok farklı uygulama alanında da gelişmelerin önü açıldı ✌</p><p>Heyecan verici bir diğer nokta ise, çapraz dilde aktarımı etkinleştirmek için farklı dillerin kelime gömmelerini aynı uzaya yansıtılması! Böylelikle en azından benzer diller için -tamamen gözetimsiz bir şekilde- iyi bir öngörüye sahip olmak mümkün hale geliyor (<a href="http://arxiv.org/abs/1710.04087">Conneau ve diğ., 2018</a>; <a href="https://aclweb.org/anthology/P18-1073">Artetxe ve diğ., 2018;</a> <a href="https://arxiv.org/abs/1805.03620">Søgaard ve diğ., 2018</a>) ve böylelikle düşük kaynak dilleri ve denetlenmeyen makine çevirisi uygulamalarının yolu açılıyor (<a href="https://arxiv.org/abs/1711.00043">Lample ve diğ., 2018</a>; <a href="http://arxiv.org/abs/1710.11041">Artetxe ve diğ., 2018</a>). Genel bir bakış için <a href="https://arxiv.org/abs/1706.04902">(Ruder ve diğ., 2018)</a> değerlendirme makalesini de okuyabilirsiniz.</p><h3>📌 2013 — Doğal Dil İşleme için Sinir Ağları</h3><p>2013–2014 yıllarında artık sinir ağı modelleri doğal dil işleme görevleri için kullanılmaya başlarken, temelde üç ana tür sinir ağı en yaygın kullanılanlar halini aldı. Bunlar; tekrarlayan sinir ağları, evrişimli sinir ağları ve öz yinelemeli sinir ağlarıdır.</p><p>✅ <strong>Tekrarlayan sinir ağları (Recurrent Neural Networks- RNN)</strong></p><p>Tekrarlayan sinir ağları, doğal dil işlemede sürekli karşılaşılan dinamik giriş dizileriyle başa çıkmak için aşikar bir seçimdir. Vanilla RNN’ler <a href="https://crl.ucsd.edu/~elman/Papers/fsit.pdf">(Elman, 1990)</a> kaybolan ve patlayan gradyan sorununa karşı daha dayanıklı olduklarını kanıtlayarak, çok kısa bir sürede klasik uzun süreli bellek ağlarının yerini almayı başarmışlardır <a href="https://www.bioinf.jku.at/publications/older/2604.pdf">(Hochreiter &amp; Schmidhuber, 1997)</a>.</p><p>2013&#39;ten önce RNN’lerin eğitilmesinin zor olduğu düşünülüyordu, ancak <a href="https://www.cs.utoronto.ca/~ilya/pubs/ilya_sutskever_phd_thesis.pdf">Ilya Sutskever’in doktora tezi</a> ise bu itibarı değiştirmenin yolunda önemli bir örnekti.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*I7WiBqjogcYmCijB.png" /><figcaption>Şekil 5: Bir LSTM ağı <a href="https://colah.github.io/posts/2015-08-Understanding-LSTMs/">(Kaynak: Chris Olah)</a></figcaption></figure><p>Çift yönlü bir LSTM <a href="https://www.cs.toronto.edu/~graves/asru_2013.pdf">(Graves ve diğ., 2013)</a>, tipik olarak hem sol hem de sağ bağlamla başa çıkmak için kullanılır.</p><p>✅ <strong>Evrişimli Sinir Ağları (Convolutional Neural Networks)</strong></p><p>Evrişimli sinir ağları (CNN’ler) bilgisayarlı görüde yaygın olarak kullanılırken, aynı zamanda doğal dile de uygulanmaya başlamışlardır (<a href="http://arxiv.org/abs/1404.2188">Kalchbrenner ve diğ., 2014</a>; <a href="http://arxiv.org/abs/1408.5882">Kim ve diğ., 2014</a>). Metin için bir evrişimli sinir ağı yalnızca iki boyutta çalışır ve filtrelerin sadece zaman boyutunda hareket etmeleri gerekir.</p><p>NLP’de kullanılan tipik bir CNN Şekil 6&#39;da göstermektedir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*ClOwLzQMlO8ujVqM.png" /><figcaption>Şekil 6: Metin için bir Evrişimli Sinir Ağı (Kim, 2014)</figcaption></figure><p>Evrişimli sinir ağlarının bir avantajı, RNN’lerden daha fazla paralelleşebilmeleridir. Çünkü her zaman dilimindeki durum, RNN’deki tüm geçmiş durumlardan ziyade yalnızca yerel bağlama (evrişim işlemi yoluyla) bağlıdır.</p><p>CNN’ler, daha geniş bir bağlamı yakalamak için genişlemiş evrişimler kullanılarak daha geniş alıcı alanlar ile genişletilebilir <a href="http://arxiv.org/abs/1610.10099">(Kalchbrenner ve diğ., 2016)</a>.</p><p>CNN’ler ve LSTM’ler de birleştirilebilir ve istiflenebilir <a href="https://www.aclweb.org/anthology/P16-2037">(Wang ve diğ., 2016)</a>, hatta evrişimler bir LSTM’i hızlandırmak için de kullanılabilir <a href="http://arxiv.org/abs/1611.01576">(Bradbury ve diğ., 2017)</a>.</p><p>✅ <strong>Öz yinelemeli Sinir Ağları (Recursive Neural Networks)</strong></p><p>RNN’ler ve CNN’ler dili bir dizi olarak ele alır. Dilsel bir bakış açısına göre, dil doğası gereği hiyerarşik bir yapıdadır: Kelimeler, bir dizi üretim kuralına göre öz yinelemeli olarak birleşerek yüksek dereceli ifadeler ve cümlecikler oluştururlar.</p><p>Dil bilimsel bir ilham kaynağı olarak, cümleleri bir diziden ziyade ağaç olarak ele alma fikri Şekil 7&#39;de gösterilen öz yinelemeli sinir ağlarına (Socher ve diğ., 2013) yol açar.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/570/1*M6673Ht6UL6Oxuc6S3nitQ.png" /><figcaption>Şekil 7: Özyinelemeli bir sinir ağı (Socher ve diğ., 2013)</figcaption></figure><p>Öz yinelemeli sinir ağları, cümleyi soldan sağa veya sağdan sola işleyen RNN’lerin aksine aşağıdan yukarıya doğru bir dizilimin gösterimini oluşturur. Ağacın her düğümünde, alt düğümlerin temsillerini oluşturarak yeni bir gösterim hesaplanır. Bir ağaç RNN’de farklı bir işlem emri empoze ettiği şeklinde görülebildiğinden, LSTM’ler doğal olarak ağaçlara genişletilmiştir. <a href="https://www.aclweb.org/anthology/P15-1150">(Tai ve diğ., 2015)</a>.</p><p>Hiyerarşik yapılarla çalışmak için yalnızca RNN’lerin ve LSTM’lerin genişletilmesi söz konusu değildir. Sözcük gömme işlemleri sadece yerel değil, gramer bağlamında da öğrenilebilir <a href="https://doi.org/10.3115/v1/P14-2050">(Levy ve Goldberg, 2014)</a>; dil modelleri söz dizimsel bir yığına dayanan kelimeler üretebilir <a href="http://arxiv.org/abs/1602.07776">(Dyer ve diğ., 2016)</a> ve çizge evrişimli sinir ağları bir ağaç üzerinde de çalışabilir <a href="https://www.aclweb.org/anthology/D17-1209">(Bastings diğ., 2017)</a>.</p><h3>📌2014 — Seq2Seq Modeller</h3><p>Sutskever ve arkadaşları tarafından 2014 yılında <a href="https://papers.nips.cc/paper/5346-sequence-to-sequence-learning-with-neural-networks.pdf">önerilen Seq2Seq öğrenme</a>, bir sinir ağı kullanarak bir diziyi diğerine eşlemek için önerilen genel bir çerçeve olarak tanımlanabilir.</p><p>Bu çerçevede öncelikle bir şifreleyici (encoder) sinir ağı bir cümleyi sembol sembol işler ve bir vektör şeklinde temsil edecek şekilde sıkıştırır. Ardından şifre çözücü sinir ağı (decoder) Şekil 8&#39;de görülebileceği gibi önceden tahmin edilen sembolü her adımda girdi olarak alarak, kodlayıcı durumuna göre çıktıyı sembol sembol tahmin eder.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/542/1*Rzc0GAyKxXLqjb1yE6AK9A.png" /><figcaption>Şekil 8: Seq2Seq model <a href="https://papers.nips.cc/paper/5346-sequence-to-sequence-learning-with-neural-networks.pdf">(Sutskever et al., 2014)</a></figcaption></figure><p>Makine çevirisi bu çerçevenin katil uygulaması olarak ortaya çıktı. 2016&#39;da Google, monolitik cümle temelli makine çevirisi modellerini sinirsel makine çevirisi modelleriyle değiştirmeye başladığını duyurdu <a href="https://arxiv.org/abs/1609.08144">(Wu ve diğ., 2016)</a>. <a href="https://www.oreilly.com/ideas/what-machine-learning-means-for-software-development">Jeff Dean’e göre</a>, bu 500.000 satırlık cümle tabanlı makine çevirisi kodunun 500 satırlık bir sinir ağı modeli ile değiştirilmesi demekti!</p><p>Esnekliği nedeniyle bu çerçeve, artık kodlayıcı ve kod çözücünün rolünü üstlenen farklı modellerle birlikte doğal dil üretme görevlerinin kurtarıcı çerçevesidir. Önemli noktalardan biri ise kod çözücü modelinin sadece bir dizide değil, aynı zamanda isteğe bağlı gösterimlerle de koşullandırılabilmesidir. Bu, örneğin Şekil-9&#39;da görüldüğü gibi bir görüntüye dayalı başlık <a href="https://arxiv.org/abs/1411.4555">(Vinyals ve diğ., 2015)</a> , bir tabloya dayalı metin <a href="http://arxiv.org/abs/1603.07771">(Lebret ve diğ., 2016)</a> ve kaynak koddaki değişime dayalı bir açıklama oluşturmaya olanak sağlar <a href="http://arxiv.org/abs/1704.04856">(Loyola ve diğ., 2017)</a>.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/552/1*fgZrCcKYdsOWHROCDW7_Vw.png" /><figcaption>Şekil 9: Resme dayalı bir başlık oluşturma (Vinyals et al., 2015)</figcaption></figure><p>Seq2Seq göre öğrenme, çıktıların belirli bir yapıya sahip olduğu doğal dil işlemede yaygın olan yapılandırılmış tahmin görevlerine uygulanabilir. Biraz daha basitleştirmek için çıktı, seçim bölgeleri Şekil 10&#39;da görülebileceği gibi doğrusallaştırılmıştır.</p><p>Yapay sinir ağları yeterli miktarda eğitim verisi verildiğinde, seçim bölgelerinin ayrıştırılması için bir doğrusallaştırılmış çıktı üretmeyi <a href="https://arxiv.org/abs/1412.7449">(Vinyals ve diğ., 2015)</a> ve bunun yanı sıra adlandırılmış varlık tanımayı<a href="http://arxiv.org/abs/1512.00103">(Gillick ve diğ., 2016)</a> öğrenebildiğini kanıtladı.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/570/1*_HU0hxIPrmN6dWNUzWlFMQ.png" /><figcaption>Şekil 10: Bir seçim bölgesi ayrıştırma ağacını doğrusallaştırmak (Vinyals et al., 2015)</figcaption></figure><p>Diziler için kodlayıcılar ve kod çözücüler genel olarak RNN’lere dayanır, ancak elbette diğer modellerde kullanılabilir. Yeni mimarilerin ağırlıklı olarak, Seq2Seq mimarileri için Petri kabı görevi gören makine çevirisi görevi için ortaya çıktığı görülüyor.</p><p>Son modellere bakıldığında derin LSTM’ler <a href="https://arxiv.org/abs/1609.08144">(Wu ve diğ., 2016)</a>, evrişimli kodlayıcılar (<a href="http://arxiv.org/abs/1610.10099">Kalchbrenner ve diğ., 2016</a>; <a href="https://arxiv.org/abs/1706.03762">Gehring ve diğ., 2017</a>), sonraki bölümde tartışılacak olan dönüştürücü (Transformer) (<a href="http://arxiv.org/abs/1705.03122">Vaswani ve diğ., 2017</a>) ve LSTM -Transformer kombinasyonu <a href="https://arxiv.org/abs/1804.09849">(Chen ve diğ., 2018) </a>karşımıza çıkmaktadır.</p><h3>📌2015 — Dikkat (Attention)</h3><p>Dikkat <a href="https://arxiv.org/abs/1409.0473">(Bahdanau ve diğ., 2015)</a>, nöral makine çevirisindeki (NMT) temel yeniliklerden biridir ve NMT modellerinin klasik ifade tabanlı makine çevirisi sistemlerinden daha üstün performans göstermesini sağlayan temel fikirdir.</p><p>Seq2Seq öğrenmenin bilinen en temel darboğazı, kaynak dizinin tüm içeriğinin sabit boyutlu bir vektöre sıkıştırılmasını gerektirmesidir. Dikkat, kod çözücünün gizli durumlardaki kaynak dizisine geri dönmesine izin vererek bunu hafifletir. Bu daha sonra, aşağıdaki Şekil 11&#39;de görülebileceği gibi kod çözücüye ek girdi olarak ağırlıklı bir ortalama olarak sunulur.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/347/1*LpbeGxmNg074TywGUok87w.png" /><figcaption>Şekil 11: Dikkat(Bahdanau et al., 2015)</figcaption></figure><p>Farklı türde dikkat mekanizmalarının mevcut olduğunu söyleyebilmek mümkündür <a href="http://arxiv.org/abs/1508.04025">(Luong ve diğ., 2015)</a>. Hızlıca bir göz atmak isterseniz <a href="http://ruder.io/deep-learning-nlp-best-practices/index.html#attention">buraya</a> buyrun 😊</p><p>Dikkat, girdilerin belirli bölümlerine göre karar verilmesini gerektiren herhangi bir görev için yaygın olarak uygulanabilir ve faydalı olabilme potansiyeli oldukça yüksektir.</p><p>Seçim bölgesi ayrıştırma (consituency parsing)<a href="https://arxiv.org/abs/1412.7449">(Vinyals ve diğ., 2015)</a>, okuduğunu anlama <a href="http://arxiv.org/abs/1506.03340v1">(Hermann ve diğ., 2015)</a> ve tek adımda öğrenme (one-shot learning) <a href="http://arxiv.org/abs/1606.04080">(Vinyals ve diğ., 2016)</a> gibi farklı uygulamalarda kullanılmıştır.</p><p>Girdinin bir dizi (sequence) olması gerekmez, ancak Şekil 12&#39;de görülebilen resim yazısı oluşturmada <a href="https://arxiv.org/abs/1502.03044">(Xu ve diğ., 2015)</a> olduğu gibi diğer gösterimlerden oluşabilir.</p><p>Dikkatin faydalı bir yan etkisi olarak, girdilerin hangi kısımlarının dikkat ağırlıklarına göre belirli bir çıktı için uygun olduğunu inceleyerek nadiren — — sadece yüzeysel olarak — modelin iç çalışmalarına bir bakış açısı kazandırdığı gözlenebilir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/548/1*8Q6O0H4KR_klqiUS0iLdfQ.png" /><figcaption>Şekil 12: “Frizbi” kelimesini oluştururken modelin nelere dikkat ettiğini gösteren resim yazılama modelinde görsel dikkat. (Xu ve diğ., 2015)</figcaption></figure><p>Dikkat, sadece giriş sırasına bakmakla da sınırlı değildir; daha fazla bağlamsal olarak hassas kelime gösterimleri elde etmek için cümle veya belgedeki çevreleyen kelimelere bakmak için self-attention kullanılabilir. Sinirsel makine çevirisi için mevcut en son model olan Transformer mimarisinin özünde de çoklu dikkat katmanları vardır <a href="https://arxiv.org/abs/1706.03762">(Vaswani ve diğ. 2017)</a>.</p><h3>📌 2015 — Bellek tabanlı ağlar (Memory-based Network)</h3><p>Dikkat(attention) modelin geçmiş gizli durumlarından oluşan bulanık bellek olarak görülebilir ve bu mekanizmada bellekten neyin alınacağını model seçer. Dikkat hakkında ayrıntılı bilgi almak ve bellek ile bağlantısını kavrayabilmek için <a href="http://www.wildml.com/2016/01/attention-and-memory-in-deep-learning-and-nlp/">bu makaleye</a> göz atabilirsiniz. Daha açık bir belleğe sahip birçok model önerilmiştir. Sinirsel Turing Makineleri <a href="https://arxiv.org/abs/1410.5401">(Graves diğ., 2014)</a>, Bellek Ağları <a href="https://arxiv.org/abs/1410.3916">(Weston diğ., 2015)</a>, Uçtan Uca Bellek Ağları <a href="http://arxiv.org/abs/1503.08895">(Sukhbaatar ve diğ., 2015)</a>, Dinamik Bellek Ağları<a href="https://arxiv.org/abs/1506.07285">(Kumar diğ., 2015)</a>, Sinirsel Diferensiyellenebilen Bilgisayar <a href="https://www.nature.com/articles/nature20101">(Graves ve diğ., 2016)</a>, ve Tekrarlayan Varlık Ağı <a href="https://arxiv.org/abs/1612.03969">(Henaff ve diğ., 2017)</a> gibi birçok farklı varyantları mevcuttur.</p><p>Hafızaya, dikkat ile benzer şekilde güncel duruma benzerlik temelinde erişilir ve genellikle üzerine yazılabilir ve okunabilir. Modeller, hafızayı nasıl uyguladıkları ve kullandıkları konusunda farklılık gösterir. Örneğin, Uçtan Uca Bellek Ağları (End-to-end Memory Networks) girişi birden çok kez işler ve çoklu çıkarım adımlarını etkinleştirmek için hafızayı günceller. Sinirsel Turing Makineleri ayrıca sıralama gibi basit bilgisayar programlarını öğrenmelerini sağlayan lokasyon bazlı bir adresleme sistemine sahiptir. Bellek tabanlı modeller genellikle, uzun zaman dilimlerinde bilginin tutulmasının dil modellemesi ve okuduğunu anlama gibi yararlı olması gereken görevlere uygulanır. Hafıza kavramı çok yönlüdür: Bir bilgi tabanı veya bir tablo hafıza işlevi görebilir ve bir hafıza da girdinin tamamına veya belirli kısımlarına göre doldurulabilir.</p><h3>📌 2018 — Önceden Eğitilmiş Dil Modelleri (Pretrained language models)</h3><p>Önceden eğitilmiş kelime gömmeleri bağlamdan bağımsızdır ve sadece modellerdeki ilk katmanı başlatmak için kullanılır. Son yıllarda, bir çok denetimsiz öğrenme görevi için de önceden eğitilmiş sinir ağları kullanılmıştır.(<a href="https://arxiv.org/abs/1705.02364?context=cs">Conneau ve diğ.., 2017</a>; <a href="https://arxiv.org/abs/1708.00107?context=cs.LG">McCann ve diğ., 2017</a>; <a href="https://arxiv.org/abs/1804.00079">Subramanian ve diğ., 2018</a>) Buna karşılık, dil modelleri sadece etiketsiz metin gerektirir; böylece eğitim milyarlarca belirteçe (tokens), yeni alana ve yeni dile ölçeklenebilir. Önceden eğitilmiş dil modelleri ilk kez 2015 yılında önerildi (<a href="http://arxiv.org/abs/1511.01432">Dai ve Le, 2015</a>); ancak son zamanlarda birçok görev için de oldukça faydalı oldukları görüldü. Dil modeli gömmeleri bir hedef modelde öznitelikler olarak kullanılabilir (<a href="https://arxiv.org/abs/1802.05365">Peters ve diğ., 2018</a>) veya bir dil modeli hedef görev verilerine göre ayarlanabilir (<a href="https://www.aclweb.org/anthology/D17-1039">Ramachandran ve diğ., 2017</a>; <a href="http://arxiv.org/abs/1801.06146">Howard ve Ruder, 2018</a>). Dil modeli gömmelerinin eklenmesi Şekil 13&#39;te görüldüğü gibi birçok farklı görevde state-of-the-art’a göre büyük bir gelişme sağlar.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/558/1*lRuenA4mac2rzYnGiEBi6g.png" /><figcaption>Şekil 13: State-of-the-art’a göre dil modeli gömmelerinde gelişmeler (Peters ve diğ., 2018)</figcaption></figure><p>Önceden eğitilmiş dil modellerinin daha az veri ile öğrenmeyi mümkün kıldığı görülmüştür. Dil modelleri yalnızca etiketsiz veri gerektirdiğinden, etiketlenmiş verilerin az olduğu durumlar için özellikle faydalıdır.</p><p><em>Önceden eğitilmiş dil modellerinin potansiyeli hakkında daha fazla bilgi için bu </em><a href="https://thegradient.pub/nlp-imagenet/"><em>yazıyı</em></a><em> okuyabilirsiniz</em>✨.</p><h3>📌Diğer kilometre taşları</h3><p>Yukarıda bahsedilenler kadar yaygın olmasa da, yinede geniş etkiye sahip olan diğer çalışmalardan da burada bahsedelim 😊</p><p>✅ <strong>Karakter tabanlı gösterimler</strong></p><p>Karakter tabanlı bir kelime gösterimi elde etmek için karakterlerin üzerinde bir CNN veya LSTM kullanmak, özellikle morfolojik bilgilerin zengin olduğu veya çok fazla bilinmeyen kelime içeren görevler için oldukça yaygındır. Karakter tabanlı gösterimler ilk önce part-of-speech tagging, dil modellemesi için(<a href="https://aclweb.org/anthology/D15-1176">Ling ve diğ., 2015</a>) ve dependency parsing (<a href="https://arxiv.org/abs/1508.00657">Ballesteros diğ., 2015</a>) için kullanılmıştır. Daha sonraki yapılan çalışmalara bakıldığında ise artık dizi etiketlemesi (<a href="https://arxiv.org/abs/1603.01360">Lample ve diğ., 2016</a>; <a href="https://www.aclweb.org/anthology/P16-2067">Plank ve diğ., 2016</a>) ve dil modellemesi (<a href="https://arxiv.org/abs/1508.06615">Kim ve diğ., 2016</a>) görevleri için temel bileşen haline geldiği görülmüştür. Karakter tabanlı gösterimler, artan hesaplama maliyetiyle sabit bir kelime hazinesiyle başa çıkma gereksinimini azaltır ve tamamen karakter tabanlı sinirsel makine çevirisi gibi uygulamaları mümkün kılar (<a href="http://arxiv.org/abs/1511.04586">Ling ve diğ., 2016</a>; <a href="https://arxiv.org/abs/1610.03017">Lee ve diğ., 2017</a>).</p><p>✅ <strong>Çekişmeli öğrenme (Adversarial Learning)</strong></p><p>Çelişmeli öğrenme makine öğrenmesi alanında fırtınalar estirirken, doğal dil işlemede de farklı şekillerde kullanılmıştır. Yalnızca modelleri araştırmak ve başarısızlık sebeplerini anlamak için bir araç olarak değil, aynı zamanda onları daha sağlam hale getirmek için de giderek daha yaygın bir şekilde kullanılmaktadır (<a href="https://arxiv.org/abs/1707.07328?context=cs">Jia &amp; Liang, 2017</a>). En kötü durumdaki bozulmalar (<a href="https://arxiv.org/abs/1605.07725">Miyato ve diğ., 2017</a>; <a href="http://arxiv.org/abs/1711.04903">Yasunaga ve diğ., 2018</a>) ve etki alanı ile ilgili kayıplar (<a href="https://arxiv.org/abs/1505.07818?context=cs">Ganin ve diğ., 2016</a>; <a href="http://www.karlstratos.com/publications/acl17adversarial.pdf">Kim ve diğ., 2017</a>), modelleri daha sağlam hale getirebilecek kullanışlı düzenleme yöntemleri olarak karşımıza çıkıyor. Çekişmeli üretici ağlar(GAN) henüz doğal dil üretimi için çok etkili olmasa da(<a href="http://arxiv.org/abs/1806.04936">Semeniuta ve diğ., 2018</a>), dağılımların eşleştirilmesinde etkili olduğu görülmüştür(<a href="http://arxiv.org/abs/1710.04087">Conneau ve diğ., 2018</a>).</p><p>✅ <strong>Pekiştirmeli öğrenme (Reinforcement Learning)</strong></p><p>Pekiştirmeli öğrenmenin zaman bağımlılığı olan eğitim sırasında veri seçimi (<a href="https://arxiv.org/pdf/1708.02383v1.pdf">Fang ve diğ., 2017</a>; <a href="https://arxiv.org/abs/1804.06035">Wu ve diğ., 2018</a>) ve dialog modelleme <a href="https://arxiv.org/abs/1804.06512">(Liu ve diğ., 2018)</a>gibi görevler için yararlı olduğu gösterilmiştir . Pekiştirmeli Öğrenme ayrıca özetleme (<a href="https://arxiv.org/abs/1705.04304">Paulus ve diğ, 2018</a>; <a href="https://arxiv.org/abs/1803.10357">Celikyilmaz ve diğ., 2018</a>) ve makine çevirisinde (<a href="https://arxiv.org/abs/1511.06732">Ranzato ve diğ., 2016</a>) çapraz entropi gibi bir taşıyıcı kaybı optimize etmek yerine ROUGE veya BLEU gibi diferansiyellenemeyen bir bitiş metriğini doğrudan optimize etmek için oldukça etkili olduğu da görülmüştür<a href="http://arxiv.org/abs/1804.09160"> (Wang ve diğ., 2018)</a>.</p><h3>📌 <strong>Sinirsel olmayan (Non-neural) kilometre taşları</strong></h3><p>1998 ve sonraki yıllarda, halen aktif olarak araştırılan bir sığ semantik ayrıştırma biçimi olan anlamsal rol etiketleme görevini sağlayan <a href="https://framenet.icsi.berkeley.edu/fndrupal/">FrameNet</a> projesi tanıtılmıştır (<a href="https://www.aclweb.org/anthology/P98-1013">Baker ve diğ., 1998</a>).</p><p>2000&#39;li yılların başında ise, Doğal Dil Öğrenimi Konferansı (CoNLL) ile birlikte düzenlenen bölümleme (chunking)<a href="https://www.aclweb.org/anthology/W00-0726"> (Tjong Kim Sang ve diğ., 2000)</a>, isimlendirilmiş varlık tanıma (named entity recognition) <a href="https://www.aclweb.org/anthology/W03-0419.pdf">(Tjong Kim Sang ve diğ., 2003)</a>, bağımlılık ayrıştırma(dependency parsing) <a href="https://dl.acm.org/citation.cfm?id=1596305">(Buchholz ve diğ., 2006)</a> gibi temel NLP görevlerindeki araştırmalar alanda katalizör etkisi yarattı. CoNLL için paylaşılan görev veri kümelerinin birçoğu, bugün hala alan çalışmalarının değerlendirmesi için standarttır.</p><p>2001 yılında en hızlı dizi etiketleme yöntemlerinden biri olan koşullu rastgele alanlar (<a href="https://repository.upenn.edu/cgi/viewcontent.cgi?article=1162&amp;context=cis_papers">conditional random fields/CRF; Lafferty ve diğ., 2001</a>) tanıtıldı ve bu yöntem <a href="https://www.ml.cmu.edu/news/news-archive/2011-2015/2011/june/icml-test-time-award-2011.html">ICML 2011&#39;de Test-of-time </a>ödülüne layık görüldü. CRF katmanı, adlandırılmış varlık tanıma(named entity recognition) gibi etiket bağımlılıklarıyla ilgili dizi etiketleme problemleri için son teknoloji modellerin çekirdek bir parçası olarak kullanılmaktadır(<a href="https://arxiv.org/abs/1603.01360">Lample ve diğ., 2016</a>).</p><p>2002 yılında, makine çevirisi sistemlerinin ölçeklenmesini sağlayan ve bugünlerde makine çevirisi değerlendirmesinde standart metrik olan iki dilli değerlendirme alt ölçeği (<a href="https://www.aclweb.org/anthology/P02-1040.pdf">BLEU; Papineni ve diğ., 2002</a>) önerilmiştir. Aynı yıl, yapılandırılmış preceptron (<a href="https://www.aclweb.org/anthology/W02-1001">Collins, 2002</a>) tanıtıldı ve böylelikle bugün ki yapılandırılmış perceptron çalışmalarının temeli atılmış oldu. Aynı konferansta en popüler ve en çok incelenen doğal dil işleme görevlerinden biri olan duygu analizi de tanıtıldı (<a href="https://www.aclweb.org/anthology/W02-1011">Pang ve diğ., 2002</a>). Bu üç bildiri de <a href="https://naacl2018.wordpress.com/2018/03/22/test-of-time-award-papers/">NAACL 2018&#39;de Test-of-time</a> ödülünü almaya hak kazandı. Ayrıca, dilsel kaynak (linguistic resource) PropBank (<a href="http://www.lrec-conf.org/proceedings/lrec2002/pdf/283.pdf">Kingsbury ve Palmer, 2002</a>) da aynı yıl tanıtıldı. PropBank, FrameNet’e oldukça benzer, ancak fiillere odaklanan bir yapıya sahiptir ve anlamsal rol etiketlemede sıklıkla kullanılır.</p><p>Bugün hala konu modellemede (topic modelling) standart bir yöntem olan ve makine öğrenmesinde sıklıkla kullanılan Latent Dirichlet Allocation (<a href="http://www.jmlr.org/papers/v3/blei03a.html">LDA; Blei ve diğ., 2003</a>) geliştirildi.</p><p>2004 yılında yapılandırılmış verideki korelasyonu yakalamak için SVM’lerden daha uygun olan maksimum marj modelleri (max-margin model) önerildi (Taskar ve diğ., <a href="https://papers.nips.cc/paper/2397-max-margin-markov-networks.pdf">2004a</a>; <a href="http://nlp.cs.berkeley.edu/pubs/Taskar-Klein-Collins-Koller-Manning_2004_Parsing_paper.pdf">2004b</a>)</p><p>2006 yılında, çoklu açıklamalara ve yüksek etkileşimli anlaşmalara sahip çok dilli bir korpus olan OntoNotes (<a href="https://www.isi.edu/natural-language/people/hovy/papers/06HLT-NAACL-OntoNotes-short.pdf">Hovy ve diğ., 2006</a>) tanıtıldı. OntoNotes, bağımlılık ayrıştırma (dependency parsing) ve eşdeğerlik çözümlemesi (coreference resolution) gibi çeşitli görevlerin eğitimi ve değerlendirilmesi için kullanılmıştır.</p><p><a href="https://www.cms.waikato.ac.nz/~ihw/papers/08-DNM-IHW-LearningToLinkWithWikipedia.pdf">Milne ve Witten 2008&#39;de</a> Wikipedia’nın makine öğrenmesi yöntemlerini zenginleştirmek için nasıl kullanılabileceğini açıkladı. O tarihlerden bugüne kadar, Wikipedia varlık bağlama ve netleştirme, dil modelleme, bilgi tabanı olarak veya başka çeşitli birçok görev için makine öğrenmesi metotlarının eğitimi için en faydalı kaynaklardan biri olarak kullanılmış ve kullanılmaya devam etmektedir.</p><p>2009 yılında uzak denetim (distant supervision) fikri (<a href="https://aclweb.org/anthology/P09-1113">Mintz ve diğ., 2009</a>) önerildi. Uzak denetim, büyük korpuslardan otomatik olarak örnekler çıkarmak için kullanılabilecek gürültülü kalıplar üretmek için buluşsal bilgilerden veya mevcut bilgi tabanlarından gelen bilgileri kullanır. Uzak denetim, yoğun bir şekilde kullanılmış olan diğer görevlerin yanı sıra özellikle ilişki ve bilgi çıkarma ve duygu analizinde yaygın kullanılan bir tekniktir.</p><p>2016 yılında, çok dilli bir treebanks koleksiyonu olan Evrensel Bağımlılıklar (Universal Dependencies) v1 (<a href="http://www.petrovi.de/data/lrec16.pdf">Nivre ve diğ., 2016</a>) tanıtıldı. Evrensel Bağımlılıklar projesi, birçok dilde tutarlı bağımlılığa dayalı açıklamalar oluşturmayı amaçlayan bir topluluk çabası olarak değerlendirilebilir. Ocak 2019 yılı itibari ile <a href="https://universaldependencies.org/">Evrensel Bağımlılıklar v2</a>, 70&#39;den fazla dilde 100&#39;den fazla ağaçtan oluşan bir yapıdadır.</p><p>Doğal dil işleme alanında sinir ağları tabanlı kilometre taşları diye bahsedilebilecek çalışmaların derlendiği bu yazının orjinaline <a href="http://ruder.io/a-review-of-the-recent-history-of-nlp/"><strong>buradan </strong></a>erişebilirsiniz.</p><p>💎 Bu kapsamlı derlemi bizlere sunan ve Türkçeleştirmem esnasında desteği için <a href="http://ruder.io/about/"><strong>Sebastian Ruder’e</strong></a> çok teşekkür ederim.</p><p>💎 <strong><em>I would like to thank </em></strong><a href="https://tureng.com/tr/turkce-ingilizce/thanks%20awfully"><strong><em>awfully</em></strong></a><strong><em> Sebastian Ruder for presenting this comprehensive review and for his support during the Turkish translation.</em></strong></p><p>🍀 <strong>Yazı hakkında görüşleriniz, önerileriniz ve katkılarınız için şimdiden teşekkürler! Keyifli okumalar </strong>☕</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=6f8f62f6fbea" width="1" height="1" alt=""><hr><p><a href="https://medium.com/basakbuluz/do%C4%9Fal-dil-i%CC%87%C5%9Flemenin-yak%C4%B1n-tarihi-6f8f62f6fbea">📚Doğal Dil İşlemenin Yakın Tarihi</a> was originally published in <a href="https://medium.com/basakbuluz">Başak Buluz</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Ridge Regresyon Analizi ile Türkçe Dokümanlarda Yazar Tanıma]]></title>
            <link>https://medium.com/basakbuluz/ridge-regresyon-analizi-ile-t%C3%BCrk%C3%A7e-dok%C3%BCmanlarda-yazar-tan%C4%B1ma-929e8dc84bfc?source=rss----1c9dea6b94d9---4</link>
            <guid isPermaLink="false">https://medium.com/p/929e8dc84bfc</guid>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[doğal-dil-işleme]]></category>
            <category><![CDATA[yapay-zeka]]></category>
            <category><![CDATA[regresyon]]></category>
            <category><![CDATA[nlp]]></category>
            <dc:creator><![CDATA[Başak Buluz Kömeçoğlu]]></dc:creator>
            <pubDate>Sun, 10 May 2020 12:58:27 GMT</pubDate>
            <atom:updated>2019-05-05T09:39:56.285Z</atom:updated>
            <content:encoded><![CDATA[<h4>27. Sinyal İşleme ve Uygulamaları Kurultayı, Sivas</h4><p>️Gebze Teknik Üniversitesi ve Cumhuriyet Üniversitesi işbirliği ile 24–26 Nisan 2019 tarihleri arasında Sivas’da düzenlenen 27. Sinyal İşleme ve Uygulamaları Kurultayı’nda <a href="https://medium.com/u/3800cff712ab">Yavuz Kömeçoğlu</a> ve <a href="https://medium.com/u/4fd2556fbb77">Birol Kuyumcu</a> ile birlikte yaptığımız çalışmayı sunmak üzere biz de vardık ✨</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/607/1*IJPN62vHQ_aDbYeC81l6mg.png" /><figcaption>Ridge Regresyon Analizi ile Türkçe Dokümanlarda Yazar Tanıma, SIU 2019</figcaption></figure><p>Katılım gösteren araştırmacılarla kurultay programının elverdiği kadarıyla paylaşma imkanı bulduğumuz <strong>‘Ridge Regresyon Analizi ile Türkçe Dokümanlarda Yazar Tanıma’</strong> isimli Doğal Dil İşleme alanında yaptığımız çalışmanın ayrıntılarını kurultay sonrasında paylaşmak istedik.</p><p>Öncelikle SIU 2019&#39;da hangi konular üzerinde duruldu, neler konuşuldu ve paylaşıldı onlardan biraz bahsedelim!</p><h3>📋 27. Sinyal İşleme ve Uygulamaları Kurultayı’ndan Notlar</h3><p>Bu sene 27.si düzenlenen SIU, işaret işleme ile iletişim alanlarında çalışan araştırmacıların bir araya geldiği ve araştırma faaliyetlerini birbirleriyle paylaştığı, alanında ülkemizdeki en kapsamlı bilimsel etkinlik olarak tanınmaktadır.</p><p>SIU 2019 Sivas Kongresi’nin 100. yıl dönümü dolayısıyla bu sene <strong>Gebze Teknik Üniversitesi ve Cumhuriyet Üniversitesi</strong> işbirliği ile Sivas’da düzenlendi.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*nL2pMndAjqmexXviTnLYkg.jpeg" /><figcaption><a href="http://siu2019.gtu.edu.tr/">27. Sinyal İşleme ve Uygulamaları Kurultayı, Sivas</a></figcaption></figure><p>Cumhuriyet Üniversite’sinin güzel kampüsünde, öğrenci ve kıymetli hocaların büyük özveri ile planladıkları, organize ettikleri kurultay programının yanı sıra ev sahipliği de muazzamdı!</p><p>✅ İletişim ve Sinyal İşleme temel başlıkları altında, <a href="http://siu2019.gtu.edu.tr/kurultay/kurultay-cagrisi/">buradan</a> görebileceğiniz <strong>32</strong> alt başlıktan <strong>480 hakem tarafından değerlendirilen 570 kuramsal ve uygulamalı bildiri </strong>araştırmacılar tarafından sunuldu. Sayılar böyle olunca programında oldukça zengin içeriğe sahip olduğunu söylemek çok da zor değil 🤗</p><p>✅ Her birinde 9 oturum olacak şekilde toplam 6 salonda 3 gün boyunca araştırmacılar yaptıkları çalışmaları katılımcılarla paylaştı.</p><p>✅ İstatistiksel sinyal işlemeden bioinformatik sinyal ve görüntü işlemeye; yapay öğrenme ve derin öğrenmeden, hesaplamalı sinir bilime kadar birçok farklı başlıkta oturumların yapıldığı kurultayın program ayrıntılarına ve sunumu yapılan bildirilerin başlıklarına <a href="http://siu2019.gtu.edu.tr/program/kurultay-programi/">buradan</a> ulaşabilirsiniz. Bildirilerin tam metinleri ise <strong>IEEE Explore</strong> üzerinden ilerleyen günlerde yayınlanacak.</p><p>✅ Araştırmacılar tarafından sunulan akademik bildirilerin haricinde gerçekleştirilen<strong> </strong><a href="http://siu2019.gtu.edu.tr/program/ozel-oturumlar/"><strong>özel oturumlar</strong></a> ve <a href="http://siu2019.gtu.edu.tr/wp-content/uploads/2019/05/Kurultay_Program_Sunulan.pdf"><strong>davetli konuşmacılar</strong></a> da kurultay programını zenginleştiren bir başka unsurdu.</p><p>✅ Tüm bunların haricinde <strong>“ </strong><a href="https://mlub.ceng.metu.edu.tr/"><strong>Machine Learning Methods for Understanding the Brain</strong></a><strong>”</strong> ve <strong>“ Uzaktan Algılama için Sinyal ve Görüntü İşleme”</strong> başlıklı 2 ayrı çalıştaya ve doktora öğrencilerinin araştırma/kariyer hedeflerini diğer doktora öğrencileri ve tecrübeli araştırmacılar ile tartışabilecekleri bir forum olan Doktora Konsorsiyumuna da ev sahipliği yapan kurultay 3 gün içerisinde araştırmacıların motivasyonlarının önemli oranda artmasına vesile olmuştur.</p><h3>✍ Yazar Tanıma Problemi Nedir?</h3><p>Dijital çağ diye adlandırdığımız bugünlerde her dakika yaklaşık 3.2 milyar kişinin internette veri üretiyor hale gelmiş olmasının akıllı sistemlerin geliştirilmesi için eğitim verisinin artması gibi faydalarının yanında çeşitli sorunları da beraberinde getirdiği bir gerçek!</p><p>Dijital medya platformlarında yer alan yüz binlerce metnin hızla paylaşılıyor ve ortamdan ortama aktarılıyor olması, <strong>metin yazarlarının bilgilerinin hatalı veya anonimleştirilerek</strong> farklı platformlarda izinsiz paylaşılması gibi muhtelif telif hakkı ihlallerine kapı açmaktadır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/800/1*Y1oNEu6pAA-wa9msIPcQ_Q.jpeg" /><figcaption><a href="https://ethanmccarty.com/2018/01/16/your-liberal-arts-degree-wont-save-you/">Orjinal Resim Kaynağı</a></figcaption></figure><p>Doğal dil işleme çalışma alanının konularından biri olan metin sınıflandırmanın alt bir problemi olan <strong>‘Yazar Tanıma’</strong> ise tam da bu noktada, problemlere çözüm sunuyor.</p><p>Yazar Tanıma probleminin çözümüne yönelik çalışmaları incelendiğimizde klasik yaklaşımların 2 temel adım içerdiği görüyoruz. Bu adımlar,</p><ul><li>Yazarın yazım stilini ortaya koyan özniteliklerin belirlenmesi ve bir araya getirilmesi</li><li>Bir sınıflandırma algoritmasının uygulanarak nihai bir tahminde bulunulması</li></ul><p>Şüphesiz ki bu iki adımda da doğru seçimler yapmak hayati önem taşıyor.</p><p>Literatürde yaptığımız taramada gördük ki yalnızca yazım stilini belirlemekte etkin olan özniteliklerin tespiti için yapılan çalışmalar mevcut ve burada karakter temelli, sözcüksel, söz dizimsel, yapısal, içeriğe özgü, okunabilirlik ve bilgi erişim özellikleri olmak üzere yedi temel başlık altında 50&#39;nin üzerinde farklı özniteliği sıralayabilmek mümkün. Tabi ki sayıca oldukça fazla öz niteliklerden hangilerini kullanmanın sınıflandırma başarısı üzerinde nasıl bir etki yarattığını incelemek de ayrıca bir çalışma konusu!</p><h3>🔎 Peki biz neler yaptık?</h3><p>Doğal Dil İşleme alanında çalışıyorsanız, önceliğinizi ana dilinize veriyorsanız ve Türkiye’de yaşıyorsanız işler sandığınız kadar kolay olmayabilir 😊</p><p>Kurduğunuz modelin başarısını objektif olarak değerlendirmek istediğinizde ihtiyaç duyduğunuz benchmark veri kümelerine erişmek ne yazık ki oldukça zor 😥</p><p>Bu konuda SIU 2018&#39;de sunulan <a href="https://ieeexplore.ieee.org/document/8404464"><strong>‘Supervised author recognition with aggregated word embeddings’ </strong></a>isimli çalışmayı gerçekleştiren <strong>Muhammed Selim Atar, Ersin Esen ve Mehmet Ali Arabacı</strong> bizlerle kullandıkları veri kümesini paylaşarak önümüzdeki en büyük engeli kaldırdılar. Bu vesileyle tekrar teşekkürlerimizi sunuyoruz 😊</p><h4>📌 Veri Kümesine Bakış</h4><ul><li>Hürriyet ve Sabah ulusal gazetelerinin son 20 yıllık köşe yazılarından derlenen, 237 farklı yazara ait 120 ve toplamda 28.440 köşe yazısını içermektedir.</li><li>Her bir köşe yazısında ortalama 497 kelime olmak üzere toplamda yaklaşık 14 milyon kelimeden oluşmaktadır.</li><li>Her bir yazara ait yazılardan 100 tanesi eğitim için ,20 tanesi ise test için ayrılmıştır.</li><li>Eğitim öncesi tüm sembol, noktalama işaretleri ve alfabetik karakterler dışındaki karakterler temizlenmiş ve tüm harfler küçük harfe dönüştürülerek veri kümesi standart bir hale getirilmiştir.</li></ul><h4>📌Özniteliklerin Elde Edilmesi</h4><ul><li>Tf-Idf modeli ve ağırlıklandırma yöntemi anlamca zengin olmayan kelimelerin metin içerisinde baskınlık kurması problemini çözmek için kullanılan yöntemlerden biri olmakla beraber bu çalışma için de öz niteliklerin elde edilmesinde tercih edilmiştir.</li><li>Çalışma kapsamında veri kümesi içerisindeki kelimelerden elde edilen 1–3 n-gramları ve karakterlerden elde edilen 2–6 n-gramları için Tf-Idf ağırlıklandırma modeli uygulanmış olup, her birinden 50.000 olmak üzere toplam 100.000 boyutlu bir öznitelik vektörü elde edilmiştir.</li></ul><h4>📌Sınıflandırma Metodu</h4><p>Sınıflandırma yaklaşımında Ridge Regresyonu’ndan yararlanılmıştır. Ridge Regresyonu veya bir diğer ismiyle Tikhonov normalizasyonu regresyon katsayılarının tahmininde, bağımsız değişkenlerin birbirleri üzerindeki etkilerini minimum yapmayı hedefleyen ve kararlı katsayı tahminleri elde edebilmeyi sağlayan bir yöntemdir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1020/1*8R1ZTdGDnGLdg4Xk3MpKxw.jpeg" /><figcaption>Ridge Regresyon Analizi ile Türkçe metinlerde yazar tanıma problemi için önerilen model</figcaption></figure><p>Sınıflandırma modeli oluşturulurken her yazara ait bir Ridge Regresyon Modeli eğitilmiş ve eğitilen her bir model test verisi üzerinde bir tahminde bulunmuştur. Böylelikle test veri kümesindeki her bir köşe yazısının her bir yazara ait olma ihtimali ayrı ayrı belirlenmiştir. Belirlenen tahmin değerlerinden en büyüğü, başka bir söyleyişle en yüksek olasılık değerine sahip olan yazar ilgili köşe yazısı için nihai yazar olarak tahminlenmiştir.</p><h4>📌Sonuçlar ve Değerlendirme</h4><p>Veri kümesi üzerinde kelime 1–3 n-gramları ve karakter 2–6 n-gramları için Tf-Idf ağırlıklandırma modelinin uygulanmasının ardından, ayrı ayrı Stokastik Bayır İnişi Sınıflandırıcı (SGD Classifier — stochastic gradient descent classifier), Multinominal Naive Bayes Sınıflandırıcı ve Ridge Regresyon Modeli uygulanarak yazar sınıflandırma yapılan bu çalışmada elde edilen doğruluk oranları sırasıyla %86,3, %63,1 ve %89,6 ‘dır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/418/1*DP-0VvCkD-fTwPji-H8taw.png" /><figcaption>Türkçe metinlerde yazar tanıma problemi için uygulanan modellerin değerlendirme metriklerinin karşılaştırılması</figcaption></figure><p>Daha önce yapılan çalışmada ve bu çalışma kapsamında gözlenen en yüksek başarım oranı aşağıdaki tabloda da görüleceği üzere <strong>%89,6 ile Ridge Regresyon Modeli </strong>ile elde edilmiştir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/428/1*YeRdtN0Hlp0idR_loO_0RA.png" /><figcaption>Türkçe metinlerde yazar tanıma problemi için uygulanan modellerin doğruluk oranlarının karşılaştırılması</figcaption></figure><p>⭐<strong>Çalışmamızın faydalı olduğunu umuyor soru,eleştiri ve katkılarınızı bekliyoruz </strong>😊<strong> Keyifli okumalar ☕</strong></p><p>📍 Ana dilimizde Doğal Dil İşleme çalışmalarının gelişmesi için veri kümelerinin geliştirilmesi ve paylaşılmasının hayati önem taşıdığının farkındayız. Bu maksatla yalnızca bizimle paylaşılan veri kümesi üzerinde teknik olarak gelişim sağlamakla kalmak istemedik ve veri kümesini genişletmek için de kolları sıvadık. Kısa süre içerisinde çalışmamızı tamamlayarak araştırmacılara bu yeni veri kümesini de açık olarak paylaşmaktan mutluluk duyacağız 🎉</p><p>📍 SIU 2019 kapsamında üzerinde çalıştığımız ‘Ridge Regresyon Analizi ile Türkçe Dokümanlarda Yazar Tanıma’ başlıklı çalışmamızın teknik detaylarını bulabileceğiniz bildirinin tam metni baskı süreci tamamlandığında, kodları ise kısa bir süre sonra açık olarak paylaşlaşılacaktır.</p><p>📍 Baskı ve Github reposunun hazırlanma süreci tamamlandığında blog yazısı güncelellenecek ve buradan ilgili adresler paylaşılacaktır 🍀</p><p>⭐ Katkıları ve değerli yorumları için <a href="https://medium.com/u/ed38bb866abe">Ayyüce Kızrak</a>’a ayrıca teşekkür ederiz.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=929e8dc84bfc" width="1" height="1" alt=""><hr><p><a href="https://medium.com/basakbuluz/ridge-regresyon-analizi-ile-t%C3%BCrk%C3%A7e-dok%C3%BCmanlarda-yazar-tan%C4%B1ma-929e8dc84bfc">Ridge Regresyon Analizi ile Türkçe Dokümanlarda Yazar Tanıma</a> was originally published in <a href="https://medium.com/basakbuluz">Başak Buluz</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Susam Sokağı’ndan Doğal Dil İşlemeye ]]></title>
            <link>https://medium.com/basakbuluz/susam-soka%C4%9F%C4%B1ndan-do%C4%9Fal-dil-i%CC%87%C5%9Flemeye-7cc37903b5d4?source=rss----1c9dea6b94d9---4</link>
            <guid isPermaLink="false">https://medium.com/p/7cc37903b5d4</guid>
            <category><![CDATA[naturallanguageprocessing]]></category>
            <category><![CDATA[doğal-dil-işleme]]></category>
            <category><![CDATA[artificial-intelligence]]></category>
            <category><![CDATA[bert]]></category>
            <category><![CDATA[deep-learning]]></category>
            <dc:creator><![CDATA[Başak Buluz Kömeçoğlu]]></dc:creator>
            <pubDate>Sun, 10 May 2020 12:58:08 GMT</pubDate>
            <atom:updated>2020-05-10T12:58:14.325Z</atom:updated>
            <content:encoded><![CDATA[<p>Sabahın erken saatlerinde hemen her gün televizyonun başına geçip Susam Sokağı’nı izleyerek kendi dilindeki temel bilgileri öğrenen 80&#39;lerin çocukları, bugün bilgisayarlara dil öğretmek için yine Susam Sokağı’na sarıldı. 😊</p><p>Bizlerin Büdü olarak tanıdığı, orjinalinde ise <strong>BERT</strong> olarak tanınan karakter bugün doğal dil işleme alanında kilometre taşı olarak kabul edilen bir modele ismini veriyor. 🎈</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/962/1*WieBpcGnQtqw1vDSw1RBjg.png" /><figcaption><a href="http://www.stickpng.com/img/at-the-movies/sesame-street/sesame-street-bert-standing">Susam Sokağı’ndan BERT Karakteri</a></figcaption></figure><p>2018 yılında derin öğrenmedeki gelişmelerden en çok dikkat çekenlerinden biri de doğal dil işleme için geliştirilen etkin transfer öğrenme metotları oldu. 2018 Ekim ayında Google tarafından tanıtılan <strong>BERT (Bidirectional Encoder Representations for Transformers)</strong> ise bu anlamda yılın son aylarında damgayı vuran bir model olarak karşımıza çıktı ⭐</p><p>Doğal dil işlemedeki zorlukları sıralamamız istense zannediyorum ki hemen herkes bu listenin en başına eğitim verisinin yetersizliğini yazacaktır. İşte bu noktada artık yaklaşımlar yön değiştirerek, küçük dil görevlerine ayrı modeller geliştirmek için efor sarf etmektense daha büyük bir çerçeveden bakılarak dilin modellenmesi yönüne doğru evrildi 🤓</p><p>BERT tamda bu motivasyonla, oldukça büyük bir veri ile eğitilen genelleştirilmiş dil modeli sunarak ilgili dildeki tüm dil bilimsel yapıyı bir çerçevede tutmuş, gerekli olduğunda diğer küçük dil işleme görevleri için transfer edilmesine olanak sağlamıştır. Böylece bu küçük dil görevleri için eğitimin minimal düzeye inmesinin yanı sıra, 11 doğal dil işleme görevi için state-of-the-art’ın üstünde başarı sergilemiştir.</p><h3>📌 NLP’nin ImageNet anı geldi!</h3><p>Doğal dil işleme alanında 2018 yılında peş peşe tanıtılan ELMo, ULMFIT, OpenAI transform ve son olarak BERT önceden eğitilmiş dil modelleri (pre-trained language models) çok farklı dil görevlerinde state-of-the-art’ın üstüne çıkılmasına yol açarak alanda bir sıçrama yaşanmasını sağladı!</p><p>Dahası DeepMind araştırmacılarından Sebastian Ruder paylaştığı <a href="http://ruder.io/nlp-imagenet/">blog</a> yazısında <a href="https://arxiv.org/abs/1802.05365">ELMo</a>, <a href="https://arxiv.org/abs/1801.06146">ULMFIT</a>, <a href="https://s3-us-west-2.amazonaws.com/openai-assets/research-covers/language-unsupervised/language_understanding_paper.pdf">OpenAI transform</a> ve BERT’in araştırmacıları <strong>‘dil için ImageNet’</strong>e çok yaklaştırdığını belirtiyor! Önceden eğitilmiş ImageNet modellerinin bilgisayarlı görü üzerindeki etkisinin benzer şekilde dil için geliştirilen bu önceden eğitilmiş dil modelleri ile sağlanmaya başlandığını da ekliyor.</p><p>Doğal dil işleme alanında yeni bir çağ açan bu modellerden BERT’i incelemeye başlayalım o zaman 🤩</p><h3>📌 BERT’e Genel bir Bakış 👀</h3><p>BERT’in modelinin mimarisi için en genel manada bir tanımlama yapmak gerekirse <strong>‘çift yönlü dönüştürücü enkoder (Bidirectional Transformer Encoder)’ </strong>olarak ifade etmek mümkündür.</p><p>Transformer’in uzun süreli kelime bağımlılıklarının tespit etme yeteneği ve başarımının bir hayli yüksek olması, bu modelin mimarisinde de tercih edilmesine sebep olmuştur. Ayrıca çift yönlü kodlayıcı, BERT’i OpenAI GPT’den ve ELMo’dan ayıran bir diğer özellik olarak karşımıza çıkmaktadır.</p><p>✅ BERT, 24 Transformer bloğu, 1024 gizli katmanı ve 340M parametresi ile oldukça büyük bir modeldir.</p><p>✅ BooksCorpus (800 milyon kelime) ve İngilizce Wikipedia (2.5 milyar kelime) dahil, toplam 3.3 milyar kelimelik bir korpus üzerinden 40 epoch ile önceden eğitilmiştir.</p><p>✅ Model, eğitim için 16 TPU üzerinde çalışmıştır.</p><h3>📌 Doğal Dil İşlemede Transfer Öğrenme</h3><p>ELMo ve BERT gibi yöntemlerden önce doğal dil işlemede önceden eğitim Word2Vec ve GloVe gibi kelime gömmeleri (word embedding) ile sınırlıydı.</p><p>Kelime gömme işlemleri genellikle büyük, etiketsiz corpus (Wikipedia gibi) üzerinde eğitilir ve daha sonra duygu analizi gibi alt görevler için etiketli veriler üzerinde modeller geliştirmek için kullanılır. Bu yaklaşımın çok farklı görevler için neredeyse tüm araştırmacılar tarafından faydalı olduğu kabul gördüğü, ancak bir çok kısıtlaması olduğu da bir gerçektir.</p><p>Bu kısıtlardan ilki kelime gömmelerinin LSTM’lerin ve diğer karmaşık mimarilerin aksine, kelime kombinasyonlarını, olumsuz anlamlıları, vb. yakalamakta zorlanmasıdır.</p><p>Diğer bir önemli sınırlama ise kelime gömme modellerinin bağlamı dikkate almamasıdır. Örneğin, “bank” kelimesi, içeriğe bağlı olarak farklı bir anlama gelebilir (örneğin, “I stole money from the <strong>bank</strong>” ile “The <strong>bank</strong> of the river overflowed with water”).</p><p>Bu sınırlamalar transfer öğrenme için derin dil modellerinin (LSTM gibi mimarileri kullanan dil modellerini) kullanımı konusunda motivasyon sağlamıştır. Böylelikle her kelimeye bir vektör eşlemek için bir model eğitmek yerine, tüm cümleyi / çevresindeki içeriği temel alarak her bir kelimeye bir vektör eşlemek için daha karmaşık ve derin bir sinir ağını eğitme fikri yerleşmeye başlamıştır.</p><p>Bakış açıları tam olarak aynı olmasa da , ELMo, ULMFiT ve BERT bu fikri temel alan en iyi örnekler olarak gösterilebilir.</p><p><strong>Temel yaklaşımı 2 adımla özetlersek:</strong></p><p>🔴Derin bir dil modeli eğitin ve ardından<br>🔴Dil modeli tarafından öğrenilen gösterimleri alt görevlerde kullanın.</p><h3>📌 Dil Modelleme Nedir?</h3><p>Dil modelleme (language modelling) en basit şekliyle bir metin üzerinde eksik olan kelimenin tahmin edilmeye çalışılması görevidir.</p><p>Alışılageldik dil modellerinde önceki kelimelerden yararlanılarak bir sonraki kelimenin tahmin edilmesi (soldan-sağa) sağlanmakta iken BERT de bu yaklaşımın aksine hem önceki hemde sonraki kelimelerden faydalanılarak tahminleme yapılmaktadır.</p><p>Soldan sağa yaklaşım özellikle cümle oluşturulması gereken görevlerde, teker teker kelimeleri tahminleme yoluyla ilerleyerek görevi başarı ile tamamlanabilir. Fakat cümle içerisinde rastgele bir kelimenin tahmin edilmesi gerektiğinde, BERT’i klasik yaklaşımlardan ayıran özelliği — <strong>rastgele bir kelimeyi maskeleyerek tahmin etmeye çalışması</strong> — devreye girer.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/776/1*PrSKV-afWWuk6yHokGVhDQ.png" /><figcaption>Dil Modeli Mimarisinde Temel Transfer Öğrenme Yöntemleri Arasındaki Farklar</figcaption></figure><p><strong>BERT’i bu noktada başarılı kılan şey, eksik bir kelimenin tahmin edilmesinde tüm cümledeki bilgiden faydalanıyor olmasıdır!</strong></p><p>ELMo ve ULMFiT gibi çift yönlü LSTM kullanan modellerde, önceki ve sonraki belirteçleri aynı anda dikkate alınmaz.</p><p>Buna ek olarak BERT modelinde LSTM yerine 2017 yılının sonlarında yine Google araştırmacılarının tanıttığı ve büyük bir gelişmenin önünü açan Transformer kullanmaktadır. Ayrıntılı bilgi için Transformer mimarisini anlatan <a href="https://arxiv.org/abs/1706.03762">‘Attention Is All You Need’</a> makalesine göz atabilirsiniz 😊</p><h3>BERT Mimarisinde Biraz Daha Derine 💎</h3><p>Mimarinin genel yapısını biraz daha derinden incelersek ilk göze çapan özelliklerini aşağıdaki gibi sıralayabiliriz:</p><p>✅Kelimeler yerine kelime parçaları kullanılır(ör. Playing -&gt; play + ## ing).</p><p>✅Transformer mimarisini temel alır. Bu mimari tekrarlayan bağlantılar (recurrent connections) kullanmayan ve dizi (sequence) yerine dikkat (attention) kullanan bir modeldir.</p><p>✅Transformer birden fazla dikkat bloğundan oluşur. Her blok, girişi doğrusal katmanları kullanarak dönüştürür ve sıralamaya dikkat eder.</p><h4>📍Giriş Gösteriminin (Input Representation) Oluşturulması</h4><p>BERT <strong>simge gömmelerinin (token embeddings)</strong> yanı sıra, bir cümle içindeki kelimelerin konumunu ifade etmek için <strong>konumsal (positional)</strong> ve cümle çiftlerini girdi olarak alan görevlerde cümleler arasında ayrım yapılmasına yardımcı olmak için birinci ve ikinci cümle için benzersiz bir yerleştirme öğrenerek <strong>bölüm (segment)</strong> ek gömmelerini de giriş gösteriminde barındırır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/767/1*xGjA4unqU33UnLMHHcXjLg.png" /><figcaption>BERT için Girdi Gösteriminin Oluşturulması</figcaption></figure><h4>📍ÖN-EĞİTİM GÖREVLERİ (PRE-TRAINING TASKS)</h4><p><strong>✨MASKELENMİŞ DİL MODELİ EĞİTİMİ (MASKED LANGUAGE MODEL TRAINING)</strong></p><p>Maskelenmiş dil modeli eğitimi, cümle içerisindeki bir kelimenin [MASK] etiketiyle kapatılıp, dil modelinin bu maskelenmiş olan kelimeyi tespit etmeye çalışması olarak düşünülebilir. Göreceli olarak kolay görünen bu görevle ilgili dikkat edilmesi gereken bazı incelikler elbette ki mevcut 😊</p><p>En basit yaklaşımla belli bir yüzdelik diliminde (%15) kelimelerin rastgele seçilerek maskelenmesi gerçekleştirilmiş ve modelin bu kelimeleri tahmin etmesi sağlanmak istenmiştir. Fakat bu yaklaşım modelin yalnızca [MASK] etiketi bulunan alanlara yoğunlaşılması sonucunu doğuracağından dolayı araştırmacılar işi biraz daha zorlu kılmışlardır.</p><p>🔸 %80 oranında seçilen kelimeler [MASK] etiketi ile yer değiştirilmiştir, örneğin : my dog is hairy ➡ my dog is [MASK]</p><p>🔸 %10 oranında seçilen kelimeler rastgele bir kelime ile yer değiştirilmiştir, örneğin : my dog is hairy ➡ my dog is apple</p><p>🔸 %10 oranında seçilen kelimeler değiştirilmeden aynen bırakılmıştır, örneğin : my dog is hairy ➡ my dog is hairy</p><p>Transformer kodlayıcı, hangi kelimelerin tahmin edileceğini veya hangilerinin rastgele kelimelerle değiştirildiğini bilmediğinden, her girdi belirtecinin (input token) dağıtımsal bağlamsal gösterimini elinde bulundurmak zorunda kalır.</p><p><strong>✨ SONRAKİ CÜMLE TAHMİNİ EĞİTİMİ (NEXT SENTENCE PREDICTION TRAINING)</strong></p><p>İki cümle arasında ilişkilerin anlaşılması ihtiyacı bulunan soru cevaplama gibi görevler için ise maskelenmiş dil modeli haricinde sonraki cümleyi tahminleme de BERT’in bir diğer ön-eğitim görevidir.</p><p>Girdi olarak iki cümle alınırken, BERT cümleleri özel bir [SEP] belirteci ile ayırır. Eğitim sırasında, BERT iki cümle ile beslenir ve bu esnada verilerin,</p><p>🔸 %50&#39;sinde ikinci cümle, birinciden sonra gelirken</p><p>🔸diğer %50&#39;si ise ikinci cümle rastgele seçilmiş bir cümledir.</p><p>Bu noktada BERT’in üstlendiği görev, ikinci cümlenin rastgele olup/olmadığını tespit etmektir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/395/1*hq8TCYQTgZ6e3NCg_Ux8_Q.png" /><figcaption>Sonraki Cümlenin Tahmini Görevi için Girdi Örneği</figcaption></figure><h4>📍İNCE AYAR (FINE TUNNING)</h4><p>BERT kodlayıcı bir gizli durum (hidden states) dizisi meydana getirir ve bilindiği üzere sınıflandırma görevlerinde bu dizinin tek bir vektöre indirgenmesi gerekmektedir.</p><p>Cümlenin gösterimini bir diziden tek bir vektöre indirgemek için maksimum/ortalama ortaklama (max/mean pooling) gibi klasik yolların haricinde dikkat mekanizması (attention) uygulamak da alternatif bir yoldur.</p><p>BERT araştırmacıları ise bu yöntemlerin haricinde daha basit bir yöntem olarak ilk token’e karşılık gelen gizli durumu almayı tercih etmişlerdir. Bu ortaklamayı gerçekleştirebilmek ve aynı zamanda cümlenin başlangıç token’ı da olabilecek bir [CLS] etiketi (“sınıflandırma (classification)” nın kısaltması olarak) yerleştirilir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/521/1*gxhC82byydOxak6DOa8B8g.png" /><figcaption><a href="http://mlexplained.com/2019/01/07/paper-dissected-bert-pre-training-of-deep-bidirectional-transformers-for-language-understanding-explained/">BERT’in nasıl çalıştığını gösteren temel bir kavramsal diyagram</a></figcaption></figure><h3>SONUÇLAR 🎯</h3><p>2018 yılında doğal dil işleme görevlerindeki başarımın dil modelleri yaklaşımıyla büyük bir gelişim sağladığı bir gerçek!</p><p>ELMo, ULMFIT ve OpenAI transform ile temel sayılabilecek hemen her dil görevinde state-of-the art da büyük bir sıçrayış yaşandı. BERT ise bu artışa bir yenisini daha ekledi.</p><p>11 doğal dil işleme görevinde test edilen BERT ile elde edilen başarıları özetlersek:</p><p>🔸The Stanford Question Answering Dataset (SQuAD 1.1) üzerinde soru cevaplama görevi için %93,1 F1 skoru elde ederek %91,2 ‘lik insan seviyesini aşmıştır.</p><p>🔸 GLUE veri kümesi üzerinde farklı 8 görevin her birinde %4,7 ila %6,7 arasında başarım oranında artış sağlanmıştır. Bu görevlerin ayrıntılarına <a href="https://arxiv.org/pdf/1810.04805.pdf">BERT’in tanıtıldığı ilgili makaleden</a> ulaşabilirsiniz.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/770/1*G7DzRsIDwrPXEVDeG6Un7w.png" /><figcaption>GLUE değerlendirme sunucusu tarafından puanlanan GLUE Test sonuçları</figcaption></figure><p>🔸 CoNLL 2003 veri kümesi ile Adlandırılmış Varlık Tanıma (Named Entity Recognition) görevinde 0.2&#39;lik bir başarım artışı görülmüştür.</p><p>🔸 Situations With Adversarial Generations (SWAG) veri kümesinde, verilen bir cümleden sonra gelebilecek (4 cümle arasından) en uygun cümlenin seçilmesi görevinde BERT, kendinden önce en yüksek başarım sağlayan ESIM+ELMo modelinden %27,1 daha yüksek bir başarım elde etmiştir.</p><p><strong>⭐ Türkçe OSCAR korpus, Wikipedia dump, OPUS korpora ve Prof.Dr. Kemal Oflazer hocanın paylaştığı bir korpusun birleşimi ile oluşturulan, yaklaşık 35GB ve 44,04,976,662 jeton içeren bir korpusla eğitilen </strong><a href="https://github.com/stefan-it/turkish-bert"><strong>BERTürk </strong></a><strong>yayınlandı ❗❗</strong></p><p>Doğal dil işleme alanında bakış açısının değişmesine ve birçok görevde elde edilen başarımların oldukça yükselmesine, en önemlisi ise her görev için büyük eğitim kümesi ihtiyaçlarının azalmasına yol açan dil modellerinden biri olan BERT’in tanıtıldığı bu blog yazısında Google araştırmacıları tarafından kaleme alınan <a href="https://arxiv.org/pdf/1810.04805.pdf"><strong>“BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding”</strong></a><strong> </strong>makalesi referans alınmıştır.</p><p>Ayrıca kullanılan kaynaklar aşağıda listelenmiştir:</p><p>⭐<strong> Google Research </strong><a href="https://github.com/google-research/bert"><strong>GitHub Reposu</strong></a></p><p>⭐<strong>Google AI Blog :</strong> <a href="http://ai.googleblog.com/2018/11/open-sourcing-bert-state-of-art-pre.html">Open Sourcing BERT: State-of-the-Art Pre-training for Natural Language Processing</a></p><p>⭐ Carnegie Mellon University’de master öğrencisi olan Keita Kurita tarafından yapılan inceleme <a href="http://mlexplained.com/2019/01/07/paper-dissected-bert-pre-training-of-deep-bidirectional-transformers-for-language-understanding-explained/"><strong>blog postu</strong></a></p><p>⭐DeepMind araştırmacılarından Sebastian Ruder tarafından kaleme alınan dil modelleri inceleme<a href="http://ruder.io/nlp-imagenet/"> <strong>blog postu</strong></a></p><p>🍀 <strong>Yazı hakkında görüşleriniz, önerileriniz ve katkılarınız için şimdiden teşekkürler! Keyifli okumalar </strong>☕</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=7cc37903b5d4" width="1" height="1" alt=""><hr><p><a href="https://medium.com/basakbuluz/susam-soka%C4%9F%C4%B1ndan-do%C4%9Fal-dil-i%CC%87%C5%9Flemeye-7cc37903b5d4">Susam Sokağı’ndan Doğal Dil İşlemeye 🌈</a> was originally published in <a href="https://medium.com/basakbuluz">Başak Buluz</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Hukuk için Yapay Zeka ‍⚖‍⚖️]]></title>
            <link>https://medium.com/basakbuluz/hukuk-i%C3%A7in-yapay-zeka-%EF%B8%8F-4df39e4d7042?source=rss----1c9dea6b94d9---4</link>
            <guid isPermaLink="false">https://medium.com/p/4df39e4d7042</guid>
            <category><![CDATA[nlp]]></category>
            <category><![CDATA[legaltech]]></category>
            <category><![CDATA[doğal-dil-işleme]]></category>
            <dc:creator><![CDATA[Başak Buluz Kömeçoğlu]]></dc:creator>
            <pubDate>Sun, 10 May 2020 12:57:54 GMT</pubDate>
            <atom:updated>2020-04-30T15:47:52.650Z</atom:updated>
            <content:encoded><![CDATA[<h4>Akıllı sistemlerin rutin yaşantımızın olmazsa olmaz demirbaşları haline gelmesi ile birlikte bilgisayar ve hukuk çalışma alanları belki de hiç olmadığı kadar birbirine yakınlaşmaya başladı!</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/605/1*ZRZfEUOIDMVXtREJZ2aBfg.png" /><figcaption><a href="https://balkantimes.press/wp-content/uploads/2020/01/The-Future-of-Lawyers-Legal-Tech-AI-Big-Data-And-Online-Courts.jpg">Resim Kaynağı</a></figcaption></figure><p>Kullandığımız bu sistemlerin canlıların hayatları üzerinde etkilerinin iyiden iyiye hissedilir olması ile birlikte; gerek doğacak zafiyetlerin hukuk sistemleri içerisindeki yerlerinin belirlenmesinde, gerekse hukuk sistemlerinde fazlaca zaman/iş gücü ihtiyacı duyulan süreçlerin kolaylaştırılmasında kullanılabilecek akıllı sistemlerin tasarımında iki alanın araştırmacıları bir araya gelerek başarılı disiplinler arası çalışmalara imza atılmaktadır.</p><h3>⚖️Yapay Zeka için Hukuk</h3><p>Kullanım yaygınlaşması ile birlikte, sistemlerden doğan zafiyetler de dikkat çekici düzeye ulaşmış ve ‘Yapay Zeka için Hukuk’ konulu çalışmalar ulusal ve uluslararası platformlarda gündeme taşınmıştır.</p><p>Bu konuda ülkemizinde de 2019 yılı Aralık ayında <a href="https://www.linkedin.com/in/selin-%C3%A7etin-7a87aa133/">Av. Selin Çetin</a>’in editörlüğünü yürüttüğü, İstanbul, Ankara ve İzmir Baroları’ndan önemli hukukçular ve teknik tarafta <a href="https://medium.com/u/ed38bb866abe">Ayyüce Kızrak</a> ile birlikte destek verdiğimiz Türkiye’nin ilk <a href="https://www.istanbulbarosu.org.tr/files/docs/Yapay_Zeka_Caginda_Hukuk2019.pdf">“<strong><em>Yapay Zekâ Çağında Hukuk Raporu</em></strong>”</a> kaleme alınmıştır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/462/0*2SIfFy3aL5aNhHmG.JPG" /></figure><blockquote><strong>Büyük veri ve yapay zekâ teknolojilerinin hukuki yönü tartışıla dursun, biz bu kez diğer perspektiften bakalım!</strong></blockquote><h3>🤖 <strong>‘Hukuk için Yapay Zeka’</strong></h3><p>1950 yılında Alan Turing tarafından yayınlanan “Computing Machinery and Intelligence” isimli makalede “Can machines think?” sorusu ile başladığı varsayılan yapay zeka konulu tartışmalar, hukuk alanında aslında bu sorudan yaklaşık 277 yıl öncesinde tartışılmaya başlanmıştır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/382/1*fTPlzD-oC0OeEgBENSMkGg.png" /><figcaption><a href="http://bilgikapsulu.com/gottfried-wilhem-leibniz/">Resim Kaynağı</a></figcaption></figure><p>Dört işlem yapabilen makine icadıyla, adı matematik alanında sıkça duyulan ancak aslında hukuk mezunu olan <strong>Gottfried Wilhelm Leibniz</strong>, muhakemelerin matematiksel olarak hesaplanabilmesinin kişilerarası anlaşmazlıkların çözümü olduğunu savunarak, bugün hukuki yönünü tartıştığımız “robot yargıç” yapısının hayalini 17. yüzyılda kurmaya başlamıştır.</p><p>Sanılandan çok daha öncesine dayanan bilişim ve hukuk alanı arasındaki sıkı bağ, bugünde dikkat çekici uygulamalarla bir anlamda çalışma alanlarına yön vermeye devam ediyor!</p><p>Sıklıkla metin verileri üzerinde çalışmayı gerektiren hukuk alanı, büyük çoğunlukta YZ’nın güçlü bir çalışma alanı olan Doğal Dil İşleme’nin (DDİ -Natural Language Processing (NLP)) konusu dahilinde ele alınmaktadır. Yakın vadede iş rutinlerinde kolaylık sağlayan ve meslek süreçlerini büyük ölçüde değiştiren yardımcı uygulamaları ile alana katkı sağlarken, uzun vadede yargı süreçlerinin karar destek sistemleri ile destekleneceği öngörülmektedir.</p><p>9. Uluslararası Suç ve Ceza Film Festivali kapsamında <a href="https://www.linkedin.com/in/zafer-i%C3%A7er-7688a7192/">Dr. Öğretim Üyesi Zafer İçer </a>ile birlikte <a href="https://www.academia.edu/41074795/YAPAY_ZEK%C3%82NIN_CEZA_MUHAKEMES%C4%B0NDEK%C4%B0_ROL%C3%9C_VE_GELECE%C4%9E%C4%B0">“ Yapay Zekanın Ceza Muhakemesindeki Rolü ve Geleceği” </a>isimli uluslararası tebliğ için derleyerek sunduğumuz, bu öngörüyü destekleyen uygulamaları buyrun beraber inceleyelim 🤗</p><h4><strong>💎 Vekillik Görevinin Özenli Şekilde İfasına Yönelik Yardımcı Uygulamalar (Due Diligence)</strong></h4><p>Avukatların görevini dikkat ve özenle yerine getirme yükümlülüğü kapsamında değerlendirilen somut görünüm biçimleri, avukatın mevzuatı bilme ve değişiklikleri takip etmekten, dosya tutma ve belgeleri dosyalama yükümlülüklerine kadar birçok özen unsurunu kapsar.</p><p>Bu yükümlülüklerin yerine getirilmesine yönelik DDİ temelli yardımcı uygulamalardan bazılarını sıralamak gerekirse;</p><ul><li><a href="https://kirasystems.com/"><strong>Kira Systems</strong></a><strong> : </strong>Sözleşmelerde yer alan kilit sorunların ve bilgilerin otomatik tespitinin yapılması, davayı takip eden ekibin tüm inceleme sürecinin baştan sona düzenlenmesi, yürütülen dava süreçlerinin özetinin bir bakışta sunulması gibi birçok işlevi içinde barındıran ve ilk kez kullananlar için %40, deneyimli kullanıcılar için %90 oranında zaman tasarrufu sağlayan bir yazılımdır.</li><li><a href="https://www.leverton.ai/%20("><strong>Leverton :</strong></a><strong> </strong>Kira Systems’e oranla daha kısıtlı uygulama alanı sunan, ancak farklı formatlarda bulunan hukuki metinlerden bilgilerin otomatik olarak çıkarılması, yapılandırılmış veriye dönüştürülmesi ve dolayısıyla kolaylıkla raporlama yapılabilmesi konusunda büyük kolaylık sağlayan bu uygulama, bulut tabanlı yapısı ile 20’den fazla farklı dil için yüksek hızda işlem yapabilmektedir.</li><li><a href="https://www.bloomberg.com/news/articles/2017-02-28/jpmorgan-marshals-an-army-of-developers-to-automate-high-finance"><strong>eBrevia :</strong></a><strong> </strong>2017 yılının Ağustos ayı itibari ile Asya, Avrupa ve Kuzey Amerika’daki 11 hukuk bürosunda kullanıma sunulan 50&#39;den fazla belgeyi bir dakikadan daha az bir sürede, manuel inceleme sürecinden %10 daha doğru analiz edebildiği iddia edilen <em>eBrevia</em>, sözleşmelerden bilgi çıkarımı ve sözleşmelerin analizi konusunda avukatlara yardımcı olmaktadır.</li><li><strong>Coin : </strong>Avukatların ancak 360.000 saatte gerçekleştirebilmesi mümkün olan iş yükünü saniyeler içinde tamamlama kapasitesiyle adını duyuran <em>COIN</em> isimli yazılım, bankaların yılda ortalama 12.000’in üzerinde işlediği kredi sözleşmelerinin insana oranla daha doğru ve hızlı şekilde işlenmesini sağlamak üzere tasarlanmıştır.</li><li><a href="https://www.lawgeex.com/resources/aivslawyer/"><strong>LawGeex :</strong></a><strong> </strong>Standford Üniversitesi ve Duke Kaliforniya Üniversitesi’nden 20 hukuk profesörüne karşı, sözleşmelerdeki 30 hukuki sorunun tespit edilmesi görevi için karşı karşıya gelen <em>LawGeex</em> isimli YZ yazılımı, avukatların 4 saat harcayarak %85 doğruluk oranında tespit edebildiği hukuki sorunları yalnızca 26 dakikada %95 doğruluk oranı ile tespit edebilmiştir.</li><li><strong>ROSS Intelligence : </strong>Amerika’nın en büyük dolandırıcılık davası olan Bernie Madoff davasında kısmen kullanıldığı bilinen <em>ROSS Intelligence</em>, doğal dilde sorulan hukuki sorulara milyarlarca belge arasından ilgili kaynakları bularak hızlı öngörü sağlanmasına olanak tanımaktadır.</li></ul><h4>💡 <strong>Tahmin Teknolojisi</strong></h4><p>Dava sonucunun öngörülmesi, özellikle dava stratejilerinin belirlenmesi konusunda yol gösterici bir rehber niteliğindedir. Bu öngörüye sahip olabilmek, uzun yıllara dayanan mesleki deneyim gerektirir. İhtiyaç duyulan bu deneyim YZ teknolojisi çerçevesinde verilerden elde edilebilmektedir.</p><p>Tahmin teknolojisi kapsamına giren birçok uygulamanın yanında, akademik çalışmalarda mevcuttur.</p><ul><li>2004 yılında Washington Üniversitesi’nden bir grup profesör, 2002 yılında görülen 628 dava için verilen Yüksek Mahkeme kararlarını tahmin etmek üzere geliştirdikleri algoritma ile uzmanların %59 oranında doğru tahmin ettiği dava sonucuna karşın %75 doğruluk oranı ile uzmanları geride bırakan bir başarıya erişmişlerdir.</li><li>2017 yılında gerçekleştirilen bir diğer çalışmada ise, 1816–2015 yılları arasındaki ABD Yüksek Mahkemesi tarafından verilen 240.000’den fazla yargıç oyu (justice votes) ve 28.000 dava sonucu tahmin edilmeye çalışılmıştır. Dava sonucu tahmininde %70,2 ve yargıç oyu tahmininde ise %71,9 oranında başarılı sağlanmıştır.</li><li>Avrupa İnsan Hakları Mahkemesi tarafından yargılanan davaların yalnızca metin içeriğine dayalı olarak, insan hakları sözleşmesinin bir maddesinin ihlal edilip edilmediğine dair ikili bir sınıflandırma yapılması üzerinde durulmuştur. Bir metin sınıflandırma örneği olan bu çalışmada %79 oranında yüksek bir başarım elde edilmiştir.</li><li><a href="https://intraspexion.com/"><strong>Intraspexion :</strong></a><strong> </strong>şirketlere yönelik açılan davaların azaltılmasına ve mümkün olduğunca engellenmesine yönelik geliştirilen ve e-postaların işlenmesi yoluyla risk taşıyan e-postaların otomatik belirlenerek kurumun hukuk işleri çalışanları tarafından önleyici faaliyetlerde bulunmasını sağlayan <em>Intraspexion</em> isimli yazılımdır<a href="#_ftn1">[1]</a>. Bu yazılım sayesinde kurumların hukuk danışmanlarının incelemek ve risk faktörü taşıyıp taşımadığını belirlemek durumunda olduğu yaklaşık 93.023 e-posta yerine, bu sayı 117’e kadar düşürülmektedir.</li><li><a href="http://ravellaw.com/"><strong>Ravel Law :</strong></a><strong> </strong>Hakim kararının öngörülmesi, dava dosyasına ilişkin kanun maddelerinin otomatikman belirlenmesi gibi dava stratejisinin oluşturulmasında avukatlara büyük yardımı dokunan bir yazılım olan <em>Ravel Law</em> ise 2012 yılında Standford Üniversitesi Hukuk ve Bilgisayar Bilimleri ekiplerinin bir araya gelmesi ile geliştirilmiştir.</li><li><a href="https://lexmachina.com/"><strong>Lex Machine :</strong></a><strong> </strong>İlk aşamada fikri mülkiyet konusuna odaklanan <em>Lex Machine</em>, 32 milyondan fazla Federal US Docket girdisinin temizlenmesi, etiketlenmesi ve işlenmesi ile eğitilen bir hukuk analitiği platformudur. Bu platform hakim ve mahkemelerin analiz edilmesine, muhalif avukatın daha önceki tecrübelerinin raporlanmasına, dava sürecindeki her bir adımın tahmini olarak tamamlanma süresinin çıkartılmasına, davayı kazanmaya yönelik stratejinin önerilmesine olanak sağlayan ve bu işlemlerin hemen hepsini dakikalar içerisinde tamamlayan, avukatlar için rehber niteliğinde bir DDİ uygulamasıdır.</li><li><a href="https://premonition.ai/"><strong>Premonition: </strong></a>Dünyanın en büyük dava veritabanına sahip olduğu iddia edilen <em>Premonition</em> yazılımı ise davanın kazanılabilme oranını, dava süresini ve türünü, hakim ile eşleştirmesini analiz ederek bir avukatın başarısını ön görebileceğini iddia etmektedir.</li></ul><h4>🔎 <strong>Hukuksal Analitik</strong></h4><p>Hukuksal analitik, avukatların daha önceki dava kazanma/kaybetme geçmişine, önceki emsal kararlara ve hakimin geçmişine dayanarak dava stratejisi hazırlığında kullanılabilecek veri noktalarının belirlenmesini ifade eder. Bu görev için kullanılan uygulamalar genellikle tahminleme teknolojisi için geliştirilen yazılımların içerisindeki modüller aracılığı ile gerçekleştirilir. <em>Lex Machina </em>ve<em> Ravel Law</em> bu amaçla kullanılan yazılımlar arasından en çok tercih edilenlerdendir.</p><h4>📄 <strong>Belge Otomasyonu</strong></h4><p>Veri girişi adımında doldurulması gereken belgeleri otomatik oluşturmak için oluşturulan yazılım şablonları hukuk firmaları tarafından sıkça kullanılan yazılımlardandır. İnsan gücü ile doldurulması ve hazırlanması günlerce sürebilecek bürokratik belgelendirme sürecinin hızlandırılması, iç paydaşların dava üzerinde daha yoğun zaman harcayabilmeleri için zaman kazancına dönüşmektedir. <a href="https://www.neotalogic.com/product/perfectnda/"><em>PerfectNDA</em></a> bu yazılımların başarılı örneklerinden biridir. Kullanıcıya yöneltilen sorular ve alınan cevaplara bağlı olarak, ihtiyaç duyulan belge şablonunu öneren <em>PerfectNDA </em>özellikle gizlilik sözleşmelerinin oluşturulması hususunda oldukça başarılı sonuçlar sunan bir belge otomasyon yazılımıdır.</p><h4>📁Fikri Mülkiyet</h4><p>Patentleri, telif haklarını ve ticari markaları güvence altına almak kadar patent, marka tescil başvurusu yapmak, telif sözleşmesi hazırlamak, son derece dikkat gerektiren, uzun zaman alan ve karmaşık araştırmaların yapılmasını icap eden ve çoğu zaman bir avukatın uzmanlığına ihtiyaç duyulan süreçlerdir. Bir yazılım kullanılmaksızın yapılan bir marka ve patent araştırması, elle yapılan yüzlerce aramanın sonucuna bakmayı gerektirir. İş gücü ve zaman karmaşıklığı oldukça yüksek olan bu işlemlerin daha hızlı bir şekilde gerçekleştirilebilmesi amacıyla geliştirilen bazı uygulamalar:</p><ul><li><a href="https://www.trademarknow.com/"><strong>TrademarkNow</strong></a><strong>: </strong>Bir avukat tarafından 1 haftada tamamlanabilecek tescilli ürünler ve ticari markalar araştırmasını 15 saniye gibi kısa bir sürede tamamlayabilme kapasitesine sahip olan <em>TrademarkNow</em> isimli yazılım, elde edilen sonuçları değerlendirerek alaka düzeyine göre sıralar ve kullanıcıya en ideal sonuç raporunu ulaştırır.</li><li><a href="https://www.anaqua.com/corporate/products/anaqua-studio"><strong>Anaqua Studio :</strong></a><strong> </strong>Patent başvurusunun yapılması esnasında yardımcı araç olarak kullanılan, bulut bilişim tabanlı olarak çalışan <em>Anaqua Studio</em>, TrademartNow benzeri işlevlerle zaman tasarrufu sağlamasının yanı sıra dokümandaki hataların otomatik tespit edilmesi ve biçimsel olarak düzenlemenin yapılması konularında da yardımcı olmaktadır.</li><li><a href="https://turbopatent.com/smartshell/"><strong>SmartShell :</strong></a><strong> </strong>Bu yazılım, gerçekleştirilen bir vaka çalışmasında bir patent başvurusu için iki yardımcı avukatın birlikte yürüttükleri belgenin alınması, bibliyografik veri araştırmasının tamamlanması, denetçinin incelemesinde ortaya çıkabilecek sorunların keşfedilmesi ve reddedilme olasılığının tespit edilmesi süreçlerinin tamamında toplamda %500 ile %800 daha yüksek verimle sonuç üretebilmiştir.</li></ul><p>🍀 5 temel başlık altında YZ temelli hukuk uygulamalarını derlemeye çalıştığım bu yazıyı sürekli güncel tutmaya çalışacağım, siz de değerli katkılarınızı sunmaktan lütfen çekinmeyin!</p><p>📌Son güncelleme tarihi : 04/05/2020</p><p>⭐Bu derlemin yapılmasında kaynak olarak faydalanılan, oldukça katkı sağlayan bazı güzel çalışmaları da buraya bırakıyorum, ilginizi çekerse onlara da göz atmayı ihmal etmeyin ✌🏻</p><ul><li><a href="https://interestingengineering.com/ai-vs-lawyers-the-future-of-artificial-intelligence-and-law">“AI vs. Lawyers: The Future of Artificial Intelligence and Law”</a> by <a href="https://medium.com/u/ed38bb866abe">Ayyüce Kızrak</a></li><li><a href="https://algorithmxlab.com/blog/top-10-applications-artificial-intelligence-in-law/">“Top 10 Applications of AI in Law<strong>”</strong></a><strong> </strong>by <a href="https://algorithmxlab.com/blog/author/kcsm_138/">KC Cheung</a></li><li><a href="https://emerj.com/ai-sector-overviews/ai-in-law-legal-practice-current-applications/">“AI in Law and Legal Practice — A Comprehensive View of 35 Current Applications”</a> by <a href="https://emerj.com/author/dan/">Daniel Faggella</a></li><li><a href="https://www.forbes.com/sites/robtoews/2019/12/19/ai-will-transform-the-field-of-law/#1dd7bc5e7f01">“AI Will Transform The Field Of Law”</a> by <a href="https://www.forbes.com/sites/robtoews/">Rob Toews</a></li></ul><p>Keyifli okumalar.. ☕</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=4df39e4d7042" width="1" height="1" alt=""><hr><p><a href="https://medium.com/basakbuluz/hukuk-i%C3%A7in-yapay-zeka-%EF%B8%8F-4df39e4d7042">Hukuk için Yapay Zeka 👨‍⚖👩🏻‍⚖️</a> was originally published in <a href="https://medium.com/basakbuluz">Başak Buluz</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
    </channel>
</rss>