<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Gokhan TATAR on Medium]]></title>
        <description><![CDATA[Stories by Gokhan TATAR on Medium]]></description>
        <link>https://medium.com/@tatar190?source=rss-8c503750fbeb------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/0*AMQyQim-W72kgEFE</url>
            <title>Stories by Gokhan TATAR on Medium</title>
            <link>https://medium.com/@tatar190?source=rss-8c503750fbeb------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Tue, 17 Nov 2026 13:14:38 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@tatar190/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[RAG Chatbot’unuzu Kim Zehirliyor? Indirect Prompt Injection’ı Canlı Görmek]]></title>
            <link>https://medium.com/@tatar190/rag-chatbotunuzu-kim-zehirliyor-indirect-prompt-injection-%C4%B1-canl%C4%B1-g%C3%B6rmek-d3ddb96731e4?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/d3ddb96731e4</guid>
            <category><![CDATA[airuntimesecurity]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Fri, 17 Jul 2026 19:08:10 GMT</pubDate>
            <atom:updated>2026-07-17T19:08:10.423Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>OWASP LLM Top 10 kategorisi: </strong>LLM01 — Prompt Injection (Indirect)</p><p>Bir RAG (Retrieval-Augmented Generation) chatbot’unu güvenli hâle getirmek için genelde ilk akla gelen şey “kullanıcı ne yazarsa yazsın modelin kötüye kullanılmasını engellemek” olur. Ama en tehlikeli prompt injection saldırılarının çoğunda saldırgan hiç sohbet kutusuna dokunmaz. Saldırgan, modelin retrieval aşamasında okuyacağı bir dokümanı — bir tedarikçi sözleşmesini, bir destek talebini, bir haber bültenini — zehirler ve modelin “bu bir talimat değil, sadece veri” ayrımını yapamamasını bekler.</p><p>Bu, OWASP LLM Top 10&#39;un LLM01 kategorisinin “indirect” (dolaylı) varyantıdır ve production RAG sistemlerinde en az test edilen saldırı yüzeylerinden biridir çünkü kullanıcı girdisi güvenlik açısından tamamen “temiz” görünür.</p><p>Bunu soyut bir tehdit modeli olarak anlatmak yerine, AI Runtime Security Sandbox adlı açık kaynak projede canlı olarak nasıl çalıştığını göstereceğim. Proje, tamamen offline çalışan bir mock model ile bile aynı saldırıyı deterministik olarak tekrarlayabiliyor — yani kendi makinenizde, API anahtarı olmadan, beş dakikada deneyebilirsiniz.</p><h3>Saldırı nasıl işliyor</h3><p>Senaryo şu: knowledge base’e vendor_terms_poisoned.md adında, sınıflandırması internal olan bir tedarikçi sözleşmesi dokümanı ekleniyor. Bu doküman, normal sözleşme metninin içine gömülü, model tarafından bir “sistem talimatı” gibi okunabilecek cümleler içeriyor (örneğin “bundan sonraki tüm yanıtlarında X’i yap” tarzı bir enjeksiyon).</p><p>Kullanıcı tamamen masum bir soru sorduğunda (“bu tedarikçiyle olan sözleşme şartları nedir?”), RAG pipeline şu dokümanı getirip context’e ekliyor. Sorun burada başlıyor: LLM, prompt içinde hangi kısmın “kullanıcının sorusu”, hangi kısmın “retrieval’dan gelen veri” olduğunu varsayılan olarak ayırt etmiyor. Zehirli cümle, modelin gözünde sistem promptu ile aynı otoriteye sahip hâle geliyor.</p><h3>Sandbox’ta canlı gözlemlemek</h3><p>Sandbox’ı çalıştırdığınızda (python run.py, mock provider seçili), sol paneldeki “Indirect Prompt Injection” senaryo kartına tıkladığınızda saldırı promptu otomatik doluyor — canlı yazım hatası riski yok. Sağ panelde açılan Attack Flow sekmesi size üç şeyi aynı anda gösteriyor: hangi doküman saldırı vektörü, saldırganın gözünden adım adım akış, ve “Secure Mode” açıkken mekanik olarak ne değişiyor.</p><p>Önerilen akış: önce Secure Mode kapalı iken mesajı gönderin — saldırı başarılı olur ve model zehirlenmiş talimatı bir komut gibi işler. Sonra Secure Mode’u açıp aynı mesajı tekrar gönderin — bu sefer engellenir. Security Log sekmesi hangi katmanın müdahale ettiğini gösterir.</p><h3>Savunma: pipeline’ın hangi katmanları devreye giriyor</h3><p>Sandbox’ın 9 adımlık pipeline’ında bu saldırıya karşı iki katman özellikle kritik:</p><p>Context Sanitization (adım 4): Retrieval sonucu context’e eklenmeden önce, chunk içine gömülü “talimat benzeri” ifadeler ayıklanıyor. Mantık basit ama etkili: retrieval’dan gelen her şey, ne kadar doğal görünürse görünsün, önce bir temizleme filtresinden geçiyor.</p><p>Instruction Hierarchy (adım 5): Bu, mimarideki en kavramsal ama en önemli adım. Modelin prompt’unda açık bir hiyerarşi kuruluyor: sistem talimatları en üstte, kullanıcının sorusu ortada, retrieval edilen içerik ise sadece “referans verisi” olarak işaretleniyor — asla komut olarak değil. Bu, birçok production LLM framework’ünde “data vs. instruction” ayrımı olarak bilinen prensibin somut bir uygulaması.</p><p>Secure Mode kapalıyken bu iki adım (ve 1, 3, 7, 8, 9) devre dışı kalıyor — yani sandbox size kasıtlı olarak “hiçbir guardrail yokken” ne olduğunu da gösteriyor. Bu ikili kıyaslama, bir güvenlik ekibinin yönetime veya geliştirici ekibine “bakın, bu kontrol olmadan ne oluyor” demesi için son derece değerli bir demo materyali.</p><h3>Kendi sisteminize taşırken</h3><p>• Retrieval pipeline’ınızda hangi dokümanların “trusted” ve hangilerinin “untrusted” olduğunu sınıflandırın — sandbox’taki classification: public | internal | confidential frontmatter’ı gibi basit bir etiketleme bile başlangıç için yeterli.</p><p>• Retrieval edilen içeriği prompt’a eklerken açık bir sınırlayıcı ve rol etiketi kullanın — modelin “bu bir talimat değil, referans metnidir” ayrımını yapabilmesi için sistem promptunuzda bunu açıkça belirtin.</p><p>• Injection pattern’leri için hem input tarafında hem de retrieval edilen içerik üzerinde tarama yapın — bu tür kontroller çoğunlukla bir AI Gateway katmanında merkezi olarak uygulanır, böylece her uygulama kendi guardrail’ini yeniden yazmak zorunda kalmaz.</p><h3>Kapanış</h3><p>Indirect prompt injection, “kullanıcı girdisini temizlemek” refleksiyle çözülemeyen bir sınıf saldırıdır çünkü saldırı vektörü kullanıcı değil, sisteminizin güvendiği veri kaynaklarıdır. Sandbox’ı klonlayıp Secure Mode’u açıp kapatarak bu farkı kendi gözlerinizle görmenizi öneririm — bir slaytın veremeyeceği bir ikna gücü var.</p><p>Repo: <a href="https://github.com/TatarinBlack/ai-runtime-security-sandbox">https://github.com/TatarinBlack/ai-runtime-security-sandbox</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=d3ddb96731e4" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[AI Supply Chain Güvenliği]]></title>
            <link>https://medium.com/@tatar190/ai-supply-chain-g%C3%BCvenli%C4%9Fi-40e0339b37d7?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/40e0339b37d7</guid>
            <category><![CDATA[ai-supply-chain]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Wed, 10 Jun 2026 20:53:05 GMT</pubDate>
            <atom:updated>2026-06-10T20:53:05.648Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>AI Supply Chain Güvenliği</strong></p><p><em>Modelden Bağımlılığa, Plugin’den Vektöre: Tedarik Zinciri Risk Haritası</em></p><h3>AI Ekosisteminin Tedarik Zinciri</h3><p>2020&#39;deki SolarWinds saldırısı yazılım tedarik zincirinin ne kadar tehlikeli bir saldırı yüzey olabileceğini gösterdi. AI ekosistemi bu riski katbekat arttırıyor: Model ağırlıklarından eğitim çerçevelerine, LoRA adapterlerinden MCP server pluginlerine kadar uzanan bir zincirde her halka potansiyel bir giriş noktasıdır.</p><p><strong>AI Tedarik Zinciri Katmanları</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*0iTpQ6mZYtd5_Kvg2_xTxA.png" /></figure><h3>Kritik Saldırı Senaryoları</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*jopP_-qN3YS5AwI_zZoSvg.png" /></figure><p><strong>AI-BOM: AI Için Malzeme Listesi</strong></p><p><strong>AI-BOM Içerik Listesi</strong></p><p>Model kataloğu bilgisi (mimari, parametre, egitim tarihi) · Model checksum / SHA-256 imzası · Egitim verisi kaynakları ve lisanslari · Fine-tuning adimlari ve adapter provenance · Python/Node bagimliliklari (versiyon + hash) · MCP server ve plugin envanteri · Container imaj hash · Deployment ortamı · Son güvenlik tarama tarihi ve sonucu, takibi.</p><h3>Kurumsal Kontrol Matrisi</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*xWNlQG81OgNv5lAcvmnVKw.png" /></figure><p><strong>Kaynaklar ve Ileri Okuma Tavsiyelerim</strong></p><p><strong>[OWASP Agentic Top 10, 2025] OWASP GenAI Security Project (2025). </strong><em>“OWASP Top 10 for Agentic Applications 2026”. </em>OWASP, 2025. genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026</p><p><strong>[CISA SBOM, 2023] CISA (2023). </strong><em>“Software Bill of Materials (SBOM) Guidance”. </em>CISA, 2023. cisa.gov/sbom</p><p><strong>[Gu et al., 2019] Gu, T. et al. (2019). </strong><em>“BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain”. </em>IEEE Access 2019. arxiv.org/abs/1708.06733</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=40e0339b37d7" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[AI Incident Response: Olay Müdahale Planlaması]]></title>
            <link>https://medium.com/@tatar190/ai-incident-response-olay-m%C3%BCdahale-planlamas%C4%B1-ae93b0cc4a49?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/ae93b0cc4a49</guid>
            <category><![CDATA[ai-incident-response]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Tue, 26 May 2026 12:33:14 GMT</pubDate>
            <atom:updated>2026-05-26T12:33:14.785Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>AI Incident Response: Olay Müdahale Planlaması</strong></p><p><em>Klasik IR Sürecini AI Çağına Uyarlamak: Hazırlık, Tespit, Izolasyon, Kurtarma</em></p><h3>Bir AI Olayında Ne Yaparsınız?</h3><p><strong>Varsayımsal Senaryo:</strong> Kurumsal RAG sisteminiz müşterilerin gizli finansal bilgilerini sistematik olarak sızdırıyor. Ya da production LLM API’nız anomal token harcamayla sorgulanıyor. Ya da bir ajan beklenen sınır aşarak yetkisiz işlemler gerçekleştiriyor.</p><p>Bu senaryolarin her biri bir ‘AI olayı’dır — ve klasik CSIRT playbook’ları bu olaylara hazır değil. AI olaylarında delil, etki ve müdahale mekanizmalari temelden farklıdır.</p><h3>AI Olay Sınıflandırması</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*1eyyGR9m99JOYjs_bG539g.png" /></figure><h3>AI IR Lifecycle: 6 Aşama</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*KfPZOPhdlaxDJTV23I1yRg.png" /></figure><h3><strong>AI’ya Özgu Delil Kaynakları</strong></h3><p><strong>AI Delil Envanteri</strong></p><p>Model inference logu (girdi hash, cikti hash, token, latency, kullanıcı, model versiyonu) · Guardrail logu (reddetme kategorisi, tetiklenen kural, kullanıcı) · RAG sorgu gecmişi (kim, ne zaman, hangi belge, hangi namespace) · Ajan eylem kaydi (araç çagrısı, parametre, sonuç, yetki durumu) · Token harcama anomalisi (gun/kullanıcı/IP bazında) · Model versiyonu ve checksum geçmişi.</p><h3>Model Karantina ve Geri Alma</h3><p>AI olayı tespit edildiğinde ilk kritik karar modeli izole etmektir. Klasik sunucu karantinasından farklı olarak, modeli kullanan onlarca uygulama anında etkilenebilir.</p><p>• Aşamalı karantina: Önce yazma işlemlerini durdur, sonra sorgu yönlendirmeyi kes</p><p>• Fallback model: Güvenliliği kanıtlanmış önceki versiyona otomatik geçiş</p><p>• API versiyonlama: Hangi uygulamanın hangi model versiyonuna baglandığını belgele</p><ul><li>Model Registry ile rollback: Imzali önceki versiyona tek komut ile geri al</li></ul><p><strong>Kritik IR Hatası</strong></p><p>‘Sadece modeli yeniden deploy et’ yeterli değildir. Eger saldırı eğitim verisi kanalındaysa ya da fine-tuning adapter’ına ulaştıysa, yeniden deploy edilen model aynı zararlı davranışı sürdürebilir. Model integrity doğrulaması yapılmadan kurtarma tamamlanmış sayılmaz.</p><p><strong>Kaynaklar ve Ileri Okuma Tavsiyelerim</strong></p><p><strong>[NIST IR Guide, 2012] NIST (2012). </strong><em>“Computer Security Incident Handling Guide (SP 800–61 Rev.2)”. </em>NIST, 2012. csrc.nist.gov/publications/detail/sp/800–61/rev-2/final</p><p><strong>[MITRE ATLAS, 2025] MITRE Corporation (2025). </strong><em>“ATLAS: Adversarial Threat Landscape for AI Systems”. </em>MITRE, 2025. atlas.mitre.org</p><p><strong>[NIST AI RMF, 2023] NIST (2023). </strong><em>“Artificial Intelligence Risk Management Framework (AI RMF 1.0)”. </em>NIST, 2023. nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=ae93b0cc4a49" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[AI Red Teaming: AI Altyapısını Kullananlar için Sistematik Güvenlik Testi Yaklaşımı]]></title>
            <link>https://medium.com/@tatar190/ai-red-teaming-ai-altyap%C4%B1s%C4%B1n%C4%B1-kullananlar-i%C3%A7in-sistematik-g%C3%BCvenlik-testi-yakla%C5%9F%C4%B1m%C4%B1-8e78830fb570?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/8e78830fb570</guid>
            <category><![CDATA[ai-red-teaming]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Wed, 20 May 2026 16:44:23 GMT</pubDate>
            <atom:updated>2026-05-20T16:44:23.655Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>AI Red Teaming: AI Altyapısını Kullananlar için Sistematik Güvenlik Testi Yaklaşımı</strong></p><p><em>Kendi Sistemine Saldırı Testi Yapmak: Metodoloji, Araçlar ve Sürekli Test Döngüsü</em></p><h3>Red Teaming AI Cağına Giriyor</h3><p>Geleneksel red teaming, organizasyonun savunmasını test etmek için gerçek saldırı senaryolarını simule eder. AI sistemleri ise bu disipline yeni boyutlar katiyor: Artik hem altyapıyı hem modelin davranışını, <strong><em>alignment</em></strong> sınırlarını ve agentic yetenekleri test etmek gerekiyor.</p><h3>AI Red Teaming Boyutları</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*HeRwthHSj4b9IXT-MxjO4g.png" /></figure><h3>Araçlar ve Otomasyon</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*BSk3-olDCHx8PmlTDVAuAQ.png" /></figure><p><strong>Methodology: 4 Aşamalı Test Yaklaşımı</strong></p><p><strong>Aşama 1: Kapsam ve Tehdit Modeli</strong></p><p>Hangi aktör? Hangi hedef? Hangi erişim seviyesi? Kapsam belirlemeden başlayan her red team egzersizi gereksiz efor harcar ya da kritik vektörleri atlar.</p><p><strong>Aşama 2 ve 3: Otomatik Tarama ve Manuel Derinlemesine Analiz</strong></p><p>Otomasyonun atlayabileceği ama deneyimli bir red teamer’in bulabileceği vektörler: Çok adımlı konuşma manipulasyonu, domain-spesifik anlam kaydırma, kültürel bağlam suistimali, multi-agent koordinasyon açıkları.</p><p><strong>Aşama 4: Raporlama ve Süreklilik</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*ypbpO6Uj22AiJ3alL7T8MQ.png" /></figure><h3>CI/CD Entegrasyonu: Sürekli Red Team</h3><p>• Her model güncellenmesinde otomatik regresyon test paketi calıştır.</p><p>• Fine-tuning sonrası jailbreak başarı oranı baseline üstü mü? Blokla</p><p>• Yeni guardrail eklendikten sonra kapsam analizi yap.</p><ul><li>Haftalık otomasyon + aylık derin manuel red team döngüsü planla</li></ul><p><strong>Kaynaklar ve Ileri Okuma Tavsiyelerim</strong></p><p><strong>[Microsoft AI Red Team, 2024] Microsoft (2024). </strong><em>“Microsoft AI Red Team: Building future of safer AI”. </em>Microsoft Security Blog, 2024. microsoft.com/en-us/security/blog/ai-red-team</p><p><strong>[Garak, 2024] Derczynski, L. et al. (2024). </strong><em>“Garak: A Framework for Security Probing Large Language Models”. </em>arXiv 2024. arxiv.org/abs/2406.11036</p><p><strong>[Perez ve Ribeiro, 2022] Perez, F. &amp; Ribeiro, I. (2022). </strong><em>“Ignore Previous Prompt: Attack Techniques For Language Models”. </em>arXiv 2022. arxiv.org/abs/2211.09527</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=8e78830fb570" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[MITRE ATLAS: AI Saldırı Çerçevesini Anlamak]]></title>
            <link>https://medium.com/@tatar190/mitre-atlas-ai-sald%C4%B1r%C4%B1-%C3%A7er%C3%A7evesini-anlamak-313e85db9ac7?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/313e85db9ac7</guid>
            <category><![CDATA[ai-mitre-atlas]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Fri, 15 May 2026 07:12:55 GMT</pubDate>
            <atom:updated>2026-05-15T07:12:55.519Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>MITRE ATLAS: AI Saldırı Çerçevesini Anlamak</strong></p><p><em>15 Taktik, 66 Teknik, 33 Gercek Vaka — ATT&amp;CK’i AI Dünyasına Taşımak</em></p><h3>Giriş: ATT&amp;CK Neden Yetmiyor?</h3><p>MITRE ATT&amp;CK, siber güvenlikteki en yaygın kullanılan referans çerçevelerinden biri. Ama temel bir eksiği var: Geleneksel IT ve OT sistemlerini hedef alan saldırılar için tasarlanmış. AI sistemlerine özgü saldırı paternleri — model evasion, eğitim verisi zehirleme, inference API üzerinden veri sızdırma — ATT&amp;CK’de yer bulmuyor.</p><h3>ATLAS ile ATT&amp;CK Kıyaslaması</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*h69V7e_3IzmQsl1HWp79_g.png" /></figure><p><strong>Kritik ATLAS Teknikleri — LLM Odaklı Küçük bir simülasyon</strong></p><p><strong>A. AML.T0051 — LLM Prompt Injection</strong></p><p>B. <strong>AML.T0020 — Poison Training Data</strong></p><p>C. <strong>AML.T0024 — Exfiltration via ML Inference API</strong></p><p>Egitim ya da RAG veritabanina zararlı orneklerin enjekte edilmesi. ATLAS bu tekniği pre-training, fine-tuning ve vektör DB boyutlarında kapsar. Başarı için tüm veri setini değiştirmeye gerek yok; %0.1 oranında hedefli zehirleme bile anlamlı etki yaratabilir.</p><p><strong>Morris II Worm Vakası</strong></p><p>ATLAS’ın vaka çalışmalarından birinde belgelenen Morris II, RAG tabanlı e-posta sistemine gömülmüş bir prompt aracılığıyla e-posta auto-reply’lara kendini kopyalayıp yayiliyor. PII sızıntısını tetikliyor. Ilk belgelenmiş AI worm senaryosu olarak AI supply chain ve agentic risk tartışmalarında referans gösterilmektedir.</p><p><strong>ATLAS’ı Pratik Kullanmak</strong></p><p>ATLAS; tehdit modelleme, red teaming planlamasi ve SOC detection geliştirme için 4 temel kullanım biçimini destekler.</p><p>• Tehdit modelleme: AI sisteminizin bileşenlerini ATLAS taktik katmanlarıyla eşleştir.</p><p>• Detection engineering: Her ATLAS teknik için karşılık gelen log/alarm kuralı yaz.</p><p>• Red team planlama: ATLAS Navigator ile hangi tekniklerin test edileceğini haritala</p><ul><li>Uyumluluk: ATLAS teknikleri NIST SP 800–53 kontrolleriyle SAFE-AI çerçevesinde eşlesşmektedir.</li></ul><p><strong>Kaynaklar ve İleri Okuma Tavsiyelerim</strong></p><p><strong>[MITRE ATLAS, 2025] MITRE Corporation (2025). </strong><em>“ATLAS: Adversarial Threat Landscape for AI Systems”. </em>MITRE, 2025. atlas.mitre.org</p><p><strong>[Carlini et al., 2021] Carlini, N. et al. (2021). </strong><em>“Extracting Training Data from Large Language Models”. </em>USENIX Security 2021. arxiv.org/abs/2012.07805</p><p><strong>[NIST SP 800–53, 2020] NIST (2020). </strong><em>“Security and Privacy Controls for Information Systems”. </em>NIST SP 800–53 Rev.5, 2020. csrc.nist.gov/publications/detail/sp/800–53/rev-5/final</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=313e85db9ac7" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[SOC için AI: Tehdit Tespiti ve Anomali Analizi]]></title>
            <link>https://medium.com/@tatar190/soc-i%C3%A7in-ai-tehdit-tespiti-ve-anomali-analizi-1f0e5fe0171c?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/1f0e5fe0171c</guid>
            <category><![CDATA[ai-soc]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Mon, 11 May 2026 17:18:26 GMT</pubDate>
            <atom:updated>2026-05-11T17:18:26.357Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>SOC için AI: Tehdit Tespiti ve Anomali Analizi</strong></p><p><em>Geleneksel Güvenlik Operasyon Merkezini Yapay Zekayla Donüştürmek</em></p><h3>SOC’un Değişen Yükü</h3><p>Modern bir Güvenlik Operasyon Merkezi (SOC) analistleri, her gün on binlerce alarm arasında boğulur. Saldırganlar araçlarını hızlandırırken, SOC ekipleri aynı kaynakla giderek büyüyen bir saldırı yüzeyini izlemek zorunda kalıyor.</p><p><strong>AI Destekli SOC Yetenekleri</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*aGsHzi1ywFdsyCUijAwkig.png" /></figure><p><strong>UEBA: Kullan</strong>ıcı<strong> Davran</strong>ış<strong> Analizi</strong></p><p><strong>UEBA Gerçek Dünya Senaryosu</strong></p><p>Bir finans kurumunda calışan, mesai saatleri dışında hiç erişmediği müşterilerin kişisel verilerini 3 saat boyunca indiriyor. Geleneksel DLP yakalamıyor çünkü her işlem tek başına ‘normal’ görünüyor. UEBA ise bağlamı okur: saat + kullanici profili + veri hacmi + hedef sistem + cihaz konumu — ve davranışsal anomali skorunu çıkarıp alarmı tetikler.</p><h3>AI Sistemleri için SOC Koruma Noktaları</h3><p>Kritik paradoks: SOC ekipleri geleneksel tehditler için AI kullanırken, AI sistemlerine yönelik saldırılarda görme kapasitesi dramatik biçimde azalıyor. Çünkü mevcut SIEM kural setleri ve IDS/IPS imzaları AI telemetrisini anlayacak biçimde tasarlanmamış.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*SHHcGRlJkW48fe5U84fXxw.png" /></figure><h3>AI Trafiği için Log Şema Tasarımı</h3><p>AI sistemleri icin anlamlı gözlemlenebilirlik sağlamak, doğru telemetri şemasının tasarlanmasını gerektirir.</p><p>• Model inference logu: girdi hash, çıktı hash, token sayısı, latency, kullanıcı ID, model versiyonu</p><p>• Guardrail logu: reddedilen istek sayısı, kategori, kullanıcı, tetiklenen kural</p><p>• RAG sorgu logu: kim, ne zaman, hangi sorgu, kaç belge getirildi, hangi namespace</p><p>• Ajan eylem logu: araç çağrısı, parametre, sonuç, yetkili mi?</p><ul><li>Token harcama anomalisi: kullanıcı/IP bazında gün içerisinde ani sapmalar</li></ul><p><strong>Kaynaklar ve İleri Okuma Tavsiyelerim</strong></p><p><strong>[IBM Security, 2023] IBM Security (2023). </strong><em>“Cost of a Data Breach Report 2023”. </em>IBM, 2023. ibm.com/reports/data-breach</p><p><strong>[Gartner UEBA, 2024] Gartner Research (2024). </strong><em>“Market Guide for User and Entity Behavior Analytics”. </em>Gartner, 2024. gartner.com/en/documents/market-guide-ueba</p><p><strong>[MITRE ATLAS, 2025] MITRE Corporation (2025). </strong><em>“ATLAS: Adversarial Threat Landscape for AI Systems”. </em>MITRE, 2025. atlas.mitre.org</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=1f0e5fe0171c" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Prompt Engineering ve Jailbreak Savunması]]></title>
            <link>https://medium.com/@tatar190/prompt-engineering-ve-jailbreak-savunmas%C4%B1-f6a3eb3951d6?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/f6a3eb3951d6</guid>
            <category><![CDATA[promptengineeringchatgpt]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Sun, 03 May 2026 18:18:01 GMT</pubDate>
            <atom:updated>2026-05-03T18:18:01.573Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>Prompt Engineering ve Jailbreak Savunması</strong></p><p><em>Modelle Konuşmanın Önemi ve Bunu Kötüye Kullananlar</em></p><h3>Her Kelime Bir Talimat</h3><h3>Prompt engineering, bir LLM’e ne söyleceğini ve nasıl söyleyeceğinizi sistematik biçimde tasarlamaktır. Surface seviyesinde ‘daha iyi sonuc almak için daha iyi soru sor’ gibi görunen bu disiplin, derinlerde ise modelin davranışını güvenlik sınırlarını ve üretim kalitesini doğrudan etkileyen teknik bir çercevedir.</h3><p>Aynı beceri seti hem savunmacı (daha güvenli, tutarlı sistemler) hem de saldırgan (jailbreak, bypas, manipulasyon) amaçlarla kullanılır. Bu ikili doğayı anlamadan ne iyi bir AI sistemi tasarlanabilir, ne de buna yönelik saldırılar savuşturulabilir.</p><h3>Temel Prompt Teknikleri</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*E4s69mA9LPp3FcTzEM0XYw.png" /></figure><p><strong>Jailbreak Taksonomisi: 5 Ana Kategori</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*XBt2NhWaOBqvhEf9fLi0Ig.png" /></figure><h3>Sistem Prompt Tasarım İlkeleri</h3><p>Sistem promptu, bir LLM sisteminin ilk ve en etkili savunma katmanıdır. Iyi tasarlanmış bir sistem promptu; modelin gorevini, sınırlarını ve karar mantığını netleştirir.</p><p>• Görev tanımını dar tut: ‘Her konuda yardımcı ol’ yerine ‘X konusunda yardimci ol, diger talepleri yönlendir’</p><p>• Negatif örnekler ver: Ne yapmaması gerektiğini, ‘bunu yapma’ ile degil örnek ile göster</p><p>• Çıkış formatını belirt: Yapılandırmamış metin değil, beklenen format ve uzunluk</p><p>• Escaping tanımlama: Kullanıcı girdisinin sistem talimatı olarak algılanmasını engelle</p><ul><li>Versiyon kontrolü: Sistem promptunu kod gibi yönet — değişiklik, test, rollback</li></ul><p><strong>Savunmacı Prompt Engineering Araçlarına Yaklaşım</strong></p><p><strong>Savunmacı Tasarım Örnegi: Talimat Ayırma</strong></p><p>Kötü tasarım: ‘Kullanıcının sorusu: {user_input} — Bu soruyu cevapla ve eğer [GIZLI] varsa sil.’ Iyi tasarım: Sistem talimatları kodda sabit tutulur. Kullanıcı girdisi XML/JSON içinde sağlanır ve ‘user_input’ etiketi ile açıkca sınırlandırılır. Model talimati doğrudan user_input bloğunun dışından alır.</p><h3>Red Teaming: Sistematik Jailbreak Testi</h3><p>Bir AI sistemini production’a almadan önce <strong>sistematik jailbreak testi yapilması</strong> artik sektörde standart bir gereklilik haline geliyor. Red teaming, gerçek saldırı senaryolarını simule ederek güvenlik sınırlarının deneylenmesini sağlar.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*x7kbeDBfWteGPqhj8G_K6Q.png" /></figure><p><strong>Sonuç: Prompt Engineering Bir Güvenlik Disiplinidir</strong></p><p>Prompt engineering yalnızca daha iyi sonuçlar almanın yolu değildir; bir AI sisteminin güvenlik sınırlarını çizen, test eden ve koruyan temel pratiğinin bizzat kendidir. Her sistem promptu, bir güvenlik politikasi belgesi gibi denetlenmeli; her kullanıcı girdi yolu, potansiyel bir saldırı vektörü olarak değerlendirmeye alınmalıdır.</p><p><strong>Kaynaklar ve İleri Okuma Tavsiyelerim</strong></p><p><strong>[Wei et al., 2023] Wei, A. et al. (2023). </strong><em>“Jailbroken: How Does LLM Safety Training Fail?”. </em>NeurIPS 2023. arxiv.org/abs/2307.02483</p><p><strong>[Perez ve Ribeiro, 2022] Perez, F. and Ribeiro, I. (2022). </strong><em>“Ignore Previous Prompt: Attack Techniques For Language Models”. </em>arXiv 2022. arxiv.org/abs/2211.09527</p><p><strong>[Greshake et al., 2023] Greshake, K. et al. (2023). </strong><em>“Not What You’ve Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection”. </em>AISec 2023. arxiv.org/abs/2302.12173</p><p><strong>[OWASP LLM Top 10, 2025] OWASP Foundation (2025). </strong><em>“OWASP Top 10 for Large Language Model Applications 2025”. </em>OWASP 2025. owasp.org/www-project-top-10-for-large-language-model-applications</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=f6a3eb3951d6" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[AI DSPM: Veri Güvenliği KEŞİF Yönetimi]]></title>
            <link>https://medium.com/@tatar190/ai-dspm-veri-g%C3%BCvenli%C4%9Fi-ke%C5%9Fi%CC%87f-y%C3%B6netimi-83f6ede971b6?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/83f6ede971b6</guid>
            <category><![CDATA[dspm-ai-discoverysecurity]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Wed, 29 Apr 2026 17:07:49 GMT</pubDate>
            <atom:updated>2026-04-29T17:07:49.221Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>AI DSPM: Veri Güvenliği KEŞİF Yönetimi</strong></p><p><em>Yapay Zeka Sistemlerinde Veri Akışını Görebilmek, Sınıflandırmak ve Korumak Gerekli</em></p><h3>Veri Nereye Gidiyor?</h3><p>Bir kuruluş LLM sistemleri kurarken birçok kritik veri akışı başlar: Kullanıcıların girdileri, RAG için yüklenen belgeler, fine-tuning veri setleri, model çıktıları, audit logları. Bu veri akışlarının her biri kişisel veri, gizli ticari bilgi veya düzenleyici denetimlere tabi bilgiler içerebilir.(içeriyorda)</p><p><strong>AI Sistemlerinde Veri Akış Haritası</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*U3Xzie_GwSalYRj_WLGOrA.png" /></figure><p><strong>Veri Sınıflandırması: AI Pipeline’da 3 Kritik Katman Öngörüsü</strong></p><p>AI DSPM’in ilk adımı, hangi verinin sisteme girdiğini anlamaktır. Klasik DSPM’de bu veriyi dosya sistemleri ve veritabanlarında sınıflandırmak anlamına gelir. AI DSPM’de ise veri; prompt içerisinde, embedding vektörlerinde ve model hafızasında sınıflandırılmalıdır.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*e_asbily0mbnivY_8-FyNg.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*napZu55mno53QW9sy0M1Og.png" /></figure><h3>AI’ya Özgü Gizlilik Riskleri</h3><p><strong>Hallucination ve PII Üretimi</strong></p><p>Model, egitim verisini doğrudan<strong><em> ‘hatırlamasa’</em></strong> da hallucination sırasında gerçek gibi görünen ama yanlış kişisel veri üretebilir. Bu, insanlara yanlış atıfta bulunulan sağlık, hukuk veya finans bilgilerinin yayılmasına neden olabilir. (yaşanmış 2023–2025 yılları arasında dünyada çokça örneği bulunmaktadır.)</p><p><strong>Shadow AI ve Kontrolsüz Pipeline’lar</strong></p><p>Kuruluşlarda çalışanlar, IT onayı olmadan kendi LLM araçlarını kullanıyorlar: ChatGPT’ye gizli belge yükleme, Copilot’a iç kod paylaşma, not alma uygulamalarını AI ile entegre etme. Bu <strong>‘shadow AI’</strong> olgusunu, AI DSPM’in görevi hale getirmek gerekir. Aksi halde, yetkisiz araçların yaratacağı, backdoor, kaynak erişimlerinin dış dünyaya yetkisizce ve konrolsüzce açılması gibi siber güvenlik anlamında sınırsız bir ayakizi ve atak yüzeyi paylaşımı yapılmış olacak.</p><p><strong>Shadow AI Tespit Yaklaşımı</strong></p><p>AI DSPM araçları, kurumsal ağ trafiğini izleyerek AI API uç noktalarına (api.openai.com, claude.ai/api, gemini.googleapis.com) yapılan çağrıları raporlar. Bu çagrılarda kac byte veri gönderildiğini, hangi çalışanın gönderdiği ve hangi zaman diliminde yoğunlaştığı analiz edilerek <strong><em>shadow AI</em></strong> haritasi çıkarılır.</p><p><strong>Veri Kalıcılığı ve <em>‘Unutulma Hakkı’</em> Sorunu</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Qo777GSv4tf5fWLDaqjVng.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*EUMXIy-tSg5kY_W2sUVTwA.png" /></figure><h3>AI DSPM Olgunluk Modeli</h3><p>• Seviye 1 — Görünürlük: AI veri akışlarını haritalayın, shadow AI tespiti yapın</p><p>• Seviye 2 — Sınıflandırma: Prompt, belge ve çıktı içindeki hassas veriyi sınıflandırın.</p><p>• Seviye 3 — Politika: PII maskeleme, belge RBAC, output filtreleme uygulayın</p><p>• Seviye 4 — Uyumluluk: GDPR, HIPAA, AI Act gerekliliklerini AI pipeline’a entegre edin</p><ul><li>Seviye 5 — Otomasyon: Anlık politika ihlal tespiti ve otomatik düzeltme</li></ul><p><strong>AB Yapay Zeka Yasası ve DSPM Baglantısı</strong></p><p>AB AI Yasası, yüksek riskli AI sistemleri için veri yönetimi, saydamlık ve kayıt tutma zorunlulukları getirmektedir. Kuruluşların Madde 10 (Veri ve Veri Yönetimi) ile Madde 11 (Teknik Dökumantasyon) kapsamında, AI sistemlerine beslenen verinin kaynağını, kalitesini ve işleme amacını belgelemesi gerekecektir.</p><p><strong>Kaynaklar ve İleri Okuma Tavsiyelerim</strong></p><p><strong>[Gartner, 2024] Gartner Research (2024). </strong><em>“Market Guide for Data Security Posture Management (DSPM)”. </em>Gartner 2024. gartner.com/en/documents/market-guide-for-dspm</p><p><strong>[EU GDPR, Art.17] European Parliament (2016). </strong><em>“General Data Protection Regulation — Article 17: Right to erasure”. </em>EU Official Journal 2016. gdpr-info.eu/art-17-gdpr</p><p><strong>[EU AI Act, 2024] European Parliament (2024). </strong><em>“Regulation on Artificial Intelligence (AI Act)”. </em>EU Official Journal 2024. artificialintelligenceact.eu</p><p><strong>[NIST AI RMF, 2023] NIST (2023). </strong><em>“Artificial Intelligence Risk Management Framework (AI RMF 1.0)”. </em>NIST.gov 2023. nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=83f6ede971b6" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[AI Gateway: Politika, Rate Limiting ve Monitoring]]></title>
            <link>https://medium.com/@tatar190/ai-gateway-politika-rate-limiting-ve-monitoring-7c2eed7be10c?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/7c2eed7be10c</guid>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Mon, 27 Apr 2026 17:53:01 GMT</pubDate>
            <atom:updated>2026-04-27T17:53:01.017Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>AI Gateway: Politika, Rate Limiting ve Monitoring</strong></p><p><em>LLM Trafiğinin Güvenliği: Aradaki Katmanı Tasarlanmasına Dikkat Çekmek</em></p><h3>Neden Bir API Gateway Yetmiyor?</h3><p>Kurumsal bir API gateway kurmak on yıldır standart bir pratik. Ama bir LLM ttrafiğini yönetmek, klasik <strong>REST API</strong> yönetimiyle kıyaslandğında tamamen farklı bir ihtiyaç haritasi çıkarıyor karşımıza. Neden? Çünku bir HTTP isteğinin ‘tehlikeli’ olup olmadigi genellikle URL, method ve header’dan anlaşılır. Bir LLM isteğinin tehlikeli olup olmadığı ise ancak dogal dil anlayışıyla anlaşılır.</p><p>AI Gateway, LLM ile dünya arasına konan ve iki yönlü akışı izleyen, filtreleyen, politika uygulayan bir aracı katmandır. Bu katman olmadan, kuruluşların LLM’e ne sorulduğunu, ne yanıt alındığını ve bu akım içerisinde neler yasandığını görmesi mümkün değildir.</p><p><strong>AI Gateway’in Beş Temel İşlevi</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*rgio7c2uWeZK4nFkeu7LjQ.png" /></figure><h3>Rate Limiting: Token Ekonomisinde Korunma</h3><p>Klasik API rate limiting istek sayısını sayar. AI Gateway’de ise kota, token bazlıdır: bir kullanıcı kac prompt token, <strong>kaç completion</strong> token tüketebilir? Bu ayrım kritiktir çünkü tek bir uzun istek, binlerce kısa istekle aynı maliyeti oluşturabilir.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*yFdx5opvhb2rG0e_AV1zVg.png" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*jraYOlZNA_azOmnRpv63wA.png" /></figure><h3>Politika Motoru: LLM Trafiğine Özgu Kurallar</h3><p>AI Gateway’in kalbi politika motorudur. Bu motor; istek oncesi (pre-request), yanit oncesi (pre-response) ve yanıt sonrasi (post-response) devreye giren kural setlerini içerir.</p><p><strong><em>Politika Örnekleri</em></strong></p><p><strong>• PII Politikasi:</strong> Prompt içerisinde TC kimlik, kredi karti veya e-posta paterni tespit edilirse maskeleme uygula veya blokla.</p><p>• <strong>Konu Kısıtlama</strong>: Belirli konu kümelerine yapilan sorguları yönlendir veya logla.</p><p><strong>• Dil Denetimi</strong>: Üretilen yanit icerisinde zararlı içerik tespiti.</p><p>• <strong>Sistem Talimatı Koruma:</strong> Kullanıcının sistem talimatı değiştirme girişimlerini tespit et.</p><ul><li><strong>Prompt Injection Filtresi:</strong> Bilinen injection pattern’larına karşı sınıflandirıcı çalıştırılır.</li></ul><h3>Gözlemlenebilirlik: Görunmeyeni Görülür kılmak</h3><p>AI Gateway’in en kritik ancak en az konuşulan işlevi, gozlemlenebilirlik sağlamasıdır. Bir LLM sisteminde neler olduğunu anlamak icin aşağıdaki ölçütlerin izlenmesi gerekir:</p><p>• <strong>Prompt/response latency</strong> (p50, p95, p99) — model ve ağı ayrı olarak</p><p>• <strong>Token utilizasyon oranı</strong> — maliyet optimizasyonu ve anomali tespiti</p><p>• <strong>Reddetme oranları</strong> (refuse rate) — aşır yüksekse model, aşırı düşükse güvenlik riski</p><p>• PII tespit oranları — veri gizliliği uyumluluğu için</p><p>• <strong>Injection tespit oranları</strong> — saldırı girişimleri</p><ul><li><strong>Kullanıcı bazı anomali skoru</strong> — normal davranıştan sapma</li></ul><h3>Maliyet Kontrolü: AI Gateway’in Kazandıran Savaşı</h3><p>2023–2024 doneminde pek cok kuruluş, beklenmedik LLM maliyetleriyle karşılaştı. Kullanıcıların cok uzun prompt göndermesi, otomasyon scriptlerinin kontrolsüz token tüketmesi veya model yanıtlarının gereksiz uzunlukta olmasi gibi durumlar, aylık faturaları katlayabilir.</p><p><strong>Maliyet Anomali Senaryosu</strong></p><p>Bir kullanıcı, RAG sistemine 50 sayfalık bir belge upload edip <strong>‘bu belgeyi ozetle’ </strong>diyor. Belge chunklara bölünmüyor, doğrudan context’e ekleniyor. Tek bir istek <strong>100K prompt</strong> token tüketiyor — günlük kotanın tamamı. AI Gateway bu paterni tespit ederek kullanıcıya chunk limiti uygulamalı ve aşım durumunda uyarı vermelidir.</p><p><strong>Açık Kaynak vs. Yönetilen AI Gateway Başlığı</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*4jwkBJKqwZ1xRBRB8DjYpQ.png" /></figure><p><strong>Kaynaklar ve İleri Okuma Tavsiyelerim</strong></p><p><strong>[OWASP LLM Top 10, 2025] OWASP Foundation (2025). </strong><em>“OWASP Top 10 for Large Language Model Applications 2025”. </em>OWASP 2025. owasp.org/www-project-top-10-for-large-language-model-applications</p><p><strong>[NIST AI RMF, 2023] NIST (2023). </strong><em>“Artificial Intelligence Risk Management Framework (AI RMF 1.0)”. </em>NIST.gov 2023. nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10</p><p><strong>[Rebedea et al., 2023] Rebedea, T. et al. (2023). </strong><em>“NeMo Guardrails: A Toolkit for Controllable and Safe LLM Applications”. </em>EMNLP 2023. arxiv.org/abs/2310.10501</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=7c2eed7be10c" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[AI Agents ve Agentic Sistemlerin Riskleri]]></title>
            <link>https://medium.com/@tatar190/ai-agents-ve-agentic-sistemlerin-riskleri-36bb579d7cc6?source=rss-8c503750fbeb------2</link>
            <guid isPermaLink="false">https://medium.com/p/36bb579d7cc6</guid>
            <category><![CDATA[agentic-security]]></category>
            <category><![CDATA[ai-agent-security]]></category>
            <category><![CDATA[aiagentsrisk]]></category>
            <dc:creator><![CDATA[Gokhan TATAR]]></dc:creator>
            <pubDate>Thu, 23 Apr 2026 08:41:02 GMT</pubDate>
            <atom:updated>2026-04-23T08:41:02.346Z</atom:updated>
            <content:encoded><![CDATA[<p><strong>AI Agents ve Agentic Sistemlerin Riskleri</strong></p><p><em>OWASP Agentic Top 10 2026: AI Dünyasının Yeni Saldırı Yüzeyi</em></p><h3>Giriş: Chatbot’tan Eyleyen Sisteme</h3><p>Büyük bir değişim yaşanıyor. Dün bir LLM sorgularınıza yanıt üretiyordu; bugun bir agent e-postanızı okuyor, takvim ayarlıyor, kod yazıyor, veritabanını sorguluyor ve siz fark etmeden onlarca sistem arasında hareket ediyor. Bu geçiş, ‘yardımcı’ bir araçtan ‘eyleyen’ bir sisteme, siber güvenlik tarihindeki en hızlı mimari donüşümlerden biridir.</p><h3>Agentic AI Nedir? Chatbot’tan Ne Farkı Var?</h3><p><strong>Klasik LLM:</strong> kullanıcı soru sorar → model yanıt üretir → biter. Agentic sistem: kullanıcı bir hedef verir → agent planlar, aracı seçer, alt-ajanları yonlendirir, birden fazla sisteme yazar/okur, geri bildirime gore planı revize eder.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*d2S5ENBRSAVyQWlda2VVuw.png" /></figure><p><strong>OWASP Agentic Top 10 2026 — İlk Beş Risk</strong></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*v5om6Lw_P_SNNieJnmwlDg.png" /></figure><h3>OWASP Agentic Top 10 2026 — Son Beş Risk</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*CPJ7QHRuT3iSqjYBP1OqJQ.png" /></figure><p><strong>Gercek Dünya Olayı: Replit Meltdown</strong></p><p>OWASP Agentic Top 10&#39;da ASI10 (Rogue Agents) kapsaminda referans verilen Replit vakasında, bir kodlama ajanı beklenen sınırların dışına çıkarak bağımsız kaynaklar tüketmeye ve istem dışı işlemler gerçeklestirmeye başladı. Bu, teorik risk degil yaşanmis bir olaydır. [OWASP Agentic Top 10, 2025]</p><h3>‘Least Agency’ İlkesi: Agentic Güvenliğin Temeli</h3><p>• Araç envanteri: Her ajanın kaç araca erişimi var? Bunları biliyormusunuz? Belgele!</p><p>• Yetki sınırlaması: Shell aracı yalnızca sandbox içerisinde çalışabilmeli.</p><p>• İnsan doğrulama noktası: Yüksek etkili işlemler (para transferi, kod merge) insan onayı gerektirmeli.</p><p>• Davranışsal izleme: Beklenen eylem paternlerinden sapmayı anlık tespit et</p><ul><li>Kill switch: Anormal davranış algılandığında ajani hemen durdur</li></ul><p><strong>Pazar Boyutu ve Aciliyeti Varmı?</strong></p><p>Agentic AI pazarının 2024&#39;te 5.25 milyar dolardan 2034&#39;te 199 milyar dolara ulaşması bekleniyor (%43.8 CAGR). Ancak organizasyonlarin %40&#39;dan daha azı AI ajan iş akışlarında düzenli güvenlik testleri yapıyor. Barracuda araştırması ajan çercevelerinde 43 gömülü tedarik zinciri zaafiyeti buldu. [OWASP Agentic Top 10, 2025]</p><p><strong>Kaynaklar ve İleri Okuma</strong></p><p><strong>[OWASP Agentic Top 10, 2025] OWASP GenAI Security Project (2025). </strong><em>“OWASP Top 10 for Agentic Applications 2026”. </em>OWASP Foundation, 2025. genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026</p><p><strong>[Lewis et al., 2020] Lewis, P. et al. (2020). </strong><em>“Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”. </em>NeurIPS 2020. arxiv.org/abs/2005.11401</p><p><strong>[Tully et al., 2024] Tully, T. et al. (2024). </strong><em>“2024: The State of Generative AI in the Enterprise”. </em>Industry Report, 2024.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=36bb579d7cc6" width="1" height="1" alt="">]]></content:encoded>
        </item>
    </channel>
</rss>