<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by F4tih YILMAZ on Medium]]></title>
        <description><![CDATA[Stories by F4tih YILMAZ on Medium]]></description>
        <link>https://medium.com/@f4tihyx?source=rss-60da602dbcc------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/1*RENQf1tPs41H4BW4NAOR2w.png</url>
            <title>Stories by F4tih YILMAZ on Medium</title>
            <link>https://medium.com/@f4tihyx?source=rss-60da602dbcc------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Sat, 21 Nov 2026 08:54:36 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@f4tihyx/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[Kubernetes Autoscaling’de Kör Nokta: CPU Metrikten KEDA ile Event-Driven Ölçekleme]]></title>
            <link>https://medium.com/teknasyon-engineering/kubernetes-autoscalingde-k%C3%B6r-nokta-cpu-metrikten-keda-ile-event-driven-%C3%B6l%C3%A7ekleme-792595660de1?source=rss-60da602dbcc------2</link>
            <guid isPermaLink="false">https://medium.com/p/792595660de1</guid>
            <category><![CDATA[keda]]></category>
            <category><![CDATA[kubernetes-cluster]]></category>
            <category><![CDATA[devops]]></category>
            <category><![CDATA[teknasyon]]></category>
            <dc:creator><![CDATA[F4tih YILMAZ]]></dc:creator>
            <pubDate>Tue, 25 Aug 2026 08:58:44 GMT</pubDate>
            <atom:updated>2026-08-25T08:58:44.419Z</atom:updated>
            <content:encoded><![CDATA[<p>Her sorgunun shard’ın tamamına dokunduğu, compute-ağırlıklı bir sorgu servisi işletiyoruz — ve CPU tabanlı HPA bu iş yükünü yönetemiyordu: pod’lar %30 CPU’dayken devriliyor, autoscaler ise %70 hedefini bekliyordu. Çözümü metrik değiştirmekte değil, ölçekleme kararının girdisini değiştirmekte bulduk: uygulamanın kendi saturation sinyalini üretip Prometheus üzerinden KEDA’ya bağladık, mevcut HPA’ları silmeden devraldık ve pod lifecycle’ını sık ölçeklenmeye dayanacak biçimde yeniden kurduk. Sonuç kendini rakamlarla anlatıyor: günlük 503 hatası 48.600&#39;den 53&#39;e indi (−%99,9), tepe node sayısı ~20&#39;den 9–13 bandına düştü, replica floor’larından ~48 vCPU geri kazanıldı ve istek başına compute maliyetini ~3×’e çıkaran bir ürün değişikliği aynı altyapıda ek kapasite gerektirmeden karşılandı. Bugün namespace’teki 10 autoscaler’ın 10&#39;u KEDA. Bu yazı, o geçişin kısa teknik özeti — neyin kırık olduğu, neyi değiştirdiğimiz ve karşılığında ne aldığımız.</p><h3>Sorun: %30 CPU’da devrilen servis</h3><p>İş yükü alışıldık bir web servisi değil: her sorgu, gizlilik gereği shard’ın tamamına dokunan homomorfik bir hesap çalıştırıyor. Ölçek: ~58 bin kayıtlık şifreli dataset, compute katmanında tepe ~700 sorgu/sn, edge’de ~7.500 istek/sn. Compute wait-bound olduğu için pod’lar CPU %20–45 bandındayken concurrency slot’ları doluyor ve fazlası 503 ile shed ediliyordu. %70 CPU hedefine kurulu HPA bu tabloyu tanım gereği hiç görmedi: saturation CPU’da değil, slot doluluğunda yaşanıyordu. Fatura, günde ~48.600 shed hatası ve “çare” olarak elle şişirilen replica floor’larıydı.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/914/1*m5dHGRBeZpR4GkMPNMej3g.png" /><figcaption>HPA’nın kör bölgesi: shed’ler %20–45 CPU bandında, hedef %70&#39;te.</figcaption></figure><h3>Karar sinyalini değiştirmek</h3><p>KEDA ölçekleme motorunu değiştirmez; HPA’ya external metric besleyerek kararın girdisini değiştirir. Bizim için doğru girdi zaten uygulamanın içindeydi: o an yürüyen compute sayısı. Dört trigger tek HPA’da birleşiyor, en yüksek öneri kazanıyor:</p><ul><li><strong>in-flight saturation (primary):</strong> pod başına hedef, concurrency slot’larının ~%75&#39;i — servis “doluyum” dediği anda scale-out başlar, CPU’nun haberi olmasa da.</li><li><strong>waiting queue (leading):</strong> saturation’a gidişi erken haber verir; threshold bilinçli yüksek — kısa tek-pod burst’leri soğuk pod çekmesin diye.</li><li><strong>cron (bilinen peak pencereleri):</strong> pod’lar yavaş ısındığı için reaktif ölçekleme keskin rampalara yetişmiyor; günlük tepeler önceden ölçekleniyor.</li><li><strong>cpu (güvenlik ağı):</strong> eski davranış, öngörülmeyen profiller için yerinde duruyor.</li></ul><p>Metric’in ölçüm yolu kısa ve her halkası bilinçli seçilmiş: uygulama saturation’ı iki gauge ile expose eder; Prometheus bunları PodMonitor üzerinden 15 saniyede bir scrape eder (scrapeTimeout 5s — scrape bayatlığı doğrudan scale-up gecikmesine eklenir); KEDA’nın prometheus scaler’ı basit bir sum() sorgusuyla okur ve HPA’ya taşır. Label seti bilinçli küçük tutuldu: bu sorgu her polling’de koşuyor, kardinalite doğrudan sorgu maliyeti. Prometheus artık ölçekleme yolunda kritik bir bağımlılık; bu yüzden fallback zorunlu: scaler üst üste cevapsız kalırsa mevcut replica sayısı korunur — kör scale-down yok.</p><h3>Reset’siz cutover</h3><p>En riskli an HPA değişimi: HPA silinip yeniden yaratılırsa canlı replica sayısı resetlenir ve tepe saatte bu bir olaydır. KEDA’nın az bilinen bir özelliği bunu tamamen ortadan kaldırıyor — mevcut HPA silinmek yerine adıyla devralınıyor (adopt):</p><pre>metadata:<br>  annotations:<br>    scaledobject.keda.sh/transfer-hpa-ownership: &quot;true&quot;<br>spec:<br>  advanced:<br>    horizontalPodAutoscalerConfig:<br>      name: &lt;service&gt;-hpa  # adopt the existing HPA; live replica count survives</pre><p>Devir sırasında tek bir pod hareket etmedi. Aynı disiplinin manifest ayağı: spec.replicas tüm manifest&#39;lerden çıkarıldı (alan artık autoscaler&#39;ın field ownership&#39;inde, CI server-side apply kullanıyor), grup başına değerler tek template + values dosyasından render ediliyor ve render script&#39;i replicas: sızıntısını ya da işlenmemiş placeholder&#39;ı gördüğü anda non-zero exit ile duruyor — bu hata sınıfları cluster&#39;a hiç ulaşmıyor.</p><h3>Servis tarafı: sinyal üretmeyen uygulama ölçeklenemez</h3><p>En büyük ders platformda değil uygulamada. Ölçekleme metric’i ana sunucuyla aynı handler havuzunu paylaşırken, servis doyduğunda scrape’ler de yanıtsız kalıyor ve Prometheus tam kriz anında up=0 yazıyordu — autoscaler’ı besleyen gözün saturation’da kör olması. /metrics bu yüzden compute ile hiçbir şey paylaşmayan ayrı bir porta, adanmış tek thread’e taşındı.</p><p>Pod lifecycle da sık ölçeklenmeye göre yeniden kuruldu: dataset’i soket bind’ından önce yükleyen worker’a 300 saniyelik startupProbe; yalnızca gerçek ilerleme durduğunda düşen compute-aware readiness (donan pod öldürülmeden trafikten çıkar); bilerek “dummy” bırakılan liveness (meşgul pod restart edilmez); preStop + terminationGracePeriod + maxSurge %50 / maxUnavailable %0 zinciriyle kayıpsız scale-down ve rollout. Replica floor’ları tahmin değil: her grubun minimum’u, ölçülmüş temiz kapasitesine sabitlendi.</p><p>Bu iyileştirmeler servislerin gerçek CPU ihtiyacını da netleştirdi: node pool bu ölçüme göre yeniden boyutlandırıldı ve makine tipi optimize edildi. vCPU başına −%38&#39;lik maliyet düşüşü iki katkının toplamıdır — makine tipi optimizasyonu ve KEDA’nın payı: o makineleri boş yere ayakta tutmamak.</p><h3>Sonuç: rakamlar</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/755/1*m1utDrqNMm5dA0L51864xg.png" /><figcaption>Günlük shed 503: 48.600 → 53 (log ölçek).</figcaption></figure><p>Geçişin görünen yüzü hata eğrisi: günlük ~48.600 shed 503&#39;ü, saturation sinyali ölçeklemeye bağlandıktan ve pod-içi limitler kalibre edildikten sonra ~53&#39;e indi — %0,001&#39;lik artık, tek tek pod’lara yığılan mikro-burst’lerden ibaret.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/746/1*vtrk-ICLPuJZqtEa_Pnd3A.png" /><figcaption>Tepe node sayısı ~20 → 9–13.</figcaption></figure><p>Verim tarafı: elle şişirilmiş floor’lar ölçülmüş kapasiteye çekilince ~48 vCPU geri döndü; node sayısı tepe ~20&#39;den 9–13 bandına indi.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/969/1*Qa2MCt1TfvUA_NxlUzVxfw.png" /><figcaption>Grup başına min/max replica bandı — KEDA gün boyu bu bant içinde salınıyor.</figcaption></figure><p>Elastikiyet artık günlük rutin: gruplar minReplicaCount ile maxReplicaCount arasında 2–3× salınıyor, bilinen peak pencereleri cron ile önceden karşılanıyor. Gerçek stres testi de sahadan geldi: bir ürün değişikliği istek başına compute maliyetini ~3×’e çıkardı (ölçülen evaluate süresi 31 → 97 ms). Altyapı değişmedi; concurrency, threshold ve cron değerlerinde values dosyasından yapılan ayarlarla aynı trafik aynı makinelerde ek kapasite gerektirmeden karşılandı.</p><h3>Ne zaman KEDA?</h3><p>Servisiniz CPU’yla orantılı yoruluyorsa HPA yeter; KEDA karmaşıklık ekler. Bizim gibi saturation’ı CPU’da görünmeyen bir iş yükünüz varsa sıra şudur: önce saturation’ı ölçen metric’i üretin ve scrape yolunu saturation’a dayanıklı kılın; sonra manifest’lerde replica sahipliğini autoscaler’a bırakın, HPA’yı silmeden devralın, fallback’i ve floor’ları ölçüme bağlayın.</p><p>Bizim için bu geçiş bir autoscaler değişiminden fazlasıydı. Yol boyunca kendi servisimizi daha önce hiç tanımadığımız kadar tanıdık: hangi metriğin gerçeği söylediğini, pod’un nerede load yaptığını, hangi limitin önce dolduğunu tahminle değil tek tek ölçerek öğrendik. Günde 48 bin hatayla başlayan hikâyenin 53 ile bitmesi işin görünen yüzü; asıl kazanç, ölçekleme kararının artık servisin kendi diliyle verilmesi. Sistem bugün tepe trafiği biz uyurken karşılıyor — ve dashboard’daki o eğri artık bir alarm değil, iyi kurulmuş bir sistemin nabzı.</p><p>Teknasyon DevOps Team <a href="https://medium.com/u/3d115a37d8d9">Burcin Kaplan</a> &amp; <a href="https://medium.com/u/60da602dbcc">F4tih YILMAZ</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=792595660de1" width="1" height="1" alt=""><hr><p><a href="https://medium.com/teknasyon-engineering/kubernetes-autoscalingde-k%C3%B6r-nokta-cpu-metrikten-keda-ile-event-driven-%C3%B6l%C3%A7ekleme-792595660de1">Kubernetes Autoscaling’de Kör Nokta: CPU Metrikten KEDA ile Event-Driven Ölçekleme</a> was originally published in <a href="https://medium.com/teknasyon-engineering">Teknasyon Engineering</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
    </channel>
</rss>