<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Dongkyu Ko on Medium]]></title>
        <description><![CDATA[Stories by Dongkyu Ko on Medium]]></description>
        <link>https://medium.com/@dongkyu_87923?source=rss-75e2322bd372------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/proxy/1*TGH72Nnw24QL3iV9IOm4VA.png</url>
            <title>Stories by Dongkyu Ko on Medium</title>
            <link>https://medium.com/@dongkyu_87923?source=rss-75e2322bd372------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Fri, 20 Nov 2026 23:41:36 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@dongkyu_87923/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[Fluentbit + S3 + Athena + Redash: 실용적인 로그 시각화 구조 전환기]]></title>
            <link>https://medium.com/delivus/fluentbit-s3-athena-redash-%EC%8B%A4%EC%9A%A9%EC%A0%81%EC%9D%B8-%EB%A1%9C%EA%B7%B8-%EC%8B%9C%EA%B0%81%ED%99%94-%EA%B5%AC%EC%A1%B0-%EC%A0%84%ED%99%98%EA%B8%B0-184453202fa8?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/184453202fa8</guid>
            <category><![CDATA[fluentbit]]></category>
            <category><![CDATA[cloudwatch]]></category>
            <category><![CDATA[aws]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Wed, 02 Jul 2025 03:20:48 GMT</pubDate>
            <atom:updated>2025-07-02T05:13:28.066Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>딜리버스는 최근 로그 시스템을 기존 CloudWatch 기반 구조에서, Fluentbit을 활용해 S3로 로그를 수집하고 Athena + Redash 기반으로 분석 및 시각화하는 구조로 전환했습니다. 이를 통해 로그 탐색성과 시각화 기능을 대폭 개선하고, 비용 부담 없이 로그 볼륨 증가에도 안정적으로 대응할 수 있는 확장성을 확보했습니다.</blockquote><h3>전환 배경</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/328/1*nrTOMTQkK-QPk2lruwXRCg.png" /></figure><p>기존에는 CloudWatch Logs를 사용해 로그를 조회하고 분석해왔습니다. 하지만 시간이 지나면서 다음과 같은 문제가 명확히 드러났습니다.</p><ul><li>로그 검색 속도가 느림</li><li>불편한 쿼리 UX, 제한된 필터링 기능</li><li>여러 로그 그룹을 통합 조회하는 데 불편함</li><li>시각화 도구 부재, 외부 연동이 어려움</li></ul><p>서비스가 성장하면서 로그 볼륨도 점점 증가했고, CloudWatch만으로는 실시간 이상 징후 탐지, 운영 대시보드 구성, 서비스 품질 모니터링이 제한적이었습니다. ELK 도입도 고려했지만, 운영 복잡성과 비용 이슈로 인해 보다 효율적인 대안을 찾게 되었습니다.</p><h3>전환 목표 및 구조 설계</h3><p>다음과 같은 요건을 충족하는 구조를 목표로 설계했습니다.</p><ul><li><strong>Fluentbit</strong>을 통해 각 ECS 서비스 <strong>로그를 수집</strong></li><li>로그를 <strong>S3에 카테고리별 저장</strong>하여 저비용 장기 보관</li><li><strong>Lambda + EventBridge</strong>로 주기적인 통합 및 전처리</li><li><strong>Athena 테이블</strong>을 통해 쿼리 가능한 구조 구성</li><li><strong>Redash</strong>를 통해 <strong>SQL 기반 시각화</strong></li></ul><p>이로써, CloudWatch의 단점을 극복하면서도 ELK 없이 로그 분석 환경을 구축할 수 있었습니다.</p><h3>Fluentbit: 로그 수집의 핵심</h3><p>서비스 로그가 처음 수집되는 단계에서는 Fluentbit이 중요한 역할을 합니다. 각 ECS Task에는 Fluentbit 사이드카 컨테이너가 함께 배포되며, 다음과 같은 방식으로 작동합니다.</p><ul><li><strong>표준 출력(STDOUT)/표준 에러(STDERR)</strong> 로그를 수집</li><li>로그 유형(tag 또는 container 이름)에 따라 <strong>S3 prefix</strong>를 다르게 지정</li><li><strong>5MB 단위 / 2분 간격</strong>으로 로그를 S3에 업로드하여 버퍼 관리</li></ul><pre>[INPUT]<br>    Name forward<br>    Listen 0.0.0.0<br>    Port 24224<br><br>[FILTER]<br>    Name grep<br>    Match *<br>    Regex log_level ERROR|WARN<br><br>[OUTPUT]<br>    Name s3<br>    Match *<br>    bucket your-log-bucket<br>    total_file_size 5M<br>    upload_timeout 2m<br>    s3_key_format /logs/$TAG/%Y/%m/%d/%H/%M/%S-$UUID.gz</pre><h4>핵심 구성 포인트</h4><ul><li><strong>Lightweight</strong>: Fluentd 대비 리소스 사용량이 적고 컨테이너 환경에 최적화</li><li><strong>다양한 필터링 및 포맷팅</strong>: 필요시 로그 레벨, 패턴 기준 필터링 가능</li><li><strong>정확한 라우팅</strong>: 서비스, 환경별로 S3 경로를 달리해 후처리 효율성 향상</li></ul><h3>Lambda 처리 로직: 통합 및 적재 단계</h3><p>5분 간격으로 실행되는 Lambda는 S3에 수집된 로그를 불러와 correlation_id를 기준으로 묶고, 로그 종류에 따라 event, item, request 데이터를 전처리하여 하나의 통합된 JSON 형태로 변환합니다. 이 과정을 통해 하나의 요청 단위에서 발생한 모든 로그 흐름을 한 번에 추적하고 분석할 수 있습니다.</p><p>correlation_id는 하나의 API 요청 또는 비즈니스 트랜잭션 내에서 발생한 로그들을 연관 지어 추적할 수 있도록 도와주는 식별자입니다.</p><h4>Lambda 입력 예시 ( event, item, request )</h4><pre>{<br>  &quot;@timestamp&quot;: &quot;2025-07-01T16:15:33.396555&quot;,<br>  &quot;event&quot;: {<br>    &quot;action&quot;: &quot;django.eventlogger&quot;,<br>    &quot;category&quot;: &quot;process&quot;,<br>    &quot;message&quot;: &quot;Unable to send notification...&quot;,<br>    &quot;labels&quot;: {<br>      &quot;application&quot;: &quot;daas&quot;,<br>      &quot;env&quot;: &quot;settings.beta&quot;<br>    },<br>    &quot;kind&quot;: &quot;event&quot;<br>  },<br>  &quot;httprequest&quot;: {<br>    &quot;correlation_id&quot;: &quot;024f99eae84c4eaca21c699067940000&quot;<br>  }<br>}ㅓ</pre><h4>Lambda 통합 로그 결과 예시</h4><pre>{<br>  &quot;request&quot;: [<br>    {<br>      &quot;step&quot;: &quot;RequestReceived&quot;,<br>      &quot;method&quot;: &quot;POST&quot;,<br>      &quot;uri&quot;: &quot;/api/orders/&quot;,<br>      &quot;message&quot;: {<br>          &quot;body&quot;: {<br>          &quot;user_id&quot;: 12345,<br>          &quot;items&quot;: [9876, 9877]<br>        }<br>      }<br>    }<br>  ],<br>  &quot;event&quot;: [<br>    {<br>      &quot;step&quot;: &quot;ValidateItems&quot;,<br>      &quot;message&quot;: &quot;Item 9876 is available&quot;<br>    },<br>    {<br>      &quot;step&quot;: &quot;CreateShippingItem&quot;,<br>      &quot;message&quot;: &quot;Shipping item 192837 created&quot;<br>    }<br>  ],<br>  &quot;item&quot;: [<br>    {<br>      &quot;event_name&quot;: &quot;ShippingItemCreated&quot;,<br>      &quot;item_id&quot;: &quot;192837&quot;,<br>      &quot;message&quot;: &quot;ICN1&quot;<br>    }<br>  ],<br>  &quot;correlation_id&quot;: &quot;e4e1d7b6c14a4d88bd8dcf9c45e10234&quot;,<br>  &quot;timestamp&quot;: &quot;2025-07-01T16:16:33.396555&quot;<br>}</pre><ul><li>message 내 한글 유니코드가 있을 수 있어 디코딩 필요</li><li>item의 필드는 event_name에 따라 다르게 구조화되므로 동적 파싱이 필요</li></ul><h3>아키텍처</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*arbWA3OAD4IfSGslddQ7Xw.jpeg" /></figure><ol><li><strong>ECS Fargate Task</strong>: 서비스 로그 발생</li><li><strong>Fluentbit 사이드카</strong>: 로그를 카테고리별 S3로 수집</li><li><strong>EventBridge Scheduler + Lambda</strong>: 5분마다 로그를 통합하고 날짜별 파티션 구조로 Athena 테이블에 반영</li><li><strong>Athena</strong>: 로그 테이블을 날짜 기준으로 파티셔닝</li><li><strong>Redash</strong>: Athena 연동 대시보드로 시각화</li></ol><h3>전환 후 효과</h3><h4>1. 로그 탐색 속도 및 유연성 향상</h4><ul><li>Athena를 통해 수십만 건 이상의 로그도 빠르게 쿼리 가능</li><li>다양한 필터링 및 집계 SQL을 자유롭게 작성 가능</li></ul><h4>2. 가시성 강화</h4><ul><li>서비스 별 에러 발생 비율, 시간대별 로그 수, 사용자 요청 패턴 등 다양한 지표를 Redash로 시각화</li></ul><h4>3. 비용 최적화</h4><ul><li>CloudWatch Logs 대비 저장 비용 절감</li><li>ELK 도입 없이도 충분한 기능 확보</li></ul><h4>4. 확장성 확보</h4><ul><li>로그 볼륨이 증가해도 S3 기반 저장 구조로 유연하게 대응</li><li>Redash 쿼리 성능도 Athena 덕분에 안정적으로 유지</li></ul><h3>사용 예시</h3><h4>Date Picker로 기간 선택해서 로그 조회</h4><p>Redash의 Date Picker에서 선택한 기간을 기반으로, Athena의 날짜 파티션(year, month, day)을 <strong>동적으로 생성</strong>하여 로그를 조회합니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/474/1*vdQNp47c38i9pn9KN27vSg.png" /><figcaption>Redash Date Picker</figcaption></figure><p>로그는 S3에 저장될 때 <strong>날짜별 파티션</strong>으로 구성되어 있기 때문에, <strong>파티션 필터링을 통해 불필요한 스캔을 줄이고 쿼리 성능을 높일 수 있습니다.</strong></p><p>아래는 로그를 조회하는 예시입니다.</p><pre>-- 날짜 범위 생성<br>WITH date_range AS (<br>  SELECT <br>    CAST(date_trunc(&#39;day&#39;, d) AS DATE) AS d,<br>    EXTRACT(year FROM d) AS year,<br>    EXTRACT(month FROM d) AS month,<br>    EXTRACT(day FROM d) AS day<br>  FROM UNNEST(SEQUENCE(<br>    TIMESTAMP &#39;{{ start_date }}&#39;,<br>    TIMESTAMP &#39;{{ end_date }}&#39;,<br>    INTERVAL &#39;1&#39; DAY<br>  )) AS t(d)<br>)<br><br>-- 파티션 키 기준으로 logs 테이블 조회<br>SELECT timestamp, service, log_level, message<br>FROM logs<br>JOIN date_range dr<br>  ON logs.year = dr.year<br> AND logs.month = dr.month<br> AND logs.day = dr.day<br>WHERE log_level = &#39;ERROR&#39;<br>  AND timestamp &gt;= now() - interval &#39;1 day&#39;<br>ORDER BY timestamp DESC;</pre><h4>로그 조회의 유연성</h4><p>로그 조회는 다양한 방식으로 아래와 같이 수행할 수 있습니다.</p><ul><li>event.message 또는 request.message의 키워드 기반 검색</li><li>item.id, event.id 등 개별 식별자 기반 조회</li><li>사용자 요청 URI, 상태 코드 등 조건을 조합한 상세 필터링</li></ul><p>이 외에도 SQL 기반 쿼리이기 때문에, 복잡한 조건 조합이나 집계/패턴 분석 등도 자유롭게 수행할 수 있습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*zvFXW2-LRmLRk4T-xrfRWg.png" /><figcaption>correlation_id 검색 기반의 대시보드</figcaption></figure><h3>결론 및 향후 계획</h3><p>로그 저장소를 바꾼 것이 아닌 운영 로그의 수집, 처리, 분석 전반을 더 효율적으로 구성한 구조 개선이었습니다.</p><p>과거에는 CloudWatch에서 수동 쿼리와 제한된 필터로만 분석했지만, 이제는 Redash에서 원하는 지표를 SQL로 자유롭게 분석하고 시각화할 수 있게 되었습니다.</p><h4>향후 계획</h4><ol><li><strong>Lambda 처리 방식 고도화</strong>: JSON → Parquet 변환 도입 및 비용 절감</li><li><strong>데이터 보존 전략 수립</strong>: S3 원본 로그에 대한 장기 보관 정책을 수립하고, 일정 기간 이후에는 압축하거나 Glacier로 이전하여 보관 비용을 줄일 예정</li></ol><p>CloudWatch 기반만으로는 로그 분석에 한계가 있었고, ELK 도입은 부담스러웠던 상황에서, 지금의 구조는 현실적인 절충안으로 잘 작동하고 있습니다.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=184453202fa8" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/fluentbit-s3-athena-redash-%EC%8B%A4%EC%9A%A9%EC%A0%81%EC%9D%B8-%EB%A1%9C%EA%B7%B8-%EC%8B%9C%EA%B0%81%ED%99%94-%EA%B5%AC%EC%A1%B0-%EC%A0%84%ED%99%98%EA%B8%B0-184453202fa8">Fluentbit + S3 + Athena + Redash: 실용적인 로그 시각화 구조 전환기</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Aurora Serverless v2 전환기 — API 성능 향상 및 무중단 스케일링]]></title>
            <link>https://medium.com/delivus/aurora-serverless-v2-%EC%A0%84%ED%99%98%EA%B8%B0-api-%EC%84%B1%EB%8A%A5-%ED%96%A5%EC%83%81-%EB%B0%8F-%EB%AC%B4%EC%A4%91%EB%8B%A8-%EC%8A%A4%EC%BC%80%EC%9D%BC%EB%A7%81-b364849ef1ef?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/b364849ef1ef</guid>
            <category><![CDATA[aurora-serverless]]></category>
            <category><![CDATA[aws]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Tue, 29 Apr 2025 04:17:10 GMT</pubDate>
            <atom:updated>2025-04-29T04:19:37.795Z</atom:updated>
            <content:encoded><![CDATA[<h3>Aurora Serverless v2 전환기 — API 성능 향상 및 무중단 스케일업</h3><blockquote>딜리버스는 최근 데이터베이스를 Aurora On-Demand에서 Aurora Serverless v2로 전환했습니다. 이를 통해 API 성능을 높이고, 스케일업 장애를 제거했으며, 향후 물량 증가에 대비한 확장성을 확보했습니다.</blockquote><h3>전환 배경</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/894/1*tMnfwP6oPJzBaTkUl0mOwg.png" /></figure><p>화주사 증가와 함께 배송 지역 확장 및 물량이 급증하면서 기존 인프라의 한계가 드러났습니다.</p><p>Aurora On-Demand를 사용할 당시에는 스케일업이 필요할 때마다 블루/그린 전환을 사용했고 그 과정에서 <strong>장애가 빈번하게 발생</strong>했습니다. 또한, 24시간 365일 운영되는 서비스 특성상, 이러한 스케일업 작업은 평소에는 불가능해 <strong>명절 연휴 기간에만 진행해야 했고</strong>, 만약 긴급 작업이 필요한 경우에는 다수의 화주사에 <strong>사전 공지</strong>를 해야 하는 상황이었습니다. On-Demand 특성상 처리량 한계로 인해, 향후 지속적인 화주사 증가와 배송 물량 확대를 수용하는 데에도 어려움이 예상되었습니다. API 성능 개선을 위해 API 구조 자체의 최적화도 진행했지만, <strong>근본적인 해결</strong>을 위해서는 유연한 인프라 업그레이드가 필수적이었습니다.</p><p>API 성능 개선 관련 참고 글: <a href="https://medium.com/delivus/%EC%84%9C%EB%B2%84%EB%A6%AC%EC%8A%A4%EC%9D%98-%EB%A7%88%EB%B2%95-fastapi%EC%99%80-aws-lambda%EB%A1%9C-django-%EC%95%A0%ED%94%8C%EB%A6%AC%EC%BC%80%EC%9D%B4%EC%85%98%EC%97%90-%EB%82%A0%EA%B0%9C-%EB%8B%AC%EA%B8%B0-346c2e096f3b">서버리스의 마법: FastAPI와 AWS Lambda로 Django 애플리케이션에 날개 달기</a></p><h4>주요 문제 사항</h4><ul><li><strong>스케일업 장애:</strong> Aurora On-Demand 환경에서는 스케일업 시 블루/그린 전환을 해야 했고, 이 과정에서 서비스 장애가 발생했고 스케일업 작업은 평소에는 불가능해 명절 연휴 등 서비스 사용량이 적은 시기에만 진행할 수 있었으며, 긴급 스케일업이 필요한 경우에는 화주사에 사전 공지를 해야 하는 부담이 있었습니다.</li><li><strong>처리량 한계</strong>: On-Demand 환경에서는 분당 약 1200건 정도가 최대 처리량이었으며, 물량이 더 늘어날 경우 성능 저하나 타임아웃이 발생할 위험이 있었습니다.</li><li><strong>비용·운영 부담:</strong> 수직 확장을 통해 인프라 성능을 높이는 것은 비용 효율이 낮았고, 스케일업 실패에 따른 리스크도 지속적으로 존재</li></ul><h3>전환 과정</h3><p>On-Demand 인프라로는 장기적인 확장이 어렵다고 판단해, Aurora Serverless v2를 도입하기로 결정했습니다. 단순한 인스턴스 스펙 업그레이드가 아닌, 인프라 구조 자체를 유연하게 전환하는데 초점을 맞춘 선택이었습니다.</p><h4>주요 특징</h4><ul><li><strong>무중단 스케일링: </strong>필요에 따라 ACU(Aurora Capacity Unit)를 동적으로 조정할 수 있어, 스케일업 시 더 이상 블루/그린 전환이나 서비스 중단이 필요하지 않습니다.</li><li><strong>성능 향상:</strong> 기존 On-Demand(r5.xlarge) 대비, 약 2배 가까운 CPU 리소스 (ACU 16 기준)를 사용할 수 있어 처리량 한계를 넘을 수 있었습니다.. (기존에도 메모리 부하는 없었음)</li><li><strong>확장성 확보:</strong> 트래픽 급증에도 즉각 확장이 가능해져, 앞으로 더 많은 화주사와 배송 물량 증가에 유연하게 대응할 수 있는 기반을 마련했습니다.</li><li><strong>비용 구조 최적화 가능성:</strong> 트래픽에 따라 리소스를 탄력적으로 조정하기 때문에, 트래픽이 적은 시간대에는 비용을 자연스럽게 절감할 수 있는 구조를 갖췄습니다.</li></ul><h4>전환 작업 주요 프로세스</h4><p>전환은 단순한 스펙 변경이 아니라, 실제 운영 환경을 고려한 과정이었습니다. 다음과 같은 단계로 진행했습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*_sr6g22QDmi8-1U8KN7JeQ.png" /></figure><p><strong>1.사전 부하 테스트 — 실제 상황을 반영한 검증</strong></p><ul><li>Aurora Serverless v2로 전환하기 전, 기존 On-Demand 환경과 비교하는 사전 부하 테스트를 수행했습니다. 단순 성능 비교가 아니라, <strong>“실제 1분당 인입 주문량을 기반으로 TPS(Transactions Per Second산출”</strong> 을 기준으로 테스트를 설계해, 처리량, 오류율, 응답 속도 등 주요 지표를 구체적으로 측정했습니다. 이를 통해 전환 후 기대할 수 있는 효과를 사전에 수치로 예측할 수 있었습니다.</li></ul><p><strong>2.ACU 설정 최적화 — 효율성과 안정성의 균형</strong></p><ul><li>Serverless v2는 리소스를 유동적(ACU 0.5 ~ 256)으로 조정할 수 있지만, 초기 ACU 설정이 중요했습니다.</li><li>최소 8 ACU, 최대 16 ACU로 설정해, 과도한 리소스 소비 없이 안정성을 확보했습니다. 이 값은 기존 r5.xlarge 인스턴스(4코어, 32GiB 메모리) 기준을 참고해 최적화한 결과였습니다.</li></ul><p><strong>3.무중단 전환 — 다운타임 없이 자연스럽게</strong></p><ul><li>데이터 마이그레이션이나 연결 재설정 없이, Aurora 클러스터 옵션만 변경하는 방법으로 전환을 설계했습니다. 전환 과정에서는 블루/그린 배포 방식을 일부 사용했고, 초기에 약간의 장애가 있었지만, 서버리스 v2로의 최종 전환 과정은 문제 없이 완료되었습니다.</li></ul><p><strong>4.배포 및 모니터링 강화 — 안정성 확보</strong></p><ul><li>API 응답 속도, 오류율, RDS 주요 지표를 24시간 동안 집중 모니터링하며 이상 징후를 조기에 감지할 수 있도록 했습니다. 덕분에 초기 전환 이후에도 안정적으로 서비스가 운영되는 것을 확인할 수 있었습니다.</li></ul><h4>Before vs After</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*hJRVn3yExkkoXprzUycafg.png" /><figcaption>전환 전,후 비교</figcaption></figure><h3>전환 후 실제 효과 및 성과</h3><p><strong>1.TPS 50% 향상</strong></p><ul><li>전환 전 약 1,200건 → 전환 후 약 1,800건으로 처리량 증가</li><li>실 서비스 부하 상황에서도 API 타임아웃이나 DB 병목 없이 안정적인 처리</li></ul><p><strong>2.스케일업 장애 제거</strong></p><ul><li>필요 시 자동으로 ACU가 확장되어 별도의 작업 없이 부하 대응 가능</li><li>과거처럼 명절 당일에만 스케일업하거나, 긴급 공지를 돌릴 필요 없음</li></ul><p><strong>3.서비스 안정성 향상</strong></p><ul><li>스케일업/다운 과정에서도 트랜잭션 에러나 DB 연결 오류 없이 정상 운영</li></ul><p><strong>4.확장성 확보</strong></p><ul><li>더 많은 화주사 계약 및 물량 증가가 예상되더라도, 별도 인프라 작업 없이 수용 가능한 구조 완성</li></ul><p><strong>5.비용 최적화</strong></p><ul><li>트래픽이 적은 시간대에는 최소 ACU로 유지되어 불필요한 비용을 줄일 수 있는 구조</li></ul><h3>결론 및 향후 계획</h3><p>Aurora Serverless v2 전환은 단순한 클러스터 옵션 변경이나 성능 향상을 넘어, <strong>서비스 확장성, 안정성, 그리고 운영 자유도</strong>를 획기적으로 끌어올린 중요한 전환이었습니다.</p><ul><li>이전에는, 스케일업을 위해 명절 연휴를 기다리거나, 장애 위험을 감수해야 했습니다.</li><li>이제는, 실시간 부하 감지와 자동 스케일링을 통해 서비스를 끊김 없이 운영할 수 있습니다.</li><li>또한, 화주사 증가와 물량 확대로 인한 예측 불가능한 부하에도 유연하게 대응할 수 있는 기반을 마련했습니다.</li></ul><p>이번 전환은 딜리버스가 미래의 물량 확장까지 안정적으로 대비할 수 있게 해준 터닝포인트였습니다.</p><p>더불어, 24시간 365일 운영되는 서비스의 안정성까지 확보하며, 딜리버스는 지금보다 훨씬 더 높은 수준의 고객 신뢰와 비즈니스 확장성을 갖추게 되었습니다.</p><h4>향후 계획</h4><p><strong>1.Serverless v2 기반 최적화</strong></p><ul><li>부하 패턴을 지속적으로 분석하여, ACU 최소/최대 값을 더욱 정밀하게 조정하고 최적의 비용·성능 밸런스를 맞춰나갈 예정</li></ul><p><strong>2.주문/배송 신청 API 로직 개선</strong></p><ul><li>사전 부하 테스트 과정에서 발견된 API 구조 개선 포인트를 반영해 TPS를 향상시키고, 보다 안정적인 요청 처리를 목표</li></ul><p><strong>3.End-to-End 부하 테스트 고도화</strong></p><ul><li>주문/배송뿐만 아니라, 간선, 반품 등 다양한 물류 워크플로우에 대해 부하 테스트를 확대 적용하여 시스템 전반의 대응력을 높일 예정</li></ul><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=b364849ef1ef" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/aurora-serverless-v2-%EC%A0%84%ED%99%98%EA%B8%B0-api-%EC%84%B1%EB%8A%A5-%ED%96%A5%EC%83%81-%EB%B0%8F-%EB%AC%B4%EC%A4%91%EB%8B%A8-%EC%8A%A4%EC%BC%80%EC%9D%BC%EB%A7%81-b364849ef1ef">Aurora Serverless v2 전환기 — API 성능 향상 및 무중단 스케일링</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[딜리버스의 MLOps 확장기 — 일일 트레이닝, Lambda 기반 추론]]></title>
            <link>https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%ED%99%95%EC%9E%A5%EA%B8%B0-%EC%9D%BC%EC%9D%BC-%ED%8A%B8%EB%A0%88%EC%9D%B4%EB%8B%9D-lambda-%EA%B8%B0%EB%B0%98-%EC%B6%94%EB%A1%A0-ed8cc67575c7?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/ed8cc67575c7</guid>
            <category><![CDATA[mlops]]></category>
            <category><![CDATA[optimization]]></category>
            <category><![CDATA[aws]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Mon, 30 Sep 2024 04:53:07 GMT</pubDate>
            <atom:updated>2024-09-30T06:37:09.770Z</atom:updated>
            <content:encoded><![CDATA[<h3>딜리버스의 MLOps 확장기 — 일일 트레이닝, Lambda 기반 추론</h3><blockquote>딜리버스가 MLOps 도입 이후 실제 업무에 적용하기 위해 추가한 기능들에 대한 내용입니다.</blockquote><p>아래 글을 읽기전에 참고하면 좋은 글:</p><p><strong>1. </strong><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%EB%8F%84%EC%9E%85%EA%B8%B0-1%EC%9E%A5-%EB%B0%B0%EA%B2%BD%EA%B3%BC-%EB%AA%A9%ED%91%9C-103dfc1d7c9"><strong>딜리버스의 MLOps 도입기 — 1장 배경과 목표</strong></a></p><p><strong>2. </strong><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%EB%8F%84%EC%9E%85%EA%B8%B0-2%EC%9E%A5-ci-cd-workflow-%EB%B0%B0%ED%8F%AC-d1b2917932f8"><strong>딜리버스의 MLOps 도입기 — 2장 CI/CD, Workflow, 배포</strong></a></p><p><strong>3. </strong><a href="https://medium.com/delivus/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EA%B8%B0%EB%B0%98%EC%9D%98-%EB%B0%B0%EC%86%A1-%EC%A7%80%EC%97%AD-%EB%B6%84%EB%A5%98-%EC%9E%90%EB%8F%99%ED%99%94-k-means%EB%A1%9C-%ED%81%B4%EB%9F%AC%EC%8A%A4%ED%84%B0%EB%A7%81-%EC%B5%9C%EC%A0%81%ED%99%94%ED%95%98%EA%B8%B0-283b9edfff74"><strong>머신러닝 기반의 배송 지역 분류 자동화: K-Means로 클러스터링 최적화하기</strong></a></p><h3>구조</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*7N_mjY96S0ZiFqmdEHDmEA.jpeg" /><figcaption>딜리버스 ML(Machine Learning) 워크플로우</figcaption></figure><p>이전에 작성했던 MLOps 도입기 글과 비교해 많은 부분이 바뀌었습니다. 모델 학습 부분에서는 자체 모델을 개발했기 때문에, 하나의 작업에서 모델 트레이닝과 평가를 한 번에 끝낼 수 있도록 변경했습니다. 또한, 이전 모델 평가 결과와 비교하여 모델 성능이 개선되었을 때만 배포될 수 있도록 기능을 추가했습니다.</p><p>딜리버스의 추론 작업은 하루에 한 번 클러스터링이 생성될 때만 실행되기 때문에, 이를 Lambda 기반으로 변경했습니다. 마지막으로, 일일 트레이닝을 위해 이전에는 AWS MWAA(Managed Workflows for Apache Airflow)를 사용했지만, 일일 트레이닝도 하루에 한 번만 실행되므로 EventBridge Schedule을 사용해 Lambda를 실행하는 방식으로 변경했습니다.</p><p>이제부터 각 작업에 대해 설명하고, 이전과 어떻게 변경되었는지도 추가해서 설명하겠습니다.</p><p><em>모든 리소스는 AWS CDK(</em><a href="https://aws.amazon.com/ko/cdk/"><em>Cloud Development Kit</em></a><em>)를 사용해서 구축했습니다.</em></p><h3>ML(Machine Learning) Training Job</h3><blockquote><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%EB%8F%84%EC%9E%85%EA%B8%B0-2%EC%9E%A5-ci-cd-workflow-%EB%B0%B0%ED%8F%AC-d1b2917932f8">딜리버스의 MLOps 도입기 — 2장 CI/CD, Workflow, 배포</a> 에서는 ML Workflow로 정의했습니다.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*G5qopwK50HQynzKndNlYew.png" /></figure><ol><li><strong>Feature Store</strong>: 모델 학습과 추론에 사용되는 피처들을 저장하고 관리하는 곳입니다. Sagemaker에 제공하는 기능을 사용하고 있습니다.</li><li><strong>Data Preprocessing</strong>: 특성을 추출하고 데이터를 분할하는 작업을 진행합니다. 이상치 제거 및 정규화 등의 작업은 <strong>Update Feature Store Job</strong>에서 진행합니다.</li><li><strong>Model Training:</strong> 딥러닝 기반의 학습을 진행하며, 학습과 동시에 평가를 진행합니다. 평가 지표로는 MAE를 사용하고 있습니다. 딜리버스가 자체적으로 최적화한 <a href="https://github.com/somepago/saint">SAINT</a>(정형 데이터 분석을 위한 딥러닝)기반의 모델입니다.</li><li><strong>Previous Model Comparison:</strong> 이전 모델의 평가 지표와 비교해서 개선되었는지 확인합니다. 평가 지표가 개선이 되었다면 모델을 등록하고 개선이 되지 않았다면 모델을 등록하지 않습니다. 또한, 모델이 개선되지 않았다면 상세 내용을 CloudWatch에서 확인합니다.</li><li><strong>Model Registry:</strong> 모델의 S3 Path 정보를 받아 모델을 등록합니다. 지표가 개선이 되지 않아 추가적으로 모델을 등록하지 않을 때는 실행하지 않습니다.</li></ol><p>MLOps도입 초반보다 Step Functions의 작업이 간소화(학습, 평가, 평가결과 → 학습)되었으며, 이전 모델의 지표와 비교하는 기능을 추가했습니다. 평균 작업 시간은 2시간정도 소요되며, 상세 내용은 CloudWatch에서 확인할 수 있습니다.</p><h3>Create Clustering Job</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*BL2E59p07iA3f0lA070tgQ.png" /></figure><ol><li><strong>EventBridge(Rule):</strong> Daas 서버에서 특정 EventBridge 버스로 이벤트를 보내 클러스터링 생성 작업을 시작하기 때문에, 이벤트를 보낼 때 필요한 구성을 정의합니다.</li><li><strong>Fetch &amp; Preprocessing Shipping Data:</strong> Daas RDS에서 당일 배송 데이터를 가져온 후, 데이터 품질 검사를 진행하고, 추론에 사용할 수 있도록 데이터를 전처리합니다.</li><li><strong>Inference:</strong> 전처리가 된 데이터를 사용해 추론을 진행하며, 최종 결과물은 벡터 기반 데이터셋 입니다. 실행 시간은 배송 물량에 따라 달라지지만, 모델의 크기가 작아 1만 건의 데이터 기준으로 20초 이내에 처리됩니다. 추론 작업은 클러스터 생성과 마찬가지로 하루에 한 번만 실행되므로, 실시간 엔드포인트가 필요하지 않아 Lambda를 사용하여 구현했습니다.</li><li><strong>Vector-Based Dataset:</strong> 추론 후 생성된 결과물이며, 지정된 S3 경로에 저장됩니다. 이 데이터셋은 클러스터링의 주요 피처로 사용됩니다.</li><li><strong>Create Clustering:</strong> <a href="https://medium.com/delivus/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EA%B8%B0%EB%B0%98%EC%9D%98-%EB%B0%B0%EC%86%A1-%EC%A7%80%EC%97%AD-%EB%B6%84%EB%A5%98-%EC%9E%90%EB%8F%99%ED%99%94-k-means%EB%A1%9C-%ED%81%B4%EB%9F%AC%EC%8A%A4%ED%84%B0%EB%A7%81-%EC%B5%9C%EC%A0%81%ED%99%94%ED%95%98%EA%B8%B0-283b9edfff74">머신러닝 기반의 배송 지역 분류 자동화: K-Means로 클러스터링 최적화하기</a>에 나와있는 내용처럼 버니가 배송하는 지역을 생성하기 위한 작업입니다.</li></ol><p>MLOps 도입 초기에는 추론 작업을 위해 SageMaker Processing Job을 사용했지만, 최소 5분 이상 소요되는 문제가 있었습니다. 그 이유는 작업 시작 시 인스턴스를 생성하고 설정하는 데 전체 시간의 90% 이상을 소비했기 때문입니다.</p><p>해당 문제를 해결하기 위해 SageMaker Serverless Endpoint를 고려했지만, 추론 작업이 하루에 한 번만 실행되고 모델 크기도 작아 오버스펙이라고 판단했습니다. 고민을 해본 결과 Lambda를 사용하기로 결정했습니다. 이를 통해 CDK를 활용한 배포가 간편해졌으며, 비용 측면에서도 효율을 높일 수 있었습니다.</p><h3>Update Feature Store Job</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*AQlH0GLLoG41eoitLDrRIQ.png" /></figure><ol><li><strong>EventBridge(Schedule):</strong> 해당 작업을 매일 아침 9시에 시작할 수 있도록 필요한 구성을 정의합니다.</li><li><strong>Fetch &amp; Preprocessing Shipping Data:</strong> Daas RDS에서 전일 배송 데이터를 가져온 후, 이상치 데이터를 제거하고 피처 스토어에 업데이트할 수 있도록 전처리합니다.</li><li><strong>Insert Feature Store:</strong> 전처리된 데이터셋을 피처 스토어에 업데이트 할 수 있도록 인증 및 배치 작업 등의 구성을 정의합니다.</li><li><strong>Feature Store</strong>: 모델 학습과 추론에 사용되는 피처들을 저장하고 관리하는 곳입니다. Sagemaker에 제공하는 기능을 사용하고 있습니다.</li><li><strong>Initiate ML Training Job:</strong> 새로 업데이트된 피처들로 재학습을 진행할 수 있도록, ML Training Job의 Step Functions를 호출합니다.</li></ol><p>MLOps 도입 초기에는 해당 파이프라인을 AWS MWAA를 사용했습니다. 하지만 파이프라인이 하나고 복잡하지 않아, 여러 개의 Lambda 함수를 사용해 구성하는 방법으로 변경했습니다. 이를 통해 최소 사양의 AWS MWAA를 사용할 때 발생하는 월 최소 $200 이상의 비용을 절감할 수 있었으며, CDK를 활용한 배포도 더욱 간편해졌습니다.</p><h3>결론</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/502/1*K3kWT4p1roEz426egVzKlg.png" /><figcaption>최종적으로 생성된 배송 지역</figcaption></figure><p>MLOps 도입 초기에는 <strong>‘Automated Machine Learning on AWS’</strong> 책의 내용을 기반으로 구축하는 데 많은 시간을 투자했습니다. 그러나 실제로 구축하고 운영한 이후에는 <strong>실제 업무에 적용하기 위한 최적화</strong>에 더 많은 시간을 쏟아야 했습니다. 오히려 도입 초기보다 더 많은 노력과 시간이 필요했던 것 같습니다. 이 과정에서 주로 <strong>소요 시간 단축</strong>, <strong>업무 자동화</strong>, 그리고 <strong>비용 절감</strong>에 초점을 맞추었습니다.</p><p>앞으로도 MLOps를 운영하면서 필요한 부분이 생기면 지속적으로 최적화를 진행할 예정입니다. 또한, <strong>SageMaker를 로컬 환경에서 사용할 수 있도록 하여</strong> 데이터 사이언티스트들의 생산성을 높이는 방안도 도입할 계획입니다.</p><p>딜리버스는 앞으로 다양한 <strong>ML을 활용해 업무 자동화</strong>를 꾸준히 발전시켜 나갈 것입니다. 긴 글을 읽어주셔서 감사합니다.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=ed8cc67575c7" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%ED%99%95%EC%9E%A5%EA%B8%B0-%EC%9D%BC%EC%9D%BC-%ED%8A%B8%EB%A0%88%EC%9D%B4%EB%8B%9D-lambda-%EA%B8%B0%EB%B0%98-%EC%B6%94%EB%A1%A0-ed8cc67575c7">딜리버스의 MLOps 확장기 — 일일 트레이닝, Lambda 기반 추론</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[머신러닝 기반의 배송 지역 분류 자동화: K-Means로 클러스터링 최적화하기]]></title>
            <link>https://medium.com/delivus/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EA%B8%B0%EB%B0%98%EC%9D%98-%EB%B0%B0%EC%86%A1-%EC%A7%80%EC%97%AD-%EB%B6%84%EB%A5%98-%EC%9E%90%EB%8F%99%ED%99%94-k-means%EB%A1%9C-%ED%81%B4%EB%9F%AC%EC%8A%A4%ED%84%B0%EB%A7%81-%EC%B5%9C%EC%A0%81%ED%99%94%ED%95%98%EA%B8%B0-283b9edfff74?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/283b9edfff74</guid>
            <category><![CDATA[machine-learning]]></category>
            <category><![CDATA[delivus]]></category>
            <category><![CDATA[clustering]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Mon, 02 Sep 2024 00:29:32 GMT</pubDate>
            <atom:updated>2024-09-02T06:50:57.732Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>딜리버스가 배송 물품 분류 시간을 줄이기 위해 모델 추론의 결과물인 벡터 데이터와 K-means를 활용해서 자동으로 배송 지역을 분류해주는 기능에 대한 내용입니다.</blockquote><p>딜리버스는 MLOps, 표현형 학습 기반의 모델 개발을 구축한 후 실제 업무 도입 및 자동화 시키기 위해 고민했고, 아래와 같은 이유로 배송 지역 분류 자동화에 도입하기로 했습니다.</p><p><a href="https://youtu.be/80QUWNsbDWE?si=dVtuvT0CqhBbf_w5">딜리버스 AWS 유니콘데이 MLOps 발표 자료</a></p><h3>배송 지역 분류 자동화에 머신러닝을 도입한 이유</h3><ol><li><strong>일일 물량 증가로 인한 지역 클러스터링 작업시간 증가:</strong> 일일 수량 7,000개를 기준으로 작업자 4명이 수동으로 작업하는데 평균 40분이 소요됩니다. 일일 물량이 점점 늘어가는 추세에 수동으로 배송 지역을 분류할 경우 선형적으로 작업 시간과 작업자가 늘어날 것 입니다.</li><li><strong>휴리스틱 기반의 클러스터링 생성: </strong>작업자들의 직관을 바탕으로 클러스터링을 생성했습니다. 작업자들의 직관으로 생성한 이유는 다양한 것을 고려하기 시작하면 당일 배송의 핵심인 배송 물품 분류 작업이 전체적으로 늦어지기 때문입니다.</li><li><strong>5가지 배송 버니(기사) 타입의 존재로 클러스터링 생성 난이도 상승:</strong> 딜리버스의 당일 배송 서비스인 딜리래빗에는 다섯 가지 타입의 배송 기사, “버니”가 있습니다. 각 타입에 따라 배정된 물량이 달라 배송 지역 분류 작업의 복잡도가 증가했습니다.</li></ol><h3>배송 지역 분류 자동화 전체 프로세스</h3><p>KAIST AI 대학원과 협력을 통해 전처리 작업을 진행한 200만건(2024년 3월 기준)이 넘는 데이터를 기반으로 표현형 학습을 진행했고, 표현형 학습의 결과물인 인코더를 생성했습니다. 생성된 인코더를 기반으로 추론 작업을 진행했고, 추론 작업의 결과물인 배송 아이템 표현형 데이터를 활용해 클러스터링을 생성할 수 있게 되었습니다.</p><p>배송 지역 분류(클러스터링 생성) 시 단순한 직선 거리가 아닌 실제 배송 시간, 건물 정보, 날씨, 배송 지역 등을 종합적으로 고려해서 생성됩니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/938/1*iY4Ksx0axXaFw3XmLeFrrA.png" /><figcaption>머신러닝 기반 배송 지역 분류 전체 프로세스</figcaption></figure><h3>배송 지역 분류 자동화에서 고려할 점</h3><p>딜리래빗에는 고정 스케줄 버니부터 일일 버니를 포함한 5가지 타입의 버니가 있습니다. 각 버니 타입의 따라 우선 순위와 배송 물품 수가 고려되어야 합니다.</p><ol><li><strong>지역 별 클러스터링 생성:</strong> 각 지역별로 고정 스케줄의 버니가 있기 때문에, 해당 지역 내로 배송 구역을 생성해줘야 합니다.</li><li><strong>버니 타입별 우선순위 및 배송 물품 수: </strong>각 버니 타입별로 배정되는 배송 물품 수량이 다릅니다. 고정 버니의 경우, 본업으로 배송을 하시는 분들이 많고, 일일 버니의 경우, 본업이 아닌 부업으로 하시는 분들이 많기 때문에 당일 배송을 위해 배송 물품 수의 배정을 조정할 필요가 있습니다.</li><li><strong>밀집도가 높은 구역에 고정 버니 배정:</strong> 배송 물품 밀집도가 가장 높은 구역에 배송 물품 수가 가장 많은 고정 버니를 배정해야 배송 효율을 높일 수 있습니다.</li><li><strong>고정 버니의 고정된 배송 구역:</strong> 배송 효율과 고정 버니의 만족도를 위해 배송 구역을 고정해야 합니다. 배송 구역이 계속 바뀌면 고정 버니가 힘들어 할 수 있고 업무 만족도가 높지 않을 수 있습니다.</li></ol><h3>배송 지역 분류 자동화 내 클러스터링 프로세스</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*SGUf7j2R1lkXW27D7fvudg.png" /><figcaption>클러스터링 프로세스</figcaption></figure><ol><li><strong>배송 아이템들의 배송 지역을 추출: </strong>지역 별 클러스터링 생성을 위해 배송 아이템들의 배송 지역을 추출 후 리스트 형태로 저장되어 있습니다.</li><li><strong>배송 지역 고정 버니 스케줄 데이터 가져오기: </strong>고정 버니 스케줄 데이터에는 각 지역 별 고정 버니 타입 별 수, 배송 물품 수량에 대한 정의가 되어있습니다.</li><li><strong>지역과 고정 버니 스케줄을 고려한 클러스터링 생성: </strong>지역, 고정 버니의 우선 순위, 밀집도, 배송 물품 수량을 고려해 고정 버니 클러스터를 생성합니다.</li><li><strong>일일 버니(남은 아이템 처리) 생성: </strong>고정 버니의 배송 클러스터링 생성이 완료되었으면, 남은 배송 아이템은 일일 버니에게 배정하기 위해 클러스터링을 생성합니다. 사전에 일일 버니에 대한 수량이 각 지역 별로 정의되어 있고, 사전에 정의 되어있는 데이터를 가져옵니다.</li><li><strong>데이터셋 생성: </strong>소터기에 작업 지시 및 BI 대시보드에 시각화를 하기 위해 데이터를 정형화합니다.</li></ol><h4>고정 버니 클러스터링 로직</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/879/1*tO8VyvVR2otlAQoYtfNtWg.png" /></figure><p>고정 버니 클러스터링의 경우 K-means를 사용하고 있으며, 로직은 아래와 같습니다.</p><ol><li><strong>특정 지역의 클러스터를 2개로 나눔: </strong>고정 버니의 고정 구역을 위해 각 지역 별 특성(주거 밀집 지역, 지역의 형태 등)을 활용합니다. 2개로 나누는 주된 이유는 각 지역 별 특성때문에 2개로 나눌 경우 지역 내 클러스터링 형태가 비슷하게 유지되기 때문입니다.</li><li><strong>밀집도가 높은 클러스터 선택 후 고정 버니별 타입 수량에 맞게 클러스터 생성: </strong>각 지역 별 특성때문에 밀집도가 높은 구역이 대부분 고정적으로 선택이 되며, 선택 된 구역 내 클러스터에서 중간에 클러스터가 생겨 나뉘는 클러스터가 없게 한쪽 구석부터 클러스터를 생성합니다.</li><li><strong>고정 버니 우선 순위 기반으로 실행이 되며, 고정 버니 스케줄이 없어질 때까지 클러스터를 생성: </strong>가장 많은 배송 물품 수를 가지고 있는 고정 버니부터 클러스터가 생성됩니다.</li></ol><p>로직의 핵심은 고정 버니의 배송 구역 고정을 위해 처음에 두개로 나누는 것과 배송 물품 수를 위해 선택된 구역(클러스터) 내에서 “<strong><em>클러스터 내 아이템 수 — (클러스터 내 아이템 수 — 고정 버니 배송 물품 수)”</em></strong> 를 사용해 고정 버니의 배송 물품 수를 맞춰 클러스터를 생성하는 것입니다.</p><h4>일일 버니(남은 아이템 처리) 클러스터 로직</h4><p>고정 버니 클러스터를 생성하고 나면, 남은 배송 아이템들은 일일 버니로 배정됩니다. 하지만 일일 버니도 배송 물품 수에 대한 정의가 있습니다. 고정 버니 클러스터 로직을 사용해도 무관하지만 루프를 계속 도는 것보다 한번에 처리하기 위해 클러스터 내 멤버 수를 정의할 수 있는<strong><em> K-means Constrained</em></strong>를 사용했습니다.</p><h3>도입 후 개선된 사항</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/871/1*LZLUmSPgvg6gVrNc_nI24w.png" /></figure><p>머신러닝 기반의 배송 지역 분류 자동화를 도입한 후 작업자와 작업시간 50% 감소했고, 고정 버니의 배송 아이템 수가 25% 증가함에 따라 배송 단가가 낮아졌습니다. 또한, 휴리스틱 기반의 배송 지역 생성보다 밀집도가 좋아졌습니다.</p><p>지난 2024년 3월에 비해 최근 일일 배송 물량이 두배 이상 늘었지만 배송 물품 분류 시간은 이전과 동일하거나 더 빨라졌습니다. 또한, 고정 구역 배정과 일일 배송 물량이 증가함에 따라 밀집도가 좋아지면서 배송 버니들의 만족도가 올라갔습니다.</p><h3>결론</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/425/1*IQbxgjVHOacSOK2Fuq4EIQ.png" /></figure><p>머신러닝 기반의 배송 지역 분류 자동화를 도입한 후 작업자의 부담, 작업 시간의 개선과 배송 단가를 낮추고, 배송 구역의 밀집도를 높였습니다. 하지만 아직 현장 작업자가 수동으로 조정해야하는 부분이 존재하기 때문에 클러스터링을 완벽하게 최적화 시키지 못했다고 생각합니다.</p><p>앞으로는 100% 자동화를 위해 DBSCAN, Balanced KMeans 등 다양한 클러스터링 알고리즘을 활용해 작업 시간을 획기적으로 줄일 수 있게 개선시킬 계획입니다.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=283b9edfff74" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EA%B8%B0%EB%B0%98%EC%9D%98-%EB%B0%B0%EC%86%A1-%EC%A7%80%EC%97%AD-%EB%B6%84%EB%A5%98-%EC%9E%90%EB%8F%99%ED%99%94-k-means%EB%A1%9C-%ED%81%B4%EB%9F%AC%EC%8A%A4%ED%84%B0%EB%A7%81-%EC%B5%9C%EC%A0%81%ED%99%94%ED%95%98%EA%B8%B0-283b9edfff74">머신러닝 기반의 배송 지역 분류 자동화: K-Means로 클러스터링 최적화하기</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[딜리버스의 MLOps 도입기 — 2장 CI/CD, Workflow, 배포]]></title>
            <link>https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%EB%8F%84%EC%9E%85%EA%B8%B0-2%EC%9E%A5-ci-cd-workflow-%EB%B0%B0%ED%8F%AC-d1b2917932f8?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/d1b2917932f8</guid>
            <category><![CDATA[aws]]></category>
            <category><![CDATA[delivus]]></category>
            <category><![CDATA[mlops]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Tue, 22 Aug 2023 04:04:32 GMT</pubDate>
            <atom:updated>2024-09-01T21:21:20.269Z</atom:updated>
            <content:encoded><![CDATA[<h3>딜리버스의 MLOps 도입기 — 2장 CI/CD, Workflow, 배포</h3><blockquote>Automated Machine Learning on AWS 책 내용을 기반으로 만들었습니다.</blockquote><p><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%EB%8F%84%EC%9E%85%EA%B8%B0-1%EC%9E%A5-%EB%B0%B0%EA%B2%BD%EA%B3%BC-%EB%AA%A9%ED%91%9C-103dfc1d7c9">딜리버스의 MLOps 도입기 — 1장 배경과 목표</a> (MLOps를 구축하게 된 계기)</p><h3>구조</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*YAuW9KbW-riPSvtU-MZ_cw.png" /><figcaption>딜리버스 MLOps CI/CD, Workflow, 배포</figcaption></figure><p>딜리버스의 MLOps CI(Continuous Integration)/CD(Continuous Deployment), Workflow, 배포는 AWS 리소스 기반으로 구축 했으며, 모든 리소스는 소스코드로 관리합니다. CI/CD와 배포는 AWS CDK을 사용해서 인프라를 구성했으며, Workflow는 Step Functions, SageMaker SDK를 사용했습니다.</p><p><a href="https://docs.aws.amazon.com/ko_kr/cdk/v2/guide/home.html">AWS CDK란?</a></p><p><a href="https://github.com/aws/aws-step-functions-data-science-sdk-python">Step Functions SDK</a></p><p><a href="https://sagemaker.readthedocs.io/en/stable/">SageMaker SDK</a></p><h3>프로세스</h3><blockquote>DevOps CI/CD에 대한 자세한 내용은 생략했습니다.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*UFvOMIcVk_0zgQjM50f5Yg.png" /><figcaption>automated machine learning on AWS (p.182, Figure 6.2 — Re-factored CI/CD process)</figcaption></figure><p>MLOps CI/CD의 경우 기존 DevOps CI/CD와 지향하는 목표는 유사하지만 ML Workflow를 대입하기 때문에 방법과 특성에는 차이가 있습니다.</p><p>MLOps CI는 DevOps CI에서 요구하는 소스코드와 컴포넌트 등의 테스트를 포함하며 추가로 MLOps 모델을 서빙하는 과정에서 요구하는 데이터 프로세싱, 모델 트레이닝, 모델 검증을 포함합니다. MLOps CD는 빠른 주기로 배포하면서 신뢰도를 유지하는 개념은 DevOps CD와 동일하지만 Production 단계에서 정확도가 높은 모델을 서빙하는 차이가 있습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*yl4IA46n0GoGAOtfU4-_yw.jpeg" /><figcaption>딜리버스 MLOps 구조+ automated machine learning on AWS (p.182, Figure 6.2 — Re-factored CI/CD process)</figcaption></figure><p>MLOps CI/CD 프로세스에 딜리버스 MLOps 구조를 통합하면 위와 같은 그림을 볼 수 있습니다. 전체적인 파이프라인의 구성을 위해 AWS CDK를 사용했고 Workflow을 운영하기 위해서는 AWS CodePipeline을 사용했습니다. 그리고 CI 단계에서는 Step Functions를 사용했고 CD 단계에서는 AWS CDK를 사용했습니다.</p><h3>단계 별 프로세스</h3><blockquote>위의 내용에서는 전체적인 구조와 프로세스를 보여줬습니다. 지금 이 문단에서는 실질적으로 어떻게 구성하고 실행되는지 설명합니다.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*pCyQtpA1Dj4hmmHfWD9P_Q.png" /></figure><h4>리소스 구성</h4><p>딜리버스 MLOps를 구축하고 운영하려면 기반이 되는 AWS 리소스들이 필요합니다. AWS 리소스들은 사전에 딜리버스의 MLOps 엔지니어가 AWS CDK를 사용해서 설정하고 구축합니다. 구축되는 리소스들은 다음과 같습니다.</p><p><strong>사전에 구축되는 리소스들</strong></p><ol><li>IAM Role</li><li>S3 (Pipeline에 사용할 S3)</li><li>CodeCommit (Git Repository 생성)</li><li>CodeBuild (빌드 설정)</li><li>CodePipeline (통합된 파이프라인 생성)</li></ol><p>위와 같은 리소스들을 사전에 정의하고 구축해야 딜리버스의 데이터 사이언티스트들은 인프라에 대한 사전 설정없이 딜리버스 ML Git Repository에 소스코드 푸시만 해도 결과를 확인하고 모델을 배포할 수 있습니다.</p><h4>소스코드 작성</h4><p>데이터 사이언티스트들은 각자의 환경에서 작업을 하고 Daas ML Git Repository에 소스코드를 푸시합니다. 해당 작업을 처음부터 진행하려면 프로세는 아래와 같습니다.</p><p><strong>프로세스 (예시)</strong></p><ol><li>MLOps 엔지니어에게 CodeCommit 계정 생성 요청</li></ol><p>2. 로컬 작업 환경과 CodeCommit Repository Clone</p><pre># Git Clone (사전에 codecommit 계정 정보 생성 후 확인)<br>git clone https://git-codecommit.**.amazonaws.com/v1/repos/daas-ml</pre><p>3. 소스코드 내 “artifacts” 폴더 확인</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/408/1*1BfoxMcUA2ad--F22N0bFw.png" /><figcaption>Workflow에 따라 소스코드 생성</figcaption></figure><p>4. 자유롭게 작업 (추후 다른 단계가 더 필요할 경우 MLOps 엔지니어와 논의)</p><p>5. 작업 후 소스코드 푸시</p><pre>git add -A<br>git commit -m &quot;Fixed evaluate.py&quot;<br>git push</pre><h4>CodePipeline 실행</h4><p>CodeCommit ML Git Repository에 데이터사이언티스트가 소스코드 푸시를 하면 CodePipeline은 MLOps 엔지니어가 사전에 정의한대로 실행됩니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*X9I4KOV0JZERFN2XNqGnsw.png" /><figcaption>배포까지 성공한 Daas ML Codepipeline</figcaption></figure><h4>결과 확인</h4><p>CodePipeline 단계별로 특정 슬랙 채널에 알람이 오며, 진행 상황을 확인할 수 있습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/804/1*XoLgrHVnTeemDjzTD7f-Rw.png" /><figcaption>CodePipeline 단계 별 진행상황 알람</figcaption></figure><p>모델의 성능 결과도 특정 슬랙 채널에서 확인할 수 있으며, 모델 성능 결과 확인 후 모델을 배포 여부를 결정할 수 있습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/790/1*Qs6Eo5hiT9ZT7iJF1msBbQ.png" /><figcaption>모델 성능 관련 슬랙 알람</figcaption></figure><p>데이터 사이언티스트는 인프라(AWS 리소스)접근 없이 로컬 작업 환경에서 소스코드만 푸시하면 데이터 프로세싱부터 모델 배포까지 한번에 진행할 수 있습니다.</p><h4>모델 배포</h4><p>데이터 사이언티스트가 모델 성능 관련 슬랙 알람에서 “Approve”를 클릭하면 모델 배포가 진행됩니다. 모델 배포는 사전에 정의한 CloudFormation으로 구성됩니다. CloudFormation 파일은 AWS CDK 소스코드 기반으로 생성됩니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*OyaWgRbuGFBqm7woU4EJhw.png" /><figcaption>생성된 Daas ML Endpoint</figcaption></figure><h3>결론</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*cJJ1nFTwXkGSVWgWo_s4Qw.png" /></figure><p>딜리버스 MLOps는 데이터 사이언티스트가 온전히 ML 모델 개발에만 집중할 수 있는 환경에 집중하고 있습니다. (딜리버스에서 사전에 필요한 데이터 수집 및 정제는 데이터엔지니어가 진행하고 있습니다.)</p><p>DevOps가 개발자를 위한 개발자라고 하듯이 딜리버스 MLOps는 데이터사이언티스트들을 위한 MLOps 환경을 구축하는게 최종 목표입니다.</p><h4>Reference</h4><ol><li>Automated Machine Learning on AWS — 조나단 달버그와 트렌튼 포트히터르</li></ol><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=d1b2917932f8" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%EB%8F%84%EC%9E%85%EA%B8%B0-2%EC%9E%A5-ci-cd-workflow-%EB%B0%B0%ED%8F%AC-d1b2917932f8">딜리버스의 MLOps 도입기 — 2장 CI/CD, Workflow, 배포</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[딜리버스의 MLOps 도입기 — 1장 배경과 목표]]></title>
            <link>https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%EB%8F%84%EC%9E%85%EA%B8%B0-1%EC%9E%A5-%EB%B0%B0%EA%B2%BD%EA%B3%BC-%EB%AA%A9%ED%91%9C-103dfc1d7c9?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/103dfc1d7c9</guid>
            <category><![CDATA[machıne]]></category>
            <category><![CDATA[mlops]]></category>
            <category><![CDATA[sagemaker]]></category>
            <category><![CDATA[aws]]></category>
            <category><![CDATA[delivus]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Tue, 25 Jul 2023 13:15:29 GMT</pubDate>
            <atom:updated>2023-07-25T13:15:29.332Z</atom:updated>
            <content:encoded><![CDATA[<h3>딜리버스의 MLOps 도입기 — 1장 배경과 목표</h3><blockquote>해당 글에서는 딜리버스의 MLOps 도입기에 대한 설명입니다. 1장 배경에서는 도입을 하게된 배경과 목표에 대해 설명합니다. 용어 설명은 참조 링크로 대체합니다.</blockquote><p><a href="https://velog.io/@whattsup_kim/MLOps%EB%9E%80">MLOps란?</a></p><h3>도입 배경</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*KgUytegG4lD7N26rsU9rnQ.png" /><figcaption>2022년 12월부터 2023년 7월까지 꾸준히 늘어나는 일일 배송 물량</figcaption></figure><p>배송을 시작한 2021년 12월부터 2023년 7월까지 일일 배송물량은 꾸준히 늘어나고 있습니다.</p><p>이렇게 꾸준히 일일 배송물량이 증가한 이유는 서비스 초기에는 서울 지역만 배송했는데 지금은 부천, 수원, 김포, 파주, 의정부, 성남, 동탄 등 많은 지역에 배송을 진행하고 있습니다. 앞으로는 수도권 전역까지 확대할 예정입니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*T28rwSH9srBAOb4TiZw0yA.png" /><figcaption>2023.07 배송 지역 포인트맵</figcaption></figure><p>딜리버스의 메인 분류센터가 성수였는데 늘어나는 일일 배송 물량을 감당하지 못해 넓은 작업공간이 필요했고 많은 물량의 빠른 분류를 위해 새롭게 도입한 분류기가 있는 경기로 광주로 2023년 7월에 이사를 가게되었습니다. 점점 늘어나는 일일 배송물량의 당일 배송을 위해 허브에서 땀 흘리며 일하고 있는 스태프들이 해야할 일이 더 많아진 상황이 되었습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*sGzguqBvHS2m461dt1IqGw.jpeg" /><figcaption>광주 딜리버스 물류센터 분류기</figcaption></figure><p>기존 허브 스태프들이 배송 아이템 분류 전 1시간 이내에 끝내던 작업을 증가하는 배송 물량으로 인해 작업 시간이 점점 증가하고 있는 추세입니다. 이렇게 되면 분류 시작 시간이 늦어지고 배송 시작 시간과 인과관계가 있기 때문에 배송 아이템이 고객에게 가기까지 더 오래 걸릴 수 있다는 문제점이 있습니다. 또한, 고객과의 당일 배송을 위해 화주사는 더 많은 배송 물량을 주고 싶어도 받을 수 없는 상황이 됩니다.</p><h3>문제점</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*8kpykW2qAG72Fe4015guXg.jpeg" /><figcaption>현재 지역 클러스터링(배송 박스 생성) 프로세스</figcaption></figure><h4>지역 클러스터링 작업의 소요시간이 점점 길어짐</h4><p>배송 아이템의 배송 박스 배정은 주소 기반으로 시스템 내에서 자동적으로 1차 분류가 진행되고 이후에 시스템 내부의 지역 클러스터링으로 진행됩니다. 하지만 당일 총 배송 물량 기준 임의의 배송 아이템 수로 배송 박스를 생성하다보니 내부적인 클러스터링 기준에 부합하지 않는 배송박스가 생성될 수 있습니다.</p><p>내부적으로 클러스터링 기준에 부합하지 않는 배송 박스가 생성되기 때문에 허브의 스태프가 다시 한번 배송 아이템의 위치와 배송 박스를 확인할 수 밖에 없는 문제가 있습니다. 내부적으로 클러스터링 기준에 부합하지 않는 배송박스가 확인되면 이후에 다른 박스로 새로운 박스를 만드는 방향으로 진행을 하고 있습니다.</p><h4>배송 박스가 넣을 수 있는 최대 물품 수와 직접적인 거리 기반으로 배송 박스 생성</h4><p>현재의 지역 클러스터링은 최대 물품 수를 지정하고 생성됩니다. 이로 인해 버니 타입 별 배송 아이템 수가 다르기때문에 허브 스태프가 배송 박스의 배송 아이템 수를 다시 조정을 하고 있는 상황입니다. 또한, 도로의 길이가 아닌 물품과 물품 사이의 거리를 직선으로만 생각하고 계산을 하고 있기 때문에 정확한 배송 시간을 예측 할 수 없으며, 효율적인 배송 경로를 짜는데 어려움이 있습니다.</p><h4>버니 타입 별로 배송 박스 생성 불가</h4><p>딜리버스 버니의 타입은 총 4가지(화이트, 레인보우, 옐로우, 블루)가 있습니다. 버니의 타입마다 배송된 배송 물량이 다르며, 기대 수익에 맞춰 수량을 배정하고 있습니다. 버니 타입마다 배송 물량에 맞춰 배송 박스를 만들 수 있어야 허브 스태프가 추가 작업을 진행하지 않을 수 있습니다.</p><h4>배송 예측 시간 예측 불가</h4><p>당일 배송을 위해 24시 이내 배송을 완료하는 것도 중요합니다. 현재는 직접적인 거리(직선 거리)로만 배송 박스를 생성하고 있기 때문에 예측이 어려운 상황입니다. 현재 당일 배송 성공률이 최소 95%이상이지만 99%를 계속 유지하기위해서는 배송 예측 시간을 계산해서 배송 박스를 만드는게 필요합니다.</p><h3>해결 방안</h3><blockquote>MLOps 구축</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*k040pPmvFg-skVx26J4yCA.jpeg" /><figcaption>개선된 지역 클러스터링(배송 박스 생성) 프로세스</figcaption></figure><p>배송 물량에 관계없이 10분 이내로 머신러닝 기반 지역 클러스터링을 진행해서 문제를 해결할 계획입니다. 지역 클러스터링 머신러닝에는 오픈스트리트맵(OSM, OpenStreetMap)을 이용한 경로 계산을 기반으로 기존 배송 데이터, 날씨, 교통 상황, 버니 타입 등 다양한 데이터를 활용해서 배송 시간 예측, 배송 경로 최적화, 효율적인 배송 박스 구성을 할 수 있게 진행할 예정입니다.</p><p>일일 단위로 지역클러스터링 머신러닝 모델은 재학습할 예정이며, 지속적으로 모델 예측에 도움이되는 외부 데이터를 분석하고 수집해서 모델의 성능을 꾸준히 올릴 계획입니다. 2023년 12월 이내 구축을 진행할 예정이며, MLOps의 아키텍처는 아래그림과 같습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*00iN14ubeUhzcdbIvpDJsw.png" /><figcaption>딜리버스 MLOps 아키텍처</figcaption></figure><p>AWS를 기반으로 구축을 진행할 예정이며, 머신러닝 관련된 인프라는 Sagemaker를 활용할 예정입니다. 자세한 내용은 앞으로 작성할 2장에서 확인하실 수 있습니다.</p><h3>목표</h3><p>딜리버스가 MLOps를 도입하는 목표는 다음과 같습니다.</p><ul><li>머신러닝 기반으로 지역 클러스터링 작업 10분 이내 완료</li><li>기존 네비게이션들에서 쓰는 노드링크(오픈스트리트맵 경로 등) 기반 및 그래프 기반의 계산에서 머신러닝으로 라스트마일 특화된 클러스터링 알고리즘 개발</li><li>배송 완료 예측 시간 오차범위 10분 이내</li></ul><p>긴글을 읽어주셔서 감사합니다. 딜리버스 MLOps는 2023.12월에 구축될 예정이며, 관련 글은 프로젝트가 진행되는대로 정리해서 올리겠습니다.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=103dfc1d7c9" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-mlops-%EB%8F%84%EC%9E%85%EA%B8%B0-1%EC%9E%A5-%EB%B0%B0%EA%B2%BD%EA%B3%BC-%EB%AA%A9%ED%91%9C-103dfc1d7c9">딜리버스의 MLOps 도입기 — 1장 배경과 목표</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[딜리버스의 AWS 기반 재해 복구(DR)]]></title>
            <link>https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-aws-%EA%B8%B0%EB%B0%98-%EC%9E%AC%ED%95%B4-%EB%B3%B5%EA%B5%AC-dr-9712182d9f14?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/9712182d9f14</guid>
            <category><![CDATA[rds]]></category>
            <category><![CDATA[aws]]></category>
            <category><![CDATA[delivus]]></category>
            <category><![CDATA[rpo]]></category>
            <category><![CDATA[tor]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Sun, 09 Apr 2023 16:53:35 GMT</pubDate>
            <atom:updated>2023-04-10T07:02:06.295Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>딜러버스의 AWS 기반 DR(Disaster Recovery) 전략과 아키텍처, 프로세스에 대한 글입니다. DR 자체에 대한 세부 내용은 글의 참조 자료로 대체합니다.</blockquote><p><a href="https://www.stevenjlee.net/2020/06/28/%EC%9D%B4%ED%95%B4%ED%95%98%EA%B8%B0-dr-disaster-recovery-%EC%9E%AC%ED%95%B4%EB%B3%B5%EA%B5%AC/">DR(재해 복구, Disaster Recovery)이란 무엇인가?</a></p><h3>액티브/패시브 전략</h3><blockquote>리전 내에서는 다중 가용영역(AZ)으로 구성</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*mtQo_g1S_WU-lk4a8kPAqg.png" /><figcaption>참조: <a href="https://aws.amazon.com/ko/blogs/tech/disaster-recovery-dr-architecture-on-aws-part-i-strategies-for-recovery-in-the-cloud-1/">https://aws.amazon.com/ko/blogs/tech/disaster-recovery-dr-architecture-on-aws-part-i-strategies-for-recovery-in-the-cloud-1/</a></figcaption></figure><p>딜리버스 DR 전략은 액티브/패시브 전략을 사용했습니다. 액티브/패시브 전략을 선택한 이유는 딜리버스는 한국에서만 서비스를 하고 있기 때문입니다. 패시브 리전은 한국과 가까운 일본(도쿄, ap-northeast-1)을 선택했습니다.</p><p>각 리전 리소스 관리는 AWS CDK(Cloud Development Kit)로 하고 있고, CD(Continuous Delivery)는 Github Actions을 사용하고 있어 패시브 리전도 항상 최신 버전을 유지하고 있습니다.</p><h3>DR 프로세스</h3><blockquote>RPO(Recovery Point Objective)/RTO(Recovery Time Objective)를 최소화하기 위해 실행하는 작업을 최소화</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*QrQ2IU3wvM5uh-EiVjhNjA.png" /><figcaption>딜리버스 DR 프로세스</figcaption></figure><p><strong>1.모니터링</strong></p><ul><li>재해 복구 상황 파악을 위해 AWS</li></ul><p><strong>2.트리거</strong></p><ul><li>Slack Command</li><li>REST API (POST)</li></ul><p><strong>3.DR 워크 플로우 진행 (Github Actions 기반) (약 20~30분)</strong></p><ul><li>Daas(Delivus as a Service) 리소스는 ECS 서비스를 제외하고 구축되어 있음</li><li>Aurora RDS 클러스터 복제본을 일반 클러스터로 승격 및 인스턴스 타입 변경 (복제본 → 클러스터)</li><li>ECS 서비스 및 태스크 배포 (Server CD 실행)</li><li>서비스 관련 Lambda (Heartbeat, Alarm, Address Check)</li></ul><p><strong>4.Route 설정 (약 1분)</strong></p><ul><li>Route53에 있는 Daas 서버 호스팅 A Record 변경 (Seoul → Tokyo)</li><li>메뉴얼로 진행</li></ul><h3>DR 아키텍처</h3><blockquote>참조 이미지의 단순화를 위해 Lambda, Client(Amplify) 관련 부분은 포함하지 않음</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*I8WuVSToU2Xkv5TXcPvmNg.png" /><figcaption>DR 발생 전</figcaption></figure><ul><li>패시브 리전(Tokyo)에는 ECS 서비스를 제외한 모든 리소스 구축</li><li>패시브 리전에는 액티브 리전(Seoul)과 동일한 스펙으로 리소스 구축 (단, Aurora MySQL 제외)</li><li>패시브 리전 Aurora MySQL 인스턴스 타입은 비용을 절감하기 위해 db.t3.medium으로 설정 (프로비저닝 기준 월 $90~100)</li><li>액티브/패시브 전략을 사용하고 있기 때문에 액티브 리전으로만 트래픽 허용</li><li>모든 리소스는 AWS CDK로 관리</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*GEIGMpQpwGB8yBVCjizh2A.png" /><figcaption>DR 발생 후</figcaption></figure><ul><li>패시브 리전에 ECS 서비스 생성</li><li>기존에 사용하던 S3 사용</li><li>패시브 리전 Aurora MySQL 승격 및 인스턴스 클래스 변경, Read Replica 추가</li><li>Route53 서버 호스팅 영역(<a href="http://drabbit.co.kr/">Drabbit.co.kr</a>) A Record 수정 (Seoul → Tokyo)</li><li>Seoul 리전 복구 상황을 지속적으로 모니터링</li></ul><h3>결론</h3><ol><li>AWS Health Board를 슬랙 알람으로 받고 싶다면 <a href="https://dev.classmethod.jp/articles/notice-personal-health-dashboard-to-slack/">여기</a>를 클릭</li><li>RPO는 1분이내</li><li>RTO를 1분 이내로 하기 위해서는 액티브 리전과 동일하게 리소스를 구성하면 가능 (유지 비용 상승, 액티브 리전 비용 x 2)</li><li>위의 방식대로 DR을 하면 RTO는 20~30분 (Auora MySQL 인스턴스 타입 변경, ECS Service 생성에 20분 이상 소요)</li><li>위의 방식대로 운영을 하면 패시브 리전 유지비용은 월 $130~150 사이</li><li>유지 비용을 올리면 워크 플로우가 단순화 되서 RTO 시간이 줄고, 유지 비용을 낮추면 워크 플로우가 복잡해져서 RTO 시간이 늘어남 (딜리버스의 경우 유지 비용을 줄이는 방법으로 채택)</li><li>AWS CDK와 Github Actions 기반으로도 DR을 충분히 구축할 수 있음</li></ol><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=9712182d9f14" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%B2%84%EC%8A%A4%EC%9D%98-aws-%EA%B8%B0%EB%B0%98-%EC%9E%AC%ED%95%B4-%EB%B3%B5%EA%B5%AC-dr-9712182d9f14">딜리버스의 AWS 기반 재해 복구(DR)</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[AWS 기반의 데이터 PII 처리]]></title>
            <link>https://medium.com/delivus/aws-%EA%B8%B0%EB%B0%98%EC%9D%98-%EB%8D%B0%EC%9D%B4%ED%84%B0-pii-%EC%B2%98%EB%A6%AC-eebf694e306a?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/eebf694e306a</guid>
            <category><![CDATA[aws]]></category>
            <category><![CDATA[pii]]></category>
            <category><![CDATA[delivus]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Thu, 16 Mar 2023 19:20:54 GMT</pubDate>
            <atom:updated>2023-03-16T19:22:40.119Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>AWS 기반으로 PII(개인 식별 정보, Personal Identifiable Information) 처리된 데이터를 생성하고 각 계정에 공유하는 방법에 대해 설명한 글입니다. PII 처리 구조를 보여주고 각 구조에 대해 설명하는게 주된 내용입니다.</blockquote><p><a href="https://www.ibm.com/kr-ko/topics/pii">PII (개인 식별 정보,Personal Identifiable Information)란?</a></p><h3>PII 처리 프로세스</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*RxHmvl2d008dmvAN7F4d5A.png" /></figure><p><strong>1.스케줄 또는 트리거</strong></p><ul><li>편의를 위해 다양한 형태의 트리거 제공</li></ul><p><strong>2.Dump DB(Database) 생성 — ELT (Extract, Load, Transform) 방식 사용</strong></p><ul><li>Production 계정 DB 기반으로 스냅샷 생성</li><li>AWS DMS, Glue 등을 사용한 ETL(Extract, Transform, Load) 방식을 사용하지 않음</li><li>DMS는 탄력적인 변환(Transform)을 하려면 다양한 리소스(Kinesis, Lambda)를 활용해야하고 Glue는 테이블 단위로 관리하기 때문에 데이터 엔지니어링 업무만 전담하는 인원이 없는 소규모의 팀(10인)이 유지 보수 하는데 많은 리소스가 필요</li><li>ELT의 경우 중요 데이터를 먼저 적재하기 때문에 보안 위험이 있지만 해당 프로세스는 Production 계정 내에서 처리하기 때문에 외부에 중요 데이터가 노출 될 일이 없음</li><li>DMS, Glue를 사용하면 단순 테이블 생성을 제외한 기존 데이터베이스 시스템 카탈로그(인덱스, 접근 권한 등)를 이전과 동일하게 사용할 수 없음 → 해당 작업을 하는 목적 중 하나가 테스트 서버에서 사용하기 위함</li><li>ELT 방식을 채택한 이유 — 개발 기간이 ETL 개발 기간보다 상대적으로 빠르고, 유지 보수 비용이 낮기 때문</li><li>참고 자료 — <a href="https://www.integrate.io/ko/blog/etl-vs-elt-5-critical-differences-ko/">ETL vs ELT</a></li></ul><p><strong>3.PII 처리</strong></p><ul><li>약 30개의 테이블과 90개의 컬럼 처리</li><li>DML(Data Manipulation Language)을 사용해서 처리</li></ul><p><strong>4.스냅샷 생성 — PII 처리된 DB</strong></p><ul><li>공유하기 쉬운 형태로 만들기 위해 스냅샷 생성</li></ul><p><strong>5.Dump DB 삭제</strong></p><ul><li>PII 처리를 위해 생성했던 DB 삭제</li><li>Dump DB를 생성 AWS CloudFormation 삭제</li></ul><p><strong>6.스냅샷 공유</strong></p><ul><li>RDS 스냅샷 공유를 사용해 필요한 계정에 공유</li></ul><h3>Architecture</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*CBypMdGmg1YXYTc4ezR-OA.png" /></figure><blockquote>RDS 이벤트를 제외한 모든 이벤트는 EventBridge를 사용해서 관리 (Daas는 이벤트 기반으로 알람 메세지를 운영 중)</blockquote><p><strong>1.Trigger</strong></p><ul><li>Github actions 기반으로 트리거 생성</li><li>스케줄 — Github actions (<a href="https://docs.github.com/en/actions/using-workflows/events-that-trigger-workflows#schedule">Schedule</a>)</li><li>Slack Command, REST API — Amazon Api Gateway + Github actions(<a href="https://docs.github.com/en/actions/using-workflows/events-that-trigger-workflows#workflow_call">repository_dispatch</a>), <a href="https://geoffrey.dev/blog/triggering-a-github-actions-workflow-from-slack/">구성 가이드</a></li></ul><p><strong>2.Dump RDS</strong></p><ul><li>Production DB 검색 후 스냅샷 생성</li><li>AWS CDK, boto3를 사용해서 구축</li><li>AWS CDK는 IaC(Infrastructure as Code)이기 때문에 인프라를 관리하고 프로비저닝하는데 효율적이지만 기존 인프라 정보 검색에는 코드 복잡도 증가 방지와 사전 정보를 제공해야해서 boto3를 사용</li></ul><p><strong>3.RDS-Events-Handler</strong></p><ul><li>Amazon RDS(Relational Database Service) 상태에 따른 변화에 대해 이벤트 형태로 제공하는 “<a href="https://docs.aws.amazon.com/ko_kr/AmazonRDS/latest/UserGuide/working-with-events.html">RDS 이벤트 모니터링</a>”의 이벤트 데이터를 기반으로 실행</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*Z4fWeBZu8GJPxPIp_mJ67Q.png" /><figcaption>Amazon RDS 이벤트 예시</figcaption></figure><ul><li>작업 순서 — <a href="https://docs.aws.amazon.com/ko_kr/AmazonRDS/latest/UserGuide/USER_Events.Subscribing.html">RDS 이벤트 알림 구독 생성</a> → Lambda 트리거를 RDS 이벤트 SNS로 설정</li><li><a href="https://docs.aws.amazon.com/ko_kr/AmazonRDS/latest/UserGuide/USER_Events.Messages.html">RDS 이벤트 범주 및 이벤트 메시지</a></li><li>RDS 이벤트 SNS 포맷 (예시)</li></ul><pre>{<br>  &quot;Records&quot;: [<br>    {<br>      &quot;EventSource&quot;: &quot;aws:sns&quot;, <br>      &quot;EventVersion&quot;: &quot;1.0&quot;, <br>      &quot;EventSubscriptionArn&quot;: &quot;arn:aws:sns:ap-northeast-2:topic:f12&quot;, <br>      &quot;Sns&quot;: {<br>        &quot;Type&quot;: &quot;Notification&quot;, <br>        &quot;MessageId&quot;: &quot;582f945e-43da-5a48-aa0f-c8d8cbe1ea8c&quot;, <br>        &quot;TopicArn&quot;: &quot;arn:aws:sns:ap-northeast-2:54542124545:topic&quot;, <br>        &quot;Subject&quot;: &quot;RDS Notification Message&quot;, <br>        &quot;Message&quot;: <br>          {<br>            &quot;EventSource&quot;: &quot;db-cluster&quot;,<br>            &quot;Event Time&quot;:&quot;2023-03-11 13:45:30.232&quot;,<br>            &quot;Identifier Link&quot;:&quot;https://console.aws.amazon.com/rds/home?region=ap-northeast-2&quot;,<br>            &quot;Source ID&quot;:&quot;dump-cluster&quot;,<br>            &quot;Source ARN&quot;:&quot;arn:aws:rds:ap-northeast-2:54542124545:cluster:dump-cluster&quot;,<br>            &quot;Event ID&quot;:&quot;http://docs.aws.amazon.com/AmazonRDS/latest/UserGuide/USER_Events.Messages.html#RDS-EVENT-0170&quot;,<br>            &quot;Event Message&quot;:&quot;DB cluster created&quot;<br>          }, <br>        &quot;TimeStamp&quot;: &quot;2023-03-11T13:45:31.431Z&quot;, <br>        &quot;SignatureVersion&quot;: &quot;1&quot;, <br>        &quot;Signature&quot;: &quot;----&quot;, <br>        &quot;SigningCertUrl&quot;: &quot;https://sns.ap-northeast-2.amazonaws.com/SimpleNotificationService&quot;, <br>        &quot;UnsubscribeUrl&quot;: &quot;https://sns.ap-northeast-2.amazonaws.com/?Action=Unsubscribe&amp;SubscriptionArn&quot;, <br>        &quot;MessageAttributes&quot;: <br>          {<br>            &quot;Resource&quot;: <br>              {<br>                &quot;Type&quot;: &quot;String&quot;, <br>                &quot;Value&quot;: &quot;arn:aws:rds:ap-northeast-2:54542124545:cluster-snapshot:snapshot-230216&quot;<br>              }, <br>              &quot;EventID&quot;: {<br>                &quot;Type&quot;: &quot;String&quot;, <br>                &quot;Value&quot;: &quot;RDS-EVENT-0075&quot;<br>              }<br>          }<br>      }<br>    }<br>  ]<br>}</pre><p><strong>4.PII Processing</strong></p><ul><li>PII 처리 데이터 선정 기준은 <a href="https://aws.amazon.com/ko/macie/">Amazon Macie</a>로 1차 검증(DMS로 RDS → S3 이동 후 <a href="https://aws.amazon.com/ko/macie/">Amazon Macie</a>로 검증) 후 보안 관리자가 2차 검증 후 선정</li><li>SQL DML 중 하나인 UPDATE를 사용해서 데이터 PII 처리</li><li>PII 처리할 컬럼 중 Unique key가 설정되어 있다면 Unique key 설정 변경 후 작업</li><li>UPDATE 예시</li></ul><pre># MySQL 5.x<br>UPDATE {table}<br>SET {column} = CONCAT(<br> CONCAT(<br>  LEFT({column}, {index}),<br>  LPAD(&quot;*&quot;, CHAR_LENGTH({column})-{index}, &quot;*&quot;)<br> )<br>);<br><br># MySQL 8.x<br>UPDATE {table}<br>SET {column} = REGEXP_REPLACE({column}, &#39;(?&lt;=.{index}).&#39;, &#39;*&#39;)<br>);</pre><p><strong>5.RDS-Events-Handler</strong></p><ul><li>3번(Architecture)과 동일</li></ul><p><strong>6.Send Slack</strong></p><ul><li>Daas에서 공통적으로 사용하는 Lambda</li><li>메세지 템플릿과 채널 정보만 받아서 슬랙 메세지 발송</li></ul><h3>결론</h3><ol><li>총 작업 시간은 30~45분 정도가 소요되며, Amazon RDS의 생성 시간이 작업 시간에 많은 영향을 줌</li><li>ELT 방식을 사용해서 개발 기간과 유지 보수에 사용하는 리소스를 줄일 수 있음</li><li>스냅샷 기반으로 RDS를 생성하기 때문에 시스템 카탈로그 정보가 동일 (DMS, Glue 등 다양한 ETL 서비스를 사용하면 시스템 카탈로그 정보를 동일하게 가져올 수 없음)</li><li>지속적으로 유지 보수(테이블 추가, 이벤트 수정 등)가 필요한건 2개의 Lambda (RDS-Events-Handler, PII Processing), 나머지 리소스는 변동 사항이 생길 확률이 낮음</li><li>스냅샷 공유 기능을 사용해 여러개의 계정과 편리하게 공유 가능, 추가 작업 필요 없음</li><li>ELT 방식을 사용했기 때문에 Data Warehouse, Data Lake를 구축하는데 해당 구조를 참조해서 사용할 수 없음 (보안 위험 방지), 테스트 환경에서 사용하는데 적합</li></ol><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=eebf694e306a" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/aws-%EA%B8%B0%EB%B0%98%EC%9D%98-%EB%8D%B0%EC%9D%B4%ED%84%B0-pii-%EC%B2%98%EB%A6%AC-eebf694e306a">AWS 기반의 데이터 PII 처리</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[(삽질을 하면서 배운) CDK 사용 팁 2탄]]></title>
            <link>https://medium.com/delivus/%EC%82%BD%EC%A7%88%EC%9D%84-%ED%95%98%EB%A9%B4%EC%84%9C-%EB%B0%B0%EC%9A%B4-cdk-%EC%82%AC%EC%9A%A9-%ED%8C%81-2%ED%83%84-ec87b41fd7f5?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/ec87b41fd7f5</guid>
            <category><![CDATA[delivus]]></category>
            <category><![CDATA[tıp]]></category>
            <category><![CDATA[aws-cdk]]></category>
            <category><![CDATA[aws]]></category>
            <category><![CDATA[iac]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Mon, 06 Feb 2023 13:05:17 GMT</pubDate>
            <atom:updated>2023-02-06T13:05:17.105Z</atom:updated>
            <content:encoded><![CDATA[<blockquote>Daas(Delivus as a Service) 인프라를 AWS CDK v2(ver2.0.0-rc9)로 삽질을 하면서 구축한지 약 1년 6개월이 되었습니다. 그렇게 시간이 지나니 CDK v2도 제가 처음 사용하던 개발 버전에서 현재는 정식으로 v2.63.2까지 릴리스가 되어있었습니다. 그래서 CDK 관련 글을 올린지도 1년 4개월 지났고 그동안 유지보수 하면서 생긴 팁들에 대해 이야기하고자 합니다.</blockquote><p>글을 쓰기 전에 전에 AWS CDK(Cloud Development Kit)을 참고하셔도 좋습니다. (1년이 지난 옛날 글이긴 하네요)</p><p><a href="https://medium.com/@dongkyu_87923/aws-cdk-%EC%82%AC%EC%9A%A9-%ED%99%98%EA%B2%BD-%EA%B5%AC%EC%84%B1-python-9cabc04cb8dc"><strong>AWS CDK 사용 환경 구성(Python)</strong></a></p><p><a href="https://medium.com/delivus/github-actions-%EA%B8%B0%EB%B0%98%EC%9D%98-cd-continuous-delivery-%EA%B5%AC%EC%B6%95%EA%B8%B0-9bf56dd4cfac"><strong>Github Actions 기반의 CD(Continuous Delivery) 구축기</strong></a></p><p><a href="https://medium.com/delivus/aws-cdk%EB%A5%BC-%EC%82%AC%EC%9A%A9%ED%95%9C-daas-%EC%9D%B8%ED%94%84%EB%9D%BC-%EA%B5%AC%EC%B6%95-1df30bae675b"><strong>AWS CDK를 사용한 Daas 인프라 구축 및 사용 팁</strong></a></p><h3>L1(Cfn000), L2(intent-based API)의 차이점</h3><blockquote>편의성이 높은 L2 사용을 권장 하지만 CDK에서 L2를 사용할 수 있게 기능 업데이트가 되지 않았다면 L1 사용</blockquote><p><a href="###   - [https://aws.amazon.com/ko/blogs/devops/leverage-l2-constructs-to-reduce-the-complexity-of-your-aws-cdk-application/](https://aws.amazon.com/ko/blogs/devops/leverage-l2-constructs-to-reduce-the-complexity-of-your-aws-cdk-application/)"><strong>참고 자료</strong></a></p><p><strong>(1) L1 접두사(Prefix)는 항상 “Cfn”으로 시작</strong></p><pre>import aws_cdk.aws_s3 as s3<br># L1<br>cfn_s3 = s3.CfnBucket()<br><br># L2<br>s3 = s3.Bucket()</pre><p><strong>(2) L1은 Cloudformation을 코드로 정의한 것과 같고 L2는 L1처럼 세부적인 정보를 하나하나 정의할 필요도 없고 Cloudformation을 잘 모르더라도 사용 가능</strong></p><ul><li>L1을 사용하게 되면 자연스럽게 Cloudformation 문서를 자주 보게 됨</li></ul><p><strong>(3) L1의 경우 특정 값이 필요한 paramters를 정의할 때 string 또는 int로 정의하지만 L2의 경우 CDK에서 지원하는 데이터 타입 사용 (L2가 데이터 타입에 대한 빌드 에러 확률 낮음)</strong></p><pre>import aws_cdk.aws_sqs as sqs<br><br># L1<br>cfn_queue = sqs.CfnQueue(self, &quot;MyCfnQueue&quot;,<br> visibility_timeout=123<br>)<br><br># L2<br>queue = sqs.Queue(self, &quot;L2Queue&quot;,<br> visibility_timeout=cdk.Duration.seconds(180),<br>)</pre><p><strong>(4) L2가 L1보다 편의성이 높은 다양한 메서드(Methods) 지원</strong></p><ul><li>예시- L1의 경우 Metric 정의를 따로 CloudWatch 모듈을 사용해서 정의해야하지만 L2의 경우 Metric관련 메서드가 대부분 존재</li></ul><p><strong>(5) L1은 Cloudformation을 코드로 정의한 것과 같기 때문에 크리티컬한 버그가 존재하지 않는 이상 CDK 업데이트를 기다릴 필요가 없지만 L2의 경우 특정 기능이 존재하지 않으면 CDK 업데이트를 기다리거나 필수적으로 L1 사용</strong></p><ul><li>필자의 경우 CDK 초기에는 Cfn을 많이 사용했지만 점점 L2로 전환하고 있는 중 (편의성 높은 메서드 제공 및 L1 → L2 전환하는 코드를 사용하지 않기 위해)</li></ul><h3>CDK 사용 전 원하는 기능이 지원하는지 항상 확인</h3><blockquote>CDK로 새로운 리소스를 추가하거나 리소스에 기능을 추가하고 싶을 때 CDK 문서를 확인하고 사용이 가능한지 먼저 확인</blockquote><p><strong><em>CDK 사용하기 전 구성하려는 리소스에 대한 이해도 낮다면 콘솔에서 직접 구현하고 CDK를 사용하면 수월합니다.</em></strong></p><p><a href="https://docs.aws.amazon.com/cdk/api/v2/">공식 문서</a></p><p><a href="https://github.com/aws/aws-cdk/releases">CDK 공식 저장소</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*qSCmzW1YtopSrLsxFwl1mQ.png" /><figcaption>필자의 로직</figcaption></figure><h3>배포 요구 사항에 맞게 스택 분리 (필수)</h3><blockquote>CDK로 인프라를 구축할 때 용도, 환경 별스택 정의는 필수</blockquote><p>처음 CDK를 접하고 인프라를 구축 했을 때 하나의 스택에 모든 리소스들을 전부 정의해서 배포했습니다. 약 1년 6개월 동안 운영과 새로운 리소스 추가를 하면서 아래와 같은 문제가 발생했습니다.</p><p><strong>하나의 스택에 모든 리소스를 정의 했을 경우 발생했던 문제</strong></p><ol><li>맨 마지막에 배포되는 리소스에 에러가 발생했을 경우 업데이트된 모든 리소스가 롤백 (배포 및 디버깅 시간 증가)</li><li>새로운 리소스가 추가 되었을 경우 기존 스택에 추가 (배포 및 디버깅 시간 증가)</li><li>각 환경 별로 배포하는 리소스가 다르기 때문에 스택 정의의 어려움 및 배포 스크립트 복잡도 상승 (+ 각 환경 브랜치 별 코드 매우 상이)</li><li>각 리소스 사양 별로 정의하는 편의성이 낮음 (Parameters를 특정 조건에 맞게 정의하기 어려움)</li><li>특별한 정의없이 계속 리소스를 추가하다보니 점점 스파게티 코드가 되어 가고 있음</li></ol><p>위의 문제를 해결하고자 아래 그림과 같이 코드 리팩토링을 진행했습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*AIlSW7ioVzyGgW5uR3aoMw.png" /><figcaption>기존 스택 -&gt; 개선된 스택</figcaption></figure><p><strong>코드 리팩토링 기준</strong></p><ol><li>카테고리 별 스택 나누기 (Base, Data, ECS 등)</li><li>각 스택 및 리소스의 의존(Dependency)관계 줄이기</li><li>리소스는 언제든지 재사용 가능하게 정의 (인스턴스 클래스, 개수 등 )</li><li>각 환경(Dev, Stage, Prod) 별 스택은 따로 정의 — 각 환경 별 필요한 리소스가 다르기 때문</li></ol><p>코드 리팩토링 후 아래와 같이 개선되었습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*syZwyEWQlGRQFLyv8h6Gtw.png" /><figcaption>개선된 배포 파이프라인</figcaption></figure><p><strong>코드 리팩토링 후 개선된 사항</strong></p><ol><li>Github 저장소의 각 브랜치 별 코드 통일</li><li>배포 스크립트의 병렬 처리 가능</li><li>디버깅 시간 감소</li><li>각 환경 별 스택 정의 및 새로운 리소스 추가에 대한 편의성 증가</li><li>이전보다 다른 사람에게 코드를 공유하고 설명하기 수월해짐</li></ol><h3>스택 간 Parameters 공유</h3><blockquote>CfnOutput, Fn.import_value를 사용해서 Cloudformation 내에 정의된 Parametrs 불러오기</blockquote><pre># a_stack.py<br># export value<br>cdk.CfnOutput(<br>    self,<br>    &quot;public-subnet-1&quot;,<br>  # subnet ARN value export<br>    value=public_subnet_1.ref,<br>    export_name=&quot;public-subnet-1-id&quot;,<br>)<br><br># b_stack.py<br># import value<br>cdk.Fn.import_value(&quot;public-subnet-1-id&quot;)</pre><h3>L1에서 정의한 내용을 기반으로 L2에서 사용하기</h3><blockquote>L1으로 리소스를 정의할 때 Return 값이 L2 Parameters에서 요구하는 Interface값(IVpc, IEc2 등)으로 Return 되지 않아 L2에서 사용하기 어려운데 L2 스태틱 메서드 중 “from_”으로 시작하는 값을 사용해서 L2에서 사용할 수 있게 변환</blockquote><ul><li>L2로 정의된 공식 문서를 Static Methods가 있습니다. Static Methods에는 그림에서 보이는 “from_” 으로 시작하는 Static Methods를 사용해서 L1을 L2에서 요구하는Inteface 형태로 변환 가능</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/816/1*1pQoaue4Uzcgoy68URrt_w.png" /><figcaption>(예시) L2 S3 from_bucket_arn</figcaption></figure><ul><li>사전에 “from_00”에서 필요한 정보들을 L1 Attributes를 활용해서 미리 정의</li></ul><pre>import aws_cdk.aws_s3 as s3<br><br>#L1<br>cfn_s3 = s3.CfnBucket(<br>  self,<br>  &quot;cfn-s3&quot;,<br>  bucket_name=&quot;example&quot;<br>)<br><br>#L1 S3 Arn<br>cfn_s3_arn = cfn_s3.attr_arn<br><br>#L1 -&gt; L2 Interface<br>s3_l2_interface = s3.Bucket.from_bucket_arn(<br>  self,<br>  &quot;s3-l2-interface&quot;,<br>  bucket_arn = cfn_s3_arn<br>)<br><br># s3_l2_interface return &quot;IBucket&quot;</pre><h3>L2에서 특정 기능 지원이 되지 않을 때</h3><blockquote>L2에서 지원하지 않는 기능이 있을 경우 “.node.default_child” 메서드를 사용해서 JSON 형태의 CloudFormation 기반으로 정의 가능 (CloudFormation에서 기능을 지원해야 사용 가능)</blockquote><pre>import aws_cdk.aws_sqs as sqs<br><br># L2기반 SQS 생성<br>queue = sqs.Queue(self, &quot;L2Queue&quot;,<br> queue_name=&quot;L2Queue&quot;<br>)<br><br># L2에서 지원하지 않는 기능 (Cloudformation 문서 참조 후 지원하는 기능인지 확인 필요)<br>queue_node_child = queue.node.default_child<br>queue_node_child.add_property_override(<br>  &quot;RedriveAllowPolicy&quot;,<br>  {<br>      &quot;redrivePermission&quot;: &quot;allowAll&quot;,<br>  },<br>)</pre><h3>리소스 모니터링을 위해 metric 관련 메서드를 적극적으로 활용 (L2)</h3><blockquote>L2 사용을 권장하는 이유는 metric 관련 메서드 정의가 편리하기 때문, L1을 사용할 경우 Cloudwatch 모듈을 불러와서 따로 정의</blockquote><p><strong>딜리버스 제품팀의 원칙</strong></p><ul><li><strong>측정 할 수 없는 것은 개선 할 수 없다.</strong></li><li><strong>If you can’t measure it, you can’t improve it — Lord Kelvin (1824–1907)</strong></li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*JD3mFY7hrzesICvqJKms0A.png" /><figcaption>Metric Methods 예시</figcaption></figure><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=ec87b41fd7f5" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/%EC%82%BD%EC%A7%88%EC%9D%84-%ED%95%98%EB%A9%B4%EC%84%9C-%EB%B0%B0%EC%9A%B4-cdk-%EC%82%AC%EC%9A%A9-%ED%8C%81-2%ED%83%84-ec87b41fd7f5">(삽질을 하면서 배운) CDK 사용 팁 2탄</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[딜리래빗 2022.10 데이터 리포트]]></title>
            <link>https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%9E%98%EB%B9%97-2022-10-%EB%8D%B0%EC%9D%B4%ED%84%B0-%EB%A6%AC%ED%8F%AC%ED%8A%B8-3be7df7fa2f7?source=rss-75e2322bd372------2</link>
            <guid isPermaLink="false">https://medium.com/p/3be7df7fa2f7</guid>
            <category><![CDATA[data-reporting]]></category>
            <category><![CDATA[delivus]]></category>
            <dc:creator><![CDATA[Dongkyu Ko]]></dc:creator>
            <pubDate>Wed, 19 Oct 2022 23:56:20 GMT</pubDate>
            <atom:updated>2022-10-19T23:56:20.658Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*SRYExVzpuhl6bIsxbFgc3A.png" /></figure><p>딜리버스의 소형화물 당일 배송 서비스인 딜리래빗은 2022년 12월 1일 정식으로 서비스를 시작했으며, <a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%9E%98%EB%B9%97-2022-08-%EB%8D%B0%EC%9D%B4%ED%84%B0-%EB%A6%AC%ED%8F%AC%ED%8A%B8-2bd75d91c77f">8월 월간 데이터 리포트</a>를 작성할 때와 다르지 않게 일정한 기울기를 유지하며 꾸준히 배송 물량이 늘어나고 있습니다. 이번달 리포트에서는 평균 배송 시간 및 평균 배송 아이템 수, 버니 연령대 및 배송 수단, 배송 물품 포인트 맵에 대해 알아보겠습니다.</p><h3>평균 배송 시간 및 평균 배송 아이템 수</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*A-IPsAN16Sbo5oZGK0YoyQ.png" /><figcaption>2022.8,9월 기준</figcaption></figure><p>‘2022.8,9월 기준’ 데이터를 보면 <a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%9E%98%EB%B9%97-2022-08-%EB%8D%B0%EC%9D%B4%ED%84%B0-%EB%A6%AC%ED%8F%AC%ED%8A%B8-2bd75d91c77f">8월 월간 데이터 리포트</a>의 2022년 7월 ‘버니 평균 배송 시간 및 배송 건수’ 데이터와 크게 차이가 나지 않는걸 확인할 수 있습니다. 하지만 확인할 수 있었던 유의미한 데이터는 평균 배송 아이템은 2022년 7월에 비해 약 2개정도 증가했는데 평균 배송 시간과 배송 물품 당 배송시간은 거의 동일합니다.(오히려 2022년 9월에는 평균 배송 시간, 배송 물품 당 배송 시간이 줄었음). 이로 인해 알 수 있는건 딜리래빗의 배송 물량은 점점 늘어난다는 것과 배송 물품의 밀집도도 높아지는걸 다시 한번 확인할 수 있었습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/580/1*VplXS_Mo-iX8mfCOUwSzXA.jpeg" /><figcaption>출처-<a href="https://blog.naver.com/tium911/222853797336">https://blog.naver.com/tium911/222853797336</a></figcaption></figure><p>지난 8월 7일 새벽을 시작으로 9일까지 서울에 많으면 시간당 100mm 이상의 매우 강한 비가 내리면서 서울 곳곳에 침수되는 일이 발생했습니다. 딜리래빗 운영팀은 8월 8일 오후부터 시작된 폭우와 침수 피해를 보고 9일에는 배송을 하지 않았지만 침수 피해까지 이어지는 상황의 많은 비를 예상하지 못했고 배송을 기다리는 고객을 위해 8월 8일에는 배송을 진행했습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*FXWfuGUJv69Ww2tBsuIXDg.png" /><figcaption>2022.8월 7~10일 기준</figcaption></figure><p>비가 내렸던 8월 7일과 8일의 데이터를 보면 비가 내리지 않았던 8월 10일에 비해 약 1시간 30분에서 ~ 2시간정도 ‘평균 박스 배송 시간’이 늘어난 걸 확인할 수 있습니다. 확실히 비가 내리면 배송이 어렵다는걸 다시 한번 확인할 수 있었습니다. (버니분들 정말 고생 많으셨습니다)</p><p>비록 비로 인해 배송 업무 난이도와 평균 박스 배송 시간은 늘어났지만 딜리래빗의 버니분들은 8월 7,8일 실패한 배송(분실, 물품 피해, 오배송 등) 및 큰 사고없이 모든 배송을 마무리했습니다.</p><h3>버니 연령대 및 배송 수단</h3><blockquote><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%9E%98%EB%B9%97-2022-08-%EB%8D%B0%EC%9D%B4%ED%84%B0-%EB%A6%AC%ED%8F%AC%ED%8A%B8-2bd75d91c77f">8월 월간 데이터 리포트</a> 때와 큰 차이(10% 이상)가 없어 자세한 설명은 따로 하지 않겠습니다.</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*mBleU9mjMOpggOtDT5iB6w.png" /></figure><ul><li>딜리래빗 버니분들의 평균 연령은 36.9세이며, 주 연령대는 30~40대이고 연령대는 20~70대까지 다양합니다.</li><li>딜리래빗 버니분들의 주 운송 수단은 자동차이다. 하지만 지난번에 비해 오토바이의 비율이 약 4.6% 늘었습니다.</li></ul><h3>배송 포인트 맵</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*xu9REGGF5ug5iW5-kjWGOA.png" /><figcaption>2022.8,9월 기준 (8월 주황, 9월 초록)</figcaption></figure><p>자세한 배송 물량을 공개할 수 없지만 딜리래빗의 대략적인 배송 물량을 보여주고 싶어 2022.8,9월 기준으로 배송 물품 포인트 맵을 지도에 그려봤습니다. 딜리래빗 배송 물품 포인트 맵때문에 서울시가 보이지 않는다는걸 확인할 수 있습니다.(+ 지도에 그려진 포인트맵은 배송이 완료된 배송 물품입니다.)</p><p>현재는 서울에서만 배송을 진행하고 있지만 앞으로 빠른 시일 안에 수도권 전역으로 배송을 진행할 수 있게 준비 하고 있습니다. (다음 리포트 때는 수도권 전역을 배송 포인트 맵으로 칠할 수 있으면 좋겠습니다.)</p><h3>결론</h3><p>위와 같은 성과를 내면서 2022년 8월 10일 카카오스타일과 배송 업무 협약을 체결했다는 기사가 나왔습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*BddjV1cOs4DFrPWCLlmNKQ.png" /><figcaption><a href="https://n.news.naver.com/mnews/article/009/0005002650?sid=105">https://n.news.naver.com/mnews/article/009/0005002650?sid=105</a></figcaption></figure><p>또한, 다음달인 9월 달에도 카카오스타일 지그재그 직진배송이 전년 동기 대비 많은 성장을 하고 있다는 기사도 볼 수 있었습니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/492/1*TiHHnViQzlADFQdXMBaoJQ.png" /><figcaption>출처- <a href="https://n.news.naver.com/mnews/article/021/0002532899?sid=101">https://n.news.naver.com/mnews/article/021/0002532899?sid=101</a></figcaption></figure><p>딜리래빗의 성장과 함께 항상 동반되는 많은 고난(폭우 대처와 같은)이 있었지만 딜리래빗과 관계된 모두(물류 운영을 담당하고 있는 스태프들, 폭우를 뚫고 배송을 진행하신 버니분들 등) 가 함께 고난을 이겨내기위해 노력해서 지금과 같은 성과를 이뤄낼 수 있었습니다.</p><p>앞으로도 유의미한 데이터를 준비해서 공유하겠습니다.</p><p>읽어주셔서 감사합니다.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*f__gIjdnw0VP09B9HdUirQ.jpeg" /></figure><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=3be7df7fa2f7" width="1" height="1" alt=""><hr><p><a href="https://medium.com/delivus/%EB%94%9C%EB%A6%AC%EB%9E%98%EB%B9%97-2022-10-%EB%8D%B0%EC%9D%B4%ED%84%B0-%EB%A6%AC%ED%8F%AC%ED%8A%B8-3be7df7fa2f7">딜리래빗 2022.10 데이터 리포트</a> was originally published in <a href="https://medium.com/delivus">딜리버스</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
    </channel>
</rss>