{
    "componentChunkName": "component---src-templates-blog-template-js",
    "path": "/Music_Pipeline_07/",
    "result": {"data":{"cur":{"id":"294830e9-7d9b-503c-a525-65ad3c21e7e1","html":"<h2 id=\"문제를-일부러-만들다\" style=\"position:relative;\"><a href=\"#%EB%AC%B8%EC%A0%9C%EB%A5%BC-%EC%9D%BC%EB%B6%80%EB%9F%AC-%EB%A7%8C%EB%93%A4%EB%8B%A4\" aria-label=\"문제를 일부러 만들다 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>문제를 일부러 만들다</h2>\n<p>이전 직장에서 N+1 로 60~90초 걸리던 조회를 개선한 경험이 있는데, MyBatis 환경이었다.\nJPA 환경에서 같은 문제를 재현하고 개선 전략을 <strong>수치로</strong> 비교하고 싶었다.</p>\n<p>앨범 목록 API(앨범 + 대표 아티스트명 + 트랙 목록)를 만들었다. Album→Artist(ToOne),\nAlbum→Tracks(OneToMany) 모두 LAZY. 리포지토리는 <code class=\"language-text\">findAll(Pageable)</code> 하나 —\n<strong>코드 어디에도 반복 조회가 없다.</strong> 그런데:</p>\n<div class=\"gatsby-highlight\" data-language=\"text\"><pre class=\"language-text\"><code class=\"language-text\">앨범 30개 조회 = 쿼리 61개 이상 (목록 1 + artist 30 + tracks 30)</code></pre></div>\n<p>쿼리는 리포지토리가 아니라 <strong>DTO 변환 중</strong>(지연 로딩 접근)에 나간다. 이게 N+1 이 늦게\n발견되는 이유다. MyBatis 는 resultMap 의 collection 쿼리가 XML 에 보이는데, JPA 는\n<code class=\"language-text\">getMainArtist().getName()</code> 한 줄이 조용히 SELECT 를 만든다. 그리고 응답은 <strong>완전히\n정확하다</strong> — N+1 은 틀린 결과가 아니라 느린 결과라서 기능 테스트로는 절대 안 잡힌다.</p>\n<p>측정은 Hibernate Statistics(<code class=\"language-text\">PrepareStatementCount</code>)로 했다. “느린 것 같다”가 아니라\n쿼리 수를 직접 센다.</p>\n<h2 id=\"3가지-개선-전략-측정\" style=\"position:relative;\"><a href=\"#3%EA%B0%80%EC%A7%80-%EA%B0%9C%EC%84%A0-%EC%A0%84%EB%9E%B5-%EC%B8%A1%EC%A0%95\" aria-label=\"3가지 개선 전략 측정 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>3가지 개선 전략 측정</h2>\n<p>앨범 200 / 트랙 2,000 / 페이지 50, 3회 중앙값. <strong>지표를 두 개</strong> 봤다 —\n쿼리 수와 함께 Album 엔티티 로드 수(EntityLoadCount).</p>\n<table>\n<thead>\n<tr>\n<th>전략</th>\n<th align=\"right\">쿼리 수</th>\n<th align=\"right\">Album 로드 수</th>\n<th align=\"right\">중앙값</th>\n</tr>\n</thead>\n<tbody>\n<tr>\n<td>NAIVE (LAZY 순회)</td>\n<td align=\"right\">102</td>\n<td align=\"right\">50</td>\n<td align=\"right\">110ms</td>\n</tr>\n<tr>\n<td>fetch join</td>\n<td align=\"right\">2</td>\n<td align=\"right\"><strong>200</strong></td>\n<td align=\"right\">33ms</td>\n</tr>\n<tr>\n<td><code class=\"language-text\">@EntityGraph</code></td>\n<td align=\"right\">2</td>\n<td align=\"right\"><strong>200</strong></td>\n<td align=\"right\">22ms</td>\n</tr>\n<tr>\n<td><code class=\"language-text\">default_batch_fetch_size=100</code></td>\n<td align=\"right\">4</td>\n<td align=\"right\"><strong>50</strong></td>\n<td align=\"right\">-</td>\n</tr>\n</tbody>\n</table>\n<h2 id=\"반전--fetch-join-의-숨은-비용\" style=\"position:relative;\"><a href=\"#%EB%B0%98%EC%A0%84--fetch-join-%EC%9D%98-%EC%88%A8%EC%9D%80-%EB%B9%84%EC%9A%A9\" aria-label=\"반전  fetch join 의 숨은 비용 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>반전 — fetch join 의 숨은 비용</h2>\n<p>쿼리 수만 보면 fetch join 완승(102→2)이다. 그런데 로드 수가 이상하다.\n<strong>페이지는 50개를 요청했는데 전체 200개를 로드했다.</strong></p>\n<p>컬렉션 fetch join 에 페이징을 걸면 Hibernate 는 LIMIT 을 SQL 로 못 내린다 —\n한 앨범이 트랙 수만큼 여러 행으로 뻥튀기된 결과에서 50행을 자르면 앨범 50개가\n아니기 때문이다. 대신 <strong>전체를 메모리에 올려놓고 자른다</strong> (로그의 HHH90003004 경고).\n앨범이 200개라 33ms 지, 200만 개면 OOM 이다. <code class=\"language-text\">@EntityGraph</code> 도 SQL 형태가 같아\n함정을 그대로 공유한다 — 차이는 선언 방식이지 성능이 아니다.</p>\n<p><strong>페이징을 DB 에 남기는 컬렉션 해법은 batch fetch 뿐이었다</strong> (쿼리 4개, 로드 50개).</p>\n<h2 id=\"네-번째-전략은-코드가-아니라-설정이다\" style=\"position:relative;\"><a href=\"#%EB%84%A4-%EB%B2%88%EC%A7%B8-%EC%A0%84%EB%9E%B5%EC%9D%80-%EC%BD%94%EB%93%9C%EA%B0%80-%EC%95%84%EB%8B%88%EB%9D%BC-%EC%84%A4%EC%A0%95%EC%9D%B4%EB%8B%A4\" aria-label=\"네 번째 전략은 코드가 아니라 설정이다 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>네 번째 전략은 코드가 아니라 설정이다</h2>\n<p><code class=\"language-text\">default_batch_fetch_size</code> 는 SessionFactory 설정이라 쿼리 단위로 켤 수 없다.\n그래서 벤치마크도 <strong>별도 테스트 컨텍스트</strong>가 필요했는데, 그 클래스에서 실행되는\n서비스 코드는 NAIVE 벤치마크와 <strong>한 글자도 다르지 않다.</strong> 같은 코드가 설정 한 줄로\n102쿼리 → 4쿼리가 된다. 동작 원리는 LAZY 프록시 초기화 시 영속성 컨텍스트의 같은 타입\n미초기화 프록시를 batch_size 개까지 모아 IN 쿼리 하나로 로딩하는 것.</p>\n<h2 id=\"정리\" style=\"position:relative;\"><a href=\"#%EC%A0%95%EB%A6%AC\" aria-label=\"정리 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>정리</h2>\n<ul>\n<li>ToOne 만 필요하면 fetch join, <strong>컬렉션 + 페이징이면 batch fetch</strong> 가 사실상 유일해</li>\n<li>지표 하나(쿼리 수)만 보면 결론이 뒤집힌다 — EntityLoadCount 를 같이 볼 것</li>\n<li><code class=\"language-text\">open-in-view: false</code> 전제라 DTO 변환은 <code class=\"language-text\">@Transactional(readOnly=true)</code> 안에서.\nOSIV 로 미루면 편하지만 트랜잭션 밖 커넥션 점유를 편의로 포장하는 것이다</li>\n</ul>\n<p>벤치마크 코드: <a href=\"https://github.com/Shim8934/media-project/blob/main/src/test/java/com/skyshim/musicpipeline/catalog/AlbumFetchStrategyBenchmarkTest.java\">AlbumFetchStrategyBenchmarkTest</a></p>\n<hr>\n<div class=\"table-of-contents\">\n<ul>\n<li><a href=\"#%EB%AC%B8%EC%A0%9C%EB%A5%BC-%EC%9D%BC%EB%B6%80%EB%9F%AC-%EB%A7%8C%EB%93%A4%EB%8B%A4\">문제를 일부러 만들다</a></li>\n<li><a href=\"#3%EA%B0%80%EC%A7%80-%EA%B0%9C%EC%84%A0-%EC%A0%84%EB%9E%B5-%EC%B8%A1%EC%A0%95\">3가지 개선 전략 측정</a></li>\n<li><a href=\"#%EB%B0%98%EC%A0%84--fetch-join-%EC%9D%98-%EC%88%A8%EC%9D%80-%EB%B9%84%EC%9A%A9\">반전 — fetch join 의 숨은 비용</a></li>\n<li><a href=\"#%EB%84%A4-%EB%B2%88%EC%A7%B8-%EC%A0%84%EB%9E%B5%EC%9D%80-%EC%BD%94%EB%93%9C%EA%B0%80-%EC%95%84%EB%8B%88%EB%9D%BC-%EC%84%A4%EC%A0%95%EC%9D%B4%EB%8B%A4\">네 번째 전략은 코드가 아니라 설정이다</a></li>\n<li><a href=\"#%EC%A0%95%EB%A6%AC\">정리</a></li>\n</ul>\n</div>","excerpt":"문제를 일부러 만들다 이전 직장에서 N+1 로 60~90초 걸리던 조회를 개선한 경험이 있는데, MyBatis 환경이었다.\nJPA 환경에서 같은 문제를 재현하고 개선 전략을 수치로 비교하고 싶었다. 앨범 목록 API(앨범 + 대표 아티스트명 + 트랙 목록)를 만들었다. Album→Artist(ToOne),\nAlbum→Tracks(OneToMany) 모두 LAZY. 리포지토리는  하나 —\n코드 어디에도 반복 조회가 없다. 그런데: 쿼리는 리포지토리가 아니라 DTO 변환 중(지연 로딩 접근)에 나간다. 이게 N+1 이 늦게\n발견되는 이유다. MyBatis 는 resultMap 의 collection 쿼리가 XML 에 보이는데, JPA 는\n 한 줄이 조용히 SELECT 를 만든다. 그리고 응답은 완전히\n정확하다 — N+1 은 틀린 결과가 아니라 느린 결과라서 기능 테스트로는 절대 안 잡힌다. 측정은 Hibernate Statistics()로 했다. “느린 것 같다”가 아니라\n쿼리 수를 …","frontmatter":{"date":"July 24, 2026","title":"음악 스트리밍 파이프라인 만들기 - 07. N+1, 쿼리 수만 세면 fetch join에 속는다","categories":"Music_Pipeline","author":"shim8934","emoji":"🔍"},"fields":{"slug":"/Music_Pipeline_07/"}},"next":{"id":"d3715462-713f-5c22-89ad-4fd2525e72a6","html":"<h2 id=\"문제\" style=\"position:relative;\"><a href=\"#%EB%AC%B8%EC%A0%9C\" aria-label=\"문제 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>문제</h2>\n<p>집계 테이블 기반 “실시간 TOP 100 차트” API. 모든 사용자가 같은 것을 본다 —\n전형적인 읽기 편중 + <strong>핫키 하나</strong> 워크로드다. 결정이 세 겹이었다.</p>\n<h2 id=\"결정-1--차트를-어디서-만드나-redis-sorted-set-기각\" style=\"position:relative;\"><a href=\"#%EA%B2%B0%EC%A0%95-1--%EC%B0%A8%ED%8A%B8%EB%A5%BC-%EC%96%B4%EB%94%94%EC%84%9C-%EB%A7%8C%EB%93%9C%EB%82%98-redis-sorted-set-%EA%B8%B0%EA%B0%81\" aria-label=\"결정 1  차트를 어디서 만드나 redis sorted set 기각 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>결정 1 — 차트를 어디서 만드나: Redis Sorted Set 기각</h2>\n<p>“Redis 차트면 ZINCRBY + ZREVRANGE 지” 싶었는데, 기각했다. 결정타는 <strong>멱등성</strong>이다.</p>\n<p>컨슈머가 같은 배치를 재처리하면 DB 는 <code class=\"language-text\">event_id UNIQUE</code> 로 걸러내지만\n<strong>ZINCRBY 는 그대로 두 번 더해진다.</strong> 04편에서 세운 멱등성 체계 밖에 비원자\n이중 쓰기 경로를 만드는 구조다. Redis 에도 중복 판정을 만들면 되지만, 그건 같은\n체계를 두 번 구현하는 것이다. DB 집계(TOP 100 쿼리) + 캐시로 갔다.\n설계 결정은 독립적이지 않다 — <strong>앞의 결정이 뒤의 선택지를 제약한다.</strong></p>\n<h2 id=\"결정-2--look-aside\" style=\"position:relative;\"><a href=\"#%EA%B2%B0%EC%A0%95-2--look-aside\" aria-label=\"결정 2  look aside permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>결정 2 — Look-aside</h2>\n<p>Write-through 는 기각: 쓰기 주체(컨슈머, 초당 수백 건)와 읽기 주체(차트 API)가 달라서,\n아무도 안 읽는 사이에도 집계마다 TOP 100 재계산을 강요하는 꼴이다.\n차트는 엔티티 캐시가 아니라 <strong>쿼리 결과 캐시</strong>라 읽기 쪽에서 채우는 게 자연스럽다.</p>\n<h2 id=\"결정-3--스탬피드-논리물리-ttl-이원화--단일-비행\" style=\"position:relative;\"><a href=\"#%EA%B2%B0%EC%A0%95-3--%EC%8A%A4%ED%83%AC%ED%94%BC%EB%93%9C-%EB%85%BC%EB%A6%AC%EB%AC%BC%EB%A6%AC-ttl-%EC%9D%B4%EC%9B%90%ED%99%94--%EB%8B%A8%EC%9D%BC-%EB%B9%84%ED%96%89\" aria-label=\"결정 3  스탬피드 논리물리 ttl 이원화  단일 비행 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>결정 3 — 스탬피드: 논리/물리 TTL 이원화 + 단일 비행</h2>\n<p>물리 TTL 하나만 쓰면 만료 순간 동시 요청 전부가 DB 로 몰린다.\n캐시가 가장 필요한 순간에 캐시가 없다.</p>\n<div class=\"gatsby-highlight\" data-language=\"text\"><pre class=\"language-text\"><code class=\"language-text\">soft TTL 30s  : 논리 만료. 지나면 stale — 즉시 응답하고 갱신은 백그라운드 1개 스레드만\nhard TTL 120s : 물리 만료. Redis 가 실제로 지운다\n완전 미스      : ReentrantLock 단일 비행 — 1개 요청만 DB, 나머지는 대기 후 재확인\nRedis 장애    : DB 직접 조회 폴백 — 캐시는 성능 장치지 가용성 의존점이 아니다</code></pre></div>\n<ul>\n<li><code class=\"language-text\">soft >= hard</code> 설정은 기동 실패로 막았다 — stale 서빙 창이 없으면 이 구조가 무의미해진다.\n04편의 TTL 부등식과 같은 패턴: <strong>설정값을 안전성 조건으로 다룬다.</strong></li>\n<li>jitter 는 키가 하나라 무의미, 분산 락은 단일 인스턴스에서 인프라만 느는 거래라 보류.</li>\n<li>캐시 키도 하나 — TOP 100 전체를 캐싱하고 요청 size 는 잘라서 응답한다.</li>\n</ul>\n<h2 id=\"테스트-기법이-절반이다\" style=\"position:relative;\"><a href=\"#%ED%85%8C%EC%8A%A4%ED%8A%B8-%EA%B8%B0%EB%B2%95%EC%9D%B4-%EC%A0%88%EB%B0%98%EC%9D%B4%EB%8B%A4\" aria-label=\"테스트 기법이 절반이다 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>테스트 기법이 절반이다</h2>\n<table>\n<thead>\n<tr>\n<th>검증 대상</th>\n<th>방법</th>\n</tr>\n</thead>\n<tbody>\n<tr>\n<td>캐시 히트</td>\n<td><strong>DB 를 바꾼 뒤 응답이 안 바뀌는 것</strong>으로 증명 (호출 횟수 카운팅보다 견고)</td>\n</tr>\n<tr>\n<td>stale 동작</td>\n<td>30초 대기 대신 <code class=\"language-text\">generatedAt</code> 을 과거로 조작한 캐시를 주입</td>\n</tr>\n<tr>\n<td>단일 비행</td>\n<td>빈 캐시에 10 스레드 동시 진입 → DB 호출 <strong>정확히 1회</strong> 단언</td>\n</tr>\n<tr>\n<td>Redis 장애</td>\n<td>컨테이너를 멈추지 않는다 — <strong>빈 포트를 바라보는 커넥션 팩토리를 조립.</strong> 장애는 기다리는 게 아니라 만드는 것</td>\n</tr>\n</tbody>\n</table>\n<h2 id=\"부하를-걸어-보니--예상이-뒤집혔다\" style=\"position:relative;\"><a href=\"#%EB%B6%80%ED%95%98%EB%A5%BC-%EA%B1%B8%EC%96%B4-%EB%B3%B4%EB%8B%88--%EC%98%88%EC%83%81%EC%9D%B4-%EB%92%A4%EC%A7%91%ED%98%94%EB%8B%A4\" aria-label=\"부하를 걸어 보니  예상이 뒤집혔다 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>부하를 걸어 보니 — 예상이 뒤집혔다</h2>\n<p>k6 로 캐시 ON/OFF 를 비교했다 (별도 글 예정인 M4 부하 테스트의 일부).</p>\n<table>\n<thead>\n<tr>\n<th>시나리오</th>\n<th align=\"right\">처리량</th>\n<th align=\"right\">p95</th>\n</tr>\n</thead>\n<tbody>\n<tr>\n<td>50 VU, 캐시 ON</td>\n<td align=\"right\">479 rps</td>\n<td align=\"right\">4.2ms</td>\n</tr>\n<tr>\n<td>50 VU, 캐시 OFF</td>\n<td align=\"right\">478 rps</td>\n<td align=\"right\"><strong>5.0ms</strong></td>\n</tr>\n<tr>\n<td>200 VU 풀부하, 캐시 ON</td>\n<td align=\"right\"><strong>4,167 rps</strong></td>\n<td align=\"right\"><strong>55.7ms</strong></td>\n</tr>\n<tr>\n<td>200 VU 풀부하, 캐시 OFF</td>\n<td align=\"right\">3,562 rps</td>\n<td align=\"right\">99.3ms</td>\n</tr>\n<tr>\n<td>Redis 정지 (캐시 ON)</td>\n<td align=\"right\">81 rps</td>\n<td align=\"right\">523ms · <strong>실패율 0%</strong></td>\n</tr>\n</tbody>\n</table>\n<p>저부하에서는 <strong>캐시가 무의미했다.</strong> 인덱스 타고 버퍼 풀에 올라간 DB 도 p95 5ms 다.\n“DB 가 느려서 캐시를 얹는다”는 전제가 이 규모에선 측정으로 기각된 것.\n캐시의 진짜 역할은 고부하에서 드러났다 — 응답을 빠르게 하는 게 아니라\n<strong>DB 를 병목에서 제거</strong>한다 (p95 43% 감소, 남은 지연은 웹 계층으로 병목 이동).</p>\n<p>Redis 를 정지시킨 상태에서도 1,650 요청 실패율 0% — 다만 전 요청이 타임아웃\n500ms 를 태우고 폴백했다. “다음 개선은 서킷 브레이커”라는 결론까지가 측정의 산출물이다.</p>\n<p>상세: <a href=\"https://github.com/Shim8934/media-project/blob/main/docs/adr/0005-chart-cache-strategy.md\">ADR-0005</a></p>\n<hr>\n<div class=\"table-of-contents\">\n<ul>\n<li><a href=\"#%EB%AC%B8%EC%A0%9C\">문제</a></li>\n<li><a href=\"#%EA%B2%B0%EC%A0%95-1--%EC%B0%A8%ED%8A%B8%EB%A5%BC-%EC%96%B4%EB%94%94%EC%84%9C-%EB%A7%8C%EB%93%9C%EB%82%98-redis-sorted-set-%EA%B8%B0%EA%B0%81\">결정 1 — 차트를 어디서 만드나: Redis Sorted Set 기각</a></li>\n<li><a href=\"#%EA%B2%B0%EC%A0%95-2--look-aside\">결정 2 — Look-aside</a></li>\n<li><a href=\"#%EA%B2%B0%EC%A0%95-3--%EC%8A%A4%ED%83%AC%ED%94%BC%EB%93%9C-%EB%85%BC%EB%A6%AC%EB%AC%BC%EB%A6%AC-ttl-%EC%9D%B4%EC%9B%90%ED%99%94--%EB%8B%A8%EC%9D%BC-%EB%B9%84%ED%96%89\">결정 3 — 스탬피드: 논리/물리 TTL 이원화 + 단일 비행</a></li>\n<li><a href=\"#%ED%85%8C%EC%8A%A4%ED%8A%B8-%EA%B8%B0%EB%B2%95%EC%9D%B4-%EC%A0%88%EB%B0%98%EC%9D%B4%EB%8B%A4\">테스트 기법이 절반이다</a></li>\n<li><a href=\"#%EB%B6%80%ED%95%98%EB%A5%BC-%EA%B1%B8%EC%96%B4-%EB%B3%B4%EB%8B%88--%EC%98%88%EC%83%81%EC%9D%B4-%EB%92%A4%EC%A7%91%ED%98%94%EB%8B%A4\">부하를 걸어 보니 — 예상이 뒤집혔다</a></li>\n</ul>\n</div>","frontmatter":{"date":"July 24, 2026","title":"음악 스트리밍 파이프라인 만들기 - 06. Redis 캐시와 스탬피드, 그리고 캐시가 무의미했던 순간","categories":"Music_Pipeline","author":"shim8934","emoji":"⚡"},"fields":{"slug":"/Music_Pipeline_06/"}},"prev":{"id":"aabb9630-b1e7-5303-8dd0-3c3828c61149","html":"<h2 id=\"선택-모듈--오디오를-실제로-흘려보내기\" style=\"position:relative;\"><a href=\"#%EC%84%A0%ED%83%9D-%EB%AA%A8%EB%93%88--%EC%98%A4%EB%94%94%EC%98%A4%EB%A5%BC-%EC%8B%A4%EC%A0%9C%EB%A1%9C-%ED%9D%98%EB%A0%A4%EB%B3%B4%EB%82%B4%EA%B8%B0\" aria-label=\"선택 모듈  오디오를 실제로 흘려보내기 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>선택 모듈 — 오디오를 실제로 흘려보내기</h2>\n<p>메타데이터와 집계만 있던 파이프라인에 실제 재생 경로를 붙였다.\n제약: 기존 코드 무변경 — <code class=\"language-text\">streaming/</code> 패키지와 <code class=\"language-text\">audio_asset</code> 테이블만 추가.</p>\n<p>원본 음원은 <strong>ffmpeg 합성 사인파</strong>다. 저작권 문제가 없고, 길이를 <code class=\"language-text\">track.duration_ms</code>\n와 정확히 일치시킬 수 있어 검증이 깨끗하며, 저장소엔 바이너리 대신 <strong>재현 방법</strong>을\n버전관리한다. 트랙마다 주파수를 trackId 에서 유도해서 “다른 트랙인데 같은 소리” 같은\n배선 오류를 귀로 잡을 수 있게 했다.</p>\n<h2 id=\"hls-구조--rfc-8216-을-코드에-대응시키기\" style=\"position:relative;\"><a href=\"#hls-%EA%B5%AC%EC%A1%B0--rfc-8216-%EC%9D%84-%EC%BD%94%EB%93%9C%EC%97%90-%EB%8C%80%EC%9D%91%EC%8B%9C%ED%82%A4%EA%B8%B0\" aria-label=\"hls 구조  rfc 8216 을 코드에 대응시키기 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>HLS 구조 — RFC 8216 을 코드에 대응시키기</h2>\n<div class=\"gatsby-highlight\" data-language=\"text\"><pre class=\"language-text\"><code class=\"language-text\">media-store/{trackId}/\n├─ master.m3u8          마스터 플레이리스트: \"무엇을 고를 수 있나\" (EXT-X-STREAM-INF)\n├─ v64k/playlist.m3u8   미디어 플레이리스트: \"어떤 순서로 재생하나\" (EXTINF, ENDLIST)\n├─ v64k/seg_000.ts ...  MPEG-TS 세그먼트 (AAC)\n└─ v128k/...</code></pre></div>\n<p>variant 인코딩·분할은 ffmpeg 에 맡기고 <strong>마스터 플레이리스트는 직접 썼다</strong> —\n<code class=\"language-text\">BANDWIDTH</code>(비트레이트 + TS 오버헤드)와 <code class=\"language-text\">CODECS</code>(“mp4a.40.2” = AAC-LC)가 어디서\n오는지 코드에 남는다. 플레이어는 이 두 값으로 다운로드 전에 variant 를 고른다.\nABR 의 선택 근거가 마스터에 선언돼 있다는 게 HLS 구조의 핵심이다.</p>\n<p>검증은 <strong>ffprobe 교차 검증</strong> — 우리가 만든 산출물을 우리가 아닌 도구가\n“AAC + MPEG-TS, 길이 N초”로 읽는지 확인한다. 생성기와 검증기가 같으면 순환 논증이다.</p>\n<h2 id=\"range-request206-와-hls-의-관계\" style=\"position:relative;\"><a href=\"#range-request206-%EC%99%80-hls-%EC%9D%98-%EA%B4%80%EA%B3%84\" aria-label=\"range request206 와 hls 의 관계 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>Range Request(206) 와 HLS 의 관계</h2>\n<p>같은 문제(“파일 일부만 전송”)를 <strong>자르는 주체가 다르다.</strong></p>\n<table>\n<thead>\n<tr>\n<th></th>\n<th>Range (프로그레시브)</th>\n<th>HLS</th>\n</tr>\n</thead>\n<tbody>\n<tr>\n<td>자르는 주체</td>\n<td>클라이언트, 바이트 단위</td>\n<td>서버, 미디어 단위(미리)</td>\n</tr>\n<tr>\n<td>탐색</td>\n<td><code class=\"language-text\">Range: bytes=N-</code> 재요청</td>\n<td>다른 세그먼트 요청</td>\n</tr>\n<tr>\n<td>화질 전환</td>\n<td>표현 불가</td>\n<td>variant 의 같은 시점 세그먼트</td>\n</tr>\n<tr>\n<td>CDN</td>\n<td>부분 요청이라 비효율</td>\n<td>세그먼트 = 완결된 정적 파일</td>\n</tr>\n</tbody>\n</table>\n<p>Spring 은 <code class=\"language-text\">ResponseEntity&lt;Resource></code> 를 반환하면 Range 를 자동 처리한다 —\n세그먼트에 <code class=\"language-text\">bytes=0-99</code> 를 보내면 206 + <code class=\"language-text\">Content-Range</code> 가 온다. HLS 플레이어는 안\n쓰지만 두 방식의 차이를 설명하는 살아 있는 데모가 된다.</p>\n<h2 id=\"사전-생성-vs-온디맨드--측정이-가설을-기각한-네-번째-사례\" style=\"position:relative;\"><a href=\"#%EC%82%AC%EC%A0%84-%EC%83%9D%EC%84%B1-vs-%EC%98%A8%EB%94%94%EB%A7%A8%EB%93%9C--%EC%B8%A1%EC%A0%95%EC%9D%B4-%EA%B0%80%EC%84%A4%EC%9D%84-%EA%B8%B0%EA%B0%81%ED%95%9C-%EB%84%A4-%EB%B2%88%EC%A7%B8-%EC%82%AC%EB%A1%80\" aria-label=\"사전 생성 vs 온디맨드  측정이 가설을 기각한 네 번째 사례 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>사전 생성 vs 온디맨드 — 측정이 가설을 기각한 네 번째 사례</h2>\n<p>패키징을 입수 후 미리 할 것인가, 첫 재생 요청 때 할 것인가. 측정을 위해\n<code class=\"language-text\">audio_asset</code> 테이블에 <code class=\"language-text\">packaging_ms</code>/<code class=\"language-text\">storage_bytes</code> 컬럼을 <strong>스키마 단계에</strong> 넣었다.</p>\n<p>실카탈로그 21트랙(평균 220초) 측정:</p>\n<table>\n<thead>\n<tr>\n<th>지표</th>\n<th align=\"right\">값</th>\n</tr>\n</thead>\n<tbody>\n<tr>\n<td>패키징 시간</td>\n<td align=\"right\">평균 <strong>5.4초</strong> (2.6~7.9초)</td>\n</tr>\n<tr>\n<td>스토리지</td>\n<td align=\"right\">5.51 MB/트랙 (비트레이트 역산과 일치)</td>\n</tr>\n<tr>\n<td>5만 트랙 외삽</td>\n<td align=\"right\">269 GB, 8워커 병렬 약 9.4시간</td>\n</tr>\n</tbody>\n</table>\n<p>가설은 “온디맨드도 1초쯤이면 쓸 만하다”였다. <strong>실측 5.4초로 기각.</strong> 음악 재생의 기대\n반응시간은 백 ms 대다. Zipf 분포로 “롱테일은 안 들으니 아끼자”는 온디맨드 옹호 논리도\n뒤집으면 “롱테일 청취자만 5초 페널티”다. <strong>사전 생성을 기본</strong>으로, 온디맨드는 같은\n준비 경로를 쓰므로 한계 비용 0 으로 보조·복구용으로 남겼다.</p>\n<h2 id=\"재사용된-패턴들\" style=\"position:relative;\"><a href=\"#%EC%9E%AC%EC%82%AC%EC%9A%A9%EB%90%9C-%ED%8C%A8%ED%84%B4%EB%93%A4\" aria-label=\"재사용된 패턴들 permalink\" class=\"anchor before\"><svg aria-hidden=\"true\" focusable=\"false\" height=\"16\" version=\"1.1\" viewBox=\"0 0 16 16\" width=\"16\"><path fill-rule=\"evenodd\" d=\"M4 9h1v1H4c-1.5 0-3-1.69-3-3.5S2.55 3 4 3h4c1.45 0 3 1.69 3 3.5 0 1.41-.91 2.72-2 3.25V8.59c.58-.45 1-1.27 1-2.09C10 5.22 8.98 4 8 4H4c-.98 0-2 1.22-2 2.5S3 9 4 9zm9-3h-1v1h1c1 0 2 1.22 2 2.5S13.98 12 13 12H9c-.98 0-2-1.22-2-2.5 0-.83.42-1.64 1-2.09V6.25c-1.09.53-2 1.84-2 3.25C6 11.31 7.55 13 9 13h4c1.45 0 3-1.69 3-3.5S14.5 6 13 6z\"></path></svg></a>재사용된 패턴들</h2>\n<p>새 도메인인데 새 개념이 거의 없었다.</p>\n<ul>\n<li>동시 준비 선점: <code class=\"language-text\">UNIQUE(track_id)</code> INSERT 원자성 (M1 재처리 claim 패턴)</li>\n<li>상태 머신: PREPARING → READY | FAILED (ingest_failure 와 동일)</li>\n<li>ffmpeg 실행 중 트랜잭션을 잡지 않는다 (M1 IngestService 와 동일 — 외부 프로세스가 커넥션 풀을 고갈시킨다)</li>\n<li>path traversal 방어: normalize + startsWith (M1 입수 API 와 동일)</li>\n</ul>\n<p><strong>패턴의 재사용이 곧 설계 일관성</strong>이라는 게 이 모듈의 결론이다.</p>\n<p>상세: <a href=\"https://github.com/Shim8934/media-project/blob/main/docs/adr/0006-hls-pregeneration-vs-ondemand.md\">ADR-0006</a>,\n<a href=\"https://github.com/Shim8934/media-project/blob/main/docs/learning/02-hls-implementation-notes.md\">HLS 구현 노트</a></p>\n<hr>\n<div class=\"table-of-contents\">\n<ul>\n<li><a href=\"#%EC%84%A0%ED%83%9D-%EB%AA%A8%EB%93%88--%EC%98%A4%EB%94%94%EC%98%A4%EB%A5%BC-%EC%8B%A4%EC%A0%9C%EB%A1%9C-%ED%9D%98%EB%A0%A4%EB%B3%B4%EB%82%B4%EA%B8%B0\">선택 모듈 — 오디오를 실제로 흘려보내기</a></li>\n<li><a href=\"#hls-%EA%B5%AC%EC%A1%B0--rfc-8216-%EC%9D%84-%EC%BD%94%EB%93%9C%EC%97%90-%EB%8C%80%EC%9D%91%EC%8B%9C%ED%82%A4%EA%B8%B0\">HLS 구조 — RFC 8216 을 코드에 대응시키기</a></li>\n<li><a href=\"#range-request206-%EC%99%80-hls-%EC%9D%98-%EA%B4%80%EA%B3%84\">Range Request(206) 와 HLS 의 관계</a></li>\n<li><a href=\"#%EC%82%AC%EC%A0%84-%EC%83%9D%EC%84%B1-vs-%EC%98%A8%EB%94%94%EB%A7%A8%EB%93%9C--%EC%B8%A1%EC%A0%95%EC%9D%B4-%EA%B0%80%EC%84%A4%EC%9D%84-%EA%B8%B0%EA%B0%81%ED%95%9C-%EB%84%A4-%EB%B2%88%EC%A7%B8-%EC%82%AC%EB%A1%80\">사전 생성 vs 온디맨드 — 측정이 가설을 기각한 네 번째 사례</a></li>\n<li><a href=\"#%EC%9E%AC%EC%82%AC%EC%9A%A9%EB%90%9C-%ED%8C%A8%ED%84%B4%EB%93%A4\">재사용된 패턴들</a></li>\n</ul>\n</div>","frontmatter":{"date":"July 24, 2026","title":"음악 스트리밍 파이프라인 만들기 - 08. HLS 스트리밍, 온디맨드 패키징이 기각당한 이유","categories":"Music_Pipeline","author":"shim8934","emoji":"🎧"},"fields":{"slug":"/Music_Pipeline_08/"}},"site":{"siteMetadata":{"siteUrl":"https://shim8934.github.io","comments":{"utterances":{"repo":"Shim8934/shim8934.github.io"}}}}},"pageContext":{"slug":"/Music_Pipeline_07/","nextSlug":"/Music_Pipeline_06/","prevSlug":"/Music_Pipeline_08/"}},
    "staticQueryHashes": ["1073350324","1956554647","2938748437"]}