Skip to content

자체 상태 캐시와 캐시 응답 헤더 도입 - #2

Merged
AlphaBs merged 3 commits into
mainfrom
codex/status-cache-metadata
Nov 1, 2026
Merged

AlphaBs merged 3 commits into
mainfrom
codex/status-cache-metadata

Conversation

@AlphaBs

@AlphaBs AlphaBs commented Nov 1, 2026 •

Copy link
Copy Markdown
Member

서버 상태 조회의 캐시 저장 시각과 재사용 여부를 제공하도록 fastapi-cache2를 자체 캐시 계층으로 교체합니다.

  • CACHE_BACKEND=redis|memory와 60초 TTL을 유지합니다. Redis 항목에 응답과 생성 시각을 함께 저장하고, 인메모리는 프로세스별 TTL·최대 10,000개 LRU 제한을 적용합니다.
  • 캐시 관련 응답 헤더는 X-Cache: HIT/MISS/BYPASS와 X-Cache-Created-At만 제공합니다. HIT에서는 최초 저장 시각을 유지하며, Redis 장애로 저장하지 않은 응답에는 생성 시각을 제공하지 않습니다.
  • ETag/304, Cache-Control, 기존 X-FastAPI-Cache 헤더를 제거합니다. 요청 캐시 지시어와 조건부 요청 헤더를 무시하고 서버 TTL에 따라 조회·저장합니다.
  • 같은 프로세스에서 같은 주소의 동시 요청은 하나의 조회·캐시 저장 작업을 공유합니다. 다른 주소는 병렬 처리하며, 한 요청의 취소가 공유 작업을 취소하지 않습니다. 완료·실패 시 작업을 제거하고 종료 시 진행 중인 작업을 취소합니다. 워커·컨테이너 간 분산 락은 사용하지 않습니다.
  • 기존 상태 응답 본문과 오류 비캐싱을 유지합니다. fastapi-cache2와 불필요한 전이 의존성을 제거하고 Redis를 직접 의존성으로 선언합니다.
  • CI에 실제 Redis 통합 테스트를 추가합니다.

검증: Python 3.10, 변경된 requirements.txt만 설치한 환경에서 실제 Redis 7과 로컬 TCP 테스트를 포함한 37개 테스트가 모두 통과했습니다. 동시 요청 병합·주소별 병렬 처리·취소 격리·실패 후 재시도·종료 정리·캐시 생성 시각 보존·TTL·요청 헤더 무시·응답 헤더 제한·오류 비캐싱·Redis 장애 대체·인메모리 만료 및 용량 제한을 확인했습니다. 운영 배포는 수행하지 않았습니다.

@AlphaBs
AlphaBs merged commit ed86956 into main Nov 1, 2026
1 check passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant