캐시 사용 시 유의할 점
- 어떤 데이터를 캐시에 두어야하는가?
- 데이터 갱신이 자주 일어나지 않지만 참조는 빈번하게 일어나는 데이터
- 어떻게 만료되는가?
- 적절한 만료 정책 설정
- 일관성은 어떻게 유지되는가?
- 캐시와 저장소 사이의 일관성
- 장애에는 어떻게 대처할 것인가?
- 캐시 서버를 한 대만 두는 경우 단일 장애 지점이 되어버림
- 여러 지역에 걸쳐 캐시 서버를 분산해야함
- 캐시 메모리는 얼마나 크게 잡을 것인가?
- 캐시 메모리가 너무 작으면 데이터가 자주 밀려나버려 캐시의 이점을 제대로 살리지 못함
- 데이터 방출 정책?
- LRU → 마지막으로 사용된 시점이 가장 오래된 데이터를 내보냄
- LFU → 사용된 빈도가 가장 낮은 데이터를 내보냄
- FIFO → 가장 처음에 들어온 데이터를 내보냄
CDN 사용 시 고려해야 할 사항
- 비용
- 적절한 만료 시한 설정
- CDN 장애에 대한 대처 방안
데이터 센터 구축
- 가용성을 높이고 전 세계 어디에서도 쾌적하게 사용할 수 있도록 데이터 센터 구축 및 운영
- 지리적 라우팅을 통해 사용자로부터 가장 가까운 데이터 센터로 안내된다.
- Active-Active 구조는 토스 뱅크에서 사용하는 구조이다.
- L4 스위치 등의 부하분산 로드밸런싱을 통해 기능 또는 성격에 따라 1번 또는 2번 서버로 트래픽을 라우팅한다.
- Down Time이 존재하지 않는다.