캐시메모리

CPU가 메모리에 접근하는 시간은 CPU 연산 속도보다 느리다

 

저장 장치 계층 구조 (memory hierarchy)

• CPU와 가까운 저장 장치는 빠르고, 멀리 있는 저장 장치는 느리다.
• 속도가 빠른 저장 장치는 저장 용량이 작고, 가격이 비싸다.

 

레지스터 vs 메모리(RAM) vs USB메모리 

 

캐시 메모리

• CPU와 메모리 사이에 위치한, 레지스터보다는 용량이 크고 메모리보다 빠른 SRAM 기반의 저장 장치 
• CPU가 매번 메모리에 왔다 갔다 하는 건 시간이 오래 걸리니, 메모리에서 CPU가 사용할 일부 데이터를 미리 캐시메모리로 가지고 와서 쓰자 

 

계층적 캐시 메모리 

• 일반적으로 L1 캐시와 L2 캐시는 코어(CPU) 내부에, L3 캐시는 코어 외부에 위치

 

분리형 캐시 

• L1캐시를 명령어만을 담기 위한 L1I 메모리, 데이터만 담기 위한 L1D 메모리로 분리한 것도 있다.

 

참조 지역성의 원리

• 캐시 메모리는 메모리보다 용량이 작다.
• 메모리의 모든 내용을 저장할 수 없다.
• CPU가 자주 사용할 법한 내용을 예측하여 저장 
  • 예측이 들어맞을 경우 = 캐시 히트 (<->캐시 미스)
  • 캐시 적중률 = 캐시 히트 횟수 / (캐시 히트 횟수 + 캐시 미스 횟수)
• 참조 지역성의 원리란? : CPU가 메모리에 접근할 때의 주된 경향을 바탕으로 만들어진 원리
  • CPU는 최근에 접근했던 메모리 공간에 다시 접근하려는 경향이 있다.
  • CPU는 접근한 메모리 공간 근처를 접근하려는 경향이 있다. (공간 지역성)