❓
물음표살인마 블로그
  • README
  • ALGORITHM
    • Sieve of Eratosthenes
    • Lcm, Gcd
    • Sorting Array
    • Round Up
    • Binary Search
    • Union Find
  • Books
    • CS Note for Interview
      • Ch1. Design Pattern & Programming paradigm
        • 1.1.1 Singleton Pattern
        • 1.1.2 Factory Pattern
        • 1.1.4 Observer Pattern
        • 1.1.5 Proxty Pattern & Proxy Server
        • 1.1.8 Model-View-Controller Pattern
        • 1.2.1 Declarative and Functional Programming
        • 1.2.2 Object Oriented Programming
      • Ch2. Network
        • 2.2.1 TCP/IP Four-Layer Model
        • 2.2.1-1 TCP 3, 4 way handshake
        • 2.3 Network Devices L4, L7
        • 2.4.1 ARP, RARP
        • 2.4.2 Hop By Hop Communication
        • 2.4.3 IP Addressing Scheme
      • Ch3. Operating System
        • 3.1.1 Roles and Structure of Operating Systems
        • 3.2.1 Memory Hierarchy
        • 3.2.2 Memory Management
        • 3.3.1 Processes and Compilation Process
        • 3.3.3 Memory Structure of a Process
        • 3.3.4 Process Control Block (PCB)
        • 3.3.5 Multiprocessing
        • 3.3.6 Threads and Multithreading
        • 3.3.7 Shared Resources and Critical Sections
        • 3.3.8 Deadlock
        • 3.4 CPU Scheduling Algorithm
      • Ch4. Database
        • 4.1 Database Basic
        • 4.2 Normalization
        • 4.3 Transaction and Integrity
        • 4.4 Types of Databases
        • 4.5 Indexes
        • 4.6 Types of Joins
        • 4.7 Principles of Joins
      • Ch5. Data Structure
    • Learning the Basics of Large-Scale System Design through Virtual Interview Cases
      • 1. Scalability based on user counts(1/2)
      • 1. Scalability based on user counts(2/2)
      • 2.Back-of-the-envelope estimation
      • 3. Strategies for System Design Interviews
      • 4. Rate Limiter
      • 5. Consistent Hashing
      • 6. Key-Value System Design
      • 7. Designing a Unique ID Generator for Distributed Systems
      • 8. Designing a URL Shortener
      • 9. Designing a Web Crawler
      • 10. Notification System Design
      • 11. Designing a News Feed System
      • 12. Chat System Design
      • 13. AutoComplete
      • 14. Design YouTube
      • 15. Design Google Drive
      • Loadbalancer Algorithms
      • Cache tier
      • CDN, Content Delivery Network
      • Stateless Web tier
    • Computer System A programmer's perspective
    • Effective Java
      • Item 1. Consider Static Factory Methods Instead of Constructors
      • Item 2. Consider a Builder When Faced with Many Constructor Parameters
      • Item 3. Ensure Singleton with Private Constructor or Enum Type
      • Item 4. Enforce Noninstantiability with a Private Constructor
      • Item 5. Prefer Dependency Injection to Hardwiring Resources
      • Item 6. Avoid Creating Unnecessary Objects
      • Item 7. Eliminate Obsolete Object References
      • Item 8. Avoid Finalizers and Cleaners
      • Item 9.Prefer try-with-resources to try-finally
      • Item10. Adhering to General Rules When Overriding equals
        • Handling Transitivity Issues
        • Ensuring Consistency
      • Item11. Override hashCode When You Override equals
      • Item12. Always Override toString
        • Always Override toString
      • Item13. Override Clone Judiciously
      • Item14. Consider Implementing Comparable
      • Item15. Minimize the Accessibility of Classes and Members
      • Item16. Accessor Methods Over Public Fields
      • Item17. Minimize Mutability
      • Item18. Composition over inherentance
      • Item19. Design and Document for Inheritance, or Else Prohibit It
      • Item20. Prefer Interfaces to Abstract Classes
      • Item21. Design Interfaces with Implementations in Mind
      • Item22. Use Interfaces Only to define Types
      • Item23. Prefer Class Hierarchies to Tagged Classes
      • Item24. Favor Static Member Classes Over Non-Static
      • Item28. Use Lists Instead of Arrays
      • Item29. Prefer Generic Types
      • Item30. Favor Generic Methods
    • Head First Design Patterns
      • Ch1. Strategy Pattern
      • Ch2. Observer Pattern
        • Ver1. Ch2. Observer Pattern
      • Ch3. Decorator Pattern
        • Ch3. Decorator Pattern
      • Ch4. Factory Pattern
      • Ch5. Singleton Pattern
      • Ch6. Command Pattern
      • Ch7. Adapter and Facade Pattern
      • Ch8. Template Method Pattern
    • Digging Deep into JVM
      • Chapter 2. Java Memory Area & Memory Overflow
      • Chapter 3. Garbage Collector & Memory Allocation Strategy (1/2)
      • Chapter 3. Garbage Collector & Memory Allocation Strategy (2/2)
      • Chapter 5. Optimization Practice
      • Chapter 6. Class file structure
  • Interview Practices
    • Restful API Practices
      • Url Shortener API
      • Event Ticket Reservation API
      • Course Management API
      • Search posts by tags API
      • Online Code platform API
      • Simple Task Management API
      • Event Participation API
      • Review System API
      • Car management API
      • Online Library
    • Naver Computer Science
      • Process & Thread
      • TCP & UDP
      • Spring & Servlet
      • Filter & Interceptor & AOP
      • Equals() & ==
      • Dependency Injection
  • F-Lab
    • Week1
      • Client & Server
      • HTTP
      • TCP/UDP
      • REST API
      • Questions
        • Object Oriented Programming
        • HTTP
        • Process & Thread
        • Data Structure
    • Week2
      • OSI 7 layer
      • Web vs WAS
    • Week3
      • RDB vs NoSQL
      • RDB Index
      • Cache
      • Redis
      • Messaging Queue
    • Week4
      • Project - Ecommerce
    • Week5
      • ERD - 1
    • Week6
      • Ecommerce - 2
      • Role
      • pw hashing && Salt
      • CreatedAt, ModifiedAt
      • JWT
      • Copy of ERD - 1
    • Week7
      • Vault (HashiCorp Vault)
    • Week 8
      • Api Endpoints
  • Week10
    • Product Create Workflow
  • TOY Project
    • CodeMentor
      • Implementation of Kafka
      • Implementation of K8s
      • Communication between servers in msa
  • JAVA
    • Java 101
      • JVM Structure
      • Java Compiles and Execution Method
      • Override, Overload
      • Interface vs Abstract Class
      • Primitive vs Object Type
      • Identity and equality
      • String, StringBuilder, StringBuffer
      • Checked Exceptions and Unchecked Exceptions
      • Java 8 methods
      • Try-with-reources
      • Strong Coupling and Loose Coupling
      • Serialization and Deserialization
      • Concurrency Programming in Java
      • Mutable vs Immutable
      • JDK vs JRE
    • Java Questions
      • Week 1(1/2) - Basic Java
      • Week 1(2/2) - OOP
      • Week 2(1/2) - String, Exception, Generic
      • Week2(2/2) Lambda, Stream, Annotation, Reflection
      • Week3(1/2) Collections
      • Week3(2/2) Threads
      • Week4 Java Concurrency Programming
      • Week5 JVM & GC
    • Batch delete instead of Cascade
    • Checked vs Unchecked Exception
    • Thread
    • Memory Visibility
    • Synchronized && ReentrantLock
    • Producer & Consumer
    • BlockingQueue
    • CAS (Compare and Set)
  • SPRING
    • Spring Questions
      • Spring Framework
      • Spring MVC & Web Request
      • AOP (Aspect-Oriented Programming)
      • Spring Boot
      • ORM & Data Access
      • Security
      • ETC
    • using profile name as variable
    • Template Method Pattern
    • Strategy Pattern
    • Proxy Pattern
    • @Transactional
    • Ioc container, di practice
  • Programming Paradigm
    • Declarative vs Imperative
  • JPA
    • Template Page
  • PYTHON
    • Icecream
  • FASTAPI
    • Template Page
  • COMPUTER SCIENCE
    • Computer Architecture 101
      • 3 components of a computer
      • RAM vs ROM
      • CPU vs GPU
      • SIMD
      • Two's complement
      • Harvard Architecture vs. von Neumann Architecture
      • The structure of a CPU.
      • Instruction cycle (CPU operation method)
      • Instruction pipelining
      • Bus
      • Memory area
      • Memory hierarchy structure
        • Reason for using memory hierarchy structure
      • Cache memory
      • L1, L2, L3 Cache
      • Locality of reference (cache)
      • Fixed-point vs Floating-point
        • epresentation of infinity and NaN (Not a Number) in floating-point
      • RISC vs CISC
      • Hamming code
      • Compiler
      • Linking
      • Compiler vs Interpreter
      • Mutex vs Semaphore
      • 32bit CPU and 64bit CPU
      • Local vs Static Variable
      • Page
  • OS
    • Operating System 101
      • Operating system
        • The role of the operating system
        • The composition of the operating system.
      • Process
        • In Linux, are all processes except the initial process child processes?
        • Zombie process, orphan process
        • (Linux) Daemon process
        • Process address space
        • Where are uninitialized variables stored?
        • Determination of the size of the Stack and Heap
        • Access speed of Stack vs Heap
        • Reason for memory space partitioning
        • Process of compiling a process
        • sudo kill -9 $CURRENT_PID
      • Thread
        • Composition of a thread's address space
      • Process vs Thread
        • Creation of processes and threads in Linux
      • Multiprocessing
        • Web Browser
        • Implementation of multiprocessing
        • Application areas of multiprocessing
      • Multithreading
        • Application areas of multithreading
      • Interrupt
        • HW / SW Interrupt
        • Method of handling interrupts
        • Occurrence of two or more interrupts simultaneously
      • Polling
      • Dual Mode
        • Reason for distinguishing between user mode and kernel mode
      • System call
        • Differentiation between system calls
        • Types of system calls
        • Execution process of a system call
      • Process Control Block (PCB)
        • PCB의 구조
        • 쓰레드는 PCB를 갖고 있을까?
        • 프로세스 메모리 구조
      • Context switching
        • Timing of context switching
        • Registers saved during context switching
        • Context switching in processes
        • Context switching in threads
        • Difference between context switching in processes and threads
        • Information of the current process during context switching
      • Interprocess Communication (IPC)
        • Cases where IPC is used
        • Process address space in IPC Shared Memory technique
        • Types of IPC
    • Operating System Questions
      • Week1 OS & How Computer Systems Work
      • Week2(1/2) Process
      • Week2(2/2) Thread
      • Week3 CPU Scheduling
      • Week4 Process Synchronize
      • Week5 Virtual Memory
  • LINUX
    • Template Page
  • SERVER
    • Template Page
  • NETWORK
    • Network 101
      • https://www.google.com
      • TCP vs UDP
      • Http vs Https
      • TLS Handshake 1.2
      • HTTP Method
      • CORS & SOP
      • Web Server Software
    • Network Questions
      • Week1 Computer Network Basic
      • Week2(1/3) Application Layer Protocol - HTTP
      • Week2(2/3) Application Layer Protocol - HTTPS
      • Week2(3/3) Application Layer Protocol - DNS
      • Week3 Application Layer
      • Week4 Transport Layer - UDP, TCP
      • Week5 Network Layer - IP Protocol
    • Blocking, NonBlocking and Sync, Async
    • HTTP 0.9-3.0
  • DATABASE
    • Database Questions
      • Week1 DBMS, RDBMS basics
      • Week2 SQL
      • Week3 Index
      • Week4 Anomaly, Functional Dependency, Normalization
      • Week5 DB Transaction, Recovery
    • Normalization
      • 1st Normal Form
      • 2nd Normal Form
      • 3rd Normal Form
    • Ensuring Data Consistency, Atomicity and UX Optimization (feat.Firebase)
    • Redis: Remote Dictionary Server
    • Enhancing Query Performance - User list
  • DATA STRUCTURE
    • Array vs Linked List
    • Counting Sort
  • GIT, Github
    • git clone, invalid path error
  • INFRA
    • Template Page
  • AWS
    • Server Log Archive Pipeline
    • Image Processing using Lambda
  • DOCKER
    • Docker commands
    • Python Executable Environment
    • Docker and VM
  • docker-compose
    • Kafka, Multi Broker
  • KUBERNATES
    • !Encountered Errors
      • my-sql restarts
      • kafka producer: disconnected
    • Kubernetes Components
    • Helm
      • Helm commands
    • Pod network
    • Service network
      • deployment.yaml
      • services.yaml
    • Service type
      • Cluster IP
      • NodePort
    • service-name-headless?
    • kube-proxy
    • Template Page
  • GraphQL
    • Template Page
  • WEB
    • Template Page
  • Reviews
    • Graphic Intern Review
    • Kakao Brain Pathfinder Review
    • JSCODE 자바 1기 Review
  • 😁Dev Jokes
    • Image
      • Plot twist
      • Priorities
      • SQL join guide
      • Google is generous
      • Genie dislikes cloud
      • buggy bugs
      • last day of unpaid internship
      • what if clients know how to inspect
      • its just game
      • how i wrote my achievement on resume
      • self explanatory
      • chr(sum(range(ord(min(str(not))))))
Powered by GitBook
On this page
  • 1. 메모리 계층의 개념
  • 2. 메모리 계층의 구성
  • 2.1 레지스터
  • 2.2 캐시(Cache)
  • 2.3 주기억장치(Main Memory)
  • 2.4 보조기억장치(Secondary Storage)
  • 3. 메모리 계층의 원리
  • 4. 캐시의 동작 원리
  • 4.1 캐시 히트(Cache Hit)와 캐시 미스(Cache Miss)
  • 4.2 캐시 매핑(Caching Mapping)
  • 5. 캐시 계층의 예시
  • 5.1 웹 브라우저의 캐시
  • 5.2 데이터베이스의 캐시
  • 결론
  1. Books
  2. CS Note for Interview
  3. Ch3. Operating System

3.2.1 Memory Hierarchy

메모리 계층

컴퓨터 시스템에서 메모리는 CPU가 명령어를 실행하는데 필수적인 요소입니다. 메모리는 다양한 계층으로 구성되어 있으며, 각 계층은 속도와 용량, 비용 면에서 차이를 보입니다.

1. 메모리 계층의 개념

메모리 계층은 레지스터, 캐시, 메모리, 저장장치로 구성되어 있습니다. 각 계층은 속도와 용량 면에서 차이를 보이며, CPU와 가까운 순서대로 배치됩니다.

2. 메모리 계층의 구성

2.1 레지스터

레지스터는 CPU 내에 있는 작은 메모리로, 속도가 가장 빠릅니다. 레지스터는 CPU가 직접 명령어를 실행하는데 사용되며, 메모리 계층 중 용량이 가장 작습니다. 레지스터는 주로 임시 데이터를 저장하고, 연산에 필요한 데이터를 빠르게 접근할 수 있도록 합니다.

  • 속도: 매우 빠름

  • 용량: 매우 작음

  • 예시: CPU 레지스터 (프로그램 카운터, 스택 포인터 등)

2.2 캐시(Cache)

캐시는 데이터와 명령어를 임시로 저장하여 CPU가 빠르게 접근할 수 있도록 하는 메모리입니다. 캐시는 L1, L2, L3 캐시로 나뉘며, 각 계층은 CPU와의 거리, 속도, 용량 면에서 차이를 보입니다. 캐시는 자주 사용되는 데이터를 미리 저장하여 메모리에 접근하는 시간을 줄이고, 시스템 성능을 향상시킵니다.

  • L1 캐시: CPU에 가장 가까운 캐시로, 속도가 가장 빠르며 용량이 작습니다.

  • L2 캐시: L1 캐시보다 용량이 크고, 속도는 느립니다.

  • L3 캐시: 여러 CPU 코어가 공유하는 캐시로, 용량이 가장 크고, 속도는 가장 느립니다.

  • 속도: 레지스터보다 느림, 메모리보다 빠름

  • 용량: 레지스터보다 큼, 메모리보다 작음

  • 예시: L1, L2, L3 캐시

2.3 주기억장치(Main Memory)

주기억장치는 RAM(Random Access Memory)으로 구성되며, 컴퓨터가 실행 중인 프로그램과 데이터를 저장합니다. 주기억장치는 CPU가 직접 접근할 수 있으며, 속도와 용량 면에서 캐시와 저장장치의 중간 정도입니다. 주기억장치는 휘발성 메모리로, 전원이 꺼지면 데이터가 사라집니다.

  • 속도: 캐시보다 느림, 저장장치보다 빠름

  • 용량: 캐시보다 큼, 저장장치보다 작음

  • 예시: DRAM(Dynamic RAM), SDRAM(Synchronous DRAM)

2.4 보조기억장치(Secondary Storage)

보조기억장치는 하드 디스크 드라이브(HDD), 솔리드 스테이트 드라이브(SSD) 등으로 구성되며, 대용량 데이터를 영구적으로 저장합니다. 보조기억장치는 주기억장치보다 속도가 느리지만, 용량이 크고 데이터를 영구적으로 저장할 수 있습니다. HDD는 회전하는 디스크를 이용하여 데이터를 읽고 쓰며, SSD는 플래시 메모리를 이용하여 데이터를 저장합니다.

  • 속도: 가장 느림

  • 용량: 가장 큼

  • 예시: HDD, SSD

3. 메모리 계층의 원리

메모리 계층의 원리는 빠르고 작은 메모리와 느리고 큰 메모리를 조합하여 최적의 성능을 제공하는 것입니다. CPU는 가장 빠른 레지스터와 캐시를 우선적으로 사용하고, 필요한 데이터가 캐시에 없을 경우 주기억장치에서 데이터를 가져옵니다. 주기억장치에도 데이터가 없을 경우 보조기억장치에서 데이터를 가져옵니다.

이러한 구조는 CPU가 데이터를 처리하는 속도를 최적화하고, 비용 효율적인 메모리 사용을 가능하게 합니다.

지역성의 원리

메모리 계층에서 중요한 개념 중 하나는 '지역성의 원리'입니다. 이는 프로그램이 실행될 때 자주 사용되는 데이터가 공간적으로나 시간적으로 가까운 위치에 모여 있다는 원리입니다. 지역성의 원리는 시간 지역성과 공간 지역성으로 나눌 수 있습니다.

  • 시간 지역성(Temporal Locality): 최근에 접근한 데이터에 다시 접근할 가능성이 높은 특성을 말합니다. 예를 들어, 반복문 내에서 사용되는 변수는 반복문이 실행되는 동안 자주 접근됩니다.

  • 공간 지역성(Spatial Locality): 인접한 메모리 주소의 데이터에 접근할 가능성이 높은 특성을 말합니다. 예를 들어, 배열 요소에 접근할 때 인접한 요소들도 함께 접근될 가능성이 높습니다.

4. 캐시의 동작 원리

캐시는 메모리 계층의 중요한 구성 요소로, 데이터 접근 속도를 높이기 위해 자주 사용되는 데이터를 미리 저장합니다. 캐시의 동작 원리는 다음과 같습니다.

4.1 캐시 히트(Cache Hit)와 캐시 미스(Cache Miss)

  • 캐시 히트: CPU가 필요한 데이터를 캐시에서 찾는 경우를 말합니다. 이 경우 데이터는 캐시에서 즉시 제공되어 빠른 속도로 처리됩니다.

  • 캐시 미스: CPU가 필요한 데이터를 캐시에서 찾지 못하는 경우를 말합니다. 이 경우 데이터는 주기억장치 또는 보조기억장치에서 가져와야 하며, 이로 인해 처리 속도가 느려질 수 있습니다.

4.2 캐시 매핑(Caching Mapping)

캐시 매핑은 메모리 블록을 캐시에 배치하는 방법을 말합니다. 주요 캐시 매핑 기법으로는 직접 매핑(Direct Mapping), 연관 매핑(Associative Mapping), 집합 연관 매핑(Set-Associative Mapping) 등이 있습니다.

  • 직접 매핑(Direct Mapping): 메모리 블록을 캐시의 특정 위치에 매핑하는 방식입니다. 매핑이 간단하고 빠르지만, 충돌이 발생할 가능성이 큽니다.

  • 연관 매핑(Associative Mapping): 메모리 블록을 캐시의 어느 위치에나 매핑할 수 있는 방식입니다. 충돌 문제를 해결할 수 있지만, 매핑 과정이 복잡하고 비용이 높습니다.

  • 집합 연관 매핑(Set-Associative Mapping): 직접 매핑과 연관 매핑의 혼합 방식으로, 메모리 블록을 특정 집합에 매핑할 수 있습니다. 충돌 문제를 줄이면서도 비교적 간단한 매핑을 제공합니다.

5. 캐시 계층의 예시

캐시 계층은 다양한 시스템에서 사용됩니다. 다음은 몇 가지 예시입니다.

5.1 웹 브라우저의 캐시

웹 브라우저는 사용자가 방문한 웹 페이지의 데이터를 캐시에 저장하여, 동일한 페이지를 다시 방문할 때 빠르게 로드할 수 있도록 합니다. 웹 브라우저 캐시는 쿠키, 로컬 스토리지, 세션 스토리지 등의 방식으로 데이터를 저장합니다.

  • 쿠키: 작은 텍스트 파일로, 사용자의 정보를 저장합니다. 예를 들어, 로그인 상태를 유지하거나, 사용자 설정을 저장하는 데 사용됩니다.

  • 로컬 스토리지: 브라우저에 영구적으로 데이터를 저장하며, 세션이 끝나도 데이터가 유지됩니다.

  • 세션 스토리지: 브라우저 세션 동안 데이터를 저장하며, 세션이 끝나면 데이터가 삭제됩니다.

5.2 데이터베이스의 캐시

데이터베이스는 자주 사용되는 쿼리 결과를 캐시에 저장하여, 동일한 쿼리를 실행할 때 빠르게 결과를 반환할 수 있도록 합니다. 예를 들어, Redis는 인메모리 데이터베이스로, 데이터를 메모리에 저장하여 빠른 속도로 접근할 수 있도록 합니다.

결론

메모리 계층은 컴퓨터 시스템에서 중요한 역할을 하며, 각 계층은 속도와 용량 면에서 차이를 보입니다. 레지스터, 캐시, 주기억장치, 보조기억장치는 각각의 특성과 역할이 있으며, 이들을 조합하여 최적의 성능을 제공합니다. 메모리 계층의 원리를 이해하면, 컴퓨터 시스템의 성능을 최적화하고 효율적으로 사용할 수 있습니다.

Previous3.1.1 Roles and Structure of Operating SystemsNext3.2.2 Memory Management

Last updated 8 months ago