27 posts tagged with "pe/computer-architecture"

병렬 컴퓨팅 개념​

• 프로그램 내 계산 영역을 여러 개로 나누어 각 계산을 여러 프로세서에서 동시 수행하는 기술
• 생성형 AI 발전, GPU 품귀, 단일 프로세서 한계

병렬 컴퓨팅 특징​

병렬 프로세서의 분류​

Flynn의 분류​

SISD​

• 명령어 순차처리
• 단일 프로세서 시스템

SIMD​

• 하나의 제어 유닛으로 동기화
• 벡터, 행렬 연산 처리

MISD​

• 프로세서 처리 결과로 연산 수행
• 실제 구현 불가

MIMD​

• 각 프로세서가 비동기적 처리
• 강결합시 공유메모리 사용
• 약결합시 분산메모리와 메시지 패싱 기법 사용

시스템 구성 방법에 따른 분류​

SMP​

• 프로그래밍 용이
• 메모리 접근 병목

MPP​

• 프로그래밍 복잡
• 낮은 가용성

NUMA​

• 장점 결합
• 분산 로컬 메모리, 글로벌 메모리 사용
• 다양한 프로세서 사용 가능

HBM 개념​

• 3D TSV 기술을 사용하여 여러 개의 DRAM 칩을 수직으로 쌓고, 초고속 인터커넥트를 통해 각 층을 연결함으로써 높은 대역폭과 낮은 전력 소비를 실현한 고대역폭 메모리
• 기존 DDR 램의 대역폭, 레이턴시의 한계와 AI 학습으로 대량 데이터 처리 수요 증가로 저전력 고속 연산 메모리 필요성 증가

HBM 구성도, 구성요소, 비교​

HBM 구성도​

• 수직 적층, TSV, 인터포저 등 기술을 통해 고성능 컴퓨팅 분야에서 핵심적인 역할을 하는 메모리 아키텍처

HBM 구성요소​

HBM과 DDR6 비교​

CXL 개념​

• 프로세서와 메모리 사이의 고속, 고용량 연결의 위한 개방형 표준 인터페이스
• PCIe 인터페이스의 메모리 일관성과 공유 기능 부족, 고성능, 저지연 데이터 전송과 메모리 일관성 제공, 효율성 향상

CXL 구성도, 구성요소, 적용사례​

CXL 구성도​

CXL 구성요소​

CXL 적용사례​

CXL 유형, PCIe 비교​

CXL 유형​

CXL PCIe 비교​

CXL 고려사항​

• 다양한 벤더의 하드웨어 간의 호환성 확보 필요

암달의 법칙 개념​

• 컴퓨터 시스템의 일부를 개선할 때 전체적인 성능향상의 최대 폭이 제한된다는 법칙
• 병렬 컴퓨팅에서 멀티프로세서 사용시 성능향상의 최대폭이 순차적인 프로그래밍 때문에 제한되는 것을 증명

암달의 법칙 개념도, 구성요소, 활용 예시​

암달의 법칙 개념도​

암달의 법칙 구성요소​

• P = 전체 작업시간의 부분
• S = 성능 향상
• 반비례 관계로 최대 성능의 향상폭 제한

암달의 법칙 활용 예시​

인터미턴트 컴퓨팅의 개념​

• 전원이 불안정하거나 간헐적으로 공급되는 환경에서 컴퓨팅 시스템이 작업을 지속적으로 수행할 수 있도록 하는 기술
• IoT 확산, 에너지 비용 절감, 안정성 향상, 에너지 제약환경, AI 모델 학습 전력 사용량 증가

인터미턴트 컴퓨팅 개념도, 핵심요소, 기술 동향​

인터미턴트 컴퓨팅 개념도​

인터미턴트 컴퓨팅 핵심요소​

인터미턴트 컴퓨팅 기술 동향​

인터미턴트 컴퓨팅 발전 방향​

• 뉴로모픽 칩과 멤리스터 소자의 개발로 저장과 연산을 초저전력으로 처리하여 전력 공급 내성을 가질 것 으로 예상

3-상태 버퍼의 개념​

• 디지털 회로에서 사용되는 논리게이트의 한 종류로, 일반적인 0과 1의 논리 상태 외에 High Impedance (Z) 상태를 가질 수 있는 버퍼게이트로 고 임피던스 상태에서는 회로에서 연결이 끊어진 것처럼 동작하여, 다른 장치 출력에 영향을 주지 않고 버퍼의 출력을 Floating 상태로 제어
• 회로 간 전기적 분리가 가능하므로, 여러 장치가 동일한 데이터 버스를 효과적으로 제어 가능

3-상태 버퍼의 구성도, 구성요소, 적용방안​

3-상태 버퍼의 구성도​

            Enable
              |
              v
           +---------+
Input ---->|         |----> Output
           | 3-State |
           | Buffer  |
           |         |
           +---------+

3-상태 버퍼의 구성요소​

3-상태 버퍼의 적용방안​

3-상태 버퍼 고려사항​

• 고임피던스 상태일 때 전류 소모가 적지만, 활성화 상태에서는 전류 소모가 발생할 수 있으므로 전력 관리가 필요

Realtime Scheduling의 개념​

• 실시간 스케쥴링은 특정 태스크가 주어진 데드라인 내에 완료되도록 프로세싱을 보장하는 스케줄링 방법
• 시스템 제약 만족, 예측 가능성, 응답성, Mission Critical 프로세스 처리

우선순위 기반 스케줄링 기법​

RM, Rate Monotonic​

비율 단조

• 태스크의 주기가 짧을 수록 높은 우선순위로 스케줄링
• 스케줄링 예상 가능, 단순 구현, 고정 우선순위, 제한적 CPU 활용, Soft RTOS

EDF, Earliest Deadline First​

최단 마감시간 우선

• 태스크의 데드라인이 가까울 수록 높은 우선순위로 스케줄링
• 스케줄링 예상 어려움, 높은 CPU 활용, 동적 우선순위, 효율적, Hard RTOS
• 주기가 짧거나 데드라인이 긴 태스크가 공유 자원을 선점하는 경우 우선순위 역전현상 발생

우선순위 역전현상 개념 및 세부 절차​

우선순위 역전현상 개념도​

   우선순위
Task1 |
Task2 |
Task3 |
      --------------------------------------------> 시간
       [                 자원R                    ]                 

우선순위 역전현상 세부 절차​

우선순위 역전현상 해결방안​

우선순위 상속​

    우선순위
Task1 |
Task2 |
Task3 |
      --------------------------------------------> 시간
       [                 자원R                    ]                 

• 임계영역에 진입한 낮은 우선순위 태스크의 우선순위를 진입 대기하는 높은 우선순위 태스크와 동일하게 부여

우선순위 올림​

    우선순위
자원 R |
Task1 |
Task2 |
Task3 |
      --------------------------------------------> 시간
       [                 자원R                    ]                 

• 임계영역 자원R에 가장 높은 우선순위를 부여하고, 임계영역 진입 태스크의 우선순위를 자원의 우선순위로 올림

컴퓨팅 아키텍처의 개요​

• AI 등 병렬처리와 연산 효율이 필요한 최적화된 칩 수요의 증가로 ASIC 기반의 SoC으로 발전
• FPGA: 이종병렬성, 설계 유연성
• ASIC: 최고성능, 효율성

CPU, GPU, FPGA, ASIC 개념 및 특징, 적용분야​

CPU, GPU, FPGA, ASIC 개념 및 특징​

CPU​

• 복잡한 연산, 순차처리, 범용성

GPU​

• 단순한 연산, 병렬처리, 소숫점 연산 특화/FPU

FPGA​

• 설계 가능한 논리소자, 회로
• 스위치를 주변으로 CLB가 감싸고 있는 구조
• 목적별 재구성 가능, 유연성

ASIC​

• 특화 반도체
• 저전력, 고효율, 대량생산

CPU, GPU, FPGA, ASIC 적용분야​

FPGA, ASIC 선택시 고려사항​

• 대량생산시 비용 절충점을 고려하여 ASIC 기반 SoC 도입 검토 필요

빅 엔디언, 리틀 엔디언의 개념​

• 빅 엔디언: 데이터를 메모리에 적재시 메모리 시작 주소에 데이터의 상위 바이트부터 순차 저장하는 방식
• 리틀 엔디언: 데이터를 메모리에 적재시 메모리 시작 주소에 데이터의 하위 바이트부터 순차 저장하는 방식

빅 엔디언, 리틀 엔디언 개념도, 세부 요소, 적용사례​

빅 엔디언, 리틀 엔디언 개념도​

빅 엔디언, 리틀 엔디언 세부 요소​

빅 엔디언, 리틀 엔디언 적용사례​

빅 엔디언, 리틀 엔디언, N/W 측면 고려사항​

• N/W 데이터 전송시 ntohl, htonl 함수를 사용하여 목적지 바이트 순서 변경 필요

무중단 배포의 개념​

• 유저에게 서비스 중단 없이 새로운 버전의 서비스를 배포하는 것을 목표로 하는 배포 전략
• 신규 버전 배포시 리스크 최소화, 빠른 롤백, 클라우드 컴퓨팅, 가상화 기술 발전으로 무중단 배포 활용

그린 배포, 카나리 배포의 개념도, 핵심 요소, 세부 절차​

그린 배포, 카나리 배포의 개념도​

• 신버전을 모두 배포하고 트래픽을 일괄 전환하여 배포

• 신버전에 점진적으로 트래픽을 늘려 위험을 감지하고 대응하여 배포

그린 배포, 카나리 배포 핵심요소 비교​

그린 배포, 카나리 배포 세부 절차​

리버스 프록시와 로드밸런서 비교​

리버스 프록시, 로드밸런서 개념도​

• 클라이언트 요청을 내부 서버로 전달하고 서버의 응답을 반환하는 중계 서버
• 리버스 프록시는 L7 로드밸런서의 기능도 일부 수행

• 트래픽을 여러 서버에 분산하여 부하를 관리하는 장치 또는 SW

로드밸런서의 구성요소​