34 posts tagged with "pe/computer-architecture"

HBM 개념​

• 3D TSV 기술을 사용하여 여러 개의 DRAM 칩을 수직으로 쌓고, 초고속 인터커넥트를 통해 각 층을 연결함으로써 높은 대역폭과 낮은 전력 소비를 실현한 고대역폭 메모리
• 기존 DDR 램의 대역폭, 레이턴시의 한계와 AI 학습으로 대량 데이터 처리 수요 증가로 저전력 고속 연산 메모리 필요성 증가

HBM 구성도, 구성요소, 비교​

HBM 구성도​

• 수직 적층, TSV, 인터포저 등 기술을 통해 고성능 컴퓨팅 분야에서 핵심적인 역할을 하는 메모리 아키텍처

HBM 구성요소​

구분	기술요소	상세 설명
메모리 적층 구조	TSV	DRAM Die 를 뚫어 전도성 재료를 채운 수직 실리콘 관통 전극
	DRAM Die	DRAM Cell 그룹, 패키징 단위
	Logic Die	다른 칩셋 및 PHY 와 DRAM die 연결
프로세스 유닛	PHY	물리계층 인터페이스, Logic Die - Process Die 간 연결
	CPU/GPU	그래픽, 명령어 처리 위한 프로세서
칩셋	Silicon Interposer	Logic Die (CPU, GPU 등)와 HBM 칩 사이의 연결
	Package Substrate	Silicon Interposer 과 그래픽카드 연결하는 PCB 기판

HBM과 DDR6 비교​

구분	HBM	DDR6
용도	AI 학습용	그래픽 카드, AI 추론용
Pin Data Rate	6.4 Gbps	16 Gbps
Pin	1,024개	32개
Bandwidth	819 GB/s	64 GB/s

CXL 개념​

• 프로세서와 메모리 사이의 고속, 고용량 연결의 위한 개방형 표준 인터페이스
• PCIe 인터페이스의 메모리 일관성과 공유 기능 부족, 고성능, 저지연 데이터 전송과 메모리 일관성 제공, 효율성 향상

CXL 구성도, 구성요소, 적용사례​

CXL 구성도​

CXL 구성요소​

구분	내용	비고
CXL.io	초기설정, 가상화, 장치 연결 등 입출력 프로토콜	PCIe 호환
CXL.cache	메모리 캐시 일관성 제공, CPU와 가속기 간의 빠른 데이터 전송 가능	낮은 지연, 고속 전송, MESI 프로토콜
CXL.mem	메모리 공유 및 풀링 기능 제공, 여러 장치 간의 메모리 자원 공유 가능	고대역폭 메모리 접근, 메모리 풀링

CXL 적용사례​

구분	사례	비고
데이터 센터	고성능 컴퓨팅, AI 가속기와 CPU 간의 고속 데이터 전송	높은 대역폭과 낮은 지연 시간 요구 환경
클라우드 서비스	클라우드 기반의 자원 효율적인 데이터 처리, 메모리 풀링을 통한 자원 공유	유연한 자원 할당 및 확장성 제공
스토리지 시스템	고속 NVMe SSD와 CPU 간의 데이터 전송 최적화	데이터 액세스 속도 향상, 스토리지 병목 현상 해결

CXL 유형, PCIe 비교​

CXL 유형​

구분	내용	비고
CXL Type 1	메모리 일관성 없이 I/O 가속기를 연결하여 고속 데이터 전송을 지원	단순 I/O 연결, 낮은 지연 시간, 스마트 NIC
CXL Type 2	메모리 일관성을 유지하며 CPU와 가속기 간의 데이터 전송을 지원	CPU와 가속기 간의 일관성 유지, CPU, 고밀도컴퓨팅
CXL Type 3	메모리 풀링을 통해 여러 장치 간의 메모리 자원을 공유하고 관리	메모리 공유 및 풀링 기능, 메모리 확장, 스토리지클래스

CXL PCIe 비교​

구분	PCIe	CXL
기능	데이터 전송, I/O 장치 연결	데이터 전송, 메모리 일관성, 메모리 공유
지연 시간	낮은 지연 시간	매우 낮은 지연 시간
호환성	다양한 I/O 장치와 호환	PCIe와 호환되며, 추가 메모리 및 가속기와도 호환
메모리 일관성	없음	보장
메모리 공유	없음	메모리 풀링 및 자원 공유 가능
주요 사용처	일반적인 컴퓨터 및 서버의 I/O 장치 연결	데이터 센터, 고성능 컴퓨팅, 클라우드 컴퓨팅
버전	PCIe 5.0	CXL 3.0

CXL 고려사항​

• 다양한 벤더의 하드웨어 간의 호환성 확보 필요

암달의 법칙 개념​

• 컴퓨터 시스템의 일부를 개선할 때 전체적인 성능향상의 최대 폭이 제한된다는 법칙
• 병렬 컴퓨팅에서 멀티프로세서 사용시 성능향상의 최대폭이 순차적인 프로그래밍 때문에 제한되는 것을 증명

암달의 법칙 개념도, 구성요소, 활용 예시​

암달의 법칙 개념도​

암달의 법칙 구성요소​

$$\frac{1}{(1 - P) - \frac{P}{S}}$$

• P = 전체 작업시간의 부분
• S = 성능 향상
• 반비례 관계로 최대 성능의 향상폭 제한

암달의 법칙 활용 예시​

구분	예시	내용
설계	CPU 설계시 최대 트랜지스터 제한	트랜지스터 수를 늘려 단위시간 당 최대 성능향상 지점 파악
	GPU 설계시 FPU, ARU 갯수 조정	FPU, ALU의 갯수를 조정하여 병렬 컴퓨팅 최대효과 추적
분석	하드웨어 규모산정	CPU, 메모리 등 시스템 규모산정시 스케일업 규모 파악
최적화	멀티쓰레딩 최적화	쓰레드의 수를 증가시켜 병렬 처리의 이점을 극대화하면서 병목 현상 분석

인터미턴트 컴퓨팅의 개념​

• 전력 공급이 불안정한 환경에서 에너지 하베스팅을 통해 컴퓨팅 작업을 지속적으로 수행하도록 하는 기술
• IoT 확산, 에너지 비용 절감, 안정성 향상, 에너지 제약환경, 연합학습

인터미턴트 컴퓨팅 개념도, 핵심요소​

인터미턴트 컴퓨팅 개념도​

• 에너지 하베스팅을 통해 필요 전력 충전, 임계전력 이하인 경우 백업 후 재충전

인터미턴트 컴퓨팅 핵심요소​

구분	핵심요소	설명
에너지 하베스팅	태양광, 진동	환경에서 에너지를 수집하여 전력으로 변환
	배터리	에너지를 저장하여 지속적인 전력 공급 가능
	슈퍼캐패시터	빠른 충전과 방전이 가능하여 순간적인 전력 수요 충족
저전력 시스템	저전력 프로세서	낮은 소비 전력으로 연산을 수행하는 프로세서
	저전력 통신	에너지 소모를 최소화하는 무선 통신 방식 적용 (BLE, LoRa)
	저전력 프로그래밍	에너지 절감을 위한 알고리즘 및 최적화 기법 적용 (Chain, Alpaca)
데이터 관리	체크포인트	에너지 부족 시 데이터 손실을 방지하기 위한 상태 저장
	다중 버전	여러 버전의 데이터 사본 관리 및 버전 관리
	스케줄링	에너지 상태를 고려하여 연산 및 데이터 처리를 최적화

인터미턴트 컴퓨팅 발전 방향​

• 뉴로모픽 칩과 멤리스터 소자의 개발로 저장과 연산을 초저전력으로 처리하여 전력 공급 내성을 가질 것 으로 예상

3-상태 버퍼의 개념​

• 디지털 회로에서 사용되는 논리게이트의 한 종류로, 일반적인 0과 1의 논리 상태 외에 High Impedance (Z) 상태를 가질 수 있는 버퍼게이트이며 고 임피던스 상태에서는 회로에서 연결이 끊어진 것처럼 동작하여, 다른 장치 출력에 영향을 주지 않고 버퍼의 출력 제어
• 회로 간 전기적 분리가 가능하므로, 여러 장치가 동일한 데이터 버스를 효과적으로 제어 가능

3-상태 버퍼의 구성도, 구성요소, 적용방안​

3-상태 버퍼의 구성도​

3-상태 버퍼의 구성요소​

구분	내용	비고
입력	입력 신호를 받는 단자	입력 신호 인입
출력	입력 신호를 출력으로 내보내는 단자	출력 신호 출력
제어	버퍼의 상태를 제어하는 단자	High/Low Impedance

3-상태 버퍼의 적용방안​

구분	내용	비고
데이터 버스 제어	여러 장치가 공유하는 데이터 버스에 연결하여 특정 시간에만 데이터 전송	버스 충돌 방지
메모리 인터페이스	메모리 칩 선택 및 데이터 입출력 제어	주소 디코더 활용하여 특정 메모리 칩만 활성화
주변장치 인터페이스	주변 장치가 데이터를 보낼 준비가 되었을 때만 버퍼 활성화	주변 장치와의 데이터 수신

3-상태 버퍼 고려사항​

• 고임피던스 상태일 때 전류 소모가 적지만, 활성화 상태에서는 전류 소모가 발생할 수 있으므로 전력 관리가 필요

Realtime Scheduling의 개념​

• 실시간 스케쥴링은 특정 태스크가 주어진 데드라인 내에 완료되도록 프로세싱을 보장하는 스케줄링 방법
• 시스템 제약 만족, 예측 가능성, 응답성, Mission Critical 프로세스 처리

우선순위 기반 스케줄링 기법​

RM, Rate Monotonic​

비율 단조

• 태스크의 주기가 짧을 수록 높은 우선순위로 스케줄링
• 스케줄링 예상 가능, 단순 구현, 고정 우선순위, 제한적 CPU 활용, Soft RTOS

EDF, Earliest Deadline First​

최단 마감시간 우선

• 태스크의 데드라인이 가까울 수록 높은 우선순위로 스케줄링
• 스케줄링 예상 어려움, 높은 CPU 활용, 동적 우선순위, 효율적, Hard RTOS
• 주기가 짧거나 데드라인이 긴 태스크가 공유 자원을 선점하는 경우 우선순위 역전현상 발생

우선순위 역전현상 개념 및 세부 절차​

우선순위 역전현상 개념도​

우선순위 역전현상 세부 절차​

순번	절차	내용
1	임계영역 진입	Task3은 자원R 사용 위해 진입
2	프로세스 선점	높은 우선순위의 Task1은 Task3의 임계영역 선점 스케줄링 실행
3	임계영역 대기	Task3이 진입 중이므로, Task1은 대기
4	우선순위 역전	중간 우선순위의 Task2가 선점하여 스케줄링, Task1은 계속 대기

우선순위 역전현상 해결방안​

우선순위 상속​

• 임계영역에 진입한 낮은 우선순위 태스크의 우선순위를 진입 대기하는 높은 우선순위 태스크와 동일하게 부여

우선순위 올림​

• 임계영역 자원R에 가장 높은 우선순위를 부여하고, 임계영역 진입 태스크의 우선순위를 자원의 우선순위로 올림

컴퓨팅 아키텍처의 개요​

• AI 등 병렬처리와 연산 효율이 필요한 최적화된 칩 수요의 증가로 ASIC 기반의 SoC으로 발전
• FPGA: 이종병렬성, 설계 유연성
• ASIC: 최고성능, 효율성

CPU, GPU, FPGA, ASIC 개념 및 특징, 적용분야​

CPU, GPU, FPGA, ASIC 개념 및 특징​

CPU​

• 복잡한 연산, 순차처리, 범용성

GPU​

• 단순한 연산, 병렬처리, 소숫점 연산 특화/FPU

FPGA​

• 설계 가능한 논리소자, 회로
• 스위치를 주변으로 CLB가 감싸고 있는 구조
• 목적별 재구성 가능, 유연성

ASIC​

• 특화 반도체
• 저전력, 고효율, 대량생산

CPU, GPU, FPGA, ASIC 적용분야​

구분	분야	비고
CPU	범용 컴퓨팅	웹브라우징, 오피스업무
GPU	그래픽 렌더링, 병렬처리	게임, 시뮬레이션, 머신 러닝
FPGA	맞춤형 H/W	디지털 회로 프로그래밍
ASIC	특정 작업 최적화, 고성능	스마트폰, N/W 장치, AI가속기

FPGA, ASIC 선택시 고려사항​

• 대량생산시 비용 절충점을 고려하여 ASIC 기반 SoC 도입 검토 필요

빅 엔디언, 리틀 엔디언의 개념​

• 빅 엔디언: 데이터를 메모리에 적재시 메모리 시작 주소에 데이터의 상위 바이트부터 순차 저장하는 방식
• 리틀 엔디언: 데이터를 메모리에 적재시 메모리 시작 주소에 데이터의 하위 바이트부터 순차 저장하는 방식

빅 엔디언, 리틀 엔디언 개념도, 세부 요소, 적용사례​

빅 엔디언, 리틀 엔디언 개념도​

빅 앤디언	리틀 앤디언

빅 엔디언, 리틀 엔디언 세부 요소​

구분	빅 엔디언	리틀 엔디언
저장방식	낮은 주소에 MSB부터 저장, 앞쪽부터 스택에 푸쉬	낮은 주소에 LSB부터 저장, 뒤쪽부터 스택에 푸쉬
장점	우수한 가독성, 디버깅 편의성, 빠른 비교 연산	후위 비트만 사용하는 계산 용이, 올림 연산 빠름, 가산기 구현 단순
단점	수학 연산 어려움, 타입캐스팅 느림	숫자 비교 느림, SW 디버깅 불편
대표회사	IBM	Intel, AMD

빅 엔디언, 리틀 엔디언 적용사례​

구분	빅 엔디언	리틀 엔디언
N/W 프로토콜	TCP/IP 주소 전송	N/A
운영체제	일부 유닉스 시스템	윈도우, 맥, 리눅스
CPU 아키텍처	IBM 메인프레임, 모토로라 프로세서	x86, ARM 등 대부분 CPU

빅 엔디언, 리틀 엔디언, N/W 측면 고려사항​

• N/W 데이터 전송시 ntohl, htonl 함수를 사용하여 목적지 바이트 순서 변경 필요

무중단 배포의 개념​

• 유저에게 서비스 중단 없이 새로운 버전의 서비스를 배포하는 것을 목표로 하는 배포 전략
• 신규 버전 배포시 리스크 최소화, 빠른 롤백, 클라우드 컴퓨팅, 가상화 기술 발전으로 무중단 배포 활용

블루/그린 배포, 카나리 배포의 개념도, 핵심 요소, 세부 절차​

블루/그린 배포, 카나리 배포의 개념도​

• 신버전을 모두 배포하고 트래픽을 일괄 전환하여 배포

• 신버전에 점진적으로 트래픽을 늘려 위험을 감지하고 대응하여 배포

블루/그린 배포, 카나리 배포 핵심요소 비교​

구분	블루/그린	카나리
목적	신규버전 트래픽 일괄 전환	신규버전 점진적 배포
리스크	모든 사용자가 신규버전 즉시 사용	리스크 최소화
복잡도	일괄전환으로 간단	비율 조정으로 복잡
테스트 범위	모든 사용자가 새 버전 테스트	초기 소규모 사용자만 테스트
배포 시간	단시간	상대적 장시간

블루/그린 배포, 카나리 배포 세부 절차​

구분	블루/그린	카나리
준비단계	신규버전 배포, 테스트	카나리 환경 준비 초기 테스트
배포 방식	전체 트래픽 일괄 전환	소규모 트래픽에서 점진적 전환
모니터링	전환 후 트래픽 모니터링	점진적 모니터링 오류확인
롤백	문제시 전체 롤백	필요시 특정 비율 롤백

리버스 프록시와 로드밸런서 비교​

리버스 프록시, 로드밸런서 개념도​

• 클라이언트 요청을 내부 서버로 전달하고 서버의 응답을 반환하는 중계 서버
• 리버스 프록시는 L7 로드밸런서의 기능도 일부 수행

• 트래픽을 여러 서버에 분산하여 부하를 관리하는 장치 또는 SW

로드밸런서의 구성요소​

구분	요소	내용
유형	L4 로드밸런서	네트워크 계층이나 전송계층 정보로 부하 분산
	L7 로드밸런서	응용 계층에서 헤더, 쿠키 등 요청 기반 정보로 부하 분산
알고리즘	Round Robin	순차, 순환, 응답시간 빠르고 구성이 간편
	Least Connection	백엔드 서버 중 활성화 된 연결 계산, 가장 적은 커넥션을 가진 서버로 로드 밸런싱
	Response Time	가장 빠른 응답 시간을 제공하는 서버로 로드 밸런싱
	Hashing	TCP/UDP 연결시 각 클라이언트에 대한 해시 생성하여 동일 서버 연결, 세션 유지 가능

가상화의 개념​

• 물리적인 자원들을 논리적으로 표현해 효율적으로 사용하고 관리하기 위한 기술
• 클라우드 전환으로 자원활용률, 보안성, 확장성 높은 가상화 기술로 서버 제공, 논리적 투명성으로 사용자는 물리적 자원의 세부사항 미고려

VM, Container의 개념도, 핵심요소, 적용방안​

VM, Container 개념도​

• VM: 하이퍼바이저를 통해 물리자원을 추상화한 Guest OS기반 가상화
• Container: Host OS 커널 통해 격리된 컨테이너를 제공하는 가상화

VM, Container 핵심요소 비교​

구분	VM	Container
핵심기술	하이퍼바이저, VM스냅샷	컨테이너, 네임스페이스, CGROUP
환경	다양한 OS지원, 독점적 자원할당	단일 OS지원, 호스트OS커널 공유
장점	강한 보안성, 장애 격리, 다양한 OS 실행	빠른 부트시간, 이미지 경량화, 자원사용 효율성
단점	높은 자원 소모, OS 라이센스 비용	커널 공유로 인한 낮은 보안성, 호스트OS 종속성

VM, Container 적용방안​

구분	VM	Container
보안 및 격리	높은 보안성과 격리성이 필요한 경우	프로세스 수준 격리와 빠른 복구가 필요한 경우
CI/CD	DevOps환경에서 다양한 운영체제 테스트 시나리오 자동화	IaC 기반, GitOps의 지속적 통합, 배포
적합 환경	기존, 레거시, 모놀리스	클라우드 네이티브

가상화시 고려사항​

• 이미지, 스냅샷 레지스트리 관리와 보안 스캐닝을 통해 취약점 사전 조치 필요

컨테이너 취약점​

취약점	내용	대응방안
스푸핑, Spoofing	관리자의 인증 정보가 탈취되거나 무단 접근을 시도하는 위협	보안 인증 방식(RBAC) 적용, 사용자 계정 관리
변조, Tampering	악성 코드를 삽입하거나 데이터 변조를 통해 시스템에 악영향을 미치는 위협	이미지 서명 및 무결성 검증, PodSecurityPolicy로 접근 제한
부인 방지, Repudiation	감사 및 로그 관리 미흡으로 인해 악의적인 행동을 추적할 수 없는 위협	로그 설정 및 관리 강화, 서비스 메시 플랫폼 설정
정보 유출, Information Disclosure	중요 데이터(계정 정보 등)가 스니핑이나 오류 메시지 등을 통해 노출되는 위협	TLS/HTTPS 암호화 통신 적용, 등급별 접근 제한 (RBAC) 적용
서비스 거부, Denial of Service	과부하를 유발하여 서비스 가용성을 저하시키는 위협	네트워크 정책 강화, 파드 및 노드에 대한 리소스 제한 설정
권한 상승, Elevation of Privilege	일반 사용자가 권한을 초과하여 접근함으로써 시스템을 악용할 가능성	최소 권한 원칙 적용, 적절한 계정 및 접근 제어 방안 (RBAC) 실시