본문으로 건너뛰기

"pe/security" 태그로 연결된 79개 게시물개의 게시물이 있습니다.

기술사 보안 토픽

모든 태그 보기

VPN, IPSec VPN, SSL VPN

· 약 3분

VPN 개요

VPN 개념

  • 인터넷 같은 공중망에서 터널링 기법을 통해 사용자가 사설망에 연결된 것처럼 기밀성, 무결성을 보장하는 네트워크 통신 기술

VPN 특징

구분특징설명
보안 측면데이터 기밀성암호화를 이용하여 메시지의 내용을 은폐
데이터 무결성데이터 전송 중 제3자에 의해 변환되지 않았음을 보장
데이터 원본 인증요청한 수신인에 의해 각 데이터 원본 여부 확인
재전송 공격 방지인증 헤더에 일련번호를 부여하여 재전송 공격 방지
비즈니스 측면비용 절감가상화를 통해 전용망과 같은 효과 기대
QoS 보장네트워크 사용자 품질 보증 기술로 활용

IPSec VPN, SSL VPN

IPSec VPN

IPSec VPN

  • 단말간 안전한 통신망 연결을 위해 IPSec Tunneling 기술 이용하는 OSI 3계층 VPN 보안 기술

SSL VPN

SSL VPN

  • OSI 4~7계층에서 웹 브라우저를 통해 원격 액세스를 제공하며, 사용자 인증, 데이터 암호화 및 데이터 무결성을 보장하는 VPN 보안 기술

IPSec VPN, SSL VPN 비교

구분IPSec VPNSSL VPN
OSI 레이어Layer 3Layer 4 ~ 7
표준RFC 4301 (IPSec 기준)RFC 5246 (TLS 1.2 기준)
프로토콜IPTCP
인증방식비밀키 공유X.509 인증서
구현방식Site to Site (Lan to Lan)Client to Site
장점높은 안정성브라우저 및 Agent 방식 구현
단점고비용 (전용 장비 설치 및 양단 설치)저비용 (전용 장비 서버측 설치)
사례본사와 지사의 VPN 연결브라우저를 통한 기업 내부망 접속, 재택근무

MPC, 다자간 계산

· 약 4분

다자간 계산 개념

  • 여러 참여자가 각자의 비밀 정보를 제공하지 않고도 공동 계산을 수행할 수 있도록 하는 암호학 기법
  • 프라이버시 보호, 신뢰 없는 환경에서 협업, 데이터 보안, 확장성

다자간 계산 개념도, 핵심요소, 활용방안

다자간 계산 개념도

다자간 계산 핵심요소

구분기술설명
암호화동형 암호화데이터가 암호화된 상태로 연산 가능
비밀 분할데이터를 다수의 셰어로 나누어 저장하고, 계산 후 결과 복원.
프로토콜Yao’s Garbled Circuit안전한 회로 기반의 계산을 수행하며, 효율적 보안 제공
Threshold Cryptography일정 수 이상의 셰어가 합쳐질 때만 계산이 가능
블라인드 평가비밀번호 확인 없이 전송, 내용확인 없이 본인이 질문내역 확인

다자간 계산 활용분야

구분내용비고
공공전자 투표 시스템에서 투표자의 익명성을 유지하며 투명한 결과 제공선거 공정성과 신뢰 확보
민감한 의료 데이터를 보호하면서 병원 간 협력 연구 수행환자 데이터 보호 및 연구 효율성 강화
금융암호화폐 지갑에서 개인 키 분산 저장 및 복구 기능 제공키 분실 방지 및 보안 강화 (예: ZenGo, Fireblocks)
은행 간 신용 평가 및 사기 탐지를 위해 데이터를 비공개 상태로 분석금융 기밀 보호와 협력 가능
민간경쟁 기업 간 시장 점유율 분석 시 데이터 보호데이터 유출 방지 및 협력 증대
블록체인 기반 기업 지갑에서 멀티시그(Multi-Signature) 대체분산 서명으로 보안 및 효율성 향상
프라이버시를 강화한 연합 학습으로 AI 모델 학습데이터 보호 상태에서 AI 성능 향상

생성형 AI 활용 보안 가이드라인

· 약 6분

생성형 AI 개요

생성형 AI 개념

  • 인공지능 기술의 한 종류로서 이미지, 비디오, 오디오, 텍스트 등을 포함한 대량의 데이터 를 학습하여 사람과 유사한 방식으로 문맥과 의미를 이해하고 새로운 데이터를 자동으로 생성해 주는 기술

생성형 AI 사례

구분주요 설명사례
챗봇 및 가상 비서사용자의 질문에 답변하고 다양한 작업을 수행하는 AI 기반의 대화형 인터페이스ChatGPT, Siri, Alexa
콘텐츠 생성 도구텍스트, 이미지, 비디오 등 다양한 형태의 콘텐츠를 자동으로 생성하는 도구ChatGPT, Canva, DALL·E
언어 번역 서비스다양한 언어 간의 실시간 번역을 제공하는 서비스DeepL, Google Translate, Papago
맞춤형 추천 시스템사용자 선호도를 기반으로 개인화된 추천을 제공하는 시스템Netflix, YouTube, Spotify
문서 요약 및 분석긴 문서를 요약하거나 중요한 정보를 추출하는 도구ChatGPT, Notion AI, SummarizeBot

생성형 AI 원인 및 보안위협

대표 보안 위협주요 원인가능한 보안 위협
잘못된 정보편향최신 데이터 학습 부족
환각 현상
사회적 혼란 조장
고위험 의사 결정
잘못된 의사 결정 유도
AI 모델 악용적대적 시스템 메시지피싱 이메일 및 인물 도용
사이버 보안 위협 코드 작성
대화형 서비스를 악용한 사이버 범죄
커뮤니티 활성화
사회 공학적 영향
가짜 뉴스 생성
유사 AI 모델 서비스 빙자유사 악성 서비스 접근 유도스쿼팅 URL 및 확장 프로그램
가짜 애플리케이션
데이터 유출데이터 합성 과정의 문제
과도한 훈련 데이터 암기 문제
대화 과정에서 개인정보 및 민감 정보 작성
훈련 데이터 유출
데이터 불법 처리 우려
기밀 유출
대화 기록 유출
데이터베이스 해킹 및 회원 추론 공격
플러그인 취약점AI 모델의 적용 범위 확장
안정성 확인 미흡
해커 공격 범위 확장
취약점이 있는 서비스와 연결
새로운 도메인에서의 모델 오작동
‘에이전트’화 된 AI 모델의 악용
멀티모달 악용
확장 프로그램 취약점확장 프로그램 내의 악성 서비스 설치
서비스 제공 업체의 보안 조치 미흡
개인정보 수집
시스템 공격
호스팅 서버 및 스토리지 시스템 위협
API 취약점미흡한 API 키 관리
데이터와 명령 사이의 불분명한 경계
API 키 탈취
악의적인 프롬프트 주입

생성형 AI 개발시 보안위협별 대응방안

개발 단계보안 위협대응 방안
데이터 수집데이터 유출데이터 암호화, 접근 제어 강화, 데이터 마스킹, 정기적인 보안 감사
데이터 프라이버시 침해PII 제거, 데이터 익명화, 프라이버시 보호 기술 적용
데이터 준비데이터 조작데이터 무결성 검증, 디지털 서명, 변조 방지 메커니즘 구축
모델 중독 (Model Poisoning)데이터 검증 및 클렌징, 안전한 데이터 소스 사용, 이상 탐지 시스템 적용
모델 학습악의적인 입력 (Adversarial Attacks)입력 검증 및 필터링, 이상 탐지 시스템 적용, 방어적 학습 기법 도입
모델 도난 및 역공학모델 암호화, 접근 제한, 코드 난독화
모델 배포API 악용API 인증 및 권한 부여, Rate Limiting, API Gateway 사용
시스템 취약점정기적인 취약점 스캔, 보안 패치 적용, 코드 리뷰 강화
무단 접근다중 인증(MFA), 역할 기반 접근 제어(RBAC), 접근 로그 모니터링
서비스 거부 (DoS/DDoS)트래픽 모니터링, Rate Limiting, WAF(Web Application Firewall) 적용

참조

안티포렌식

· 약 3분

안티포렌식 개념

  • 안티포렌식은 디지털 포렌식 수사를 방해하거나 회피하기 위한 기술과 방법
  • 포렌식 증거체택이 늘어남에 따라 안티포렌식을 통한 가짜 증거, 증거 인멸 시도역시 증가 추세

안티포렌식 기법

구분주요기술설명
데이터 삭제와이핑 (Wiping)파일을 복구할 수 없도록 엔트리 정보를 제거한 후, 해당 영역을 반복적으로 덮어쓰는 기술
디가우징 (Degaussing)하드디스크의 자성을 제거해 데이터를 파괴하고 복구를 방지하는 기술
Log Data 삭제OS에서 자동으로 생성되는 정보 중, 증거가 될 만한 모든 정보를 즉시 자동으로 삭제
디스크 덮어쓰기삭제 후 디스크에 남아 있는 데이터를 덮어쓰고 복구를 방지하는 기술
데이터 암호화압축파일 암호화Zip, Rar 등의 압축파일에 암호화 기법을 적용하여 데이터 수집 방해
문서파일 암호화MS 오피스, 한글 파일, PDF 등 문서파일을 암호화해 정보 은폐
물리적 암호화가상 디스크, USB, OS 영역을 암호화해 데이터 은폐
데이터 은닉스테가노그래피이미지, 오디오 파일 등 디지털 미디어에 메시지를 삽입하여 숨기는 기술
디스크 내 데이터 은닉파일 시스템의 여유 공간, 예약된 영역, 비할당 영역 등에 데이터를 숨기는 기술

안티포렌식 고려사항

  • 자기변론을 위한 안티포렌식은 자기부죄거부원칙으로 가능하나 수행 내역이 발견시 증거인멸죄로 처벌하므로 본인책임하에 안티포렌식 수행필요

데이터 안심구역

· 약 4분

데이터 안심구역 개념

  • 누구든지 데이터를 안전하게 분석, 활용할 수 있도록 유용한 데이터와 다양한 분석도구 및 수준 높은 분석 시스템을 제공하는 안전한 데이터 분석 공간
  • 보안강화 / 무결성,신뢰성 확보 / 규제 준수, 감사 및 컴플라이언스 / 개인정보 보호, 디지털 격차 해소

데이터 안심구역 개념도, 주요 기능, 지정요건

데이터 안심구역 개념도

  • 사용을 원하는 누구에게나 분석에 필요한 데이터, 환경, 서비스 및 지원 제공

데이터 안심구역 주요 기능

구분기능설명
데이터 분석미개방 데이터의 안전한 분석환경 제공데이터의 무결성, 신뢰성을 보장할 수 있는 기술적, 관리적, 물리적 보안 조치 시행
데이터 분석 시스템 및 도구의 지원미개방 데이터 분석을 위한 분석도구 및 분석자원 서비스 제공
데이터 활용이용자의 반입자료와 미개방 데이터의 연계 지원미개방 데이터와 이용자의 반입자료에 대한 데이터 연계 플랫폼 제공
분석결과의 반출 지원이용자의 데이터 분석결과에 대한 자료 반출 및 데이터 시각화 지원

데이터 안심구역 지정요건

구분지정요건설명
기술적시설 및 공간보안대책 구비될 수 있는 건물 또는 그 밖의 시설 필요
기술적장비 및 시스템 구축데이터 분석 활용을 위해 필요한 장비 및 시스템 등을 구축 및 운영
운영적보안 대책 수립 및 시행데이터안심구역에 관한 보안대책 수립
조직 구성 및 운영운영책임자, 보안책임자 선임, 4인 이상의 조직
정책 및 절차운영체계, 데이터 반출의 정책 필요
요건 증명최근 3년 이내에 데이터산업법 시행령에 공표된 적 없을시

PbD, Privacy by Design

· 약 6분

PbD 개념

  • 프라이버시에 대한 위협을 예측/예방하기 위해 SW수명주기 전체에서 사용자 프라이버시 통제권을 보호하면서 시스템의 편리성을 해치지 않도록 설계하는 기법

PbD 개념도, 7대 기본원칙, 8대 전략

PbD 개념도

  • 프라이버시 위협을 예측하여 서비스 기획/설계 단계에서 사전 예방

PbD 7대 기본원칙

구분원칙설명
Design사전대비사후 대응이 아닌 사전에 문제점 예방
기본값 설정프라이버시 보호를 기본값으로 설정
기획단계 고려설계에 프라이버시 보호를 내재화
Coverage포괄적 기능성 보장프라이버시 보호와 함께 기능성, 편리성도 확보
수명주기 보호기획부터 폐기 단계까지 전체 수명주기 보호
Usability가시성, 투명성개인정보처리 과정에 대한 투명성 제공
사용자 중심자기정보 통제권 보장, 프라이버시 준중

PbD 8대 전략

구분전략내용
데이터지향최소화프라이버시 침해 가능성을 최소화하기 위해 개인정보의 명확한 활용 목적에 따라 처리되는 개인정보 양을 최소화
숨기기개인정보가 처리되는 과정에서 평문 전송 등을 방지하여 외부에서 해당 내용을 볼 수 없도록 조치
분리개인에 대한 다양한 정보를 분리해 저장하여 하나의 DB에서만 식별되지 않도록 조치
총체화많은 양의 개인정보를 처리할 경우 개인이 식별되지 않도록 식별자를 비식별화하고, 처리 결과는 통계 등 총체적인 형태로 제공
프로세스 중심 전략정보제공개인정보 처리와 전반 과정에 대해 정보 주체가 투명하게 알 수 있도록 제공
통제정보 주체가 개인정보 처리 과정과 전반에 대해 자신의 정보에 대한 권리를 행사할 수 있도록 지원
집행내부 개인정보보호 정책을 법·제도와 무관하게 강제적으로 시행
입증컨트롤을 통해 개인정보보호 정책의 효과적 운영과 법적 준수성 입증

PbD와 개인정보보호원칙 비교

구분PbD 8대 전략개인정보보호 원칙
개념정보시스템이나 비즈니스 프로세스를 설계하는 초기 단계부터 개인정보보호를 내재화개인정보의 수집, 이용, 제공, 보관 등 모든 단계에서 정보주체의 권리를 보호하고 안전하게 처리
목적사전예방개인정보 라이프사이클에 대한 보호
관점기본 설정에 의한 프라이버시 보호적법하고 공정한 개인정보 수집
접근방식시스템 설계에 통합하여 보호정보주체의 권리 보호
접근방식개인의 프라이버시 강화기업의 책임과 의무
범위기술적, 조직적, 법적 측면 종합적 접근법적인 측면에서 개인정보 처리와 보호
책임과 의무시스템 설계 주체 책임개인정보를 처리하는 주체인 기업이나 기관에게 책임과 의무 부여

AI 신뢰성

· 약 3분

AI 신뢰성 개념

  • AI 기술에 내재한 위험과 한계를 극복하고, AI 시스템이 의사결정 및 활동에 영향을 받는 모든 이해관계자의 기대를 충족시키는 능력
  • 안전성 보장, 사회적 신뢰 구축, 법적 규제 준수, 기업 경쟁력 강화

AI 신뢰성 개념도, 상세설명, 정책동향

AI 신뢰성 개념도

AI 신뢰성 상세설명

속성설명적용 사례
정확성AI 시스템의 의사결정이 정확하고 신뢰할 수 있는지 보장의료 진단, 자율주행 AI
강건성환경 변화나 오류에 대한 저항성을 보장자율주행 시스템의 장애물 감지
설명가능성AI 의사결정의 근거와 과정을 명확히 설명 가능AI 기반 금융 대출 시스템에서 설명된 점수 기준
투명성AI의 개발 및 사용 과정을 명확히 공개AI 채용 시스템의 평가 기준 공개
공정성특정 집단에 대한 차별이나 편향이 없음을 보장금융 대출 AI의 편향 제거
책임성AI 의사결정과 결과에 대한 책임을 명확히 함AI 의사결정 추적 및 기록

AI 신뢰성 정책동향

구분정책/표준주요 내용
국내TTA AI 신뢰성 인증AI 생명주기 전반에 걸친 투명성, 공정성, 안정성 등을 인증
신뢰할 수 있는 AI 개발안내서AI 개발 및 배포 과정에서 윤리적 가이드라인 제공
국외EU AI법고위험 AI를 분류하고 적합성 평가를 통해 규제 적용
NIST AI 위험관리 프레임워크AI의 안전성과 설명 가능성을 포함한 위험 관리 프레임워크 제공
ISO/IEC 22989AI 신뢰성을 정의하고, 주요 속성을 제시
  • AITrustOps, AI TRiSM, NIA 인공지능 학습용 데이터 품질 가이드라인 등을 참고하여 다양한 관점에서 AI 신뢰성 확보 필요

동형암호

· 약 4분

동형암호 개념

  • 암호화된 데이터를 복호화하지 않고 연산을 수행할 수 있기에 민감한 데이터의 기밀성을 유지하면서 클라우드 컴퓨팅, 빅데이터 분석 등 외부 연산 처리가 가능한 암호화 기법
  • 서킷 프라이버시: 연산 진행시 연산에 대한 정보를 알지 못하는 성질 / 다중 도약 동형성: 생성된 암호문이 다른 동형 연산의 입력으로 사용가능한 성질 / 기밀성, 연산효율성, 연산가능성

동형암호 동작원리, 기술요소, 유형

동형암호 동작원리

  • 평문의 연산 결과 값과 암호화된 상태에서의 연산 결과 값은 동일

동형암호 기술요소

구분기술요소설명
구현 원리부분 동형 암호 (SHE)덧셈과 곱셈 모두 지원, 곱셈은 제한된 횟수까지만 가능
스퀴싱 (Squashing)복호화 알고리즘을 단순화하여 연산 효율성 개선
부트스트래핑 (Bootstrapping)암호문을 재암호화하여 무한 연산 가능, 노이즈 감소 지원
특성서킷 프라이버시연산 중에도 연산 내용이나 입력값 노출 방지
다중 도약 동형성한 번 암호화된 데이터로 여러 연산을 수행 가능
보안성암호문 상태로 연산이 진행되어 데이터 기밀성 보장

동형암호 유형

유형설명특징
부분 동형암호덧셈이나 곱셈 중 한 가지 연산만 지원연산 제약, 계산 비용 낮음
전 동형암호덧셈과 곱셈 모두 무제한 지원일반적, 연산 속도 느림, 자원 소모 큼
준 동형암호제한된 횟수의 연산을 지원연산 횟수 제한, 효율적, 실용적

동형암호 기술동향

분류주요 내용활용 사례
암호화 기술 개선전 동형암호의 복잡도를 낮추고 실시간 연산 가능성을 높이는 연구클라우드 데이터 보호
표준화 노력ISO 및 IEEE에서 동형암호 표준화 작업 진행의료, 금융 등 산업별 표준 수립
산업적 활용 확대암호화된 데이터 처리 기술을 클라우드 및 AI 환경에 적용의료 데이터 분석, 금융 데이터 연산

전자봉투

· 약 3분

전자봉투 개념

  • 비밀키를 수신자의 공개키로 암호화하여 전송한 뒤 평문을 암호화하여 온라인에서 기밀성을 보장하는 암호화 기술
  • 승인된 사용자만 메시지 복호화 가능 / 무결성, 부인방지 지원 / 대칭키 암호화

전자봉투 생성 매커니즘, 개봉 절차, 핵심 기술

전자봉투 생성 매커니즘

  • 수신자의 공개키로 비밀키를 암호화한 전자봉투를 전송

전자봉투 개봉절차

  • 전자봉투를 통해 전자서명의 위조불가, 부인방지, 서명자 인증, 변경불가, 재사용 불가와 함께 기밀성 제공

전자봉투 핵심 기술

기술설명알고리즘
해시함수단방향성과 충돌회피성을 활용하여 고정 길이의 메시지 다이제스트를 생성하는 방식MD5, SHA-256
대칭키 암호화동일한 키(비밀키)를 이용해 암호화 및 복호화를 수행하는 방식DES, ARIA, SEED
비대칭키 암호화공개키와 비밀키를 이용해 서로 다른 키로 암호화와 복호화를 수행하는 방식RSA, 디피헬만

AI시스템 법적, 윤리적, 기술적 문제

· 약 10분

AI 시스템 문제 개념

AI 시스템 법적이슈 및 해결방안

AI 시스템 법적이슈

구분법적 이슈설명
개인정보 보호학습 데이터의 개인정보인공지능 모델 학습을 위한 데이터의 규정 준수 필요
데이터 사용 동의 및 권한데이터를 수집, 사용하기 위한 법적 요구사항 필요
개인정보 포함 결과물공개된 정보에 포함된 개인정보 활용의 법적 문제 가능
지식 재산권AI 학습 데이터의 활용학습 데이터의 저작권 침해 가능성
AI 생성물 저작권AI 생성 결과의 소유권 및 저작권 귀속 이슈
저작권 침해의 책임 소재AI 생성 결과물의 저작권 관련 분쟁 이슈
이미지 및 음원의 사이버 정의식별 가능한 신체특징 이미지개인의 초상에 대한 비허가 촬영 문제
딥페이크생성된 AI 콘텐츠의 진위 여부 판별 문제
음성 및 음악 저작권 침해음성 생성물을 통한 저작권 관련 침해 문제

AI 시스템 법적이슈 해결방안

구분해결방안설명
개인정보 보호 가이드라인데이터 제어설정데이터 제어 설정을 통한 채팅 기록 및 모델 학습 비활성화
개인정보 입력 금지민감정보(건강, 종교, 정치 성향 등) 입력 금지
보안 인증 회피올바른 절차 준수, 고객지원 센터를 통한 확인
생성형 AI 활용 가이드 및 제도생성형 AI 콘텐츠 명시생성형 AI 콘텐츠 출처 표기 가이드 마련
AI 활용 창작물 법적 근거AI 창작 콘텐츠에 대한 가이드라인 정의
AI 활용 가이드 및 위험관리AI 활용 시 재산 및 정서적 손해 최소화와 책임 보호
AI 기술 표준화AI 관리 표준화신뢰성, 거버넌스, 생애주기에 대한 표준 수립
AI 시스템 표준화AI 데이터, 컴퓨팅 등 표준화 및 지침
AI 응용서비스 표준화클라우드, 보안 서비스 등 다양한 서비스의 표준화

AI 시스템 윤리적이슈 및 해결방안

AI 시스템 윤리적이슈

구분윤리적 문제설명
진실성 및 정확성 이슈허위 조작정보 및 가짜 뉴스 피해퍼져있는 정보를 학습한 결과물 제시, 언론보도 및 소셜미디어로 인한 피해
편향 정보성차별, 인종차별 등 사회편견 내포 결과 제시
AI 포비아인공지능 기술에 대한 비합리적 두려움이나 강한 거부감
창의성 및 효율성 이슈AI 의존 증가검증 없는 생성형 AI 결과 활용, 일상생활, 의사결정, 업무 수행 등에 과도하게 의존
인지 능력 퇴행사고력, 문제 해결 능력 감소 및 약화
문화, 예술성 저하작품, 그림 및 악기 등의 예술 역량 저하
고도화된 AI 기술 기반 범죄딥페이크 범죄사진, 영상, 음성으로 제작된 가짜 콘텐츠로 명예훼손 또는 금전적 이익을 취하는 범죄
보이스피싱전화로 기관 또는 권위자를 사칭, 개인정보나 금전을 부정하게 취득하는 사기 수법
디지털공간 확산합성물에 의한 여론조작, 명예훼손의 위험

AI 시스템 윤리적이슈 해결방안

구분해결방안설명
이용자의 노력AI 부작용 진단서비스 제공 기업의 생성형 AI 부작용 진단 및 대응
윤리적 설계윤리 및 책임감 기반의 기술 설계
이용자보호 제도국민이 안전하게 AI 활용할 수 있도록 제도 보완
교육 및 가이드라인AI 위험 교육학교 및 기업 구성원을 대상으로 AI 위험에 대한 교육 수행
AI 가이드라인AI 기본 활용방향과 사용 시 지켜야 할 윤리 매뉴얼
윤리사용 공감대AI 올바른 활용에 대한 공감대 형성
윤리적 마인드이용자 스스로의 판단/검토를 통한 안전한 활용
책임감 있는 사용책임의 중요성윤리적 책임의 중요성에 대한 사전 인식
올바른 사용올바른 사용의 필요성과 공감대 및 역기능 예방

AI 시스템 기술적이슈 및 해결방안

AI 시스템 기술적이슈

구분기술적 문제설명
데이터의 한계학습 데이터 제약학습 데이터의 양, 질, 종류 제한으로 데이터 편향 및 부족 문제 발생
패턴 의존성AI 모델이 학습 데이터의 특정 패턴에 지나치게 의존하는 문제
학습 데이터 품질데이터의 불완전성으로 인한 신뢰성 및 편향성 문제
AI 모델의 한계설명 불가AI 모델의 결정 과정을 명확히 설명하기 어려운 문제 (블랙박스 문제)
할루시네이션AI가 사실이 아닌 그럴싸한 답변을 생성하여 혼란을 초래하는 문제
수동 조정 필요AI 학습 과정에서 사람의 개입이 필요한 과도한 조정 요구
불명확한 범위AI 활용의 효과와 업무 영역 식별 부족으로 발생하는 문제
AI 위험대응 문제성능 기준 및 목표 부족기대되는 결과물의 성능 기준이 명확하지 않음
AI 거버넌스 부족책임 기반의 의사결정 체계 부재 및 인공지능 활용에 대한 명확한 가이드라인 부족

AI 시스템 기술적이슈 해결방안

구분해결방안설명
AI 품질 관리XAI (설명 가능한 인공지능)인공지능 모델의 결정을 사람이 이해할 수 있도록 설명하는 기술
RAG (검색 증강 생성)답변 생성에 외부 리소스를 추가하는 기술
데이터 품질 관리데이터 품질에 따른 편견, 오류 확인 및 품질 보완 기술 적용
AI 기술 고도화AutoML머신러닝 모델 개발 과정을 자동화하는 기술
프롬프트 엔지니어링원하는 결과를 얻기 위해 최적의 질문과 명령을 설계하는 기술
병렬처리 및 분산 컴퓨팅대량 데이터 연산에 효율적인 하드웨어 사용 (TPU, NPU 등)
벤치마크 데이터이미지넷컴퓨터 비전 분야에서 널리 사용되는 대규모 이미지 데이터셋
GLUE자연어 처리 모델 성능 평가를 위한 벤치마크 데이터셋
KLUE한국어 이해 평가를 위한 벤치마크 데이터셋
KorQuAD한국어 기계 독해 데이터셋
AI 거버넌스 체계AI 거버넌스 의사결정 체계명확한 역할과 책임을 부여한 의사결정 체계 확립
자동화 대상 정의과정별 자동화를 통해 업무 프로세스 최적화
단계적 로드맵성과 도출 가능한 영역부터 시범 적용 후 점진적 확산