"pe/algorithm" 태그로 연결된 37개 게시물개의 게시물이 있습니다.

추론통계 개념​

• 샘플데이터를 기반으로 모집단의 특성을 추론하거나 가설을 검증하는 통계방법
• 표본추출
  • 랜덤추출
  • 계통추출
  • 집락추출
  • 층화추출
• 기술통계
  • 평균
  • 분산
  • 표준편차
• 추론
  • 점추정
  • 구간추정
• 가설검정
  • 모수검정
  • 비모수검정

중심극한정리 개념 및 특징​

중심극한정리 개념도​

• 모집단으로부터 추출된 표본의 크기가 충분히 커지면 모집단 표본 분포와 상관없이 표본들의 평균분포가 표준정규분포를 따른다는 법칙
• 이미지출처

중심극한정리 특징​

구분	특징	내용
통계적 추론	정규분포 근사화	표본 평균을 정규분포에 근사화하여 통계적 추론을 간편하게 만들어줌
-	추론 강화	적은 표본에도 모집단 추론 가능
표본과 모집단	표본 크기 영향	표본 크기 중에서 중심극한정리 적용 용이
-	모집단 분포 독립ㅈ거	모집단 데이터 분포에 상관없이 평균분포 근사값 제공

• 모집단의 분포가 정규분포가 아니여도 중심극한정리에 의해 정규분포로 가정 후 통계분석 가능

T검정, Z검정 비교​

T검정, Z검정 관계도​

T검정, Z검정 상세비교​

구분	T검정	Z검정
모집단 정보	표준편차 모를 때 사용	표준편차 알 때 사용
표본 크기	소규모	대규모
유연성	표본 크기가 작아도 정확한 추론	표본 크기 작으면 부정확
분포 사용	T분포	Z분포
예시	학생성적 비교, 소규모 실험 전/후 비교	공장 생산품질 비교, 대규모 설문조사 분석

다중공선성 개념​

• 다중회귀분석에서 일부 독립변수들 간 높은 상관관계가 존재해 데이터 분석시 부정적인 영향을 미치는 현상
• 독립 변수 간 상관관계, 예측 신뢰도 저하, 모델 해석의 어려움

다중공선성 개념도, 상세설명​

다중공선성 개념도​

• 독립변수 간 상관관계가 강하여 결정계수 값이 높아 과적합 발생

다중공선성 상세설명​

구분	항목	내용
판단기준	상관계수	독립변수 간 상관계수가 0.7 이상인 경우 의심
-	분산팽창요인	VIF 값이 10을 넘는 경우 다중공선성 존재 판단
-	결정계수	$R^2$는 높지만 p-value도 높은 경우 의심
해결방법	변수제거	상관 관계를 가진 변수를 제거하여 공선성 완화
-	변수변환	로그변환, 정규화 통한 변수 관계 조정
-	PCA	고차 데이터를 선형독립적인 주성분으로 변환하여 공선성 제거

점추정, 구간추정 개념 비교​

구분	점추정	구간추정
개념	모집단의 모수를 단일 값으로 추정하는 방법	모집단의 모수가 포함도리 것으로 예상되는 구간을 추정하는 방법
특징	추정 간편, 간단한 계산	추정값의 신뢰도를 포함한 정보 제공

점추정, 구간추정 개념도, 상세 비교​

점추정, 구간추정 개념도 비교​

• 점추정은 하나의 값, 구간추정은 신뢰 구간을 추정하는 방법

점추정, 구간추정 상세 비교​

구분	점추정	구간추정
추정값	단일수치값	하한값과 상한값 범위
불확실성표현	직접표현안함	신뢰구간을 통해 표현
성질	불편성, 효율성, 일치성, 충분성	신뢰성
방법	MSE, 적률법, 최대가능도	표준정규분포, t분포
사용용이성	계산 간단, 해석 용이	계산 복잡, 높은 신뢰도
정보량	단일 추정치, 제한된 정보	범위, 신뢰수준 등 추가 정보 제공

베이지안 최적화 개념​

• 가우시안 프로세스 등 확률적 모델을 통해 함수 분포를 추정하고, 획득함수를 통해 탐색 지점을 결정하는 블랙박스 함수의 최적화 기법
• 기존 Grid Search, Random Search 기법 비효율 개선, 목적함수 평가 비용 최소화, 사전 지식을 통합한 확률적 모델 필요성

베이지안 최적화 개념도, 구성요소, 절차​

베이지안 최적화 개념도​

• 이미지 출처

베이지안 최적화 구성요소​

구분	내용	비고
확률적 모델	데이터와 사전지식을 결합하여 함수 분포와 불확실성 모델링	가우시안 프로세스 등
목적함수	실제 최적값을 목표로 예측의 기준이 되는 함수	블랙박스 함수
획득함수	기존 입력값과 다음 최적값을 확률로 찾는 함수	탐색지점 결정

베이지안 최적화 절차​

절차	세부절차	내용
모델링	초기 데이터 수집	변수 공간에서 초기 표본 데이터 수집
-	가우시안 프로세스 모델링	함수 사전 분포 정의
예측	획득 함수 계산	현재 사후 분포 기반 계산
-	다음 탐색 지점 선정	획득 함수 최대화하여 우선순위 선정
평가	목적 함수 평가	선정지점에서 목적함수 평가 수행
-	확률적 모델 업데이트	모델 업데이트 및 반복

인공신경망의 개념, 구성요소​

인공신경망 개념​

• 인간의 뇌 신경 구조를 모방한 기계학습 모델로 뉴런 간 연결과 가중치를 통해 데이터를 학습하고 패턴을 인식

인공신경망 구성요소​

구분	설명	비고
입력층	학습을 위한 데이터 입력 계층	입력 데이터, 특징
은닉층	입출력층 사이에서 데이터 특징 추출	특징 추축, 학습, 가중치
출력층	최종 결과를 제공하는 층	결과 예측, 분류
가중치	뉴런 간 연결 강도를 나타내는 값	연결 강도, 학습 조정
활성화함수	뉴런의 출력값을 결정하는 함수	비선형성, 출력 결정

피드포워드 뉴럴네트워크 개념, 절차​

FNN 개념​

• 입력값이 출력까지 순방향으로 전달되는 구조를 가진 인공신경망

FNN 절차​

절차	세부절차	설명
초기화	모델 설계	인공신경망 구조 설계
-	가중치 초기화	가중치 및 편향 초기화
순방향 전파	데이터 전달	입력층에서 출력층까지 데이터 순방향 전달
-	예측값 계산	입력X가중치+편향 값에 활성화함수 적용
출력	출력값 계산	분류 및 회귀 출력 값 계산
-	검증	모델 성능 평가

---

역전파 개념, 절차​

역전파 개념​

• 역방향으로 오차를 전파시켜 각 층의 가중치를 업데이트하고 최적의 학습 결과를 찾아가는 방법

역전파 절차​

단계	설명	세부 내용
순전파	입력 데이터를 통해 출력값 계산	입력층 → 은닉층 → 출력층으로 데이터 전달
오차 계산	출력값과 실제값 비교	손실 함수를 사용해 오차 계산
가중치 업데이트	역전파를 통해 가중치 조정	경사하강법 등 최적화 알고리즘 사용

활성화함수 종류 및 역할​

활성화함수 종류​

구분	그래프	설명
Sigmoid		이진 분류 문제에 적합 경사 기울기 소실 문제
ReLU		음수는 0, 양수는 그대로 출력 DNN 가능, 계산 효율성 높음
Tanh		Sigmoid보다 수렴속도 빠름 경사 기울기 소실 문제
Leaky ReLU		ReLU 음수 기울기 문제 해결 x에 0.01 등 작은 값을 곱해줌
Swish		ReLU보다 부드러운 활성화 함수 딥러닝 모델에서 성능 개선 음수에서 미세한 값 유지, 양수에서 x와 유사한 출력

활성화함수 역할​

역할	설명	예시
비선형성 부여	xor 등 복잡한 패턴을 학습할 수 있게 도움	ReLU, Sigmoid
출력값 제한	출력 값을 틍정 범위로 제한, 안정적 학습	Sigmoid, Tanh
계산 효율성 향상	불필요 계산을 줄이고 학습속도 개선	ReLU 음수값 제거

자연어 모델 개요​

• 트랜스포머 구조 등장으로 자연어 처리능력이 비약적으로 상승, 생성형 AI시대 진입

PLM 개념 및 특성​

PLM 개념​

• 대규모 텍스트 코퍼르소부터 언어 패턴을 사전 학습한 자연어 처리 모델
• BERT, GPT 등이 주요한 Pre-trained Language Model로 활용

PLM 특성​

특성	설명	비고
사전학습	대규모 텍스트 데이터로 비지도학습 수행 언어의 통계적 특성 학습	BERT, GPT
범용성	다양한 NLP 작업에 적용 가능 전이학습으로 성능 개선 가능	텍스트생성, 감정분석
언어이해능력	중요 단어에 더 큰 가중치 부여하여 학습 문맥적 의미 반영한 표현 생성	어텐션 매커니즘

LLM 생성과정 및 특성​

LLM 생성과정​

• PLM에서 파라미터를 비약적으로 늘려 범용 성능을 가진 LLM 생성

LLM 특성​

특성	설명	기대효과
초대형 파라미터	수십억-수천억개 이상 파라미터 확장 다양한 문맥정보를 정교하게 표현	Few-shot, Zero-shot 응답
범용성 확대	파인튜닝, RLHF 등을 통해 응답 품질개선 다중언어, 다분야 처리능력향상	범용 AI
인간수준 자연어생성	최적화를 통한 완결성있는 문장 생성 대화의 맥락 추론 가능	태스크 자동화, 효율화

PLM과 LLM 비교​

구분	PLM	LLM
데이터규모	수억-수십억 토큰	수십억-수조 토큰
모델파라미터	수천만-수억 개	수십억-수천억 개
학습방식	사전학습, 파인튜닝	사전학습, 파인튜닝, 인스트럭션 튜닝
응용범위	특정 작업시 전이학습 필요	다양한 작업에 높은 성능
컴퓨팅 파워	상대적 낮음	고성능 GPU 필요

머신러닝 성능지표 개념​

• 실제 값과 모델에 의해 예측된 값을 비교하여 머신러닝 모델이 얼마나 잘 학습했는지 평가하기 위한 지표
• 지도학습, 비지도학습, 강화학습 별 다른 성능지표 활용

머신러닝 성능지표 상세​

지도학습 성능지표​

구분	성능지표	설명
회귀	MSE	오차를 제곱하여 평균, 값이 작을수록 우수
-	RMSE	MSE의 제곱근, 해석을 용이하게 변환
-	MAE	오차의 절대값의 평균, 이상치에 덜 민감
-	R^2	회귀모델의 설명력을 표현, 1에 가까울수록 우수
분류	정확도	올바르게 예측한 비율, 클래스 불균형에 민감
-	정밀도	Positive로 예측한 것 중 실제 Positive 비율
-	재현율	실제 Positive 중 Positive로 예측한 비율
-	F1 Score	정밀도와 재현율의 조화평균, 불균형 데이터셋에 우수
-	AUC	ROC Curve의 면적, 종합적 성능 평가, 1에 가까울수록 우수

• 분류모델 성능 평가시 혼동행렬 작성 선행 필요

비지도학습 성능지표​

구분	성능지표	설명
클러스터링	실루엣 지수	클러스터의 밀집 정도를 계산, 1에 가까우면 높은 성능
-	Dunn Index	군집 간 거리의 최소값, 군집 내 요소 간 거리 최대값의 비율
차원축소	재구성오차	축소 복원시 원본과의 오차를 평가
-	설명분산비율	축소된 차원에서 전체 데이터 분산 중 설명되는 비율
-	스트레스	저차원 공간에서 고차원 데이터 간 거리의 보존 정도를 평가

강화학습 성능지표​

• 환경과 상호작용하며 보상이 최대화되는지 평가

이미지 데이터 어노테이션 개념​

• 인공지능 모델을 학습시키기 위해 이미지 데이터에 레이블을 붙이는 과정
• 이미지 수준, 객체 수준, 픽셀 수준으로 추가 정보 부여

이미지 데이터 어노테이션의 유형과 기법​

이미지 데이터 어노테이션의 유형​

• 픽셀 수준으로 갈수록 높은 정밀도, 어노테이션 비용 증가
• 이미지 데이터 활용 목적과 수준 및 범위에 따라 적절한 수준의 어노테이션 유형 선택

이미지 데이터 어노테이션의 기법​

유형	기법	설명
이미지 수준	이미지 분류	이미지 파일 단순 분류
객체 수준	바운딩 박스	객체의 최소 사각형으로 분류
-	폴리곤	객체의 윤곽을 따라 다각형으로 어노테이션
-	키포인트	객체의 주요 특징점 어노테이션
-	3D 큐보이드	객체를 3차원 박스로 식별하여 위치 및 크기 판별
픽셀 수준	시맨틱 세그멘테이션	이미지 각 픽셀별 클래스 지정
-	인스턴스 세그멘테이션	클래스 내에서 개별 객체를 구분해 픽셀 레이블 지정

감정 인식 기술 개념​

• 자연어로 전달되는 감정을 분류하는 감정 분석 대비 표정, 음성, 자세 등을 관찰하여 광범위한 감정상태를 식별하는 기술
• 감정 임베딩과 대화형 봇 감정 인식 기술을 통해 다양한 상황과 사용자 요구 대응

감정 인식 기술 유형, 활용 분야​

감정 임베딩 기술 유형​

구분	설명	관련 기술
감정 단어 임베딩	감정 정보를 단어 임베딩으로 임베딩하는데 중점	Emo2Vec, SSWE
이모티콘 임베딩	감정을 표현하기 위해 채팅 메세지 내부 이모티콘을 임베딩	Emoji2Vec, DeepMoji
다중감정 인식용 단어 인베딩	여러 감정 레이블을 동시 할당하여 감정을 더 자세히 설명	다중라벨분류, SGM

대화형 봇 윈한 감정 인식 기술 유형​

구분	설명	비고
앙상블 모델 기반 감정인식	여러 개별 모델을 결합하여 포괄적, 강인한 모델 구성	주요 감정 모델 간 가중 평균 처리
지식 표현 기반 감정인식	사전 지식에 정서어휘, 상식, 언어패턴, 정서의미규칙 등 포함하여 표현향상	어휘기반 감성 지식 통합
감정인식 위한 전이학습	부족한 훈련 데이터 문제 완화, 유도적 전이학습 사용	순차전이학습, 다중작업학습
이모티콘수용 감정인식	이모티콘 기반에 SVM 등 분류기로 감정 주석 추가	이모티콘 포함 텍스트 희소
맥락이해기반 감정인식	상황적 표현 학습 위해 발화 및 컨텍스트 수준에서 셀프 어텐션 사용	GPT-4o 등 LLM

감정 인식 기술 활용분야​

구분	활용분야	비고
공공	SNS 공개 데이터 분석, 감정 모니터링 자살예방, 테러리스트 탐지	범죄예방, 안전
의료	긴급 상황에서 환자의 감정 예측	환자 의도 파악
민간	대화형 봇 감정인식 활용 감정기반 응답시스템 구축	고객응대, 마케팅

감정 인식 기술 고려사항​

• 사용자 데이터의 최소 수집 및 목적 제한을 위한 법, 제도 마련 필요

가상화폐 스캠 개념​

• 폰지사기라고 표현되며 가격의 높은 변동성과 익명성을 악용해 투자자들을 속이는 위협
• 블록체인, 가상화폐의 급속한 발전으로 폰지사기, 피싱공격, 가짜 ICOs, 러그폰, 다중서명지갑 해킹 등 다양한 유형의 사기 범죄 출현

가상화폐 스캠 탐지 개념도, 분석 유형, 탐지 절차​

가상화폐 스캠탐지 개념도​

가상화폐 스캠탐지 분석 유형​

기반	유형	내용
기계학습 기반	로지스틱 회귀	거래 데이터의 다양한 속성 기반으로 확률 분석하여 결정 경계 정의
-	랜덤포레스트	다수의 결정 트리로 거래 특성 분석, 종합하여 스캠 여부 판별
-	SVM	거래 데이터를 고차원에서 분류하여 최적 결정경계를 찾아서 높은 정확도
-	ADABoost	약분류기 결합, 반복학습, 스캠 특성 포착
-	LGBM	복잡한 거래 뎅치터를 수직적 방식으로 빠르게 탐지
딥러닝 기반	LSTM-FCN&BP	LSTM-FCN과 BP 신경망을 결합한 하이브리드 모델 사용
-	LSTM-CNN	순차 데이터 처리용 LSTM과 구조적 특징 파악용 CNN 결합
그래프 기반 경로임베딩	Trans2Vec	거래량과 타임스탬프에 랜덤워크 기법과 SVM 활용 분류
-	Node2Vec	EtherScanDB로 Node2Vec과 SVM 활용 분류
그래프신경망 기반 그래프 임베딩	GCN	노드와 이웃 간 정보 집계 후 노드 임베딩 생성
-	TTAGN	거래내역 시간, 구조적 정보를 통합, LSTM, 어텐션 활용 스캠 탐지

가상화폐 스캠탐지 절차​

가상화폐 스캠탐지시 고려사항​

• 클래스 불균형으로 인한 오탐 방지 위해 오버샘플링, 언더샘플링, 가중치 조정 등 고려
• 가상화폐 거래 네트워크의 지속적 변화 학습