XAI

XAI (eXplainable AI)

eXplainable AI 탭에서 학습모델에 대한 학습 결과, 평가 지표에 대한 성능 결과를 확인할 수 있습니다.

명칭	기능명	설명
Classification	accuracy	학습 모델의 예측이 얼마나 잘 이루어졌는지 확인하는 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음.
	precision	학습 모델이 예측한 양성 결과들 중, 참 양성의 비율로, 모델이 얼마나 적은 수의 거짓 양성을 생성하는지 확인하는 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음.
	recall	정답값이 양성인 결과들 중, 모델이 양성으로 올바르게 예측한 비율로, 모델이 얼마나 결과를 잘 찾아내는지를 나타내는 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음.
	F1Score	정밀도와 재현율의 조화 평균 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음.
Detection	Precision	학습 모델이 예측한 양성 결과들 중, 참 양성의 비율로, 모델이 얼마나 적은 수의 거짓 양성을 생성하는지 확인하는 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음
	mAP	클래스 별 Precision의 평균값으로, 0~1사이의 값이며, 1에 가까울수록 좋음.
	recall	정답값이 양성인 결과들 중, 모델이 양성으로 올바르게 예측한 비율로, 모델이 얼마나 결과를 잘 찾아내는지를 나타내는 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음.
	iou	예측된 영역과 정답 영역 사이의 중첩을 나타내는 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음.
	mIou	클래스 별 계산된 iou의 평균값
Segmentation	AUC	각 픽셀이 어느 클래스에 속하는지 계산한 RoC커브의 곡선 아래의면적으로, 0~1사이의 값이며, 1에 가까울수록 좋음
	Accuracy	각 픽셀이 해당 클래스로 정확하게 예측한 픽셀의 비율로, 0~1사이의 값이며, 1에 가까울수록 좋음
	BalancedAccuracy	각 클래스의 정확도를 동일하게 가중하여 계산한 지표로, 각 클래스의 샘플 수가 불균형 할 때 계산하는 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음
	Sensitivity	정답값이 양성인 결과들 중, 모델이 양성으로 올바르게 예측한 비율로, 모델이 얼마나 결과를 잘 찾아내는지를 나타내는 지표로, 0~1사이의 값이며, 1에 가까울수록 좋음(recall과 같음).
	Specificity	배경으로 분류해야 할 픽셀을 정확하게 배경으로 예측하는가를 나타내는 지표로, 0~1사이의 값이며, 1에 가까울 수록 좋음.

XAI 지원 목록

지원하는 XAI 정보는 다음과 같습니다.

명칭	기능명	설명
Feature map	모든 모델	학습 모델의 특징 추출부에서 추출된 이미지의 특징을 담은 맵
gradcam	분류 모델	학습 모델이 클래스를 결정할 때 주된 특징이 모여있는 영역을 히트맵으로 표현한 정보로 빨간색에 가까울수록 주요 특징을 나타냄
Lime	분류 모델	학습 모델이 클래스를 예측하는데 가장 중요한 역할을 한 영역을 추출하여 시각화 한 정보
Smoothgrad	분류 모델	학습 모델 예측 시 인위적인 노이즈를 추가하여 생성된 다중의 특징 맵을 평균하여 주요 특징을 강조하는 방법
guidedbp	분류 모델	특징 맵에서 추출된 특징 중, 명확하지 않은 특징을 제거하여 또렷한 시각화 한 정