딥러닝 모델의 결과 해석방법

최근에는 딥러닝 모델 결과의 신뢰성이 요구되면서 딥러닝 모델의 예측 결과를 해석할 수 있는 XAI(Explainable AI)기술을 활용한 연구들이 이루어지고 있다.

1) SHAP (SHapley Additive exPlanations)
딥러닝으로 예측값을 도출할. 경우 기여도가 큰 특징 순으로 순위를 매겨 해당 모델링에 사용할 특징을 선별할 수 있다.

2) Grad-CAM (Gradient-weighted Class Activation Mapping)
CNN 모델을 이용하여 시간-주파수 이미지로부터 어떠한 현상을 예측할 때, 모델의 예측 근거를 시각적으로 표현할 수 있다.

이와 같은 기술은 모델의 의사결정 과정을 해석하여 결과에 대한 신뢰성을 제공한다.

이외에도 최근 주목받고 있는 물리 기반 인공 신경망(PINN, Physics-Informed Neural Networks)은 물리적인 지배방정식을 인공지능 알고리즘에 결합시킨 기술로, 복잡한 물리적 현상을 예측하는 목적으로 활용할 수 있다.