개시된 실시예는 그래프 네트워크(이하 GNN) 모델이 다수의 입력 그래프 각각에 대해 신경망 연산하여 분류할 수 있는 각 유형을 대표하는 입력 그래프인 다수의 대표 그래프를 획득하고, 다수의 대표 그래프 각각에서 다수의 노드의 특성을 나타내는 노드 벡터로 구성된 노드 벡터 행렬을 획득하며, 노드 벡터 행렬을 이용하여 서로 다른 대표 그래프의 노드 벡터간 유사도를 계산하고, 계산된 유사도 따라 다수의 대표 그래프 각각에서 기준 노드를 선택하고, 선택된 기준 노드로부터 엣지로 연결된 다수의 연결 노드를 추출하여, 기준 노드와 다수의 연결 노드 및 엣지로 구성된 다수의 서브 그래프를 획득하며, GNN 모델이 다수의 서브 그래프 각각에 대해 신경망 연산한 결과를 기반으로 다수의 서브 그래프 중 하나를 프로토타입 그래프로 획득하여, GNN 모델의 입력 그래프의 유형을 판별하는 과정에서 주목한 입력 그래프의 구조적 특징을 나타내는 프로토타입 그래프를 추출하여 인간의 직관에 맞도록 시각적으로 표시할 수 있으므로, 사람이 GNN 모델을 용이하게 해석할 수 있도록 하고, GNN 모델의 신뢰성을 향상시킬 수 있는 그래프 네트워크 해석 장치 및 방법을 제공한다.