설명가능 인공지능

설명가능 인공지능(Explainable AI, XAI)은 판단에 대한 이유를 사람이 이해할 수 있는 방식으로 제시하는 인공지능을 일컫는다. 특정한 판단에 대해 알고리즘의 설계자조차도 그 이유를 설명할 수 없는 '블랙박스' 인공지능과 대비되는 개념이다. 불확실성을 해소하여 인공지능에 대한 신뢰성을 높일 수 있게 된다. DARPA는 약 800억원의 예산을 투입하여 '유리박스'를 목표로 한 프로젝트를 진행하고 있다.^[1][2][3]

각주

1. “결과만 알려주는 AI 넘어···“왜”까지 설명해주는 XAI(설명가능 인공지능) 뜬다”. 《경향비즈》. 2018년 2월 18일. ^{[깨진 링크(과거 내용 찾기)]}
2. “AI 신뢰성 높이려면 ‘설명가능’해야”. 《사이언스타임즈》. 2017년 12월 20일. 2017년 12월 22일에 원본 문서에서 보존된 문서. 2018년 4월 21일에 확인함. 
3. “"설명 가능한 AI? 정확성 보장 어렵다" 구글 연구 책임자”. 《CIO KOREA》. 2017년 6월 27일. 2018년 4월 21일에 원본 문서에서 보존된 문서. 2018년 4월 21일에 확인함.