미국의 인공지능 개발사인 오픈AI가 3월 13일 챗GPT를 탑재한 로봇인 피겨 01을 공개했다. 2022년에 보스턴 다이내믹스(Boston Dynamics)와 테슬라(Tesla) 출신의 기술자들이 설립한 피겨가 2023년 3월에 개발한 로봇에 인공지능을 탑재한 것이다. 무엇보다도 약간의 시차가 있긴 하지만, 사람과 자연스럽게 대화하는 모습이 인상적이다.

탁자 위의 사과가 있다는 걸 설명하고, 부드럽게 사과를 쥐어 건네 준다. 왜 사과를 주냐고 묻자 유일하게 먹을 수 있기 때문이라고 말한다. 그릇들을 어디로 옮겨야할 것 같냐고 묻자 건조대에 들어거야 할 것 같다고 말한다.

Figure 01, OpenAI

http://community.openai.com/t/openai-chatgpt-robot-figure-01/681733

http://figure.ai

신뢰도를 높여 주는 설명 가능한 인공지능

• 신뢰할 수 있는 인공지능(Trustworthy AI)
• 책임감 있는 인공지능(Responsible AI)
• 인공지능의 해석 가능성(Interpretability)

인공지능을 탑재한 로봇이 공장에서 사람과 함께 일할 때 또는 소비자와의 접점에서 활동할 때 책임감 있고, 신뢰할 수 있다는 건 중요한 가치 중 하나이다. 이에 미국의 국립표준기술연구소는 설명 가능한 인공지능의 네 가지 원칙을 발표하기도 했다.

2020년 8월 18일 Four Principles of Explainable Artificial Intelligence, P Phillips, Carina Hahn, Peter Fontana, David A. Broniatowski, Mark A. Przybocki http://nist.gov/publications/four-principles-explainable-artificial-intelligence-draft

즉 산출물이 나온 이유를 사용자가 이해할 수 있게 설명하고, 해당 설명을 프로세스에 정확하게 반영하며, 충분한 신뢰 수준에 다다랐을 때만 운영한다는 것이다. 이로써 인간이 인공지능을 이해할 수 있고, 오류를 발견하고 수정하며, 통제할 수 있게 된다. 인공지능의 출력 결과를 비판적으로 수용해 정확성과 공정성 그리고 투명성을 확보한다.

설명 가능한 AI란 무엇인가요?, IBM https://www.ibm.com/kr-ko/topics/explainable-ai

2021년 9월 13일 설명가능한 인공지능(Explainable AI; XAI) 연구 동향과 시사점 학습이 완료된 딥러닝 모델에 대한 설명을 중심으로, 최현규 https://spri.kr/posts/view/23296?code=industry_trend

2023년 4월 인공지능법 제정안과 설명가능한 인공지능(XAI)의 기본원칙에 관한 연구, 배재권 https://m.riss.kr/link?id=A108572930
요약.인공지능 백서와 인공지능법 제정안을 토대로 투명성(Transparency), 책임성(Accountability), 공정성(Fairness), 신뢰성(Reliability), 결과 시연성(Result Demonstrability)의 5가지 XAI 기본원칙을 제안하였다.