[데이터넷] 와이즈스톤(대표 이영석)이 인공지능 신뢰성(Trustworthy AI) 인증에 나선다.

와이즈스톤은 한국표준협회(회장 강명수)와 공동으로 과학기술정보통신부가 발주한 ‘민간 인공지능 신뢰성 시범인증’ 사업자로 선정됐다고 30일 밝혔다.

양사는 이달 초 사업에 착수했다. 지난 26일에는 착수 보고회를 마치고 올해 12월까지 인증체계 구축에 나선다.

최근 인공지능이 산업 전 분야에 도입되고 활용 범위가 확대됨에 따라 긍정적 효과도 많지만 각종 사고나 부작용도 늘어나는 추세다. 대표적인 예로 2018년 MIT가 개발한 사이코패스 인공지능 ‘노먼(Norman)’, 버락 오바마 전 미국 대통령의 ‘딥페이크 동영상’ 등이 있다. 국내에서는 지난 2021년 인공지능 챗봇 ‘이루다’의 윤리 논란이 불거지며 사회적 이슈로 대두됐다.

정부는 이러한 위험이나 부작용을 최소화하기 위해 인공지능 신뢰성 확보에 나섰다. ‘민간 인공지능 신뢰성 시범인증’을 통해 인증 체계를 구축하고 인공지능으로 인해 발생할 수 있는 위험이나 기술적 한계를 해결하겠다는 것이다.

인공지능 신뢰성 인증은 인공지능 기반의 제품 및 소프트웨어의 신뢰성 심사·시험을 통해 믿을 수 있는 제품임을 인증하는 제도다.

인공지능의 신뢰성(Trustworthy)은 흔히 알려진 신뢰성(Reliability)과는 차이가 있으며, 인공지능 기술에 내재한 위험과 한계를 해결하고 인공지능을 활용하고 확산하는 과정에서의 부작용을 방지하기 위해 준수해야 하는 가치 기준이다.

인공지능 신뢰성을 확보하기 위해서는 위해 안전, 설명 가능, 투명, 견고, 공평 등이 필수적인 요소다. 와이즈스톤과 한국표준협회는 인공지능의 신뢰성을 평가할 수 있는 ▲검증 절차 ▲항목 ▲방법 등 인증 체계를 구축하고 시범인증을 수행한다.

인증 체계는 정부가 고시한 ‘신뢰할 수 있는 인공지능 개발 안내서’의 59개 검증 요구사항과 관련 표준 등을 기반으로 구축한다.

와이즈스톤은 인공지능 제품 품질 인증 ‘AI+(에이아이플러스)인증’ 운영 노하우를 바탕으로 15개의 검증 항목을 추가해 시범인증을 수행한다.

이영준 와이즈스톤 ICT시험인증연구소장은 “인공지능 전문가조차 인공지능의 신뢰성을 검증하는 것이 쉽지 않다고 하지만 와이즈스톤은 이미 다수의 인공지능 시험·인증 경험이 있어 정량적 평가 기준을 세우고 시범인증을 수행하는 데 어려움이 없다”고 강조했다.

시범인증 대상은 총 4개 제품이다. 상세 품목은 삼성전자 ‘홈케어 시스템’, 삼성전자 ‘인공지능 식기세척기’, 클라썸 ‘교육용 챗봇’ ‘딥브레인AI ’가상인간(AI Human)’이다.

시범인증인 만큼 민간 활용도와 윤리적 이슈 발생 가능성이 높은 제품 위주로 선정했다는 것이 회사 측의 설명이다.

이 밖에도 ▲지식기반 ▲자연어 처리 ▲음성인식 ▲지능로봇 ▲컴퓨터 비전 등 모든 인공지능 기반의 제품 및 소프트웨어가 신뢰성 검증을 받을 수 있다. 양사는 시범인증 후 인공지능이 적용된 전 분야 제품을 대상으로 인증을 수행할 예정이다.

인공지능 신뢰성 인증은 객관성과 전문성을 강화·확보하기 위해 ‘제3자 검토위원회’의 검증을 거치는 것이 특징이다. 검토위원회는 인공지능 전문가는 물론 윤리, 국내외 인증전문가와 기술투자 전문가 등 다양한 경험을 보유한 전문가로 구성됐다.

와이즈스톤과 한국표준협회는 지난 2020년 7월 인공지능 제품 품질 인증 AI+ 인증을 공동 개발했다. 이미 인공지능 인증 체계부터 다수의 시험 경험, 노하우까지 두루 갖춘 셈이다.

이영준 소장은 “인공지능은 우리 주변 어디에서나 볼 수 있게 됐지만 ‘인공지능을 얼마나 신뢰할 수 있는가?’에 대한 의문은 끊이지 않고 있다”하며 “편향적이지 않은 데이터와 알고리즘, 설명할 수 있는 인공지능을 실현하는데 이번 시범인증 사업이 그 첫걸음이 될 것”이라고 말했다.

한편 와이즈스톤은 인공지능 신뢰성 검증을 위한 측정 도구를 개발하고 인증 체계를 고도화할 예정이다.

출처 : http://www.datanet.co.kr/news/articleView.html?idxno=173060