코난테크놀로지, 인공지능 ‘편향성’ 연구 참여

인공지능기업 코난테크놀로지가 인공지능의 편향성 문제 해결을 위한 프레임워크 개발에 참여한다.

이번 연구개발은 KAIST, 연세대학교, 코난테크놀로지, 아크릴이며, 국제협력으로 페이스북, 마이크로소프트, UNU(United Nations University)와 함께 진행된다.

편향성이란 인공지능이 딥러닝 과정에서 발생할 수 있는 일종의 '편견'을 말한다. 지난 2016년 마이크로소프트에서 선보인  인공지능 챗봇 '테이(Tay)'가 성·인종차별적 발언 문제로 16시간 만에 운영이 중지된 바 있다. 테이는 사용자와의 대화를 훈련데이터로 사용해 학습했는데, 편향된 데이터를 활용한 자가학습의 위험성을 보여준 대표적인 예시로 기록됐다.

코난테크놀로지가 참여하는 이번 프로젝트는 학습데이터와 AI 모형의 편향성 측도 개발 및 탐지-완화-제거를 위한 모듈과 프레임워크를 개발해 인공지능의 공정성과 윤리적 문제를 해결하기 위한 연구다.

코난테크놀로지의 안춘근 이사는 “인공지능의 편향성 연구로, 인공지능 모델 데이터의 편향성을 자동으로 탐지하고, 편향성 완화·제거를 통한 학습이 가능할 것”이라며 “이를 통해 공정하고 안전한 의사결정이 가능한 인공지능 개발이 가능할 것으로 기대한다”고 밝혔다.