AI 챗봇 데이터에서 혐오표현 탐지하는 기술 개발한다

2021.08.26 13:31
챗봇 윤리 검증에 사용
기초과학연구원(IBS) 데이터 사이언스 그룹은 심심이와 AI 챗봇의 윤리 검증을 위해 MOU를 맺었다. (왼쪽부터)진효진 IBS 선임연구원, 차미영 IBS 데이터 사이언스그룹 CI, 신민기 연수학생, 송현호 연수학생, 최정회 심심이주식회사 대표. IBS 제공
기초과학연구원(IBS) 데이터 사이언스 그룹은 심심이와 AI 챗봇의 윤리 검증을 위해 MOU를 맺었다. (왼쪽부터)진효진 IBS 선임연구원, 차미영 IBS 데이터 사이언스그룹 CI, 신민기 연수학생, 송현호 연수학생, 최정회 심심이주식회사 대표. IBS 제공

국내 데이터 과학자들이 최근 사회문제로 커지고 있는 온라인 속 혐오 표현 문제를 해결하기 위해 인공지능(AI) 챗봇 데이터에서 혐오 표현을 탐지하는 기술 개발에 나선다.

 

기초과학연구원(IBS) 수리 및 계산과학 연구단 데이터 사이언스 그룹은 AI 챗봇 ‘심심이’를 운영하는 심심이주식회사와 지난달 29일 업무협약을 맺었다고 이달 26일 밝혔다. 두 기관은 업무협약을 통해 AI와 사람이 상호작용하는 패턴을 분석하고 온라인 혐오를 해결하는 데 활용하기로 했다.

 

심심이주식화사는 과학기술정보통신부가 주관하는 AI 학습용 데이터 구축사업에 참여해 윤리성 검증을 돕고 있다. 대화 시나리오나 서술형 글 등 텍스트와 관련한 윤리성 검증과 비도덕적인 텍스트 구조를 찾는 데 주력중이다. IBS 데이터 사이언스 그룹은 이 과정에서 기계학습과 AI를 기반으로 온라인 데이터 속 혐오표현을 탐지하는 분석도구를 개발하기로 했다.

 

최정회 심심이 대표는 “AI 챗봇은 세계적으로 윤리성 문제에 부딪혀 왔다”며 “IBS의 우수한 데이터과학자들과 함께 과학적 해결 방안을 찾음으로써 AI 챗봇의 지속가능한 발전을 기대한다”고 말했다.

 

차미영 데이터 사이언스 그룹 CI는 “심심이는 약 1억 4000만 쌍의 대화 시나리오 데이터를 기반으로 만들어진 생동감 있는 대화 플랫폼”이라며 “심심이가 온라인 데이터 속 혐오 표현을 탐지하는 AI를 개발하기 위한 최적의 도구가 될 것”이라고 말했다.

메일로 더 많은 기사를 받아보세요!

댓글 0

작성하기

    의견쓰기 폼
    0/150