메뉴바로가기본문바로가기

동아사이언스

'눈높이' 딥러닝으로 AI 훈련 속도 단축한다

통합검색

'눈높이' 딥러닝으로 AI 훈련 속도 단축한다

2020.10.20 14:00
이재길 KAIST 전산학부 교수와 송환준 지식서비스공학대학원 박사과정생, 김민석 박사과정생, 김선동 박사(왼쪽부터) 연구팀은 인공지능(AI)이 학습하는 과정에서 AI의 학습 수준에 난이도를 맞춘 문제를 골라 냄으로써 정확도를 높이고 훈련 속도를 단축하는 심층학습(딥러닝) 방법론을 개발했다. KAIST 제공
이재길 KAIST 전산학부 교수와 송환준 지식서비스공학대학원 박사과정생, 김민석 박사과정생, 김선동 박사(왼쪽부터) 연구팀은 인공지능(AI)이 학습하는 과정에서 AI의 학습 수준에 난이도를 맞춘 문제를 골라 냄으로써 정확도를 높이고 훈련 속도를 단축하는 심층학습(딥러닝) 방법론을 개발했다. KAIST 제공

인공지능(AI)이 학습할 때 AI의 학습 수준에 난이도를 맞춘 문제를 골라냄으로써 정확도를 높이고 훈련 속도를 단축하는 심층학습(딥러닝) 방법론이 개발됐다. 이미지를 보고 사물을 판단하는 AI가 학습에 걸리는 시간을 60% 줄이는 데 성공했다.

 

이재길 KAIST 전산학부 교수 연구팀은 심층학습 모델의 예측정확도와 훈련 속도를 높인 새로운 모델 학습 기술을 개발했다고 이달 20일 밝혔다.

 

심층학습 모델은 반복을 거쳐 모델을 구성하는 함수의 관계를 표현하는 ‘매개변수’를 최적화하는 방식으로 학습한다. 그림을 보고 고양이인지를 판단하는 AI라면 그림을 수차례 보면서 매개변수에 해당하는 고양이의 특징을 정확히 찾아내는 것이다. 이때 한 번 훈련에 쓰기 위해 선정한 데이터들을 ‘배치’라고 한다. 배치는 보통 무작위로 선택되는데 이 과정에서 학습 효율이 떨어져 최근 학계에서는 배치를 학습 효율을 높일 수 있도록 선택하는 방법이 연구되고 있다.

 

연구팀은 AI의 현재 수준에 따라 맞춤형 학습을 할 수 있는 배치 선택방법을 개발했다. 이전 10번의 추론에서 계속 틀리거나 맞추는 배치가 있다면 이를 배제하고 배치를 짜는 방식이다. 중학생에게 너무 쉬운 초등학생 수준의 문제나 반대로 너무 어려운 고등학생 수준의 문제를 풀게 하면 당장의 학습에 도움이 되지 않는 것처럼 AI에게도 학습 정도에 따라 배우는 효과가 큰 데이터가 존재한다. 이 교수는 “계속 맞추면 너무 쉬운 것이고 계속 틀리는 것은 너무 어려워 헷갈리는 것이므로 학습에서 배제하는 것”이라고 말했다.

 

KAIST 제공
말 이미지를 찾아내기 위해 학습하는 AI를 예로 들면, 최신 예측 라벨에서 계속해 '말'인 것을 알아내거나, 말임에도 '사슴'으로 인식하고 있다면 최신 라벨의 학습이 별다른 도움이 되지 않았다는 뜻이다. 연구팀은 현재 AI 수준에서 도움이 되지 않는 배치를 배제하는 방식으로 AI의 학습 효율을 높였다. KAIST 제공

연구팀은 새로 개발한 배치 선택 방법론을 ‘최신 편향’이라는 이름을 붙였다. 이를 영상 데이터 분석에 활용하는 합성곱 신경망(CNN) 학습에 적용했다. 그 결과 예측 정확도에서는 오류가 21% 줄어드는 것으로 나타났다. 훈련 속도에서는 시간을 59% 단축할 수 있는 것으로 나타났다.

 

이 교수는 “현재 시점에서 헷갈리는 데이터를 주로 학습하는 데 초점을 맞춰 차별성을 둔 것”이라며 “이 기술이 텐서플로우나 파이토치 같은 기존 심층 학습 라이브러리에 추가되면 기계학습 및 심층학습 학계에 큰 파급효과를 낼 것”이라고 말했다.

 

연구결과는 데이터 처리 분야 및 분석 분야 학술대회 ‘국제컴퓨터학회(ACM) 정보지식관리 콘퍼런스(CIKM) 2020’에서 이달 23일 발표될 예정이다.

관련 태그 뉴스

이 기사가 괜찮으셨나요? 메일로 더 많은 기사를 받아보세요!

댓글 0

3 + 9 = 새로고침
###
    과학기술과 관련된 분야에서 소개할 만한 재미있는 이야기, 고발 소재 등이 있으면 주저하지 마시고, 알려주세요. 제보하기