인천대학교 임베디드시스템공학과 강우철 교수팀은 딥러닝 모델의 크기는 최대 절반으로 줄이면서 정확도는 향상시키는 기술을 오는 12월 온라인으로 개최되는 NeurIPS 2021에서 발표한다고 9일 밝혔다.
논문명은 Deeply Shared Filter Bases for Parameter-Efficient Convolutional Neural Networks이다.
NeurIPS (Neural Information Processing Systems, 신경정보처리시스템학회)는 세계 최고 권위의 인공지능 학회로 머신러닝, 신경과학 등 다양한 인공지능 분야의 연구 결과가 발표된다.
딥러닝 모델을 모바일이나 임베디드시스템에서 사용하기 위해서는 모델의 크기를 줄이면서도 인식 정확도의 하락은 최소화할 수 있는 모델 구조와 학습 기술이 요구된다.
하지만 기존의 딥러닝 모델 압축 기술들은 모델의 사이즈를 줄이는 정도에 비례하여 인식 정확도가 저하돼 모델을 압축하는데 제약이 있었다.
강우철 교수팀은 딥러닝 모델에서 파라미터를 재사용하여 모델의 크기를 줄일 경우에 인식 정확도가 떨어지는 이유가 학습신호인 그레이디언트가 소멸하거나 폭발함으로써 학습을 방해한다는 것을 이론적으로 증명했다. 또 이 문제를 해결하기 위해 반복적으로 사용되는 필터들을 직교화시키는 학습기술을 개발했다.
개발된 기술은 이미지 분류, 물체 검출, 이미지 분할 등의 다양한 딥러닝 작업에서 딥러닝 모델의 사이즈는 최대 절반으로 줄이면서도, 일관되게 인식 정확도는 향상시킬 수 있다.
강우철 교수는 “이번 기술이 스마트폰이나 자율주행차 등에 적용된 인공지능 모델들의 정확도와 에너지 효율성을 동시에 높일 수 있다”고 밝혔다.
◯ 해당 연구는 인천대학교 임베디드시스템공학과 김대연 석사학생이 공동 제1저자로 참여했다.
인천=정창교 기자 jcgyo@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
