Meta Learning & Deep Network

• Few-shot learning (FSL)

 데이터-기반 딥 러닝 모델들은 높은 성능을 위해 다수의 고품질 데이터를 요구합니다. 퓨 샷 러닝은 이러한 데이터 제약을 해결하려는 여러 기법들 중 하나로 각 클래스 마다 10개 미만의 매우 적은 수의 샘플을 사용하여 고성능의 분류기를 학습하는 기법을 뜻합니다. 목표 데이터가 매우 적으므로 목표 데이터와 비슷하지만 다른 기반 데이터(base data)의 학습 정보를 활용하는 메타-학습 기반의 기법들이 널리 사용되고 있습니다.

• Few-shot Open-set recognition (FSOSR)

 FSOSR은 Out-Of-Distribution (OOD) 샘플을 검출하면서 주어진 샘플을 분류하는 Open-set recognition(OSR)과 FSL이 합쳐진 연구 분야입니다. 분류 모델을 실생활에 더 널리 활용하는 방법들 중 하나로, 좀 더 일반적인 FSL 기술 소요에 대응합니다.

Minki Jeong, et al. "Few-shot Open-set Recognition by Transformation Consistency." arXiv preprint arXiv:2103.01537 (2021). Accepted to CVPR 2021

• Capsule Network

 컨볼루션 기반 신경망은 컨볼루션과 풀링 등의 구조적 한계로 인해 영상 내 각 요소 사이의 관계를 표현하는 능력이 떨어집니다. 이를 보완하기 위해 캡슐 네트워크(Capsule Network)가 제시되었으며, 캡슐 네트워크는 스칼라 값을 정보의 최소 단위로 사용하였던 컨볼루션 기반 신경망과 다르게 벡터를 최소 단위로 사용하고, 이 벡터들 사이에 routing을 통해 영상 내 각 로컬 요소 사이의 관계를 모델링할 수 있는 네트워크 입니다.

Minki Jeong and Changick Kim. "A Parameter Efficient Multi-Scale Capsule Network.", Accepted to ICIP 2021