논문 : https://arxiv.org/abs/1706.03762 제목 : Attention Is All You Need 발행일자 : 12 Jun 2017 저자 : Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin Abstract:• 복잡한 순환(RNN)이나 합성곱(CNN) 기반 구조 대신, 순수 어텐션 메커니즘만을 사용하는 새롭고 간단한 네트워크 아키텍처인 Transformer를 제안• 병렬화가 우수하고 학습 속도가 빠르면서 번역 과제에서 BLEU 기존 최고 성능을 뛰어넘었다.• 영어-프랑스어 번역에서도 최고 수준의 단일 모델 성능• 이..
