Attention Is All You Need

필승! 강화도에서 해병대 장교로 국방의 의무를 다하고, 현재는 대학원에서 인공지능을 공부하고 있는 규씨입니다.단순히 읽고 이해하는 것만으로는 기억에 오래 남지 않는다는 것을 깨닫고, 공부한 내용을 정리하고 공유하면서 더 오래 기억하기 위해 블로그를 시작하게 되었습니다.읽으시면서 틀리거나 제가 잘못 이해한 부분 지적해 주시면 정말 감사하겠습니다. 함께 배우고 성장하는 공간이 되기를 바랍니다. 감사합니다!Attention Is All You Need□ AbstractRNN이나 CNN을 사용하지 않고, 어텐션 메커니즘만으로 구성된 새로운 네트워크 구조 제안 이 모델은 WMT 2014 영어-독일어 번역, 영어-프랑스어 번역 작업에서 기존 최고 성능을 뛰어넘음 Transformer는 다양한 작업에서 일반화 될 수..