RNN 과 Transformer 비교

<aside> ✏️

Transformer 는기존의 RNN이 하던 일들을 훨씬 '더 잘(Better)' 수행하며, 특히 의미 표현(Embedding)이 훨씬 풍부하다

</aside>

• RNN ( Recurrent Neural network )
• Transformer

Timeline

1. RNN Encoder - Decoder

2. RNN Encoder - Decoder with Attention

3. Transformer

4. Sentence Transformer