Một thành phần quan trọng khác là Positional Encoding, giúp mô hình nhận biết vị trí tương đối của các từ, vì kiến trúc không tuần tự của Transformers không tự động xử lý được thông tin thứ tự như RNN.Trong tâm thức người Á Đông, đèn lồng treo cao mang