들어가기 앞서, 아직 학부생 수준으로 작성하는 논문 리뷰이기에 많이 부족합니다. 틀린 내용은 지적해주시면 보완하겠습니다 :) 0. Abstract --- ---[용어]--- --- 🔸pre-train : 특정 task에 사용하기 이전에, 대용량 data를 학습시켜두는 것 🔸fine-tune : pre-trained 모델을 특정 task에 맞게 튜닝/변형하는 것 --- --- --- --- --- [본문] BERT = Bidirectional Encoder Representations from Transformer BERT는 Transformer Encoder를 통해 unlabeled text로부터 deep bidirectional representations를 pre-train하도록 설계되었다. 그리고 ..
