인공지능 (AI)/머신러닝 (ML)
13 - BERT와 GPT는 어떻게 만들어졌을까?: Transformer 모델의 이해
자연어 처리(NLP) 분야에서 최근 몇 년 사이 가장 눈에 띄게 떠오른 기술은 단연 Transformer입니다.챗GPT, 번역기, 요약기 등 우리가 자주 사용하는 AI 서비스의 핵심에도 이 구조가 자리하고 있습니다.이번 글에서는 Transformer의 개념부터 BERT와 GPT의 차이, 그리고 실제 감성 분석 실습까지 함께 살펴보겠습니다.1️⃣ Transformer란 무엇인가요?Transformer는 2017년 논문 "Attention is All You Need"에서 처음 제안된 딥러닝 아키텍처입니다.기존 RNN, LSTM이 가지고 있던 순차적 처리의 한계를 극복하며, 현재 NLP의 표준 구조로 자리 잡았습니다.✅ Transformer의 특징장점설명✅ 병렬 연산 가능RNN과 달리 전체 문장을 동시에 처..
