- Generative Pre Training of a language model
- GPT-1은 OpenAI가 개발한 첫 번째 인공지능 모델이다.
- GPT-1은 2017년에 나온 Transformer 아키텍쳐를 기반으로 만들어졌다.
명칭의 의미
언어 모델
- Language Model
- 사람의 언어를 이해하는 모델
- 자연어 데이터만(백과사전 등)으로 학습 가능
- 즉 별도로 라벨링된 데이터가 필요하지 않음
생산적 모델
- Generative Model
사전 학습
- Pre Training Model
주요 분야
- 자연어 유추
- 질의 응답
- 문장 의미 유사도 판단
- 분류