- MDP; Markov Decision Process
특징
- Stochastic: 다음 결과는 확률적으로 결정됨
- Partially Observable: 전체 결정 과정을 조망할 수 없음
구성
| 구성 | 설명 |
|---|---|
| S | 상태의 유한 집합 |
| A | 행동의 유한 집합 |
| R | 보상 기대값, R(s, a) |
| r | 차감 요인, 0~1 |
| T | 전이확률, T(s', a, s) |
Q 러닝과의 비교
- 유사한 목적으로 강화학습에 사용되는 Q Learning
| 항목 | MDP | Q 러닝 |
|---|---|---|
| 결정 과정 | 전이확률T(s’,a,s) 계산 | 미래값(Q) 계산 |
| 정책(Policy) | π(s) = 𝑎𝑟𝑔𝑚𝑎𝑥 𝑇(𝑠’, 𝑎, 𝑠) | π(s) = 𝑎𝑟𝑔𝑚𝑎𝑥 𝑄(𝑠, 𝑎) |
| 최적 값 | 수렴 시까지 V(s)수행 | Q 테이블 업데이트 |