๋จธ์ ๋ฌ๋, ๋ฅ๋ฌ๋/Reinforcement Learning6 ๊ฐํํ์ต ๋ณต์ต ์๋ฃ 2: Dummy Q-learning algorithm Q-learning์ ๊ธฐ๋ณธ ์์ ์ด๋์ด ๋ด๊ธฐ ์ํด ํ '๋ฏฟ์'์ ์ดํด๋ณด์. 1. ๋จผ์ ๋๋ s์ ์๊ณ 2. action a๋ฅผ ์ทจํ๋ฉด s'์ผ๋ก ์ด๋ํ๋ฉฐ reward r์ ๋ฐ๋๋ค. ์ฌ๊ธฐ์, s'์ Q๊ฐ ์๋ค๊ณ ๋ฏฟ์. s'์ Q๊ฐ ์๋ค๊ณ ๋ฏฟ์๋ ๊ฒ์ ์๋ฏธ๋ ์๋ง๋ (s์์ a๋ฅผ ์ทจํด ๋ณํ state) s'์์ ์ด๋ค action์ ์ทจํด์ ๋ฐ์ reward๋ฅผ ์๊ณ ์๋ค๊ณ ๊ฐ์ ํ์๋ ๊ฒ์ธ ๊ฒ ๊ฐ๋ค. (ํน์ action์ด๋ผ๊ธฐ ๋ณด๋ค ๊ทธ ์ด๋ค action์ ๋ํ reward๋ผ๋) ์ด์ Q(s, a)๋ฅผ Q(s', a')์ ์ด์ฉํด ๋ํ๋ด๋ณด๋ฉด, Q(s, a) = r + max(a') Q(s', a') r์ s์์ a๋ฅผ ์ทจํด ์ฆ๊ฐ์ ์ผ๋ก ์ป์ reward์ด๋ฉฐ max(a') Q(s', a')์ ๊ทธ ์ดํ ๋จ๊ณ์์ ์ป์ ์ต๋ rewa.. 2022. 3. 12. ๊ฐํํ์ต ๋ณต์ต ์๋ฃ 1: Concept of RL ๊ฐํํ์ต์ ๊ธฐ๋ณธ์ ์ผ๋ก, ์ฅ(Actor ํน์ Agent)๊ฐ action์ ์ทจํ๋ฉด ๊ทธ์ ๋ฐ๋ฅธ reward๋ฅผ ๋ฐ๊ณ , ๋ณํ๋ state๋ฅผ ๊ด์ฐฐํ์ฌ ๋ค์ action์ ์ทจํ๋ ๋ฐฉ์์ด๋ค. Q ํจ์์ state์ action์ ์ฃผ๋ฉด, ๊ทธ์ ๋ฐ๋ฅธ reward๋ฅผ ๋ฆฌํดํ๋ค๊ณ ์๊ฐํ์. (๊ทธ๋ฌํ Q ํ๋์ด ์๋ค๊ณ ๊ฐ์ ํ์.) Agent๊ฐ ์๊ณ ์ถ์ ๊ฒ์ ์ต๋ reward๋ฅผ ๋ง๋๋ action์ด๋ค. ์ด ๋ด์ฉ์ ๋ค์ ๋ ์ํ์ ํ๊ธฐ๋ก ๋ํ๋ผ ์ ์๋ค. max(a') Q(s, a') : s ๋ผ๋ state์ a'์ ๋ฐ๊พธ์ด ์ค์ผ๋ก์จ ์ป์ ์ ์๋ ์ต๋ reward๊ฐ (Q๊ฐ) argmax(a') Q(s, a'): (์์ ์ด์ด์ง๋ ์ํฉ์์) ์ต๋ Q๊ฐ์ ๊ฐ๊ฒํ๋ argument a' Reference: Sung Kim ๋ชจ๋๋ฅผ ์ํ R.. 2022. 3. 12. ์ด์ 1 2 ๋ค์