๋จธ์ ๋ฌ๋, ๋ฅ๋ฌ๋24 ๊ฐํํ์ต ๋ณต์ต ์๋ฃ 2: Dummy Q-learning algorithm Q-learning์ ๊ธฐ๋ณธ ์์ ์ด๋์ด ๋ด๊ธฐ ์ํด ํ '๋ฏฟ์'์ ์ดํด๋ณด์. 1. ๋จผ์ ๋๋ s์ ์๊ณ 2. action a๋ฅผ ์ทจํ๋ฉด s'์ผ๋ก ์ด๋ํ๋ฉฐ reward r์ ๋ฐ๋๋ค. ์ฌ๊ธฐ์, s'์ Q๊ฐ ์๋ค๊ณ ๋ฏฟ์. s'์ Q๊ฐ ์๋ค๊ณ ๋ฏฟ์๋ ๊ฒ์ ์๋ฏธ๋ ์๋ง๋ (s์์ a๋ฅผ ์ทจํด ๋ณํ state) s'์์ ์ด๋ค action์ ์ทจํด์ ๋ฐ์ reward๋ฅผ ์๊ณ ์๋ค๊ณ ๊ฐ์ ํ์๋ ๊ฒ์ธ ๊ฒ ๊ฐ๋ค. (ํน์ action์ด๋ผ๊ธฐ ๋ณด๋ค ๊ทธ ์ด๋ค action์ ๋ํ reward๋ผ๋) ์ด์ Q(s, a)๋ฅผ Q(s', a')์ ์ด์ฉํด ๋ํ๋ด๋ณด๋ฉด, Q(s, a) = r + max(a') Q(s', a') r์ s์์ a๋ฅผ ์ทจํด ์ฆ๊ฐ์ ์ผ๋ก ์ป์ reward์ด๋ฉฐ max(a') Q(s', a')์ ๊ทธ ์ดํ ๋จ๊ณ์์ ์ป์ ์ต๋ rewa.. 2022. 3. 12. ๊ฐํํ์ต ๋ณต์ต ์๋ฃ 1: Concept of RL ๊ฐํํ์ต์ ๊ธฐ๋ณธ์ ์ผ๋ก, ์ฅ(Actor ํน์ Agent)๊ฐ action์ ์ทจํ๋ฉด ๊ทธ์ ๋ฐ๋ฅธ reward๋ฅผ ๋ฐ๊ณ , ๋ณํ๋ state๋ฅผ ๊ด์ฐฐํ์ฌ ๋ค์ action์ ์ทจํ๋ ๋ฐฉ์์ด๋ค. Q ํจ์์ state์ action์ ์ฃผ๋ฉด, ๊ทธ์ ๋ฐ๋ฅธ reward๋ฅผ ๋ฆฌํดํ๋ค๊ณ ์๊ฐํ์. (๊ทธ๋ฌํ Q ํ๋์ด ์๋ค๊ณ ๊ฐ์ ํ์.) Agent๊ฐ ์๊ณ ์ถ์ ๊ฒ์ ์ต๋ reward๋ฅผ ๋ง๋๋ action์ด๋ค. ์ด ๋ด์ฉ์ ๋ค์ ๋ ์ํ์ ํ๊ธฐ๋ก ๋ํ๋ผ ์ ์๋ค. max(a') Q(s, a') : s ๋ผ๋ state์ a'์ ๋ฐ๊พธ์ด ์ค์ผ๋ก์จ ์ป์ ์ ์๋ ์ต๋ reward๊ฐ (Q๊ฐ) argmax(a') Q(s, a'): (์์ ์ด์ด์ง๋ ์ํฉ์์) ์ต๋ Q๊ฐ์ ๊ฐ๊ฒํ๋ argument a' Reference: Sung Kim ๋ชจ๋๋ฅผ ์ํ R.. 2022. 3. 12. 4/23 ํด๋ดค๋ ๊ฒ ์ ๋ฆฌ 1. RMDL ์ ์ฉ ์๋ Colab์ pip ์ค์นํด ํ๋ค๊ฐ checkpoint ๊ฒฝ๋ก ๋ฐ๊ฟ๋ณด๋ ค๊ณ ๋ด ๊นํ์ forkํ๊ณ ๊ฒฝ๋ก ๊ณ ์ณ์ ์ปค๋ฐํ ๋ค์ git cloneํจ (pip ์ค์นํ๊ณ ๋ ์ฝ๋๋ฅผ ์์ ํ ์ ์๋ ์ง๋ ๋ชจ๋ฅด๊ฒ ์..) https://stackoverflow.com/questions/49322072/checkpoints-in-google-colab : ์ด๊ฑฐ ๋ณด๋ฉด checkpoint ๊ฒฝ๋ก๋ฅผ /gdrive ๋ด๋ก ๋ฐ๊ฟ๋ ์ ๋ ์๋ ์์ ๊ฒ ๊ฐ์ (๋ฌผ๋ก mount ํ์..) https://research.google.com/colaboratory/local-runtimes.html : Colab ๋ก์ปฌ ๋ฐํ์ ๊ด๋ จ document. ๋ก์ปฌ์์ ์ฝ๋๋ฅผ ์คํํ๊ณ ๋ก์ปฌ ํ์ผ ์์คํ ์ ์์ธ์คํ ์ ์๋ค๊ณ ํจ. ๋จ์ .. 2020. 4. 24. NLP Encoding (wikidocs) Integer encoding - ๋จ์ด ์งํฉ(vocab)์ ๋จ์ด์ ๊ณ ์ ํ ์ซ์๋ฅผ ๋ถ์ฌ - ๋ฐฉ๋ฒ: python dictionary, Counter, NLTK FreqDist, Keras preprocessing.text 1) sentence/word tokenization, cleaning, normalization 2) key=๋จ์ด, value=๋น๋์๋ก ํ์ฌ ๋จ์ด ์งํฉ์ ๋ง๋ค๊ณ ๋น๋์ ์์ผ๋ก ์ ๋ ฌ 3) ๋น๋์๊ฐ ๋์ ๋จ์ด๋ถํฐ ๋ฎ์ ์ ์ ์ธ๋ฑ์ค๋ฅผ ๋ถ์ฌ 4) ๋น๋์๊ฐ ์ ์ ๋จ์ด๋ฅผ ๋จ์ด ์งํฉ์์ ์ ์ธํ ์ ์์ 5) ์์ฐ์ด ์ํ์ ๋จ์ด๋ฅผ ์ ์ ์ธ๋ฑ์ค๋ก ๋ณํ - ์ ์ ์ธ๋ฑ์ค๋ก ๋ณํํ๋ ๊ณผ์ ์์ OOV๊ฐ ์์ ์ ์์ - OOV(Out-Of-Vocabulary): ๋จ์ด ์งํฉ์ ์กด์ฌํ์ง ์๋ ๋จ์ด (๋น๋์๊ฐ ์ ์ด .. 2020. 3. 19. ์ด์ 1 2 3 4 5 6 ๋ค์