AI ์์ด์ ํธ์ ๋๊ตฌ๋ฅผ ๊ฒฐํฉํ๋ ๋ฐฉ๋ฒ ์ค ํ๋์ธ "์ฌ๊ท์ ์ ๊ฒฝ์ ํธ ์ ์ด ์ญ์ (recursive neuro-symbolic IoC) ํจํด"์ ๋ํด ์ ๋ฆฌํ๋ค. ์ด๋ฆ์ด ๋๋ฌด ๊ฑฐ์ฐฝํด์ ๋ง์์ ์ ๋ค์ง๋ ์์ง๋ง ์ ํํ ๋ช ๋ช ์ด๋ผ์ ๊ทธ๋ฅ ๊ทธ๋ ๊ฒ ์ ํ๋ค. https://wiki.g15e.com/pages/Recursive Neuro-Symbloic Inversion of Control
AK
@ak@hackers.pub ยท 26 following ยท 38 followers
๐ฑ๐๐ฏ
wiki
- wiki.g15e.com
์ง๋์น ์๋ํ๋ก ์ธํด '๊ณผ์ ์ ๋ด๊ธด ๊ฐ์น'๊ฐ ํผ์๋์ด ๋น์ฅ์ ํธ๋ฆฌํจ๊ณผ ์ฅ๊ธฐ์ ์ธ ์ด๋์ ๋ง๊ตํํ๋ ์ค์๋ฅผ ์ข ์ข ํ๋ค. ์๋ํ๋ฅผ ์ํด์ ๊ณผ์ ์ ๋ด๊ธด ๊ฐ์น๋ฅผ ์คํ๋ ค ์ฆ๊ฐ์ํจ ์ฌ๋ก๋ฅผ ์ ๋ฆฌํด๋ดค๋ค. https://wiki.g15e.com/pages/Augmenting values in the process
์ฌํด 4์๋ถํฐ ์ฝ 5๊ฐ์ ๊ฐ ์งํํ ์์ด์ ํธ ๊ธฐ๋ฐ ์ฝ๋ฉ ์คํ์ ๋ํด ํ๊ณ ๋ฅผ ํด๋ดค๋ค: https://wiki.g15e.com/pages/Retrospective of agentic coding experiments
ํํํ๋ ๋ง์์ผ๋ก ๋งค๋ฒ ๋ฏผ์ฃผ๋น์ ์ฐ๋๋ค. ๋๋ ์ขํ๊ณ ์ ๊ตญ์ฌ๋ ์๋ ๋ฐ๋ฉด ๋ฏผ์ฃผ๋น์ ์ ๊ตญ๋ณด์์ด๊ธฐ ๋๋ฌธ์ ์ ์น์ ์ผ๋ก ๋ง์ง ์๋๋ค. ๊ตญ๋ฏผ์ํ์ ๋น๋กฏํ ์ผ๋ถ ์ ์น ์ธ๋ ฅ๊ณผ ์ผ๋ถ ์ข ๊ต ์ธ๋ ฅ์ โ๋ณด์โ๊ฐ ์๋๋ผ โ๋ฐ์ธ๋ฅ์ ๊ธฐํ์ฃผ์ ์ธ๋ ฅโ์ ๋ถ๊ณผํ๊ธฐ ๋๋ฌธ์ ์ ์ด์ ๊ณ ๋ ค ๋์์ด ์๋๋ค.
๋ฐ์ธ๋ฅ์ ๊ธฐํ์ฃผ์ ์ธ๋ ฅ์ด ์ถฉ๋ถํ ์ ๋ฆฌ๋๊ณ , ๋ฏผ์ฃผ๋น์ด ์ ํต๋ณด์๋ก ์๋ฆฌ์ก๊ณ , ์ธ๋ก ์ด ์ ๋๋ก ์๋ํ๊ธฐ ์์ํ๋ฉด(ํ์ฌ์ ์ธ๋ก ์ ๊ธฐํ์ฃผ์ ์ธ๋ ฅ์ ์ผ๋ถ์ด๊ฑฐ๋ ๊ทน๋๋ก ๋ฌด๋ฅํ๋ค), ๊ทธ๋ฌ๋ฉด ๋๋์ด ์์ฌํ๊ณ ๋ด๊ฐ ์ค์ ๋ก ์ง์งํ๋ ์ง๋ณด ๊ณ์ด ์ ๋น์ ์ฐ์ ์ ์์ ๊ฒ ๊ฐ๋ค.
์ด์ฌ๋ช ์ ์ฑ๋จ์์ฅ ์์ ๋ถํฐ ์กด๊ฒฝํ๋ ์ ์น์ธ์ด์ ํ์ ๊ฐ๋ค. ๊ธฐํ์ฃผ์์๋ค์ ์ด์ฌ๋ช ์ ๋งํ๋ ์ ํ ๋ฏฟ์ง ์๋๋ค. ๊ทธ๊ฐ ๊ณต์ฝ์ ์งํค๊ธฐ ์ํด ์ต์ ์ ๋ ธ๋ ฅ์ ํ ๊ฑฐ๋ผ๊ณ ๋ฏฟ๋๋ค. ๋ค๋ง ๊ทธ๋ ๋ณด์์ฃผ์์์ด๊ณ ์ ๊ตญ์๋ผ์ ๋๋ ๋ง์ง ์์ ๋ฟ์ด๋ค. ๋ชจ๋ ๊ณต์ฝ์ ๋ฐ๋ํ๋ ๊ฑด ์๋๋ค. ์๋ฅผ ๋ค์ด ๋ณดํธ๊ธฐ๋ณธ์๋ ๊ด๋ จ ์ ์ฑ ์ ์ ๊ทน ์ง์งํ๋ค.
๊ถ์๊ตญ์ ๊ณต์ฝ์ ๋๋ ์ ๋ง๋ ํธ์ธ๋ฐ(์ด๋ค ์ ์น์ฑํฅ ํ ์คํธ์ ์ํ๋ฉด 88% ์ผ์น) ์ด๊ฑธ ๊ทธ๋๋ก ๋ฏฟ๋๊ฑด ์๋๋ค. ์๋ ์ง์ง์จ์ด ๋ฎ์์๋ก ๊ฐํ๊ณ ์ ๋ช ํ ๋ฉ์์ง๋ฅผ ๋ผ ์ ์๋๊ฑฐ๋๊น. ๊ฒ๋ค๊ฐ ๊ถ์๊ตญ์ด ์ง๊ธ ๋น์ฅ ๋น์ ๋๋ค ํ๋๋ผ๋ ๊ทธ์ ๊ณต์ฝ์ด ๊ทธ๋๋ก ์คํ๋ ๊ฐ๋ฅ์ฑ์ด ๋งค์ฐ ๋ฎ๋ค. ํ๊ตญ์ ์์ง ๊ทธ๋ ๊ฒ ์ข์ ๋๋ผ๊ฐ ์๋๋ค.
๋ถ๋ ์ด์ฌ๋ช ์ ๋ถ๊ฐ ์ฑ๊ณตํ๊ธธ ์ง์ฌ์ผ๋ก ๋ฐ๋๋ค. ๊ทธ ๋์ ๋ค์ ๋์ ํน์ ๋ค๋ค์ ๋์ ์์๋ ๊ผญ ์ง๋ณด์ ๋น์ ๋ฝ๊ณ ์ถ๋ค.
์ด์ฌ๋ช ์ด ๊ณผ๋ฐ์ ๋๊ธด ์ , ์ด์ค์์ด ์ ๊ฑฐ๋น ๋ณด์ ์ ํ ํผ๋ ๋ฐ์ง ๋ชปํ๊ฒ ๋ ์ ์ ์์ฃผ ๊ธฐ์๋ค. ๋ค๋ง ๊ถ์๊ตญ์ ์ง์ง์จ์ด ๋ ๋์ง ์์ ๊ฒ ์์ฝ๊ณ ๋ฏธ์ํ๋ค.
ํ๋ก๊ทธ๋๋ฐ ๊ฐ์ธ์ฌ. 1980๋ ๋๋ถํฐ 2000๋ ๊น์ง. https://wiki.g15e.com/pages/Personal history of programming
์ค๋์-์ ์๋ฏผ ๋ ผ๋(?)์ ๋ํ ์๊ฐ.
- ์ ๋ช ์ ์น์ธ์ ๋ฐฐ์ฐ์ A๊ฐ ์ง์ ์ ์ธ ๊ณผ์ ์์ ํ์ค๋ฐ์ธ์ ํจ
- ์ ๋ช ์ง์์ธ B๊ฐ A์ ๋ฐ์ธ์ ๋นํํ๋ ๋งฅ๋ฝ์์ ๋๋ค๋ฅธ ํ์ค๋ฐ์ธ์ ํจ
- ์ง์ผ๋ณด๋ ์ฌ๋ C๊ฐ B์ ํ์ค๋ฐ์ธ์ ๋นํํจ
C๋ B์ ํ์ค๋ฐ์ธ์ ๋นํํจ์ผ๋ก์จ ์๋์ผ๋กโฆ
- A์ ํ์ค๋ฐ์ธ์ ์นํธํ๊ฑด๊ฐ? ์๋์ค.
- B๋ผ๋ ์ธ๊ฐ ์์ฒด๋ฅผ ๋นํํ๊ฑด๊ฐ? ์๋์ค.
- B๊ฐ ์ง์งํ๋ ์ ์น์ธ์ ๋นํํ๊ฑด๊ฐ? ์๋์ค.
C๋ฅผ ๊ตณ์ด ๋นํํ๊ณ ์ถ๋ค๋ฉด? C๊ฐ ์ ์ฌํ ์ํฉ์์ ๊พธ์คํ ํธํฅ๋๊ฒ ํน์ ์ฌ๋(๋๋ ์ง๋จ)๋ง ๋นํํด์๋์ง๋ฅผ ๋จผ์ ์ดํด์ผ ํ์ง ์์๊น.
๊ทธ๋ฐ๋ฐ, C์ ์ธํ์ด ๊พธ์คํ ํธํฅ๋์์์ ์์๋๋ค ํ๋๋ผ๋ ๊ทธ ์์ฒด๋ฅผ ๋นํํ ์๋ ์๋ค. ์ฌ๋์ ๋๊ตฌ๋ ํธํฅ๋์ด ์๊ณ 'ํธํฅ ์์(์์ ์ค๋ฆฝ)'์ด๋ผ๋ ๊ฑด ์์ฃผ ํน๋ณํ ์ํฉ์ด ์๋ ์ด์ ์งํฅํ ๋งํ ์ข์ ๊ฐ์น๋ ์๋๊ธฐ ๋๋ฌธ์ด๋ค. ์ค์ค๋ก๊ฐ ์ด๋ค ํธํฅ์ ์ผ๋ง๋ ๊ฐ์ง๊ณ ์๋์ง ์๊ฐํ๊ณ ์๋์ง ์ฌ๋ถ, ๊ทธ๋ฌํ ํธํฅ์ ๊ณต์ฐํ ์ธ์ ํ๋์ง ์ฌ๋ถ์๋ง ์ฐจ์ด๊ฐ ์์ ๋ฟ์ด๋ค.
๋ฐ๋ผ์ C์ ๋ํ ๊ทธ๋๋ง ๊ฐ๋ฅํ ๋นํ์ ๋ฒ์ฃผ๋ "ํธํฅ์ด ์๋๋ฐ ์๋ ์ฒ์ ํ๋ค(์ฆ, ๊ฑฐ์ง๋ง์์ด๋ค)" ๋๋ "ํธํฅ์ด ์๋๋ฐ ์๊ฐ์ ๋ชปํ๋ค(์ฆ, ์ด๋ฆฌ์๋ค)"๋ ์ ๋๊ฐ ์๋๊น.
AI๊ฐ ์์ฑํ ๋ด์ฉ์ ๋ด ์ง์๊ด๋ฆฌ์์คํ (์ํค ๋ฑ)์ ๋ณต๋ถํ๋ฉด ๊ทธ๊ฑด ๋ด ์ง์์ผ๊น ์๋๊น?
2008๋ ๊ฒฝ์ The extended mind (1998, Andy Clark and David Chalmers)๋ผ๋ ์งง์ ์์ธ์ด๋ฅผ ์ฝ์๋๋ฐ ์ฌ๊ธฐ์ ๋ณธ ๋ด์ฉ์ด ์ฐธ๊ณ ํ ๋ง ํ๋ค.
์ ์๋ค์ ์ฅ๊ธฐ๊ธฐ์ต ์์ค์ ์๊ณ ์๋ ์ฌ๋์ด ์์ฒฉ์ ๋ชจ๋ ๊ฑธ ๊ธฐ๋กํ๊ณ ํญ์ ์ด๋ฅผ ์ฐธ๊ณ ํ๋ค๋ฉด ๊ทธ ์์ฒฉ์ ๋ด๊ธด ๊ธ๋ค์ "ํ์ฅ๋ ๊ธฐ์ต"์ด๋ผ๊ณ ์ฃผ์ฅํ๋ค. ๋ ๋์๊ฐ์, ์์ฒฉ์ ๋ด์ฉ์ด ๋จ์ํ "๊ธฐ์ต"์ด ์๋๋ผ "๋ฏฟ์extended dispositional belief"์ด๊ธฐ ์ํด์ ํ์ํ ๊ธฐ์ค์ ์ถ๊ฐ๋ก ์ ์ํ๋ค.
- ํด๋น ์ ๋ณด๊ฐ ๊ทธ ์ฌ๋์ ์ถ์ ํญ์ ํจ๊ปํ๋ฉฐ ์ฐธ๊ณ ํด์ผํ๋ ์ํฉ์ด ์ค๋ฉด ๊ฑฐ์ ๋ฐ๋์ ์ฐธ๊ณ ํ์ฌ ํ๋ํ๋ค.
- ์ฐธ๊ณ ํ๊ณ ์ถ์ ๋ ์ด๋ ค์ ์์ด ์ฐธ๊ณ ํ ์ ์์ด์ผ ํ๋ค.
- ์ผ๋จ ๊ทธ ์ ๋ณด๋ฅผ ์ฐธ๊ณ ํ๋ฉด ์ด๋ฅผ ์์ฌ์์ด ์์ฉํ๋ค.
- ๊ทธ ์ ๋ณด๊ฐ ๊ฑฐ๊ธฐ์ ๋ด๊ธด ์ด์ ๋ ๊ณผ๊ฑฐ ์ธ์ ๊ฐ ๋ด๊ฐ ๋ด์ฉ์ ์ ๋ขฐํ๊ธฐ ๋๋ฌธ์ด๋ค.
AI๊ฐ ์์ฑํ ๋ด์ฉ์ ๊ฒํ ์์ด ๋ณต๋ถํ๋ค๋ฉด ์ด๋ 4๋ฒ์ ๋ง์กฑํ์ง ๋ชปํ๊ณ , ์ด์ ๋ฐ๋ผ 3๋ฒ์๋ ๋ฌธ์ ๊ฐ ์๊ธด๋ค. ๋ฐ๋ผ์ ๊ฒํ ์๋ ๋ณต๋ถ์ ์ข์ ์ ๋ต์ด ์๋ ๋ฟ ์๋๋ผ ๋ด ์ง์๊ด๋ฆฌ์์คํ ์ ๋ง์น ๊ฐ๋ฅ์ฑ์ด ํฌ๋ค.
์ฐธ๊ณ ๋ก ์์ธ์ด์ ์ ์๋ค์ ์ด ์ค ๋ง์ง๋ง ๊ธฐ์ค์ ๋ ผ์์ ์ฌ์ง๊ฐ ์๋ค๊ณ ๋งํ๊ธด ํ๋ค. ๋ฌด์์์ ์ผ๋ก ๋ฏฟ์์ด ํ์ฑ๋๋ ๊ฒฝ์ฐ, ๊ธฐ์ต ์กฐ์์ด ์ผ์ด๋ ๊ฒฝ์ฐ ๋ฑ์ด ์๊ธฐ ๋๋ฌธ. ๊ทธ๋ฐ๋ฐ KMS ๋งฅ๋ฝ์์ 4๋ฒ์ด ์ค์ํ๋ค๊ณ ๋ด๋ ๋๊ฒ ๋ค.