OpenStack ๋คํธ์ํฌ ์ต์ ํ: unattended-upgrades ๋ฌธ์ ํด๊ฒฐ๊ณผ netplan์ผ๋ก์ ์ ํ
unattended-upgrades
unattended-upgrades
HAProxy๋ฅผ ์ฌ์ฉํ์ฌ Ceph ํด๋ฌ์คํฐ์ ์ฌ๋ฌ ์น ์๋น์ค์ ๋ํ ๋๋ฉ์ธ ๊ธฐ๋ฐ ๋ฆฌ๋ฒ์ค ํ๋ก์๋ฅผ ์ค์ ํ๊ณ , Grafana์์ ์ฐ๋์ ํตํด ํด๋ฌ์คํฐ ๋ชจ๋ํฐ๋ง์ ์๊ฐํํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. SSL ์ข ๋ฃ, SNI ๊ธฐ๋ฐ ๋ผ์ฐํ , ๋ก๋ ๋ฐธ๋ฐ์ฑ ๋ฐ ํฌ์ค ์ฒดํฌ ์ค์ ์ด ํฌํจ๋์ด ์์ผ๋ฉฐ, Grafana์ iframe ์๋ฒ ๋ฉ์ ์ํ ์ค์ ๋ ๋ค๋ฃน๋๋ค. ๊ฐ ์๋น์ค์ backend ์ค์ ๊ณผ HAProxy ์ ์ฉ ๋ฐฉ๋ฒ, ๋ฌธ์ ํด๊ฒฐ ํ๋ ์ ๊ณต๋ฉ๋๋ค.
OpenStack Cinder์์ ๋ฉ์ถ ๋ณผ๋ฅจ์ ์์ ํ๊ฒ ์ ๊ฑฐํ๋ ๋ฐฉ๋ฒ์ ๋จ๊ณ๋ณ๋ก ์ค๋ช ํฉ๋๋ค. ์์ฑ ์ค ์ํ์ ๋ณผ๋ฅจ์ ์ํ๋ฅผ
OpenStack Controller ๋ ธ๋์ ์ฉ๋ ๋ถ์กฑ ๋ฌธ์ ๋ฅผ Ceph RBD๋ก ํด๊ฒฐํ๋ ๋ฐฉ๋ฒ์ ๋ค๋ฃฌ๋ค. Ceph ํด๋ผ์ด์ธํธ๋ฅผ ์ค์นํ๊ณ , ์ ์ฉ ์ฌ์ฉ์ ๋ฐ ๊ถํ์ ์ค์ ํ๋ฉฐ, ๋ฐ์ดํฐ ํ๊ณผ RBD ์ด๋ฏธ์ง๋ฅผ ์์ฑํ ํ, rsync๋ฅผ ํตํด ๋ฐ์ดํฐ๋ฅผ ์์ ํ๊ฒ ์ด์ ํ๋ค. Kolla Ansible ์ค์ ์ ๋ณ๊ฒฝํ๊ณ , ์ฌ๋ถํ ์ ์๋์ผ๋ก RBD๋ฅผ ๋งคํํ๋ rbdmap ์๋น์ค๋ฅผ ์ค์ ํ๋ ๊ณผ์ ๋ ํฌํจ๋๋ค.
๊ตฌ์ฑ์ ๋ฌธ์(ํ๊ตญ์ดยทํ๊ตญ์ด)์ ๋ถํ ๊ตฌ์กฐ๋ฅผ ํ์ฉํ ๋์ผ ๋ฉ๋ชจ๋ฆฌ ๊ธฐ๋ฐ ์์ฑ ๋ชจ๋ธ DM-Font๋ฅผ ์ ์ํ๋ฉฐ, 28~44๊ฐ์ ์ํ๋ก ์ ์ฒด ๊ธ๊ผด ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์์ฑํ๊ณ ์คํ์ผ ์ผ์น๋๋ฅผ 10๋ฐฐ ์ด์ ํฅ์์์ผฐ๋ค. ์คํ ๊ฒฐ๊ณผ, ํ๊ตญ์ด ์๊ธ์จ์ ํ๊ตญ์ด ์ธ์์ฒด์์ ๊ธฐ์กด ๋ฐฉ๋ฒ ๋๋น ์๋์ ์ธ ์ฑ๋ฅ ๊ฐ์ ์ ๋ณด์์ผ๋ฉฐ, ์ฌ์ฉ์ ์ ํธ๋๋ ๋์๋ค. ๊ทธ๋ฌ๋ ๋น๊ตฌ์ฑ์ ๋ฌธ์์ ๋ํ ์ ์ฉ ๊ฐ๋ฅ์ฑ๊ณผ ๊ณ์ฐ ํจ์จ์ฑ์ ๋ํ ํ์ ์ฐ๊ตฌ๊ฐ ํ์ํ๋ค.
OverlayFS๋ Linux ์ปค๋์ ์ ๋์จ ํ์ผ ์์คํ ์ผ๋ก, ์ฌ๋ฌ ํ์ผ ์์คํ ์ ํตํฉ๋ ๋ทฐ๋ก ๋ง์ดํธํ ์ ์๊ฒ ํด์ค๋๋ค. ๊ธฐ๋ณธ ์ฌ์ฉ๋ฒ์ผ๋ก๋ ๋๋ ํ ๋ฆฌ ๊ตฌ์กฐ ์์ฑ, OverlayFS ๋ง์ดํธ, ํตํฉ ๋ทฐ ํ์ธ ๋ฑ์ด ์์ผ๋ฉฐ, ์ฌ๋ฌ lower ๋ ์ด์ด๋ฅผ ์ง์ํ๊ณ ์ฝ๊ธฐ ์ ์ฉ ๋ง์ดํธ๋ ๊ฐ๋ฅํฉ๋๋ค. ์ฑ๋ฅ ํ ์คํธ์ unionfs-fuse์์ ๋น๊ต๋ฅผ ํตํด OverlayFS์ ์ฅ์ ์ด ๊ฐ์กฐ๋๋ฉฐ, ์ปค๋ ๋ ๋ฒจ ๊ตฌํ์ผ๋ก ๋น ๋ฅธ ์ฑ๋ฅ๊ณผ ์์ ์ฑ์ ์ ๊ณตํฉ๋๋ค.
์ด ๋ ผ๋ฌธ์ ๋งํ ์์์ผ๋ก๋ถํฐ ์๊ฐ-์ธ์ด ๊ฐ๋ ์ ์ ์ง์ ์ผ๋ก ํ์ตํ๋ ์ฌ์ธต ๊ฐ๋ ๊ณ์ธต ๋ชจ๋ธ๊ณผ ๊ทธ๋ํ ๋ชฌํ ์นด๋ฅผ๋ก ์๊ณ ๋ฆฌ์ฆ์ ์ ์ํ๋ฉฐ, ๊ฐ๋ ๋ณํ ์ฒ๋ฆฌ ๋ฐ ๋งฅ๋ฝ ๊ธฐ๋ฐ ๋ณํ ์์ ์์์ ํ๋น์ฑ์ ๋ณด์ฌ์ค๋๋ค. ์ฃผ์ ๊ธฐ์ฌ๋ก๋ DCH ๋ชจ๋ธ์ ์ ์, ๊ทธ๋ํ ๋ชฌํ ์นด๋ฅผ๋ก ์๊ณ ๋ฆฌ์ฆ ๊ฐ๋ฐ, ๊ฐ๋ ๋ณํ ์ฒ๋ฆฌ ๋ฉ์ปค๋์ฆ, ์ํํ์ ํ๋น์ฑ ๊ฒ์ฆ, ๋งฅ๋ฝ ๊ธฐ๋ฐ ๋ณํ ์ ์ฉ์ด ์์ต๋๋ค. ์คํ ๊ฒฐ๊ณผ, FGMC๊ฐ ์ฑ๋ฅ์์ ์ฐ์ํ๋ฉฐ, ๊ทธ๋ฌ๋ ๋จ์ผ ๋๋ฉ์ธ์ ๋ํ ์ ํ์ ํ๊ฐ์ ๊ณ์ฐ ๋น์ฉ ๋ฌธ์ ๊ฐ ๋จ์ ์์ต๋๋ค. ํฅํ ๋๊ท๋ชจ ๋ฐ์ดํฐ์ ์์์ ํ์ฅ์ฑ ๊ฒ์ฆ์ด ํ์ํฉ๋๋ค.
MoE ๊ธฐ๋ฐ ํ์ด๋ธ๋ฆฌ๋ Mamba-Transformer ์ํคํ ์ฒ๋ฅผ ํตํด 3.2B ํ์ฑ ํ๋ผ๋ฏธํฐ๋ก 31.6B ๋ชจ๋ธ ์ฑ๋ฅ์ ๋ฌ์ฑํ๊ณ , 25์กฐ ํ ํฐ์ผ๋ก ์ฌ์ ํ์ตํ์ฌ ๋ค์ํ ํ๊ฒฝ์์ ์์ ์ ์ธ ํ์ต์ ๋ณด์ฅํ๋ RLVR ํ๋ ์์ํฌ๋ฅผ ์ ์ํ๋ค. ์ด ๋ชจ๋ธ์ 3.3๋ฐฐ ๋์ ์ถ๋ก ์ฒ๋ฆฌ๋๊ณผ 1M ํ ํฐ ์ปจํ ์คํธ ์ง์์ ์ ๊ณตํ๋ฉฐ, ์์ ํ ์คํ์์ค ๊ณต๊ฐ๋ก ์ฐ๊ตฌ์์ ์ค๋ฌด์์๊ฒ ์ ๊ทผ์ฑ์ ๋์ธ๋ค. ์ถ๊ฐ ์ฐ๊ตฌ๋ก๋ MoE ๋ผ์ฐํ ์ต์ ํ์ ๊ธด ์ปจํ ์คํธ ์ฑ๋ฅ ํ๋ณต์ด ํ์ํ๋ค.
NVIDIA Nemotron 3์ LatentMoE ์ํคํ ์ฒ์ NVFP4 ํ๋ จ์ ํตํด ํจ์จ์ฑ๊ณผ ์ ํ์ฑ์ ๋์์ ๊ฐ์ ํ๋ฉฐ, 1M ํ ํฐ ๋งฅ๋ฝ์์ Qwen3 ๋๋น 3.3๋ฐฐ ๋์ ์ฒ๋ฆฌ๋์ ๋ฌ์ฑํฉ๋๋ค. ์คํ์์ค๋ก ์ ์ฒด ์คํ์ ๊ณต๊ฐํ๊ณ , ๋คํ๊ฒฝ ๊ฐํํ์ต์ ํตํด ์์ ์ ์ธ ์ฑ๋ฅ ํฅ์์ ์ด๋ฃจ๋ฉฐ, ์ฐ๊ตฌ์์ ์ค๋ฌด์ ๋ชจ๋์๊ฒ ์ ์ฉํ ๋ชจ๋ธ์ ๋๋ค. ๊ทธ๋ฌ๋ Super ๋ฐ Ultra ๋ชจ๋ธ์ ์ธ๋ถ ์ฌํญ์ด ๋ฏธ๊ณต๊ฐ์ด๋ฉฐ, ์์ ์ฑ ๋ฐ ํธํฅ์ฑ ํ๊ฐ๊ฐ ๋ถ์กฑํ ์ ์ ํ๊ณ๋ก ์ง์ ๋ฉ๋๋ค.
Muon ์ต์ ํ ์๊ณ ๋ฆฌ์ฆ์ ๋๊ท๋ชจ LLM ํ์ต์์ AdamW ๋๋น ์ฝ 2๋ฐฐ์ ๊ณ์ฐ ํจ์จ์ฑ์ ๋ฌ์ฑํ๋ฉฐ, ๋ฉ๋ชจ๋ฆฌ ์ต์ ํ๋ ๋ถ์ฐ ๊ตฌํ์ฒด์ ํจ๊ป 5.7T ํ ํฐ ํ์ตํ 'Moonlight' ๋ชจ๋ธ์ ํตํด ์ฐ์ํ ์ฑ๋ฅ์ ์ ์ฆํ์ต๋๋ค. ์ฃผ์ ๊ธฐ์ ๋ก๋ weight decay ์ถ๊ฐ์ ํ๋ ฌ ํํ์ ๋ฐ๋ฅธ ์ ๋ฐ์ดํธ ์ค์ผ์ผ ์กฐ์ ์ด ์์ผ๋ฉฐ, ๋ฉ๋ชจ๋ฆฌ ์ ๊ฐ ๋ฐ ํต์ ํจ์จ์ฑ์ ๊ฐ์ ํ์ต๋๋ค. ๋นํ๋ ฌ ํ๋ผ๋ฏธํฐ ์ฒ๋ฆฌ์ ์ฌ์ ํ์ต-๋ฏธ์ธ์กฐ์ ๋ถ์ผ์น ๋ฌธ์ ๋ ํด๊ฒฐ๋์ง ์์๊ณ , ์ถ๊ฐ ์ฐ๊ตฌ๊ฐ ํ์ํฉ๋๋ค.
ํ๋กฌํํธ ๊ธฐ๋ฐ ์ธํฐ๋์ ์ ์ง์ํ๋ ์๋ก์ด ํ๋ผ๋ฉํธ๋ฆญ ํํ๊ณผ ๋๊ท๋ชจ ๋ฐ์ดํฐ ์์ง์ ๊ฒฐํฉํ์ฌ ๋จ์ผ ์ด๋ฏธ์ง์์ ์ ์ ๋ฉ์ฌ๋ฅผ ๋ณต์ํ๋ ์ฑ๋ฅ์ ํฅ์์ํจ ์ฐ๊ตฌ๋ก, 3DPW ๋ฐ EMDB ๋ฒค์น๋งํฌ์์ ๊ธฐ์กด ๋ฐฉ๋ฒ์ ์ด์ํ๋ฉฐ, 7,800๋ช ์ฐธ์ฌ์ ์ฌ์ฉ์ ์ ํธ๋ ์กฐ์ฌ์์ ๋์ ์น๋ฆฌ์จ์ ๊ธฐ๋กํ๋ค. ๊ทธ๋ฌ๋ ์ค์๊ฐ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ถ์ ํฉํ ๊ณ์ฐ ๋น์ฉ๊ณผ ๋ฐ์ดํฐ ๋ผ์ด์ ์ค ๋ฌธ์ ๋ฑ ํ๊ณ๊ฐ ์กด์ฌํ๋ค. ์ถ๊ฐ ์ฐ๊ตฌ๋ก๋ ๊ฒฝ๋ํ ๋ฐ ๋ถํ์ค์ฑ ์์ํ๊ฐ ํ์ํ๋ค.
DevStack์ OpenStack ๊ฐ๋ฐ ํ๊ฒฝ์ ๋น ๋ฅด๊ฒ ๊ตฌ์ถํ ์ ์๋ ์คํฌ๋ฆฝํธ ๋ชจ์์ผ๋ก, ๊ฐ๋จํ ์ค์น์ ์๋ํ๋ ๊ตฌ์ฑ์ ์ ๊ณตํ๋ค. ์ฃผ์ ์๋น์ค๋ก๋ Keystone, Nova, Glance, Neutron, Cinder, Horizon์ด ์์ผ๋ฉฐ, ๊ฐ๋ฐ ๋ฐ ํ ์คํธ ๋ชฉ์ ์ผ๋ก ์ค๊ณ๋์๋ค. ์ค์น๋ Git์ ํตํด ์ด๋ฃจ์ด์ง๋ฉฐ, ์ฌ์ฉ์๋ local.conf ํ์ผ์ ํตํด ์ค์ ์ ์กฐ์ ํ ์ ์๋ค. DevStack์ ํ๋ก๋์ ํ๊ฒฝ์ ์ ํฉํ์ง ์์ผ๋ฉฐ, ๋ฐ์ดํฐ ๋ณด์๊ณผ ์ฑ๋ฅ์ ์ฃผ์ํด์ผ ํ๋ค.
๊ฐ๋ ๊ธฐ๋ฐ ํ๋กฌํํธ๋ก ์ด๋ฏธ์ง์ ๋น๋์ค์์ ๋ชจ๋ ๊ฐ์ฒด ์ธ์คํด์ค๋ฅผ ๊ฒ์ถยท๋ถํ ยท์ถ์ ํ๋ ์๋ก์ด ์์ ์ธ Promptable Concept Segmentation์ ์ ์ํ๊ณ , 4M ๊ฐ๋ ๊ณผ 52M ๋ง์คํฌ๋ก ๊ตฌ์ฑ๋ SA-Co ๋ฐ์ดํฐ์ ๊ณผ ํ์ ์ ์ธ SAM 3 ๋ชจ๋ธ ์ํคํ ์ฒ๋ฅผ ์ ์ํ์ฌ ์ฑ๋ฅ์ 2๋ฐฐ ์ด์ ํฅ์์์ผฐ๋ค. ์ด ์ฐ๊ตฌ๋ ๋ฉํฐ๋ชจ๋ฌ AI ๋ฐ ์ปดํจํฐ ๋น์ ๋ถ์ผ์์ ์ค์ํ ๊ธฐ์ฌ๋ฅผ ํ๋ฉฐ, ํฅํ ์ฐ๊ตฌ ํ์์ฑ๊ณผ ํจ๊ป ๋น๋์ค ์ฒ๋ฆฌ์ ํจ์จ์ฑ ๋ฌธ์ ์ ๋ณต์กํ ์ธ์ด ํํ ์ฒ๋ฆฌ ํ๊ณ๋ฅผ ์ง์ ํ๋ค.
HRM์ ์ธ๊ฐ ๋์ ๊ณ์ธต์ ์ฒ๋ฆฌ๋ฅผ ๋ชจ๋ฐฉํ ์๋ก์ด ์ฌ๊ท ์ํคํ ์ฒ๋ก, ๊ณ ์์ค ๊ณํ ๋ชจ๋๊ณผ ์ ์์ค ์คํ ๋ชจ๋์ ์๊ฐ์ฒ ๋ถ๋ฆฌ๋ฅผ ํตํด ์กฐ๊ธฐ ์๋ ด์ ๋ฐฉ์งํ๊ณ ์ ํจ ๊ณ์ฐ ๊น์ด๋ฅผ ๊ทน๋ํํ๋ค. 27M ํ๋ผ๋ฏธํฐ์ 1000๊ฐ ์ํ๋ก ARC-AGI(40.3%), Sudoku(74.5%), Maze(74.5%)์์ SOTA ๋ชจ๋ธ์ ์ด๊ณผํ๋ ์ฑ๋ฅ์ ๋ณด์ด๋ฉฐ, BPTT ์์ด 1๋จ๊ณ ๊ธฐ์ธ๊ธฐ ๊ทผ์ฌ์ ACT๋ฅผ ํตํด ํ๋ จ ์์ ์ฑ๊ณผ ํจ์จ์ฑ์ ๋์์ ๋ฌ์ฑํ๋ค. ๊ทธ๋ฌ๋ ์์ฐ์ด ์์ ์์์ ์ฑ๋ฅ๊ณผ ๋ด๋ถ ๋ฉ์ปค๋์ฆ์ ๋ํ ๊ฒ์ฆ์ ๋ฏธ๋นํ๋ค.
Decorrelated Backpropagation(DBP) ์๊ณ ๋ฆฌ์ฆ์ ๋ ์ด์ด๋ณ ์ ๋ ฅ ๋น์๊ดํ๋ฅผ ํตํด ๋๊ท๋ชจ CNN ํ๋ จ์ wall-clock time์ ์ต๋ 50% ๋จ์ถํ๊ณ ์ ํ๋๋ฅผ ํฅ์์์ผฐ๋ค. ํจ์น๋ณ ๋น์๊ดํ, ์ํ๋ง, ํ๋ ฌ ์ฌ์ ๊ณฑ์ ๋ฑ์ ์ต์ ํ๋ก ์ค์ฉ์ฑ์ ํ๋ณดํ์ผ๋ฉฐ, ImageNet ๊ธฐ์ค์ผ๋ก ํ์ ๋ฐฐ์ถ๋๋ ๊ฐ์์์ผฐ๋ค. ๊ทธ๋ฌ๋ ๋ฉ๋ชจ๋ฆฌ ์ค๋ฒํค๋์ ํ์ดํผํ๋ผ๋ฏธํฐ ๋ฏผ๊ฐ์ฑ ๋ฑ์ ํ๊ณ๊ฐ ์์ผ๋ฉฐ, ์ถ๊ฐ ์ฐ๊ตฌ๊ฐ ํ์ํ๋ค.
SCONE์ด๋ผ๋ ์๋ก์ด ์๋ฒ ๋ฉ ๊ธฐ๋ฒ์ ์ ์ํ์ฌ, ํ๋ จ ์ ๋ณ๋์ ํธ๋์คํฌ๋จธ๋ก n-gram ์๋ฒ ๋ฉ์ ํ์ตํ๊ณ ์ถ๋ก ์ ์ด๋ฅผ ์คํ-์ก์ ๋ฌ๋ ์ดํฐ ๋ฉ๋ชจ๋ฆฌ์ ์บ์ฑํ์ฌ GPU/TPU ์ฌ์ฉ๋์ ๊ณ ์ ํ๋ฉด์๋ ๋ชจ๋ธ ์ฑ๋ฅ์ ํ์ฅํ ์ ์๋ ๋ฐฉ๋ฒ์ ์ ์ํ๋ค. 1B ํ๋ผ๋ฏธํฐ ๋ชจ๋ธ์ด 1.9B ๋ฒ ์ด์ค๋ผ์ธ์ ์ด๊ณผํ๋ฉฐ, FLOPS์ GPU ๋ฉ๋ชจ๋ฆฌ๋ฅผ ์ฝ 48% ์ ๊ฐํ ์ ์์์ ๋ณด์ฌ์ค๋ค. ๊ทธ๋ฌ๋ ๋๊ท๋ชจ ๋ชจ๋ธ ๊ฒ์ฆ ๋ถ์กฑ๊ณผ ํ๋ จ ๋ณต์ก๋๊ฐ ํ๊ณ๋ก ์ง์ ๋๋ค.
mmHSense๋ ์ ์ค์ฒ ์ธ์, ์์ธ ์ถ์ , ์์น ํ์ , ์ฌ์ฉ์ ์๋ณ์ ์ํ 6๊ฐ์ ๋ฉํฐ๋ชจ๋ฌ mmWave ISAC ๋ฐ์ดํฐ์ ์ ์ ์ํ๋ฉฐ, COTS ๊ธฐ๊ธฐ์ SDR์ ํ์ฉํ ๋ถ์ฐ ์ธก์ ๊ตฌ์กฐ๋ฅผ ํฌํจํ๋ค. ResNet18์ 5G ์ ์ค์ฒ ์ธ์์์ 97.75%์ ์ ํ๋๋ฅผ ๋ฌ์ฑํ๊ณ , LoRA ๊ธฐ๋ฐ ๋ฏธ์ธ ์กฐ์ ์ผ๋ก ํ๋ผ๋ฏธํฐ๋ฅผ 640๋ฐฐ ๊ฐ์์ํค๋ฉฐ ์ฌ๋์ ๋ง๊ฐ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ค. ๊ทธ๋ฌ๋ ๋ฐ์ดํฐ์ ์ ์ฌ์ฉ์ ์๊ฐ ์ ํ์ ์ด๋ฉฐ ๋๋ฉ์ธ ์ ์ ๋ฌธ์ ์ ์ค์๊ฐ ์ฒ๋ฆฌ ์ฑ๋ฅ ํ๊ฐ๊ฐ ๋ถ์กฑํ๋ค. ์ถ๊ฐ ์ฐ๊ตฌ๊ฐ ํ์ํ๋ฉฐ, mmWave ISAC ๋ฐ 6G ํต์ ์ฐ๊ตฌ์๋ค์๊ฒ ์ ์ฉํ ์์์ผ๋ก ์ถ์ฒ๋๋ค.
์ฃ์ง-ํด๋ผ์ฐ๋ ํ๊ฒฝ์์ ๋ฅ๋ฌ๋ ์ถ๋ก ๋ฐฐ์น๋ฅผ ์ง์ฐ, ๋น์ฉ, ํ๋ผ์ด๋ฒ์์ ๋ค๋ชฉ์ ์ต์ ํ ๋ฌธ์ ๋ก ์ฌ์ ์ํ๋ฉฐ, ์ํธ์์ฉ ์ธ์ ์ต์ ํ ํ๋ ์์ํฌ๋ฅผ ์ ์ํ๋ค. ๋ชจ๋ธ ๋ถํด์ ๋ฆฌ์์ค ์ค์ผ์คํธ๋ ์ด์ ์ ํตํฉํ๊ณ , LLM ์๋์ ์๋ก์ด ์ํ๊ณผ ๊ธฐํ๋ฅผ ์๋ณํ์ผ๋, ๋๊ท๋ชจ ์ค์ฆ ๊ฒ์ฆ๊ณผ ์ค์ฉ์ ํ๋ผ์ด๋ฒ์ ๋ณดํธ ๊ธฐ๋ฒ ๊ฐ๋ฐ์ด ํ์ํ๋ค.
ํ์ฐ ๊ธฐ๋ฐ ์ธ์ด ๋ชจ๋ธ Mercury๋ ๊ธฐ์กด ์๊ธฐํ๊ท ๋ชจ๋ธ๋ณด๋ค ์ต๋ 10๋ฐฐ ๋น ๋ฅธ ์๋๋ก ์ฝ๋ฉ ์์ ์์ ๋๋ฑํ ํ์ง์ ๋ฌ์ฑํจ์ ์ ์ฆํ๋ค. Mercury Coder Mini์ Small์ ๊ฐ๊ฐ 1109 tokens/sec ๋ฐ 737 tokens/sec์ ์ฒ๋ฆฌ๋์ ๊ธฐ๋กํ๋ฉฐ, ๋ค์ํ ๋ฒค์น๋งํฌ์์ GPT-4o Mini์ ์ ์ฌํ ์ฑ๋ฅ์ ๋ณด์๋ค. ๊ทธ๋ฌ๋ ๋ชจ๋ธ ๊ท๋ชจ์ ํ๋ จ ๋น์ฉ์ ๋ํ ์ ๋ณด๊ฐ ๋ถ์กฑํ๋ฉฐ, ์ผ๋ฐ ์์ฐ์ด ์ฒ๋ฆฌ์ ๋ํ ๊ฒ์ฆ์ด ํ์ํ๋ค. ์ด ์ฐ๊ตฌ๋ ์์ฑ AI์ ํจ์จ์ฑ ๋ฌธ์ ์ ๋ํ ์ค์ฉ์ ์ธ ํด๊ฒฐ์ฑ ์ ์ ์ํ๋ฉฐ, ํนํ ์ฝ๋ฉ ๋ณด์กฐ ๋๊ตฌ ๊ฐ๋ฐ์์๊ฒ ๋์ ๊ฐ์น๋ฅผ ์ ๊ณตํ๋ค.
1์กฐ ํ๋ผ๋ฏธํฐ MoE ๊ตฌ์กฐ์ MuonClip ์ตํฐ๋ง์ด์ ๋ฅผ ๊ฒฐํฉํ์ฌ ์์ด์ ํธ ์์ ์์ ์คํ์์ค SOTA๋ฅผ ๋ฌ์ฑํ ์ฐ๊ตฌ๋ก, MuonClip์ ์์ค ์คํ์ดํฌ๋ฅผ ์ ๊ฑฐํ๊ณ ๋๊ท๋ชจ ์์ด์ ํธ ๋ฐ์ดํฐ ํฉ์ฑ์ ํตํด ๋ค์ํ ์์ ์ ์๋ ์์ฑํ๋ค. SWE-bench, ACEBench ๋ฑ์์ ๋์ ์ฑ๋ฅ์ ๊ธฐ๋กํ์ผ๋, ๋ณต์กํ ์ถ๋ก ์ ๊ณผ๋ํ ํ ํฐ ์์ฑ๊ณผ ๋นํจ์จ์ ์ธ ๋๊ตฌ ์ฌ์ฉ ๋ฑ์ ํ๊ณ๊ฐ ์๋ค. ํฅํ QK-Clip์ ์ด๋ก ์ ๊ทผ๊ฑฐ์ ๋ฉํ ์์ด์ ํธ ๋ฉ์ปค๋์ฆ ์ฐ๊ตฌ๊ฐ ํ์ํ๋ค.
Mem0๋ LLM์ ๊ณ ์ ์ปจํ ์คํธ ํ๊ณ๋ฅผ ๊ทน๋ณตํ๋ ์ฅ๊ธฐ ๊ธฐ์ต ์ํคํ ์ฒ๋ก, LOCOMO ๋ฒค์น๋งํฌ์์ 26% ์ ํ๋ ํฅ์๊ณผ 91% ์ง์ฐ์๊ฐ ๊ฐ์๋ฅผ ๋ฌ์ฑํ์๋ค. ์ฆ๋ถ์ ๊ธฐ์ต ์ถ์ถ ๋ฐ ์์ ๋ถ๋ฅ ํ์ดํ๋ผ์ธ์ ํตํด ํจ์จ์ฑ์ ์ ์ฆํ๋ฉฐ, ๊ทธ๋ํ ๊ธฐ๋ฐ ๊ด๊ณ ๋ชจ๋ธ๋ง์ ํตํด ์๊ฐ์ ์ถ๋ก ์ ์ง์ํ๋ค. ๊ทธ๋ฌ๋ ๊ทธ๋ํ ๋ฒ์ ์ ๋นํจ์จ์ฑ๊ณผ ํ๊ฐ ๋ฒ์์ ์ ํ์ด ์์ผ๋ฉฐ, ์ถ๊ฐ ์ฐ๊ตฌ๊ฐ ํ์ํ๋ค. ์ด ์ฐ๊ตฌ๋ ํ๋ก๋์ AI ์์ด์ ํธ ๊ฐ๋ฐ์์๊ฒ ๊ฐ๋ ฅํ ๊ถ์ฅ๋๋ค.
Helm์ ์ฌ์ฉํ๋ฉด ์ฟ ๋ฒ๋คํฐ์ค ๋งค๋ํ์คํธ๋ฅผ ํจ์จ์ ์ผ๋ก ๊ด๋ฆฌํ ์ ์์ผ๋ฉฐ, ์ฌ์ฌ์ฉ์ฑ, ๊ด๋ฆฌ ์ฉ์ด์ฑ, ๋ฒ์ ๊ด๋ฆฌ, ํ์ฅ์ฑ ๋ฑ์ ์ฅ์ ์ ์ ๊ณตํฉ๋๋ค.
Kubernetes Ingress๋ฅผ ์ฌ์ฉํ์ฌ ํด๋ฌ์คํฐ ๋ด๋ถ ์๋น์ค๋ฅผ ์ธ๋ถ์ ๋ ธ์ถํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํ๋ฉฐ, Ingress๋ HTTP(S) ํธ๋ํฝ์ ๋ผ์ฐํ ํ์ฌ ์ฌ๋ฌ ์๋น์ค๋ฅผ ๋จ์ผ ์๋ํฌ์ธํธ๋ก ๊ด๋ฆฌํ ์ ์๊ฒ ํฉ๋๋ค. ์ฃผ์ ๊ตฌ์ฑ ์์๋ก๋ Namespace, ConfigMap, Deployment, Service, Ingress๊ฐ ์์ผ๋ฉฐ, Traefik ๋๋ NGINX์ ๊ฐ์ Ingress Controller๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๋ค. ๋ก์ปฌ ํ ์คํธ๋ฅผ ์ํด /etc/hosts ํ์ผ์ ์์ ํ์ฌ ๋๋ฉ์ธ ๋งคํ ํ ์ ๊ทผ์ ํ์ธํ ์ ์์ต๋๋ค.
OpenStack ํ๊ฒฝ์์ Neutron ์์ด์ ํธ๊ฐ ์ฃผ๊ธฐ์ ์ผ๋ก ๋ค์ด๋๋ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด Kolla Ansible์ ํ์ฉํ ์๋ ์ฌ์์ ์คํฌ๋ฆฝํธ๋ฅผ ์์ฑํ๋ค. ์ด ์คํฌ๋ฆฝํธ๋ 5๋ถ๋ง๋ค ์์ด์ ํธ ์ํ๋ฅผ ์ฒดํฌํ๊ณ , Alive๊ฐ False์ธ ์์ด์ ํธ๋ฅผ SSH๋ก ์ฌ์์ํ๋ค. CSV ํ์์ผ๋ก ์์ด์ ํธ ์ํ๋ฅผ ํ์ฑํ๊ณ , Docker ์ปจํ ์ด๋ ์ด๋ฆ์ ๋ณํํ๋ฉฐ, ์์ ์ ์ธ SSH ์ฐ๊ฒฐ์ ํตํด ์ฌ์์์ ์ํํ๋ค. ์คํฌ๋ฆฝํธ ์คํ ์ SSH ํค ์ค์ ๊ณผ sudo ๊ถํ์ด ํ์ํ๋ฉฐ, ๊ทผ๋ณธ์ ์ธ ๋ฌธ์ ํด๊ฒฐ์ด ์ค์ํ๋ค.
Kubernetes์ DaemonSet์ ํด๋ฌ์คํฐ์ ๋ชจ๋ ๋ ธ๋์ ํ๋์ ํ๋๋ฅผ ๋ฐฐํฌํ์ฌ ๋ชจ๋ํฐ๋ง, ๋ก๊ทธ ์์ง ๋ฐ ๋คํธ์ํฌ ํ๋ฌ๊ทธ์ธ ๋ฑ์ ์์ ์ ์ํํ๋ค. Node Exporter๋ฅผ ์ฌ์ฉํ์ฌ ์์คํ ๋ฉํธ๋ฆญ์ ์์งํ๊ณ , Prometheus์ Grafana๋ฅผ ํตํด ๋ชจ๋ํฐ๋ง ํ๊ฒฝ์ ๊ตฌ์ถํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํ๋ฉฐ, ๋ค์์คํ์ด์ค, ์๋น์ค ์ด์นด์ดํธ, RBAC ์ค์ , DaemonSet ๋ฐฐํฌ ๋ฐ ์๋น์ค ์์ฑ ๊ณผ์ ์ ํฌํจํ๋ค. ์ฃผ์ ํน์ง์ผ๋ก๋ hostNetwork ๋ชจ๋์ tolerations ์ค์ ์ด ์์ผ๋ฉฐ, ReplicaSet๊ณผ์ ์ฐจ์ด์ ๋ ์ ๋ฆฌ๋์ด ์๋ค.
Kubernetes์์ ๋ณผ๋ฅจ์ ์ปจํ ์ด๋์ ๋ฐ์ดํฐ ์์์ฑ์ ๋ณด์ฅํ๋ฉฐ, ๋ค์ํ ๋ณผ๋ฅจ ํ์ (emptyDir, hostPath, PVC ๋ฑ)์ ์ง์ํ๋ค. PersistentVolume๊ณผ PersistentVolumeClaim์ ์์ฑํ์ฌ ๋ฐ์ดํฐ๋ฅผ ๊ด๋ฆฌํ๊ณ , Deployment์์ ์ด๋ฅผ ํ์ฉํ์ฌ ๋ก๊ทธ์ ์ ๋ก๋ ๋ฐ์ดํฐ๋ฅผ ๋ถ๋ฆฌ ๊ด๋ฆฌํ ์ ์๋ค. ๋ํ, ๋ก๊ทธ ๊ด๋ฆฌ ํ๊ณผ ๋ค์ํ ๋ณผ๋ฅจ ํ์ ์ ์ฌ์ฉ ์ฌ๋ก๋ฅผ ํตํด ํจ์จ์ ์ธ ๋ฐ์ดํฐ ๊ด๋ฆฌ๋ฅผ ์ํ ๊ฐ์ด๋๋ฅผ ์ ๊ณตํ๋ค.
Kubernetes์์ ๋ฏผ๊ฐ ์ ๋ณด๋ฅผ ์์ ํ๊ฒ ๊ด๋ฆฌํ๊ธฐ ์ํด Secret์ ์ฌ์ฉํ๋ฉฐ, ConfigMap๊ณผ์ ์ฐจ์ด์ ์ ์ค๋ช ํ๋ค. Secret ์์ฑ ๋ฐฉ๋ฒ, MySQL๊ณผ์ ํตํฉ, Flask ์ ํ๋ฆฌ์ผ์ด์ ์์์ ์ฌ์ฉ๋ฒ, ๋ณด์ ๊ฐํ ๋ฐฉ๋ฒ ๋ฑ์ ๋ค๋ฃจ๊ณ ์์ผ๋ฉฐ, Git์ Secret ํ์ผ์ ์ปค๋ฐํ์ง ๋ง๊ณ RBAC์ผ๋ก ์ ๊ทผ์ ์ ํํ ๊ฒ์ ๊ฐ์กฐํ๋ค. ๋ํ, HashiCorp Vault์ AWS Secrets Manager์ ๊ฐ์ ๋์๋ ์ ์ํ๋ค.
Kubernetes์ ConfigMap์ ์ฌ์ฉํ์ฌ ์ ํ๋ฆฌ์ผ์ด์ ์ค์ ์ ์ฝ๋์ ๋ถ๋ฆฌํ๊ณ , ์ค์ ๋ณ๊ฒฝ ์ ์ด๋ฏธ์ง ์ฌ๋น๋ ์์ด ๊ด๋ฆฌํ ์ ์๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. ConfigMap ์์ฑ, Deployment์์์ ์ฌ์ฉ, ํ๊ฒฝ๋ณ ์ค์ ๊ด๋ฆฌ, ๋๋ฒ๊น ๋ฐฉ๋ฒ ๋ฑ์ ๋ค๋ฃจ๋ฉฐ, ๊ฐ๋ฐ, ์คํ ์ด์ง, ํ๋ก๋์ ํ๊ฒฝ์ ๋ง๋ ConfigMap์ ํ์ฉํ๋ ๋ฐฉ๋ฒ์ ์ ์ํฉ๋๋ค.
๋ํ๋ก์ด๋จผํธ๋ ๋ ํ๋ฆฌ์นด์ ์ ๊ด๋ฆฌํ๋ ์์ ๊ฐ๋ ์ผ๋ก, ๋กค๋ง ์ ๋ฐ์ดํธ, ๋กค๋ฐฑ, ๋ฐฐํฌ ์ ์ด, ๊ณ ๊ธ ๋ฐฐํฌ ์ ๋ต(๋ธ๋ฃจ-๊ทธ๋ฆฐ ๋ฐ ์นด๋๋ฆฌ ๋ฐฐํฌ)๊ณผ ๊ฐ์ ๊ธฐ๋ฅ์ ์ ๊ณตํ์ฌ ์ ํ๋ฆฌ์ผ์ด์ ์ ์์ ํ๊ณ ํจ์จ์ ์ผ๋ก ๋ฐฐํฌํ๊ณ ๊ด๋ฆฌํ ์ ์๋๋ก ๋์ต๋๋ค. ์๋ ์ค์ผ์ผ๋ง ๊ธฐ๋ฅ๋ ์ง์ํ๋ฉฐ, ํ๋ก๋์ ํ๊ฒฝ์์๋ ๋ํ๋ก์ด๋จผํธ๋ฅผ ์ฌ์ฉํ๋ ๊ฒ์ด ๊ถ์ฅ๋ฉ๋๋ค.
k3s์ ์๋น์ค๋ ํฌ๋ ์งํฉ์ ๋ํ ๋จ์ผ ์ ์ ์ ์ ๊ณตํ๊ณ IP ๋ณ๊ฒฝ์๋ ์์ ์ ์ธ ๋คํธ์ํฌ ์๋ํฌ์ธํธ๋ฅผ ์ ์งํฉ๋๋ค. ์๋น์ค ์ ํ์ผ๋ก๋ ClusterIP, NodePort, LoadBalancer, ExternalName์ด ์์ผ๋ฉฐ, ์๋น์ค ๋์ค์ปค๋ฒ๋ฆฌ๋ DNS ๊ธฐ๋ฐ ์๋ ํ์๊ณผ ํ๊ฒฝ ๋ณ์๋ฅผ ํตํด ์ด๋ฃจ์ด์ง๋๋ค. ๋ผ์ฐํ ์ ๋ ์ด๋ธ ์ ๋ ํฐ์ kube-proxy, iptables๋ฅผ ํตํด ๊ด๋ฆฌ๋๋ฉฐ, ๋ชจ๋ฒ ์ฌ๋ก๋ก๋ ๋ช ํํ ๋ ์ด๋ธ๋ง ์ ๋ต๊ณผ ํฌ์ค ์ฒดํฌ ๊ตฌํ์ด ๊ฐ์กฐ๋ฉ๋๋ค.
k3s ํด๋ฌ์คํฐ๋ฅผ HAProxy์ Keepalived๋ฅผ ์ฌ์ฉํ์ฌ ๊ณ ๊ฐ์ฉ์ฑ์ผ๋ก ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. ์ต์ 3๋์ k3s ์๋ฒ ๋ ธ๋์ ๊ฐ์ IP๋ฅผ ์ค์ ํ๊ณ , Keepalived๋ฅผ ํตํด ์๋ ํ์ผ์ค๋ฒ๋ฅผ ๊ตฌํํฉ๋๋ค. HAProxy๋ฅผ ์ค์นํ์ฌ ๋ก๋ ๋ฐธ๋ฐ์ฑ์ ์ค์ ํ๊ณ , kubeconfig ํ์ผ์ ์์ ํ์ฌ ์๊ฒฉ ์ ๊ทผ์ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค. ๋ณด์ ๋ฐ ๋คํธ์ํฌ ์ค์ ์ ๋ํ ์ฃผ์์ฌํญ๋ ํฌํจ๋์ด ์์ต๋๋ค.
๋ ํ๋ฆฌ์นด์ ์ Kubernetes์์ ์ง์ ๋ ์์ ํ๋ ๋ณต์ ๋ณธ์ ํญ์ ์คํํ๋๋ก ๋ณด์ฅํ๋ ๋ฆฌ์์ค๋ก, ์๋ ๋ณต๊ตฌ ๋ฐ ์ค์ผ์ผ๋ง ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค. YAML ํ์ผ์ ํตํด ๋ ํ๋ฆฌ์นด์ ์ ์ ์ํ๊ณ ์์ฑํ๋ฉฐ, ํ๋ ์ญ์ ์ ์๋์ผ๋ก ๋ณต๊ตฌ๋๋ ๊ธฐ๋ฅ์ ํ ์คํธํ ์ ์์ต๋๋ค. ์ฃผ์ ์ฅ์ ์ผ๋ก๋ ์๋น์ค ์ค๋จ ์ํ ๊ฐ์, ์์คํ ์์ ์ฑ ํฅ์, ์ ์ฐํ ๋ฆฌ์์ค ๊ด๋ฆฌ๊ฐ ์์ต๋๋ค. ๋ค์ ๋จ๊ณ๋ก๋ Deployment ๋ฆฌ์์ค๋ฅผ ํ์ตํ๋ ๊ฒ์ด ๊ถ์ฅ๋ฉ๋๋ค.
์ญ์ ํ์ ํ๊ณ์ Forward-Forward ์๊ณ ๋ฆฌ์ฆ์ ํตํด ๋ ์ด์ด๋ณ๋ก ๋ ๋ฆฝ์ ์ผ๋ก ํ์ตํ๋ ๋ฐฉ๋ฒ์ ์ ์ํ๋ค. ๊ฐ ๋ ์ด์ด๋ ๊ธ์ ๋ฐ ๋ถ์ ์ํ์ ์ฌ์ฉํ์ฌ ๊ตญ์์ ์ธ ๋ชฉํ์ธ goodness๋ฅผ ์ต์ ํํ๋ฉฐ, ์ด๋ฅผ ํตํด ๋ค์ํ ํน์ง์ ํ์ตํ ์ ์๋ค. ์คํ ๊ฒฐ๊ณผ, FF ์๊ณ ๋ฆฌ์ฆ์ ๊ธฐ์กด์ ์ญ์ ํ ๋ฐฉ๋ฒ๊ณผ ์ ์ฌํ ์ฑ๋ฅ์ ๋ณด์ด์ง๋ง, ๋ ๋น ๋ฅธ ์๋ ด ์๋๋ฅผ ๋ํ๋ธ๋ค. ๋ํ, ๊ธ์ ๊ณผ ๋ถ์ ๋ฐ์ดํฐ๋ฅผ ๋ถ๋ฆฌํ์ฌ ํ์ตํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์ถ๊ฐ ์ฐ๊ตฌ๊ฐ ํ์ํ๋ค๊ณ ์ธ๊ธ๋๋ค.
K3s๋ ๊ฒฝ๋ํ๋ ์ฟ ๋ฒ๋คํฐ์ค ๋ฐฐํฌํ์ผ๋ก, ์ค์น ์ ๋ชจ๋ ๋ ธ๋์ hosts ํ์ผ์ ์์ ํ์ฌ ๋ง์คํฐ ๋ ธ๋์ ํต์ ํ ์ ์๋๋ก ์ค์ ํด์ผ ํฉ๋๋ค. ๋ง์คํฐ ๋ ธ๋๋ VXLAN ๋คํธ์ํฌ ๋ฐฑ์๋๋ฅผ ์ฌ์ฉํ์ฌ ์ค์นํ๊ณ , ์์ปค ๋ ธ๋๋ ๋ง์คํฐ ๋ ธ๋์ ํ ํฐ์ ์ฌ์ฉํ์ฌ ํด๋ฌ์คํฐ์ ์ฐธ์ฌํฉ๋๋ค. K3s ์ ๊ฑฐ๋ ์๋ ์คํฌ๋ฆฝํธ๋ฅผ ํตํด ๊ฐ๋ฅํ๋ฉฐ, ์๋์ผ๋ก ์๋น์ค์ ํ์ผ ์์คํ ์ ์ ๋ฆฌํ ์๋ ์์ต๋๋ค. ์ค์น ๋ฐ ์ ๊ฑฐ ํ์๋ kubectl ๋ช ๋ น์ด๋ก ์ํ๋ฅผ ํ์ธํด์ผ ํฉ๋๋ค.
์ฟ ๋ฒ๋คํฐ์ค๋ ์ปจํ ์ด๋ํ๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ์๋ํ๋ ๋ฐฐํฌ, ํ์ฅ ๋ฐ ๊ด๋ฆฌ๋ฅผ ์ํ ์คํ์์ค ํ๋ซํผ์ผ๋ก, ๊ณ ๊ฐ์ฉ์ฑ๊ณผ ์์ ํจ์จ์ฑ์ ์ ๊ณตํ๋ค. K3s๋ ๊ฒฝ๋ํ๋ ์ฟ ๋ฒ๋คํฐ์ค ๋ฐฐํฌํ์ผ๋ก, Edge ๋ฐ IoT ํ๊ฒฝ์ ์ ํฉํ๋ฉฐ, ์ค์น๊ฐ ๊ฐํธํ๋ค. ์ฃผ์ ๊ธฐ๋ฅ์ผ๋ก๋ ์๋ํ๋ ๋ฐฐํฌ, ์๋น์ค ๋์ค์ปค๋ฒ๋ฆฌ, ์ํ์ ํ์ฅ ๋ฑ์ด ์๋ค.
OpenStack์ ๊ฐ ๋ฐฐํฌํ์ ๋ฐ๋ผ ๊ธฐ๋ณธ ๊ด๋ฆฌ์ ์ฌ์ฉ์ ๊ณ์ ์ด ๋ค๋ฅด๋ฉฐ, SSH ์ ์ ์ ์ฌ๋ฐ๋ฅธ ์ฌ์ฉ์๋ช ์ ์ฌ์ฉํ๋ ๊ฒ์ด ์ค์ํ๋ค. ์ฃผ์ ๋ฐฐํฌํ๋ณ ๊ธฐ๋ณธ ์ฌ์ฉ์๋ Ubuntu(
OpenStack Cinder ์๋น์ค๋ฅผ ์์ ํ๊ฒ ์ ๊ฑฐํ๊ธฐ ์ํด์๋ ๋ณผ๋ฅจ ๋ฐฑ์ , ๋ณผ๋ฅจ ์ ๋ฆฌ, Cinder ์๋น์ค ์ค์ง, ๋ฐ์ดํฐ๋ฒ ์ด์ค์์ ์๋น์ค ์ ๊ฑฐ, ์๋ํฌ์ธํธ ๋ฐ ์๋น์ค ์นดํ๋ก๊ทธ ์ ๊ฑฐ, ํจํค์ง ์ ๊ฑฐ, ์ค์ ํ์ผ ๋ฐ ๋ฐ์ดํฐ ์ ๋ฆฌ, ๋ฐฑ์๋ ์คํ ๋ฆฌ์ง ์ ๋ฆฌ, ๊ทธ๋ฆฌ๊ณ ์ต์ข ๊ฒ์ฆ ๋จ๊ณ๋ฅผ ๋ฐ๋ผ์ผ ํฉ๋๋ค. ์ ๊ฑฐ ์ ๋ชจ๋ ๋ฐ์ดํฐ๋ฅผ ๋ฐฑ์ ํ๊ณ ๋ค๋ฅธ ์๋น์ค์ ๋ฏธ์น๋ ์ํฅ์ ํ์ธํด์ผ ํฉ๋๋ค.
Kolla Ansible์ ์ฌ์ฉํ์ฌ OpenStack์ ์๋์ผ๋ก ๋ฐฐํฌํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํ๋ฉฐ, ์ด๊ธฐ ์ค์น, ์ค์ , ๋ฐฐํฌ ๋ฐ ๋ฌธ์ ํด๊ฒฐ ๊ณผ์ ์ ์์ธํ ์๋ดํฉ๋๋ค. ํ์ํ ํจํค์ง ์ค์น, ๊ตฌ์ฑ ํ์ผ ์ค์ , ๊ฐ ๋ ธ๋์ ๋ํ ๋ฐฐํฌ ๋ช ๋ น์ด๋ฅผ ์ ๊ณตํ๊ณ , ๋ฐฐํฌ ์ค ๋ฐ์ํ ์ ์๋ ์ค๋ฅ์ ๊ทธ ํด๊ฒฐ ๋ฐฉ๋ฒ๋ ์ค๋ช ํฉ๋๋ค. ์ด๋ฅผ ํตํด OpenStack ํด๋ฌ์คํฐ๋ฅผ ๊ฐํธํ๊ฒ ๊ตฌ์ถํ ์ ์์ต๋๋ค.
HAProxy๋ ๊ณ ๊ฐ์ฉ์ฑ๊ณผ ๋ถํ ๋ถ์ฐ์ ์ํ ๋ฌด๋ฃ ์คํ์์ค ์ํํธ์จ์ด ๋ก๋ ๋ฐธ๋ฐ์๋ก, TCP ๋ฐ HTTP ๊ธฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ ํฉํ๋ค. HAProxy์ ์ค์น ๋ฐ ์ค์ ๋ฐฉ๋ฒ, ๊ฐ ์น์ ์ ๊ตฌ์กฐ์ ์ฃผ์ ์ต์ ์ ์ค๋ช ํ๋ฉฐ, SSL ์ธ์ฆ์ ์ ์ฉ ๋ฐ ์ค์ ํ์ผ ๊ฒ์ฆ ๋ฐฉ๋ฒ๋ ๋ค๋ฃฌ๋ค. ์ ์ ํ ์ค์ ์ ํตํด ์๋น์ค์ ๊ฐ์ฉ์ฑ๊ณผ ์ฑ๋ฅ์ ํฅ์์ํฌ ์ ์๋ค.
Ceph ํด๋ฌ์คํฐ๋ฅผ ์์ ํ๊ฒ ์ข ๋ฃํ๊ณ ์ฌ๋ถํ ํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํ๋ฉฐ, ์ข ๋ฃ ์ ํด๋ฌ์คํฐ ์ํ ํ์ธ, CephFS ์ข ๋ฃ, OSD ํ๋๊ทธ ์ค์ , Ceph ๋ฐ๋ชฌ ์ข ๋ฃ, ์์คํ ์ ์ ๋๊ธฐ, ์ฌ๋ถํ ํ OSD ํ๋๊ทธ ํด์ ๋ฐ CephFS ๋ณต๊ตฌ ๋จ๊ณ๋ฅผ ํฌํจํฉ๋๋ค. ๋ํ, OSD๊ฐ ์๋์ผ๋ก ์์๋์ง ์์ ๊ฒฝ์ฐ ์๋์ผ๋ก ์ฌ์์ํ๋ ๋ฐฉ๋ฒ๋ ์๋ดํฉ๋๋ค.
OpenStack ํ๊ฒฝ์์ Cloudflare DNS์ certbot์ ํ์ฉํ์ฌ SSL ์ธ์ฆ์๋ฅผ ์๋์ผ๋ก ๋ฐ๊ธํ๊ณ ๊ฐฑ์ ํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. Let's Encrypt๋ฅผ ํตํด ๋ฌด๋ฃ ์ธ์ฆ์๋ฅผ ๋ฐ๊ธ๋ฐ๊ณ , DNS-01 Challenge๋ฅผ ์ฌ์ฉํ์ฌ ์น ์๋ฒ๋ฅผ ์ค๋จํ์ง ์๊ณ ์ธ์ฆ์๋ฅผ ๊ด๋ฆฌํ ์ ์์ต๋๋ค. HAProxy์์ ํตํฉ์ ์ํด ์ธ์ฆ์๋ฅผ ๋ณํฉํ๊ณ , Python ์คํฌ๋ฆฝํธ๋ฅผ ํตํด ์๋ ๊ฐฑ์ ์ ์ค์ ํ๋ ๋ฐฉ๋ฒ๋ ํฌํจ๋์ด ์์ต๋๋ค.
Ceph๋ ํด๋ผ์ฐ๋ ํ๋ซํผ์ ์คํ ๋ฆฌ์ง๋ฅผ ์ ๊ณตํ๋ ์คํ์์ค ์ํํธ์จ์ด๋ก, ๋ธ๋ก ๋๋ฐ์ด์ค, ํ์ผ์์คํ , ๊ฐ์ฒด ์คํ ๋ฆฌ์ง ์๋น์ค๋ฅผ ํตํฉํ์ฌ ์ ๊ณตํ๋ค. ์ค์น๋ฅผ ์ํด Docker์ Python3, ์๊ฐ ๋๊ธฐํ๊ฐ ํ์ํ๋ฉฐ, Cephadm์ ์ฌ์ฉํ์ฌ ํด๋ฌ์คํฐ๋ฅผ ๊ตฌ์ฑํ๋ค. ํด๋ฌ์คํฐ๋ ์ต์ 3๊ฐ ๋ ธ๋๋ก ๊ตฌ์ฑํ๋ ๊ฒ์ด ๊ถ์ฅ๋๋ฉฐ, ๊ฐ ๋ ธ๋์ ๋์คํฌ๋ฅผ OSD๋ก ๋ฑ๋กํ์ฌ ๋ฐ์ดํฐ๋ฅผ ์ ์ฅํ๋ค. Public๊ณผ Cluster ๋คํธ์ํฌ๋ฅผ ๋ถ๋ฆฌํ์ฌ ์ฑ๋ฅ์ ์ต์ ํํ๋ ๊ฒ์ด ์ค์ํ๋ค.
OpenStack์์ GPU PCI Passthrough๋ฅผ ์ค์ ํ๋ ๋ฐฉ๋ฒ์ ๋ค๋ฃจ๋ฉฐ, GPU Passthrough์ vGPU์ ์ฐจ์ด์ , IOMMU ๋ฐ VFIO-PCI ๋๋ผ์ด๋ฒ ์ค์ , Nova API ๋ฐ Scheduler ์ค์ , NVIDIA GPU์ Audio Device ์ฒ๋ฆฌ ๋ฐฉ๋ฒ, ๊ทธ๋ฆฌ๊ณ ํธ๋ฌ๋ธ์ํ ๊ณผ์ ์ ํฌํจํฉ๋๋ค. ํต์ฌ ์ค์ ์ผ๋ก๋ IOMMU ํ์ฑํ, VFIO-PCI ๋ฐ์ธ๋ฉ, Nova alias ์ค์ , Audio Device ํฌํจ, ํ๋ฉด ์ถ๋ ฅ์ฉ GPU ํ์์ฑ์ ๊ฐ์กฐํฉ๋๋ค.
OpenStack ํ๊ฒฝ์์ ๊ณ ๊ฐ์ฉ์ฑ์ ์ํ MySQL ๋ฐ์ดํฐ๋ฒ ์ด์ค ๊ตฌ์ถ์ ์ํด Galera Cluster๋ฅผ ์ฌ์ฉํ๋ฉฐ, ๋ชจ๋ ๋ ธ๋๊ฐ Master ์ญํ ์ ์ํํ๊ณ ์๋์ผ๋ก ๋ฐ์ดํฐ ๋๊ธฐํ๋ฅผ ์ง์ํ๋ค. ์ต์ 3๊ฐ์ ๋ ธ๋๊ฐ ํ์ํ๋ฉฐ, HAProxy์ VIP๋ฅผ ํ์ฉํ์ฌ ๋จ์ผ ์ง์ ์ ์ ๊ตฌ์ฑํ์ฌ ๊ณ ๊ฐ์ฉ์ฑ์ ํ๋ณดํ ์ ์๋ค. ์ค์น ๋ฐ ์ค์ ๊ณผ์ , ํด๋ฌ์คํฐ ์ํ ํ์ธ ๋ฐฉ๋ฒ, ์ฅ์ ๋ณต๊ตฌ ์ ์ฐจ ๋ฐ ์ฃผ์์ฌํญ๋ ์์ธํ ์ค๋ช ๋๋ค.
OpenStack ํ๊ฒฝ์์ Designate๋ฅผ ์ฌ์ฉํ์ฌ ๋ด๋ถ DNS ์๋ฒ๋ฅผ ๊ตฌ์ถํ๋ ๋ฐฉ๋ฒ์ ๋ค๋ฃฌ๋ค. ์ฃผ์ ๋ด์ฉ์ผ๋ก๋ Designate ์ค์น, Keystone์ ์๋น์ค ๋ฑ๋ก, BIND9 ์ค์ , pools.yaml ๊ตฌ์ฑ, Horizon ๋์๋ณด๋ ํ๋ฌ๊ทธ์ธ ์ค์น ๋ฐ ํธ๋ฌ๋ธ์ํ ๋ฐฉ๋ฒ์ด ํฌํจ๋๋ค. Designate๋ REST API๋ฅผ ํตํด DNS ๋ ์ฝ๋๋ฅผ ๊ด๋ฆฌํ๋ฉฐ, BIND9์ ์ฐ๋ํ์ฌ DNS ์๋น์ค๋ฅผ ์ ๊ณตํ๋ค. ์ค์น ํ DNS ์๋น์ค์ ์ ์ ์๋์ ํ์ธํ๋ ๋ฐฉ๋ฒ๋ ์ค๋ช ๋๋ค.
GitLab์ OpenStack์ผ๋ก ์ด์ ํ๋ฉฐ PostgreSQL์ 15์์ 16์ผ๋ก ์ ๊ทธ๋ ์ด๋ํ๋ ๊ณผ์ ์์ GitLab ๋ฐฑ์ , PostgreSQL ๋ฐฑ์ ๋ฐ ๋ณต์, GitLab ๋ณต๊ตฌ ๋ฐ ์ ๊ทธ๋ ์ด๋ ์ ์ฐจ๋ฅผ ๋ค๋ฃฌ๋ค. CI/CD๋ฅผ ์ฐจ๋จํ๊ณ ,
Ansible์ ์์ด์ ํธ๋ฆฌ์ค IT ์๋ํ ๋๊ตฌ๋ก, SSH์ Python์ ๊ธฐ๋ฐ์ผ๋ก ํ์ฌ ์๋ฒ ์ค์ ๋ฐ ์ ํ๋ฆฌ์ผ์ด์ ๋ฐฐํฌ๋ฅผ ๊ด๋ฆฌํ๋ค. Ubuntu์์ Ansible์ ์ค์นํ๋ ๋ฐฉ๋ฒ, Inventory ํ์ผ ๊ตฌ์ฑ, Ad-hoc ๋ช ๋ น์ด ์ฌ์ฉ๋ฒ, ๊ทธ๋ฆฌ๊ณ ์ฒซ ๋ฒ์งธ Playbook ์์ฑ ๋ฐ ์คํ ๋ฐฉ๋ฒ์ ๋ค๋ฃฌ๋ค. ๋ฉฑ๋ฑ์ฑ์ ๊ฐ์กฐํ๋ฉฐ, SSH ํค ์ค์ ๊ณผ ๋ณด์ ์ฃผ์์ฌํญ๋ ํฌํจ๋์ด ์๋ค.
OpenStack Nova Compute ๋ ธ๋์ ์ค์น ๋ฐ ์ค์ ์ ์ํ ๊ฐ์ด๋๋ฅผ ์ ๊ณตํ๋ฉฐ, ํธ์คํธ๋ค์ ๋ฐ NTP ์๊ฐ ๋๊ธฐํ, OVS ๋คํธ์ํฌ ๊ตฌ์ฑ, Nova Compute ์ค์น ๋ฐ ์ค์ , Neutron OVS Agent์ L3 Agent ์ค์ , Ceph RBD ์ฐ๋, PCI Passthrough ์ค์ , ์๋น์ค ์์ ๋ฐ ๋ ธ๋ ๋ฑ๋ก ๊ฒ์ฆ ๋ฑ์ ์ ์ฐจ๋ฅผ ์์ธํ ์ค๋ช ํ๋ค. ๊ฐ ๋จ๊ณ์์ ์ฃผ์ํด์ผ ํ ์ฌํญ๊ณผ ํ์ํ ์ค์ ํ์ผ์ ์์ ๋ฐฉ๋ฒ๋ ํฌํจ๋์ด ์๋ค.
OpenStack ๋คํธ์ํฌ ๊ตฌ์ฑ ์ ๋ฆฌ๋ ์ค ๋ธ๋ฆฟ์ง์ VETH ํ์ด๋ฅผ ํ์ฉํ์ฌ NIC ๋ถ์กฑ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. OVS๊ฐ NIC๋ฅผ ์์ ํ ๊ฒฝ์ฐ ์ธ๋ถ ํต์ ์ด ๋ถ๊ฐ๋ฅํด์ง๋ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๋ฆฌ๋ ์ค ๋ธ๋ฆฟ์ง์ IP๋ฅผ ํ ๋นํ๊ณ VETH ํ์ด๋ก OVS์ ์ฐ๊ฒฐํฉ๋๋ค. ์๋ํ ์คํฌ๋ฆฝํธ๋ฅผ ํตํด ์๊ฒฉ ์ ์ ์ค์๋ ์ค์ ์ ์์ ํ๊ฒ ์ํํ ์ ์์ผ๋ฉฐ, rc.local์ ์ฌ์ฉํ์ฌ ๋ถํ ์ ์ค์ ์ ์ ์งํฉ๋๋ค. ๋คํธ์ํฌ ์ค๊ณ์ ์ธํฐํ์ด์ค ํ์ธ์ด ์ค์ํ๋ฉฐ, MTU ์ต์ ํ๋ ๊ณ ๋ คํด์ผ ํฉ๋๋ค.
OpenStack Cinder๋ฅผ ์ฌ์ฉํ์ฌ LVM๊ณผ iSCSI๋ฅผ ํ์ฉํ ๋ธ๋ก ์คํ ๋ฆฌ์ง ๊ตฌ์ถ ๋ฐฉ๋ฒ์ ์ค๋ช ํ๋ค. RAID 5๋ก ๋์คํฌ๋ฅผ ๊ตฌ์ฑํ๊ณ , LVM์ผ๋ก ๋ณผ๋ฅจ ๊ทธ๋ฃน์ ์์ฑํ์ฌ Cinder์ ์ฐ๊ฒฐํ๋ ๊ณผ์ , ํํฐ ์ค์ , iSCSI ํ๊ฒ ๋ฐ๋ชฌ ๊ตฌ์ฑ, ๋ฐ ๋์ ํ์ธ ๋ฐฉ๋ฒ์ ๋ค๋ฃฌ๋ค. LVM ๋ฐฑ์๋๋ ๋จ์ผ ๋ ธ๋์ ์์กดํ๋ฏ๋ก ๊ณ ๊ฐ์ฉ์ฑ์ด ํ์ํ ํ๊ฒฝ์์๋ Ceph RBD์ ๊ฐ์ ๋ถ์ฐ ์คํ ๋ฆฌ์ง๋ฅผ ๊ณ ๋ คํด์ผ ํ๋ค.
์จํ๋ ๋ฏธ์ค GPU ์๋ฒ์ Kubeflow๋ฅผ ์ค์นํ์ฌ ML ์ํฌํ๋ก๋ฅผ ์๋ํํ๋ ๊ณผ์ ์ Kind๋ฅผ ์ฌ์ฉํ์ฌ ๋จ์ผ ๋ ธ๋์์ ์ํ๋๋ฉฐ, ์ฌ์ ์ค์น๋ก NVIDIA Container Toolkit๊ณผ kustomize๊ฐ ํ์ํ๋ค. ์ค์น ์ ๋ฆฌ์์ค ์ ํ์ ํด์ ํ๊ณ , Docker์ Kubernetes์ ์ค์ ์ ์ผ์น์์ผ์ผ ํ๋ฉฐ, ์ฌ์ฉ์ ๊ณ์ ์์ฑ๊ณผ ๋ค์์คํ์ด์ค ์ค์ ๋ ํ์ํ๋ค. ํธ๋ฌ๋ธ์ํ ์ผ๋ก๋ MySQL ํฌํธ ์ถฉ๋, ๋ฆฌ์์ค ์ฌ์ฉ๋ ๋ฌธ์ , HTTP ํ๊ฒฝ์์์ ์ฟ ํค ๋ฌธ์ ๋ฑ์ด ์์ผ๋ฉฐ, Kubeflow ํ์ดํ๋ผ์ธ ์ฌ์ฉ๋ฒ๋ ์ค๋ช ๋๋ค.
Kubernetes๋ ์ปจํ ์ด๋ํ๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ฐฐํฌ, ํ์ฅ, ๊ด๋ฆฌ๋ฅผ ์๋ํํ๋ ์คํ์์ค ํ๋ซํผ์ผ๋ก, kubeadm์ ์ฌ์ฉํ์ฌ ๋จ์ผ ๋ ธ๋ ํด๋ฌ์คํฐ๋ฅผ ๊ตฌ์ถํ๊ณ Calico CNI๋ฅผ ์ค์นํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํ๋ค. ์ฃผ์ ํน์ง์ผ๋ก๋ ์๋ ์ค์ผ์ผ๋ง, ์๋ ๋ณต๊ตฌ, ์๋น์ค ๋์ค์ปค๋ฒ๋ฆฌ ๋ฐ ๋ก๋๋ฐธ๋ฐ์ฑ ๋ฑ์ด ์์ผ๋ฉฐ, ์ด๊ธฐํ ์ ์๋ swap ๋นํ์ฑํ, ํ์ํ ํฌํธ ํ์ธ, IP ํฌ์๋ฉ ํ์ฑํ๊ฐ ํ์ํ๋ค. ๋ํ, Control Plane์์ Pod ์ค์ผ์ค๋ง์ ํ์ฉํ๊ธฐ ์ํด taint๋ฅผ ์ ๊ฑฐํด์ผ ํ๋ค.
TGI๋ Hugging Face์์ ๊ฐ๋ฐํ ๊ณ ์ฑ๋ฅ LLM ์๋น ์์ง์ผ๋ก, Rust์ Python์ ๊ธฐ๋ฐ์ผ๋ก ํ์ฌ gRPC๋ฅผ ํตํด ๋น ๋ฅธ ์๋์ ๋๊ท๋ชจ ๋์ ์์ฒญ ์ฒ๋ฆฌ๋ฅผ ์ง์ํฉ๋๋ค. ์ฃผ์ ๊ธฐ๋ฅ์ผ๋ก๋ Flash Attention, PagedAttention, Tensor Parallelism, ์์ํ ์ง์ ๋ฑ์ด ์์ผ๋ฉฐ, SSE ๊ธฐ๋ฐ์ ํ ํฐ ์คํธ๋ฆฌ๋ฐ์ ํตํด ์ฒด๊ฐ ๋ ์ดํด์๋ฅผ ์ค์ด๊ณ , GPU ํ์ฉ๋ฅ ์ ๊ทน๋ํํ๋ Continuous Batching ๊ธฐ๋ฒ์ ์ฌ์ฉํฉ๋๋ค. ํ์ฌ maintenance mode์ ์์ผ๋ฉฐ, ํ์ ์์ง์ธ vLLM๊ณผ SGLang์ ๊ธฐ๋ฐ ๊ธฐ์ ๋ก ์๋ฆฌ์ก๊ณ ์์ต๋๋ค.
AlphaFold Docker ์ค์น ์ค JAX์ CUDA ํธํ์ฑ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํ ๊ณผ์ ์ด ์ค๋ช ๋๋ค. JAX ๋ผ์ด๋ธ๋ฌ๋ฆฌ๊ฐ CUDA๋ฅผ ์ธ์ํ์ง ๋ชปํ๋ ๋ฌธ์ ๋ฅผ ๋ถ์ํ๊ณ , nvidia-modprobe ์ค์น, ์์คํ ์ฌ์ค์น, CUDA ๋ฒ์ ๋ณ๊ฒฝ ๋ฑ์ ๋ฐฉ๋ฒ์ ์๋ํ ํ, ์ต์ข ์ ์ผ๋ก
Tacotron์ ๊ธฐ์กด TTS ์์คํ ์ ๋ณต์กํ ํ์ดํ๋ผ์ธ์ ๋จ์ํํ์ฌ ํ ์คํธ ์ ๋ ฅ๋ง์ผ๋ก ์์ฑ์ ์์ฑํ๋ end-to-end ์์ฑ ํฉ์ฑ ๋ชจ๋ธ์ด๋ค. Tacotron 1์ attention ๊ธฐ๋ฐ seq2seq ๋ชจ๋ธ์ ์ฌ์ฉํ๊ณ Griffin-Lim ์๊ณ ๋ฆฌ์ฆ์ผ๋ก ์์ฑ์ ์์ฑํ๋ฉฐ, Tacotron 2๋ LSTM๊ณผ Location-Sensitive Attention์ ๋์ ํ์ฌ ์์ง์ ํฅ์์์ผฐ๋ค. Tacotron 2๋ MOS ์ ์ 4.526์ ๊ธฐ๋กํ๋ฉฐ, ์์ฐ์ค๋ฌ์ด ์์ฑ์ ์์ฑํ๋ ๋ฐ ์ฑ๊ณตํ์ง๋ง ๋๋ฆฐ ์ถ๋ก ์๋์ attention ๋ถ์์ ์ฑ ๋ฑ์ ํ๊ณ๊ฐ ์๋ค.
WaveNet์ DeepMind๊ฐ ๊ฐ๋ฐํ ๋ฅ๋ฌ๋ ๊ธฐ๋ฐ ์์ฑ ํฉ์ฑ ๋ชจ๋ธ๋ก, ์์ ์ค๋์ค ํํ์ ์ํ ๋จ์๋ก ์์ฑํ์ฌ ๊ธฐ์กด TTS ์์คํ ๋ณด๋ค ์์ฐ์ค๋ฌ์ด ์์ฑ์ ์ ๊ณตํฉ๋๋ค. ์๊ธฐํ๊ท ๋ชจ๋ธ๊ณผ Dilated Causal Convolution์ ์ฌ์ฉํ์ฌ ์ฅ๊ธฐ ์์กด์ฑ์ ํจ๊ณผ์ ์ผ๋ก ์ฒ๋ฆฌํ๋ฉฐ, ์กฐ๊ฑด๋ถ ์์ฑ์ ํตํด ๋ค์ํ ํ์์ ์์ฑ์ ์์ฑํ ์ ์์ต๋๋ค. ์คํ ๊ฒฐ๊ณผ, WaveNet์ MOS ํ ์คํธ์์ ๊ธฐ์กด ์์คํ ์ ํฌ๊ฒ ์ด์ํ๋ ์ฑ๋ฅ์ ๋ณด์ฌ์ฃผ์์ผ๋ฉฐ, ์์ ์์ฑ์๋ ์ ์ฉ ๊ฐ๋ฅํฉ๋๋ค. ๊ทธ๋ฌ๋ ๋๋ฆฐ ์์ฑ ์๋์ ๋์ ๊ณ์ฐ ๋น์ฉ์ด ํ๊ณ๋ก ์ง์ ๋ฉ๋๋ค.
MLOps๋ ๊ธฐ๊ณ ํ์ต ๋ชจ๋ธ์ ๊ฐ๋ฐ, ๋ฐฐํฌ, ์ด์์ ์๋ํํ์ฌ ํจ์จ์ฑ์ ๋์ด๊ณ , ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ์ ML ์์ง๋์ด ๊ฐ์ ํ์ ์ ๊ฐํํ๋ ํจ๋ฌ๋ค์์ด๋ค. ์ฃผ์ ๋ชฉํ๋ ๋ชจ๋ธ์ ํ์ง๊ณผ ์ ๋ขฐ์ฑ์ ํฅ์์ํค๊ณ , CI/CD๋ฅผ ํตํด ์ฝ๋, ๋ฐ์ดํฐ, ๋ชจ๋ธ์ ๋ชจ๋ ๋ฒ์ ๊ด๋ฆฌํ๋ฉฐ, H2O AutoML๊ณผ MLflow ๊ฐ์ ๋๊ตฌ๋ฅผ ํ์ฉํ์ฌ ์ ์ฒด ๋ผ์ดํ์ฌ์ดํด์ ๊ด๋ฆฌํ๋ ๊ฒ์ด๋ค. MLOps๋ DevOps์ ์์น์ ์ ์ฉํ์ง๋ง, ML์ ํน์์ฑ์ ๋ฐ์ํ์ฌ ์ง์์ ์ธ ๋ชจ๋ํฐ๋ง๊ณผ ์ฌํ๋ จ์ด ํ์ํ๋ค.
DevOps๋ ์ํํธ์จ์ด ๊ฐ๋ฐ๊ณผ IT ์ด์์ ํตํฉํ์ฌ ํจ์จ์ ์ธ ๋ฐฐํฌ๋ฅผ ์คํํ๋ ๋ฐฉ๋ฒ๋ก ์ผ๋ก, CALMS ์์น(๋ฌธํ, ์๋ํ, ๋ฆฐ, ์ธก์ , ๊ณต์ )์ ํตํด ํ์ ๊ณผ ์๋ํ๋ฅผ ๊ฐ์กฐํฉ๋๋ค. CI/CD๋ฅผ ํตํด ์ฝ๋ ๋ณ๊ฒฝ์ ๋น ๋ฅด๊ณ ์์ ํ๊ฒ ๋ฐฐํฌํ๋ฉฐ, IaC๋ฅผ ํตํด ์ธํ๋ผ๋ฅผ ์ฝ๋๋ก ๊ด๋ฆฌํ์ฌ ์ฌํ ๊ฐ๋ฅ์ฑ์ ๋์ ๋๋ค. ๋ชจ๋ํฐ๋ง๊ณผ ์ต์ ๋ฒ๋น๋ฆฌํฐ๋ฅผ ํตํด ์์คํ ์ํ๋ฅผ ์ค์๊ฐ์ผ๋ก ํ์ ํ๊ณ , ๋ค์ํ ๋๊ตฌ๋ฅผ ํ์ฉํ์ฌ DevOps ๋ผ์ดํ์ฌ์ดํด์ ์ต์ ํํฉ๋๋ค.
PixelRNN๊ณผ PixelCNN์ autoregressive ๋ฐฉ์์ผ๋ก ์ด๋ฏธ์ง๋ฅผ ์์ฑํ๋ ๋ชจ๋ธ๋ก, PixelRNN์ LSTM ๊ธฐ๋ฐ์ผ๋ก ์ฅ๊ธฐ ์ข ์์ฑ์ ์ ํ์ตํ์ง๋ง ์๋๊ฐ ๋๋ฆฌ๊ณ , PixelCNN์ CNN ๊ธฐ๋ฐ์ผ๋ก ๋น ๋ฅธ ํ์ต ์๋๋ฅผ ์ ๊ณตํ๋ Blind Spot ๋ฌธ์ ๊ฐ ์กด์ฌํ๋ค. Gated PixelCNN์ ์ด ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ฉฐ, ์กฐ๊ฑด๋ถ ์ด๋ฏธ์ง ์์ฑ๋ ์ง์ํ๋ค. ์ ์ฒด์ ์ผ๋ก Gated PixelCNN์ด PixelRNN๊ณผ ์ ์ฌํ ์ฑ๋ฅ์ ์ ๋ฐ ์ดํ์ ํ์ต ์๊ฐ์ผ๋ก ๋ฌ์ฑํ ์ ์๋ค.
Docker๋ ๊ฒฝ๋ ์ปจํ ์ด๋ ๊ธฐ์ ๋ก, NVIDIA Container Toolkit์ ํตํด GPU ์์์ ๊ด๋ฆฌํ ์ ์๋ค. GPU ๊ฐ์ํ ๋ฐฉ์์๋ VM ํ๊ฒฝ์์์ Passthrough์ vGPU๊ฐ ์์ผ๋ฉฐ, Docker ํ๊ฒฝ์์๋ CUDA ๋๋ผ์ด๋ฒ๋ฅผ ๋งคํํ์ฌ GPU์ ์ ๊ทผํ๋ค. ์ด์ ํ๊ฒฝ์์๋ CPU, ๋ฉ๋ชจ๋ฆฌ, GPU, ๋์คํฌ ์ ํ์ ์ค์ ํ์ฌ ์์คํ ์์ ์ฑ์ ๋ณด์ฅํด์ผ ํ๋ค.
์ฐ๋ถํฌ 22.04์์ TensorFlow 2.12๋ฅผ ์ค์นํ๊ธฐ ์ํด LLVM 16์ ์ถ๊ฐํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. ๊ธฐ๋ณธ ์ ์ฅ์๋ LLVM 15๊น์ง๋ง ์ง์ํ๋ฏ๋ก, ๋ณ๋์ ์๊ฒฉ ์ ์ฅ์๋ฅผ ์ถ๊ฐํด์ผ ํฉ๋๋ค. ์ ์ฅ์๋ฅผ ๋ฑ๋กํ ํ ํจํค์ง ๋ชฉ๋ก์ ์ ๋ฐ์ดํธํ๊ณ LLVM 16๊ณผ Clang 16์ ์ค์นํ๋ฉด ๋ฉ๋๋ค.
Miniconda๋ฅผ ์ค์นํ๊ณ ์๋ก์ด conda ํ๊ฒฝ์ ๋ง๋ค์ด TensorFlow 2.12๋ฅผ ์ค์นํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. GPU ์ค์ ์ ์ ํ์ ์ผ๋ก ์งํํ๋ฉฐ, ์ค์น ํ CPU์ GPU์์ TensorFlow๊ฐ ์ ์ ์๋ํ๋์ง ํ์ธํ๋ ๋ฐฉ๋ฒ๋ ํฌํจ๋์ด ์์ต๋๋ค. Ubuntu 22.04์์ ๋ฐ์ํ ์ ์๋ ์ค๋ฅ์ ๊ทธ ํด๊ฒฐ ๋ฐฉ๋ฒ๋ ์๋ดํฉ๋๋ค.
JupyterHub๋ ๋ค์ค ์ฌ์ฉ์ ํ๊ฒฝ์์ Jupyter Notebook์ ํจ์จ์ ์ผ๋ก ๊ด๋ฆฌํ ์ ์๋ ์๋ฒ๋ก, ์ฌ์ฉ์๋ณ ๋ ๋ฆฝ๋ ํ๊ฒฝ์ ์ ๊ณตํ๋ค. Ubuntu ์๋ฒ์ JupyterHub๋ฅผ ์ค์นํ๊ณ ์ค์ ํ๋ ๊ณผ์ ์๋ pip ์ค์น, systemd ์๋น์ค ๋ฑ๋ก, Nginx reverse proxy ๊ตฌ์ฑ ๋ฑ์ด ํฌํจ๋๋ค. PAM ์ธ์ฆ์ ํตํด ์ฌ์ฉ์ ๊ด๋ฆฌ๋ฅผ ํ๋ฉฐ, SSL ์ ์ฉ์ผ๋ก ๋ณด์์ ๊ฐํํ ์ ์๋ค. ๊ฐ ์ฌ์ฉ์์ ๋ฆฌ์์ค ์ ํ ์ค์ ๊ณผ WebSocket ์ง์๋ ์ค์ํ๋ค.
VSCode์ Remote-SSH ํ์ฅ์ ์ฌ์ฉํ์ฌ ์๊ฒฉ ์๋ฒ์ ์์ ํ๊ฒ ์ฐ๊ฒฐํ๋ ๋ฐฉ๋ฒ์ ์๋ดํฉ๋๋ค. SSH ํค ์ธ์ฆ ๋ฐฉ์์ ํตํด ๋น๋ฐ๋ฒํธ ๋์ ๊ณต๊ฐ ํค๋ฅผ ์ฌ์ฉํ๋ฉฐ, SSH ์ ์ ์ค์ , ํค ์์ฑ, ssh-agent ์ค์ , VSCode ํ๊ฒฝ ๊ตฌ์ฑ, ๋น๋ฐ๋ฒํธ ์ ์ ๋นํ์ฑํ ๋ฑ์ ์ ์ฐจ๋ฅผ ํฌํจํฉ๋๋ค. Ed25519 ์๊ณ ๋ฆฌ์ฆ์ ๊ถ์ฅํ๋ฉฐ, ํค ํ์ผ ๊ถํ ์ค์ ๊ณผ ํธ๋ฌ๋ธ์ํ ๋ฐฉ๋ฒ๋ ์ค๋ช ํฉ๋๋ค.
Docker Private Registry๋ฅผ ๊ตฌ์ถํ์ฌ ๋ด๋ถ์์ ์์ ํ๊ฒ Docker ์ด๋ฏธ์ง๋ฅผ ๊ด๋ฆฌํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. htpasswd๋ฅผ ์ฌ์ฉํ ์ธ์ฆ ์ค์ , SSL/TLS ์ ์ฉ, ์ด๋ฏธ์ง Push/Pull ๋ฐฉ๋ฒ, Registry API V2๋ฅผ ํตํ ์ด๋ฏธ์ง ์กฐํ ๋ฐฉ๋ฒ์ ๋ค๋ฃจ๋ฉฐ, ํธ๋ฌ๋ธ์ํ ๋ฐ ์ฃผ์์ฌํญ๋ ํฌํจ๋์ด ์์ต๋๋ค. ํ๋ก๋์ ํ๊ฒฝ์์๋ SSL์ ํ์๋ก ์ ์ฉํ๊ณ , Self-Signed ์ธ์ฆ์๋ฅผ ์ฌ์ฉํ ๊ฒฝ์ฐ ํด๋ผ์ด์ธํธ์ ์ธ์ฆ์๋ฅผ ๋ฑ๋กํด์ผ ํฉ๋๋ค.
pfSense๋ฅผ ์ด์ฉํ ์ฐ๊ตฌ์ค ๋คํธ์ํฌ ๊ตฌ์ถ ๊ฐ์ด๋๋ก, OpenStack ์์คํ ์ ์์ ํ๊ฒ ์ด์ํ๊ธฐ ์ํ VPN ์ค์ ๊ณผ ๋ฐฉํ๋ฒฝ ์ค์น ๊ณผ์ ์ ์ค๋ช ํฉ๋๋ค. pfSense๋ ์คํ์์ค ๋ฐฉํ๋ฒฝ/๋ผ์ฐํฐ ์ํํธ์จ์ด๋ก, ๋ณต์กํ ๋คํธ์ํฌ ์ค์ ์์ด๋ ๊ฐ๋ ฅํ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค. ์ค์น ํ WAN๊ณผ LAN ์ค์ , NAT ๋ฐ ํฌํธ ํฌ์๋ฉ์ ํตํด ์ธ๋ถ ์๋น์ค ์ ๊ทผ์ ๊ฐ๋ฅํ๊ฒ ํ๋ฉฐ, DHCP ์๋ฒ ์ค์ ์ผ๋ก ๋ด๋ถ ์ฅ์น์ ์๋ IP ํ ๋น์ ์ง์ํฉ๋๋ค. ์ด ๊ณผ์ ์ ํตํด ์์ ์ ์ด๊ณ ์์ ํ ์ฐ๊ตฌ ํ๊ฒฝ์ ๊ตฌ์ถํ ์ ์์ต๋๋ค.
Docker ์ปจํ ์ด๋๋ฅผ GUI๋ก ๊ด๋ฆฌํ ์ ์๋ Portainer ์ค์น ๋ฐฉ๋ฒ์ ์๊ฐํฉ๋๋ค. Portainer๋ ์คํ์์ค ํ๋ซํผ์ผ๋ก, ์ปจํ ์ด๋ ์์ฑ, ์ด๋ฏธ์ง ๊ด๋ฆฌ, ๋ณผ๋ฅจ ๋ฐ ๋คํธ์ํฌ ์ค์ ์ ์ฝ๊ฒ ํ ์ ์์ต๋๋ค. ์ค์น ์ Docker๊ฐ ํ์ํ๋ฉฐ, ๋ณผ๋ฅจ์ ์์ฑํ ํ ์ปจํ ์ด๋๋ฅผ ์คํํ๊ณ ์น ๋ธ๋ผ์ฐ์ ๋ฅผ ํตํด ์ด๊ธฐ ์ค์ ์ ์งํํฉ๋๋ค. GPU ์ง์ ์ค์ ๊ณผ docker-compose๋ฅผ ์ด์ฉํ ์ค์น ๋ฐฉ๋ฒ๋ ์๋ดํ๋ฉฐ, ์ ๋ฐ์ดํธ ์ ์ฐจ๋ ์ค๋ช ํฉ๋๋ค.
Ubuntu 22.04์์ OpenVPN์ ์ค์ ํ์ฌ ์์ ํ ์๊ฒฉ ์ ๊ทผ์ ๊ตฌํํ๋ ๋ฐฉ๋ฒ์ ๋ค๋ฃจ๋ฉฐ, ํ์ํ ํจํค์ง ์ค์น, PKI ๋ฐ CA ๊ตฌ์ฑ, ์๋ฒ ๋ฐ ํด๋ผ์ด์ธํธ ์ค์ , ๋ฐฉํ๋ฒฝ ๋ฐ ๋คํธ์ํฌ ๊ตฌ์ฑ, ํธ๋ฌ๋ธ์ํ ๊ฐ์ด๋๋ฅผ ํฌํจํฉ๋๋ค. ๋ณด์ ๊ฐํ๋ฅผ ์ํด DDoS ๋ฐฉ์ด ๋ฐ ๊ถํ ์ต์ํ ๋ฐฉ๋ฒ๋ ์ค๋ช ํ๋ฉฐ, ์ธ์ฆ์ ๊ด๋ฆฌ์ ํฌํธ ํฌ์๋ฉ์ ์ค์์ฑ์ ๊ฐ์กฐํฉ๋๋ค.