๋ค๋ค ์๊ณ ์๋๊ฑฐ ๋ง์ฃ ?^^
sk ai fly์์ ๋ง๋ ์ด๋ค์ mlops study!
AI์ ๋น
๋ฐ์ดํฐ์ ์๋์ธ๋งํผ ํ์
์์ AI๋ฅผ ํจ๊ณผ์ ์ผ๋ก ์ด์ํ๊ณ ์ ์ฉํ๋ ๋ฐ ํ์์ ์ธ MLops์ ์ค์์ฑ์ด ์ปค์ง์ ๋ฐ๋ผ mlops์ ๋ํด ์๊ณ ์ํ๋ ์ด๋ค๋ผ๋ฆฌ ์คํฐ๋ ๊ฒฐ์ฑ
ML ์์คํ
๊ฐ๋ฐ(Dev)๊ณผ ML ์์คํ
์ด์(Ops)์ ํตํฉํ์ฌ ๋ฐ์ดํฐ ๋ ์ด๋ธ๋ง์ ์ผ๊ด์ฑ์ ์ ์ง, ์๋ ์ด์ํ๋๊ฒ
์ฆ, ๊ณ์ํด์ AI/ML์ ๊ฐ๋ฐ, ๋ฐฐํฌ, ์ด์ํ๋ Workflow ์์ฒด๋ฅผ MLops๋ผ ํจ
โข ๊ถ๊ทน์ ์ธ ๋ชฉํ:๊ฐ์ ๊ฐ์๋ฅผ ๋ณด๊ณ ์ฟ ๋ฒ๋คํฐ์ค ๊ธฐ๋ฐ MLOps ๋ง๋ค์ด๋ณด๊ธฐ
โข ์ค์ ํ๋ก์ ํธ์์์ MLops ์ ์ฉ ์ฌ๋ก ๋ฐ ๊ฒฝํ ๊ณต์
โข ELICE INSIGHT CONF: MLops ์์ฒญ(VOD ๋ณด์ )
โข Kaggle or Dacon code review
MLops study ๋๊ธฐ ๋ฐ ๋ชฉํ์ ๋ํด ์ด์ผ๊ธฐํ์๊ณ ์์ผ๋ก ์ด๋ป๊ฒ ์คํฐ๋๋ฅผ ์ด์ํ ์ง ๊ฒฐ์ ํ์์ต๋๋ค. ์คํฐ๋ ์ด์ ๋ฐฉํฅ์ฑ ๊ฐ์๋ฅผ ๋ณด๋ฉฐ ์ฟ ๋ฒ๋คํฐ์ค ๊ธฐ๋ฐ MLOps๋ฅผ ๋ง๋๋ ๊ฒ์ ๊ถ๊ทน์ ์ธ ๋ชฉํ๋ก ํ๋ฉฐ ๊ทธ์ ๋์๋๋ ์ปจํผ๋ฐ์ค, ๋ ผ๋ฌธ, kaggle code review, ํ์ ์ ์ฉ ์ฌ๋ก ๊ฐ์ ๋ถ๊ฐ์ ์ธ ๋ ํผ๋ฐ์ค ๋ํด ์ง์์ ์ผ๋ก ์ํตํ๋ฉฐ ๋ถ์กฑํ ๋ถ๋ถ์ ์ฑ์ฐ๊ณ MLOps๋ฅผ ์ดํดํ๊ณ ๊ตฌํ
- [๊ณผ์ ] ๋ด๊ฐ ์๊ฐํ๋ MLOps ์๊ฐํด์ค๊ธฐ(~2024.01.03)
๊ฐ์๊ฐ ์๊ฐํ๋ MLops๋ฅผ ๋งํ์์ต๋๋ค.
๊ทธ๋ฆฌ๊ณ mlops ๊ฐ์ข๋ค์ ์ดํด๋ณด๋ฉฐ ๊ฐ์ข๋ฅผ ๊ณจ๋์ต๋๋ค
[์ ์ ๊ฐ์ข]๋จธ์ ๋ฌ๋ ์์ง๋์ด ์ค๋ฌด - chris song
https://www.inflearn.com/course/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EC%97%94%EC%A7%80%EB%8B%88%EC%96%B4-%EC%8B%A4%EB%AC%B4#curriculum
- [๊ณผ์ ] Session 1๊น์ง ๋ฃ๊ธฐ
๋ค์ ๊ฐ์
Session0. ๋จธ์ ๋ฌ๋ ํ์ดํ๋ผ์ธ ์๊ฐ
Session1. ๋จธ์ ๋ฌ๋ ํ๋ก์ ํธ ์คํ๊ด๋ฆฌ
์ค๋์ Insight
์๋๋น์ ์กด์ฌ๋ฅผ ์๋ค.
์ฌ์ด ๋จธ์ ๋ฌ๋๊ณผ ์ด๋ ค์ด ๋จธ์ ๋ฌ๋์ ์ฐจ์ด
๋ฌํ๋ ๋ชจ๋ ์๋น์ค๊ฐ 2์ฃผ์์ ๋๋จ
๋ฐ์ดํฐ์ ๋ณํ์ด ๋นจ๋ฆฌ ์ผ์ด๋๋ฉด ๋ชจ๋ธ ํ์ต์ ์๋ํํ๋๊น ๋ชจ๋ธํ์ต์ ์๋ํ ์์ผ์ค
์จ์ดํธ ์ธ ๋ฐ์ด์ด์ค๋ก ๊ฒฐ๊ณผ๋ฅผ ๋์ถํ๋ ๋ฐฉ์์ด ์๋นํ ์ ๋ฌธ์ ์ด๊ณ ์ค์ ๋ฐํ์์ ์จ๋ณผ๋ง
elice MLOps conference ์ธ์
2๊ฐ ๋ง๋ณด๊ธฐ
- DATABRICKS๋ฅผ ํ์ฉํ MLOps
- MLOps๋ฅผ ์์ํ๋ 5๋จ๊ณ ๊ธฐ์ด๋ถํฐ
[๊ณผ์ ] ๊ฐ์ MLops tool ํ๊ฐ์ฉ ๊ณต๋ถํด์ค๊ธฐ
Session 2. ์ฝ๋ ํ์ง, ๋ฐ์ดํฐ ๊ฒ์ฆ, ๋ชจ๋ธ ๋ถ์
์ค๋์ Insight
๋ฏผ์ฐ - mlflow
๊ฐ๊ฒฝ - amazone sagemaker
์๋ - tensorflow extended
๋ฏผ์ - jenkins
๋ค์ - github action
๊ฐ์ ์กฐ์ฌํด์จ ํด์ ๋ฐํํ์๊ณ ๋ฐํํ๋ฉด์ ๋ฐ์ดํฐ ์์ง๋ถํฐ ๋ฐฐํฌ ๋ถ๋ถ์ ๋งก๊ฑฐ๋ ์คํ ๊ฒ์ฆ ๋ถ๋ถ์ ๋งก๊ฑฐ๋ ์ ๊ณผ์ ์ ๋งก๊ฑฐ๋
๋ค์ํ ํด์ ๋ณด๋ฉด์ ์ด๋จ ๋ ์ด๋ ์ด๋ ํ ํด์ ์จ์ผํ๋์ง ์๊ฒ๋์๋ค.
๊ทธ๋ฆฌ๊ณ ์ด๋ฌํ ํด์ ์ฌ์ฉํด์ ์๋ํ๋ฅผ ํ์ฌ ์ ์ฒด์ ์ธ ์
๋ฌด ํจ์จ์ด ์ฌ๋ผ๊ฐ ์ ์๊ณ
์ ์ฒด์ ์ธ ํ์ง ํฅ์์ ๊ธฐ์ฌํ๊ณ researcher์ ์๋์ง๋ ๋ ๊ฒ์ด๋ค.
[๊ณผ์ ] MLOps ํ์ฉ ์ฌ๋ก ํ๋์ฉ ์กฐ์ฌํด์ค๊ธฐ
Session 3. ๋์ปค&์ฟ ๋ฒ๋คํฐ์ค ๊ธฐ์ด
MLOps ์์ง๋์ด๊ฐ ์ ๋์ปค์ ์ฟ ๋ฒ๋คํฐ์ค๋ฅผ ์ฌ์ฉํ๋์ง ํ์
์์ ํ์
์ ํ ๋ ๋์ปค์ ์ฟ ๋ฒ๋คํฐ์ค๊ฐ ์ด๋ค ์ญํ ์ ๋งก๋์ง ์๊ฒ๋์๊ณ
node, pod, container, docker, kubernetes ๊ฐ์ ๊ธฐ๋ณธ ๊ฐ๋
์ ์๊ฒ๋์๋ค.
MLOps ํ์ฉ ์ฌ๋ก๋
-
๊ธฐ์ ๋ค์ MLOps ํ์ดํ ๋ผ์ธ ๊ตฌ์ถ(SK, ๋ค์ด๋ฒ, ์นด์นด์ค)
-
์ถ์ฒ์์คํ , ์์จ ์ฃผํ ๊ธฐ์ ์ ์ฐ์ด๋ ํ์ดํ๋ผ์ธ
-
ํ์ง ๊ด๋ฆฌ, ์คํ
๊ทธ๋ฌํ ํ์ ์ฌ๋ก๋ค์ ์ดํด๋ณด๋ฉฐ ์ MLOps๊ฐ ํ์ํ๊ณ ๋ฐ์ดํฐ๋ฅผ ์๊ด๋ฆฌํ ์ ์์ด์ผํ๋์ง
๋ณด๋ค ์ง๊ด์ ์ผ๋ก ์๊ฒ ๋์๋ค.
[๊ณผ์ ] MLOps ํ์ฉํ Code Review ํ๋์ฉ ํด์ค๊ธฐ
์ค๋์ ๊ฐ์ Keypoint
- kubeflow์ ๋ํด์ ์๊ณ ์ค์ต์ ํตํด ์ผํธ๋ด ๋์๋ณด๋, TFjobs, mini0 ๊ณผ ๊ฐ์ ๊ธฐ๋ฅ์ ์๊ฒ ๋์๋ค.
- ์ถ์ํ์ ์ฌ์ฌ์ฉ์ฑ ๋์ปค๋ฅผ ์ด์ฉํด์ ๊ด๋ฆฌ ๋น์ทํ ๊ฑธ ๋ ์ฌ์ฉํ ์ ์์
- ์กฐํฉ๊ฐ๋ฅ์ฑ(๋ ๋ฆฝ์ ), ์ด์์ฑ, ์ ๋์ฑ,
- ํ์คํ yamlํ์ผ๋ก ๋ค ์ ์ํ ์ ์์
- ์ฌ์ฌ์ฉ๊ฐ๋ฅํ ์ปดํฌ๋ํธ์ ์๋ฆฌ
MLOps ํ์ฉํ Code Review- github action,AWS S3, S2๋ฅผ ํ์ฉํ ์๋ ๋ฐฐํฌ
- ์ค์ ํ๋ก์ ํธ์์ fast api ์ฝ๋๋ฅผ dockerfile ๋ฑ์ผ๋ก ์ด๋ฏธ์งํ ํ ์ปจํ ์ด๋๋ก ์์ฑ,
- Kubeflow๋ก pytorch ๋ชจ๋ธ ๋ฐฐํฌ CODE
- MLOps์ 3๋ ๊ตฌ์ฑ ์์ ์ด์ผ๊ธฐํ๊ณ ํ ์ํ์์ [๊ณผ์ ]๊ฐ์ ํ ๊ฒ GITHUB ์ ๋ฆฌ ๋ฐ ์ฌ์ถฉ์ ์์๊ฐ๐