Skip to content

dbp-jack/MLOps-Study

ย 
ย 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

ย 

History

73 Commits
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 

Repository files navigation

MLOps-Study

image ๋‹ค๋“ค ์›ƒ๊ณ ์žˆ๋Š”๊ฑฐ ๋งž์ฃ ?^^
sk ai fly์—์„œ ๋งŒ๋‚œ ์ด๋“ค์˜ mlops study!
AI์™€ ๋น…๋ฐ์ดํ„ฐ์˜ ์‹œ๋Œ€์ธ๋งŒํผ ํ˜„์—…์—์„œ AI๋ฅผ ํšจ๊ณผ์ ์œผ๋กœ ์šด์˜ํ•˜๊ณ  ์ ์šฉํ•˜๋Š” ๋ฐ ํ•„์ˆ˜์ ์ธ MLops์˜ ์ค‘์š”์„ฑ์ด ์ปค์ง์— ๋”ฐ๋ผ mlops์— ๋Œ€ํ•ด ์•Œ๊ณ ์žํ•˜๋Š” ์ด๋“ค๋ผ๋ฆฌ ์Šคํ„ฐ๋”” ๊ฒฐ์„ฑ

๐Ÿš€MLops๋ž€?

ML ์‹œ์Šคํ…œ ๊ฐœ๋ฐœ(Dev)๊ณผ ML ์‹œ์Šคํ…œ ์šด์˜(Ops)์„ ํ†ตํ•ฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ ๋ ˆ์ด๋ธ”๋ง์˜ ์ผ๊ด€์„ฑ์„ ์œ ์ง€, ์ž๋™ ์šด์˜ํ•˜๋Š”๊ฒƒ

์ฆ‰, ๊ณ„์†ํ•ด์„œ AI/ML์„ ๊ฐœ๋ฐœ, ๋ฐฐํฌ, ์šด์˜ํ•˜๋Š” Workflow ์ž์ฒด๋ฅผ MLops๋ผ ํ•จ

๐Ÿ“š์Šคํ„ฐ๋”” ๋‚ด์šฉ

โ€ข ๊ถ๊ทน์ ์ธ ๋ชฉํ‘œ:๊ฐ์ž ๊ฐ•์˜๋ฅผ ๋ณด๊ณ  ์ฟ ๋ฒ„๋„คํ‹ฐ์Šค ๊ธฐ๋ฐ˜ MLOps ๋งŒ๋“ค์–ด๋ณด๊ธฐ

โ€ข ์‹ค์ œ ํ”„๋กœ์ ํŠธ์—์„œ์˜ MLops ์ ์šฉ ์‚ฌ๋ก€ ๋ฐ ๊ฒฝํ—˜ ๊ณต์œ 

โ€ข ELICE INSIGHT CONF: MLops ์‹œ์ฒญ(VOD ๋ณด์œ )

โ€ข Kaggle or Dacon code review

0์ฃผ์ฐจ - Orientation(2023.12.29)

MLops study ๋™๊ธฐ ๋ฐ ๋ชฉํ‘œ์— ๋Œ€ํ•ด ์ด์•ผ๊ธฐํ•˜์˜€๊ณ  ์•ž์œผ๋กœ ์–ด๋–ป๊ฒŒ ์Šคํ„ฐ๋””๋ฅผ ์šด์˜ํ• ์ง€ ๊ฒฐ์ •ํ•˜์˜€์Šต๋‹ˆ๋‹ค. ์Šคํ„ฐ๋”” ์šด์˜ ๋ฐฉํ–ฅ์„ฑ ๊ฐ•์˜๋ฅผ ๋ณด๋ฉฐ ์ฟ ๋ฒ„๋„คํ‹ฐ์Šค ๊ธฐ๋ฐ˜ MLOps๋ฅผ ๋งŒ๋“œ๋Š” ๊ฒƒ์„ ๊ถ๊ทน์ ์ธ ๋ชฉํ‘œ๋กœ ํ•˜๋ฉฐ ๊ทธ์— ๋„์›€๋˜๋Š” ์ปจํผ๋Ÿฐ์Šค, ๋…ผ๋ฌธ, kaggle code review, ํ˜„์—…์ ์šฉ ์‚ฌ๋ก€ ๊ฐ™์€ ๋ถ€๊ฐ€์ ์ธ ๋ ˆํผ๋Ÿฐ์Šค ๋Œ€ํ•ด ์ง€์†์ ์œผ๋กœ ์†Œํ†ตํ•˜๋ฉฐ ๋ถ€์กฑํ•œ ๋ถ€๋ถ„์„ ์ฑ„์šฐ๊ณ  MLOps๋ฅผ ์ดํ•ดํ•˜๊ณ  ๊ตฌํ˜„

  • [๊ณผ์ œ] ๋‚ด๊ฐ€ ์ƒ๊ฐํ•˜๋Š” MLOps ์ƒ๊ฐํ•ด์˜ค๊ธฐ(~2024.01.03)

1์ฃผ์ฐจ - ๋‚ด๊ฐ€ ์ƒ๊ฐํ•˜๋Š” MLops๋ž€?& ๊ฐ•์˜ ์„ ์ •

๊ฐ์ž๊ฐ€ ์ƒ๊ฐํ•˜๋Š” MLops๋ฅผ ๋งํ•˜์˜€์Šต๋‹ˆ๋‹ค.
๊ทธ๋ฆฌ๊ณ  mlops ๊ฐ•์ขŒ๋“ค์„ ์‚ดํŽด๋ณด๋ฉฐ ๊ฐ•์ขŒ๋ฅผ ๊ณจ๋ž์Šต๋‹ˆ๋‹ค
[์„ ์ • ๊ฐ•์ขŒ]๋จธ์‹ ๋Ÿฌ๋‹ ์—”์ง€๋‹ˆ์–ด ์‹ค๋ฌด - chris song
https://www.inflearn.com/course/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EC%97%94%EC%A7%80%EB%8B%88%EC%96%B4-%EC%8B%A4%EB%AC%B4#curriculum

  • [๊ณผ์ œ] Session 1๊นŒ์ง€ ๋“ฃ๊ธฐ

2์ฃผ์ฐจ - Session 1 ํ›„๊ธฐ ๋ฐ mlops

๋“ค์€ ๊ฐ•์˜ Session0. ๋จธ์‹ ๋Ÿฌ๋‹ ํŒŒ์ดํ”„๋ผ์ธ ์†Œ๊ฐœ Session1. ๋จธ์‹ ๋Ÿฌ๋‹ ํ”„๋กœ์ ํŠธ ์‹คํ—˜๊ด€๋ฆฌ
์˜ค๋Š˜์˜ Insight
์›๋””๋น„์˜ ์กด์žฌ๋ฅผ ์•Œ๋‹ค.
์‰ฌ์šด ๋จธ์‹ ๋Ÿฌ๋‹๊ณผ ์–ด๋ ค์šด ๋จธ์‹ ๋Ÿฌ๋‹์˜ ์ฐจ์ด
๋‹ฌํŒŒ๋Š” ๋ชจ๋“  ์„œ๋น„์Šค๊ฐ€ 2์ฃผ์•ˆ์— ๋๋‚จ
๋ฐ์ดํ„ฐ์˜ ๋ณ€ํ™˜์ด ๋นจ๋ฆฌ ์ผ์–ด๋‚˜๋ฉด ๋ชจ๋ธ ํ•™์Šต์„ ์ž๋™ํ™”ํ•˜๋‹ˆ๊นŒ ๋ชจ๋ธํ•™์Šต์„ ์ž๋™ํ™” ์‹œ์ผœ์คŒ
์›จ์ดํŠธ ์ธ ๋ฐ”์ด์–ด์Šค๋กœ ๊ฒฐ๊ณผ๋ฅผ ๋„์ถœํ•˜๋Š” ๋ฐฉ์‹์ด ์ƒ๋‹นํžˆ ์ „๋ฌธ์ ์ด๊ณ  ์‹ค์ œ ๋ฐœํ‘œ์—์„œ ์จ๋ณผ๋งŒ
elice MLOps conference ์„ธ์…˜ 2๊ฐœ ๋ง›๋ณด๊ธฐ

  • DATABRICKS๋ฅผ ํ™œ์šฉํ•œ MLOps
  • MLOps๋ฅผ ์‹œ์ž‘ํ•˜๋Š” 5๋‹จ๊ณ„ ๊ธฐ์ดˆ๋ถ€ํ„ฐ [๊ณผ์ œ] ๊ฐ์ž MLops tool ํ•œ๊ฐœ์”ฉ ๊ณต๋ถ€ํ•ด์˜ค๊ธฐ

3์ฃผ์ฐจ - Session 2 ํ›„๊ธฐ ๋ฐ mlops tool

Session 2. ์ฝ”๋“œ ํ’ˆ์งˆ, ๋ฐ์ดํ„ฐ ๊ฒ€์ฆ, ๋ชจ๋ธ ๋ถ„์„ ์˜ค๋Š˜์˜ Insight
๋ฏผ์šฐ - mlflow ๊ฐ€๊ฒฝ - amazone sagemaker

์˜ˆ๋žŒ - tensorflow extended ๋ฏผ์ˆ˜ - jenkins
๋‹ค์€ - github action
๊ฐ์ž ์กฐ์‚ฌํ•ด์˜จ ํˆด์„ ๋ฐœํ‘œํ•˜์˜€๊ณ  ๋ฐœํ‘œํ•˜๋ฉด์„œ ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘๋ถ€ํ„ฐ ๋ฐฐํฌ ๋ถ€๋ถ„์„ ๋งก๊ฑฐ๋‚˜ ์‹คํ—˜ ๊ฒ€์ฆ ๋ถ€๋ถ„์„ ๋งก๊ฑฐ๋‚˜ ์ „๊ณผ์ •์„ ๋งก๊ฑฐ๋‚˜ ๋‹ค์–‘ํ•œ ํˆด์„ ๋ณด๋ฉด์„œ ์–ด๋–จ ๋•Œ ์–ด๋– ์–ด๋– ํ•œ ํˆด์„ ์จ์•ผํ•˜๋Š”์ง€ ์•Œ๊ฒŒ๋˜์—ˆ๋‹ค.
๊ทธ๋ฆฌ๊ณ  ์ด๋Ÿฌํ•œ ํˆด์„ ์‚ฌ์šฉํ•ด์„œ ์ž๋™ํ™”๋ฅผ ํ•˜์—ฌ ์ „์ฒด์ ์ธ ์—…๋ฌด ํšจ์œจ์ด ์˜ฌ๋ผ๊ฐˆ ์ˆ˜ ์žˆ๊ณ 
์ „์ฒด์ ์ธ ํ’ˆ์งˆ ํ–ฅ์ƒ์— ๊ธฐ์—ฌํ•˜๊ณ  researcher์™€ ์‹œ๋„ˆ์ง€๋„ ๋‚  ๊ฒƒ์ด๋‹ค.

[๊ณผ์ œ] MLOps ํ™œ์šฉ ์‚ฌ๋ก€ ํ•˜๋‚˜์”ฉ ์กฐ์‚ฌํ•ด์˜ค๊ธฐ

4์ฃผ์ฐจ - Session 3 ํ›„๊ธฐ ๋ฐ MLOps ํ™œ์šฉ ์‚ฌ๋ก€ ๊ณต์œ 

Session 3. ๋„์ปค&์ฟ ๋ฒ„๋„คํ‹ฐ์Šค ๊ธฐ์ดˆ
MLOps ์—”์ง€๋‹ˆ์–ด๊ฐ€ ์™œ ๋„์ปค์™€ ์ฟ ๋ฒ„๋„คํ‹ฐ์Šค๋ฅผ ์‚ฌ์šฉํ•˜๋Š”์ง€ ํ˜„์—…์—์„œ ํ˜‘์—…์„ ํ•  ๋•Œ ๋„์ปค์™€ ์ฟ ๋ฒ„๋„คํ‹ฐ์Šค๊ฐ€ ์–ด๋–ค ์—ญํ• ์„ ๋งก๋Š”์ง€ ์•Œ๊ฒŒ๋˜์—ˆ๊ณ 
node, pod, container, docker, kubernetes ๊ฐ™์€ ๊ธฐ๋ณธ ๊ฐœ๋…์„ ์•Œ๊ฒŒ๋˜์—ˆ๋‹ค.
MLOps ํ™œ์šฉ ์‚ฌ๋ก€๋Š”

  • ๊ธฐ์—…๋“ค์˜ MLOps ํŒŒ์ดํ”„ ๋ผ์ธ ๊ตฌ์ถ•(SK, ๋„ค์ด๋ฒ„, ์นด์นด์˜ค)

  • ์ถ”์ฒœ์‹œ์Šคํ…œ, ์ž์œจ ์ฃผํ–‰ ๊ธฐ์ˆ ์— ์“ฐ์ด๋Š” ํŒŒ์ดํ”„๋ผ์ธ

  • ํ’ˆ์งˆ ๊ด€๋ฆฌ, ์‹คํ—˜
    ๊ทธ๋Ÿฌํ•œ ํ˜„์—… ์‚ฌ๋ก€๋“ค์„ ์‚ดํŽด๋ณด๋ฉฐ ์™œ MLOps๊ฐ€ ํ•„์š”ํ•˜๊ณ  ๋ฐ์ดํ„ฐ๋ฅผ ์ž˜๊ด€๋ฆฌํ•  ์ˆ˜ ์žˆ์–ด์•ผํ•˜๋Š”์ง€

    ๋ณด๋‹ค ์ง๊ด€์ ์œผ๋กœ ์•Œ๊ฒŒ ๋˜์—ˆ๋‹ค.
    [๊ณผ์ œ] MLOps ํ™œ์šฉํ•œ Code Review ํ•˜๋‚˜์”ฉ ํ•ด์˜ค๊ธฐ

5์ฃผ์ฐจ - Session 4 ํ›„๊ธฐ ๋ฐ MLOps ํ™œ์šฉํ•œ Code Review

์˜ค๋Š˜์˜ ๊ฐ•์˜ Keypoint

  • kubeflow์— ๋Œ€ํ•ด์„œ ์•Œ๊ณ  ์‹ค์Šต์„ ํ†ตํ•ด ์„ผํŠธ๋Ÿด ๋Œ€์‹œ๋ณด๋“œ, TFjobs, mini0 ๊ณผ ๊ฐ™์€ ๊ธฐ๋Šฅ์„ ์•Œ๊ฒŒ ๋˜์—ˆ๋‹ค.
  • ์ถ”์ƒํ™”์™€ ์žฌ์‚ฌ์šฉ์„ฑ ๋„์ปค๋ฅผ ์ด์šฉํ•ด์„œ ๊ด€๋ฆฌ ๋น„์Šทํ•œ ๊ฑธ ๋˜ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Œ
  • ์กฐํ•ฉ๊ฐ€๋Šฅ์„ฑ(๋…๋ฆฝ์ ), ์ด์‹์„ฑ, ์œ ๋™์„ฑ,
  • ํ‘œ์ค€ํ™” yamlํŒŒ์ผ๋กœ ๋‹ค ์ •์˜ํ•  ์ˆ˜ ์žˆ์Œ
  • ์žฌ์‚ฌ์šฉ๊ฐ€๋Šฅํ•œ ์ปดํฌ๋„ŒํŠธ์˜ ์›๋ฆฌ
    MLOps ํ™œ์šฉํ•œ Code Review
    • github action,AWS S3, S2๋ฅผ ํ™œ์šฉํ•œ ์ž๋™ ๋ฐฐํฌ
    • ์‹ค์ œ ํ”„๋กœ์ ํŠธ์—์„œ fast api ์ฝ”๋“œ๋ฅผ dockerfile ๋“ฑ์œผ๋กœ ์ด๋ฏธ์ง€ํ™” ํ›„ ์ปจํ…Œ์ด๋„ˆ๋กœ ์ƒ์„ฑ,
    • Kubeflow๋กœ pytorch ๋ชจ๋ธ ๋ฐฐํฌ CODE
    • MLOps์˜ 3๋Œ€ ๊ตฌ์„ฑ ์š”์†Œ ์ด์•ผ๊ธฐํ•˜๊ณ  ํ† ์˜ํ•˜์˜€์Œ [๊ณผ์ œ]๊ฐ์ž ํ•œ ๊ฒƒ GITHUB ์ •๋ฆฌ ๋ฐ ์žฌ์ถฉ์ „์˜์‹œ๊ฐ„๐Ÿ˜Ž

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Jupyter Notebook 100.0%