MLOps

Sadržaj

Prvi deo: Od mašinskog učenja do produkcionih ML sistema

MLOps povezuje mašinsko učenje, podatke, softversko inženjerstvo, DevOps kulturu i operativni rad nad inteligentnim sistemima. Umesto da se ML model posmatra samo kao rezultat treninga u notebook-u, MLOps uvodi razmišljanje o celom životnom ciklusu modela: od podataka, eksperimenata i verzionisanja, preko validacije i deployment-a, do monitoringa, drift-a, sigurnosti, governance-a i odgovornog održavanja modela u produkciji. Prvi deo praktikuma objašnjava šta je MLOps, zašto je važan, kako se razlikuje od klasičnog DevOps-a i zašto su podaci, eksperimenti, pipeline-i i modeli deo istog operativnog sistema.

I. Uvod u MLOps

1. Šta je MLOps – spoj mašinskog učenja, DevOps kulture i produkcionih sistema 2. Zašto učiti MLOps – put od ML eksperimenta do stabilnog inteligentnog servisa 3. DevOps i MLOps – sličnosti, razlike i novi izazovi rada sa modelima 4. Životni ciklus ML modela – od podataka do produkcije i stalnog poboljšavanja 5. MLOps uloge i timovi – data scientist, ML engineer, DevOps i platform timovi

II. Podaci, eksperimenti i verzionisanje

6. Podaci kao osnova modela – kvalitet, struktura, poreklo i poverenje u podatke 7. Data pipeline – priprema, transformacija i isporuka podataka za ML sistem 8. Feature engineering – pretvaranje podataka u korisne osobine za model 9. Experiment tracking – praćenje eksperimenata, parametara, metrika i rezultata 10. Verzionisanje podataka i modela – kako znati šta je trenirano, kada i nad čim

III. ML pipeline, trening i evaluacija modela

11. ML pipeline – organizovan tok od podataka do istreniranog modela 12. Trening modela – lokalno, serverski, u kontejneru i u cloud okruženju 13. Evaluacija modela – metrike, validacija i provera ponašanja modela 14. Model registry – katalog modela, verzija, statusa i odobrenih kandidata 15. Reproducibilnost – kako ponoviti eksperiment i dobiti razumljiv rezultat

IV. CI/CD, deployment i servisiranje modela

16. CI/CD za ML – automatizacija testiranja, validacije i isporuke modela 17. Kontejnerizacija ML aplikacija – Docker, slike, zavisnosti i prenosivost 18. Deployment modela – batch, real-time i API pristupi u produkciji 19. Model serving – kako model prima zahteve i vraća predikcije korisnicima 20. Release strategije za modele – canary, shadow, blue-green i A/B testiranje

Drugi deo: Monitoring, drift, governance, platforme i operativna zrelost

Kada model uđe u produkciju, posao nije završen. MLOps podrazumeva stalno praćenje ponašanja modela, kvaliteta podataka, promena u okruženju, troškova, performansi, sigurnosti i poslovnog uticaja. Model može da zastari, podaci mogu da se promene, korisničko ponašanje može da se pomeri, a predikcije mogu postati manje pouzdane. Drugi deo praktikuma vodi kroz monitoring modela, data drift, model drift, observability, governance, sigurnost, Kubernetes i cloud native rad, feature store, automatizovano retreniranje i mini projekte koji pokazuju kako se MLOps uvodi u realan timski i produkcioni rad.

V. Monitoring modela, drift i operativni nadzor

21. Monitoring modela – praćenje predikcija, performansi i ponašanja u produkciji 22. Data drift – kada se ulazni podaci promene u odnosu na trening skup 23. Model drift – kada model gubi tačnost zbog promena u realnom svetu 24. Observability za ML – metrike, logovi, tragovi i objašnjenja ponašanja modela 25. Alerting za ML sisteme – kada model, podaci ili pipeline traže reakciju

VI. Automatizacija, retreniranje i governance

26. Automatizacija MLOps procesa – manje ručnog rada, više ponovljivosti i kontrole 27. Automatizovano retreniranje – kada i kako ponovo trenirati model 28. Validacija podataka i modela – provere pre treninga, deployment-a i upotrebe 29. Governance i audit – odgovornost, tragovi odluka i kontrola ML sistema 30. Odgovorna AI praksa – objašnjivost, fer odnos, rizici i ljudski nadzor

VII. MLOps u cloud native i Kubernetes okruženju

31. MLOps i Kubernetes – pokretanje pipeline-a, modela i servisa u klasteru 32. Feature store – centralno upravljanje osobinama za trening i serving 33. Orkestracija ML pipeline-a – zakazivanje, zavisnosti i kontrola toka rada 34. Skaliranje ML servisa – CPU, memorija, GPU, latencija i opterećenje 35. ML platforme i alati – praktičan pregled ekosistema za MLOps rad

VIII. Sigurnost, performanse, zrelost i mini projekti

36. Sigurnost ML sistema – zaštita podataka, modela, API-ja i pipeline-a 37. Performanse i troškovi – optimizacija inference-a, resursa i produkcionog rada 38. MLOps zrelost tima – od ručnih eksperimenata do stabilne ML platforme 39. Mini projekat – mali MLOps pipeline za trening, evaluaciju i verzionisanje modela 40. Mini projekat – monitoring modela, drift i upozorenja u praktičnom labu

Zaključak: MLOps kao most između podataka, modela, produkcije, pouzdanosti i odgovorne inteligencije