Model Deployment
Proses memindahkan model machine learning yang sudah dilatih ke lingkungan production sehingga dapat digunakan oleh aplikasi nyata untuk menghasilkan prediksi.
Model Deployment adalah tahap akhir siklus hidup ML di mana model yang sudah dilatih dan dievaluasi diintegrasikan ke sistem production untuk melayani prediksi bagi pengguna atau sistem lain.
Strategi Deployment
Real-time Inference (Online Serving)
- Model melayani satu permintaan secara sinkron
- Latency: <100ms
- Cocok untuk: rekomendasi real-time, fraud detection, chatbot
- Platform: REST API (FastAPI, Flask), gRPC
Batch Inference (Offline Serving)
- Model memproses banyak data sekaligus secara periodik
- Latency: menit hingga jam
- Cocok untuk: scoring bulanan, laporan prediktif, segmentasi
- Platform: Spark, Airflow, scheduled Python jobs
Batch vs Real-time Inference
| Aspek | Batch Inference | Real-time Inference |
|---|---|---|
| Latency | Menit - jam | Milidetik |
| Throughput | Sangat tinggi | Bergantung pada hardware |
| Cost | Lebih rendah | Lebih tinggi |
| Use case | Scoring batch, laporan | Rekomendasi, fraud, chatbot |
| Kompleksitas | Sederhana | Lebih kompleks (scaling, SLA) |
Komponen Model Deployment
- Model artifact: File model (pickle, .pt, ONNX, TF SavedModel)
- Preprocessing: Pipeline yang identik dengan training
- API layer: Endpoint HTTP/gRPC untuk menerima request
- Serving infrastructure: Docker, Kubernetes, serverless
- Monitoring: Latency, error rate, data drift, prediction drift
Istilah Terkait
Feature Engineering
Machine Learning & AIProses mengubah data mentah menjadi fitur (variabel input) yang lebih informatif dan relevan untuk meningkatkan performa model machine learning.
MLOps
Machine Learning & AIPraktik dan tools untuk menstandarisasi, mengotomasi, dan memonitor siklus hidup model machine learning dari pengembangan hingga deployment dan monitoring di production.
Model Training
Machine Learning & AIProses melatih algoritma machine learning menggunakan data berlabel sehingga model mempelajari pola dan dapat membuat prediksi yang akurat pada data baru.
Udah paham Model Deployment? Lanjut latihan SQL dan Excel yuk!
Latihan interaktif, langsung di browser.