Cloud & Modern Data Stack

Tools modern seperti Snowflake, BigQuery, dbt, dan cloud platforms

26 istilah

AWS

Amazon Web Services

Pemula

AWS (Amazon Web Services) adalah platform cloud milik Amazon yang jadi pilihan utama untuk membangun data stack modern, dari storage di S3 sampai data warehouse di Redshift. Kalau ngomongin cloud di dunia data, AWS hampir selalu jadi referensi pertama.

Airbyte

Menengah

Platform integrasi data open-source yang memudahkan pengiriman data dari ratusan sumber (database, API, SaaS) ke data warehouse atau data lake secara otomatis dengan pendekatan ELT.

Amazon Redshift

Menengah

Layanan cloud data warehouse terkelola dari AWS yang menggunakan penyimpanan kolumnar untuk analitik cepat pada dataset berskala petabyte, terintegrasi penuh dengan ekosistem AWS.

Apache Airflow

Menengah

Platform orkestrasi workflow open-source yang memungkinkan penjadwalan, monitoring, dan manajemen pipeline data kompleks menggunakan kode Python.

Apache Kafka

Lanjutan

Platform event streaming terdistribusi yang memungkinkan pengiriman, penyimpanan, dan pemrosesan aliran data (stream) real-time dalam skala besar dengan throughput tinggi dan latensi rendah.

Apache Spark

Lanjutan

Framework komputasi terdistribusi open-source yang memungkinkan pemrosesan data skala besar secara in-memory, jauh lebih cepat dari Hadoop MapReduce, dengan dukungan batch, streaming, ML, dan SQL.

Azure

Microsoft Azure

Pemula

Azure (Microsoft Azure) adalah platform cloud milik Microsoft yang jadi favorit kalangan enterprise, terutama yang sudah pakai ekosistem Microsoft seperti SQL Server, Power BI, atau Microsoft 365. Untuk data stack, Azure punya Synapse Analytics, Data Factory, dan Azure Databricks sebagai andalan.

Cloud Computing

Pemula

Model komputasi yang memungkinkan akses on-demand ke sumber daya IT seperti server, storage, dan software melalui internet, tanpa harus memiliki infrastruktur fisik sendiri.

Cloud Data Warehouse

Pemula

Database khusus untuk analisis skala besar yang dijalankan di cloud: nggak perlu setup server fisik, bayar sesuai pemakaian, dan bisa handle data ratusan juta baris dengan cepat.

Data Mesh

Lanjutan

Pendekatan desentralisasi data di mana setiap domain bisnis (tim marketing, finance, dll) bertanggung jawab atas data mereka sendiri sebagai produk, bukan satu tim data pusat yang ngurus semuanya.

Data Orchestration

Menengah

Koordinasi, penjadwalan, dan monitoring semua pipeline data secara otomatis: orchestration tool mastiin task A selesai dulu sebelum task B jalan, dan kalau ada yang gagal, langsung kasih alert.

DataOps

Menengah

Pendekatan agile dan DevOps untuk pengelolaan pipeline data: automation, testing, monitoring, dan kolaborasi diterapkan ke proses data supaya kualitas data lebih terjaga dan delivery lebih cepat.

Databricks

Menengah

Platform analitik terpadu berbasis cloud yang menggabungkan Apache Spark, SQL, machine learning, dan Delta Lake dalam satu workspace kolaboratif untuk data engineer, analyst, dan data scientist.

Fivetran

Menengah

Platform ELT terkelola (managed) yang secara otomatis menyinkronisasi data dari ratusan sumber seperti database, SaaS, dan API ke data warehouse dengan zero maintenance.

GCP

Google Cloud Platform

Pemula

GCP (Google Cloud Platform) adalah layanan cloud milik Google yang terkenal karena BigQuery, data warehouse serverless yang bisa query data petabyte tanpa perlu manage cluster. Buat tim yang analytics-heavy dan banyak kerja pakai produk Google, GCP sering jadi pilihan paling natural.

Google BigQuery

Menengah

Layanan data warehouse serverless dari Google Cloud yang memungkinkan analitik SQL pada dataset berskala petabyte dengan model bayar-per-query dan integrasi native dengan ekosistem Google Cloud.

Lakehouse Architecture

Menengah

Arsitektur data yang gabungkan fleksibilitas data lake (bisa simpan data apapun termasuk unstructured) dengan struktur dan kemampuan analitik data warehouse (ACID transactions, fast query, schema enforcement) dalam satu sistem.

Looker

Menengah

Platform Business Intelligence modern dari Google Cloud yang menggunakan LookML sebagai semantic layer untuk mendefinisikan metrik bisnis sekali dan menggunakannya di seluruh laporan secara konsisten.

Metabase

Pemula

Platform Business Intelligence open-source yang memungkinkan seluruh tim mengeksplorasi data dan membuat dashboard tanpa coding, dengan fitur SQL native untuk pengguna teknis.

Modern Data Stack

Pemula

Kombinasi tools cloud-native yang sering dipakai bareng: EL tool (Fivetran/Airbyte) buat tarik data, Cloud Data Warehouse (BigQuery/Snowflake) buat simpan, dbt buat transform, dan BI tool buat visualisasi.

Power BI

Pemula

Platform Business Intelligence dari Microsoft yang memungkinkan pembuatan laporan dan dashboard interaktif dengan integrasi mendalam ke ekosistem Microsoft seperti Excel, Azure, dan SQL Server.

Reverse ETL

Menengah

Kebalikan dari ETL biasa: kalau ETL tarik data dari source ke warehouse, Reverse ETL kirim data dari warehouse balik ke tools operasional kayak CRM, email marketing, atau ads platform supaya bisa dipakai langsung oleh tim bisnis.

Semantic Layer

Menengah

Layer abstraksi yang nyimpen definisi business metrics dan dimensions di satu tempat, supaya kalau ada yang nanya 'apa itu revenue?', jawabannya sama di mana-mana dan nggak beda-beda tergantung siapa yang bikin query.

Snowflake

Menengah

Platform cloud data warehouse yang memisahkan storage dan compute, memungkinkan skalabilitas independen, berbagi data lintas organisasi, dan analitik SQL berkecepatan tinggi.