Implementasi Metadata Management Berbasis Apache Atlas Pada Arsitektur Medallion Data Lakehouse
Perkembangan teknologi digital meningkatkan volume, variasi, dan kecepatan data secara signifikan, sehingga organisasi memerlukan arsitektur pengelolaan data yang efisien. Salah satu pendekatan yang banyak digunakan adalah Medallion Data Lakehouse yang membagi pengolahan data ke dalam layer staging, bronze, silver, dan gold. Namun, tanpa pengelolaan metadata yang baik, proses pencarian data, pelacakan transformasi, dan penerapan data governance menjadi sulit dilakukan. Penelitian ini bertujuan menerapkan metadata management berbasis Apache Atlas pada arsitektur Medallion Data Lakehouse. Implementasi dilakukan melalui integrasi Apache Spark, Hive Metastore, dan Apache Atlas dengan penerapan metadata harvesting otomatis pada setiap layer. Metadata yang dikelola mencakup metadata teknis, bisnis, operasional, business glossary, klasifikasi data, dan data lineage. Hasil menunjukkan bahwa penerapan metadata management memenuhi kebutuhan klasifikasi data, business glossary, dan metadata bisnis pada lingkungan institusi pendidikan serta mendukung pelacakan transformasi data secara otomatis. Evaluasi metadata berdasarkan dimensi completeness, accuracy, timeliness, dan consistency menunjukkan hasil yang baik, dengan accuracy di atas 90% serta completeness, timeliness, dan consistency mencapai 100% pada layer gold. Dengan demikian, implementasi Apache Atlas pada arsitektur Medallion Data Lakehouse meningkatkan transparansi, keterlacakan, konsistensi, dan tata kelola data.
URI
https://repo.itera.ac.id/depan/submission/SB2607050006
Keyword
Apache Atlas Arsitektur Medallion Data Lakehouse Data Lineage Metadata Management