๐ข 1. Pendahuluan
๐ Pengertian Data Cleansing dan Data Quality
Dalam sistem Data Warehouse, kualitas data menjadi faktor paling penting karena seluruh analisis, dashboard, laporan, dan pengambilan keputusan bergantung pada data yang digunakan.
๐ Data Cleansing
Data Cleansing adalah proses:
- membersihkan data,
- memperbaiki kesalahan,
- menghapus duplikasi,
- memperbaiki inkonsistensi data.
๐ Data Quality
Data Quality adalah tingkat kualitas data berdasarkan:
- akurasi,
- konsistensi,
- kelengkapan,
- validitas,
- reliabilitas data.
๐ Narasi
Banyak organisasi memiliki data dalam jumlah besar, tetapi:
- tidak konsisten,
- banyak typo,
- format berbeda,
- terdapat data kosong,
- data ganda.
Jika data buruk digunakan dalam analisis:
- laporan menjadi salah,
- dashboard tidak akurat,
- keputusan bisnis keliru.
Karena itu Data Cleansing dan Data Quality menjadi fondasi utama dalam Data Warehouse.
๐ผ๏ธ Ilustrasi Data Quality dan Data Cleaning
6
๐ข 2. Pentingnya Data Quality
๐ Mengapa Data Quality Penting?
Data berkualitas tinggi diperlukan untuk:
- Business Intelligence,
- dashboard,
- machine learning,
- Artificial Intelligence,
- analisis bisnis,
- pengambilan keputusan.
๐ Narasi
Prinsip penting:
โGarbage In, Garbage Outโ
Jika data yang masuk salah, maka:
- analisis salah,
- prediksi salah,
- keputusan salah.
๐ Dampak Data Berkualitas Buruk
| Dampak | Penjelasan |
|---|---|
| Laporan Salah | Informasi tidak akurat |
| Keputusan Keliru | Strategi bisnis gagal |
| Analisis Tidak Valid | Dashboard menyesatkan |
| Kerugian Finansial | Kesalahan operasional |
| Turunnya Kepercayaan | Data tidak dipercaya |
๐ผ๏ธ Diagram Dampak Poor Data Quality
7
๐ข 3. Dimensi Data Quality
๐ Dimensi Utama Data Quality
- Accuracy
- Completeness
- Consistency
- Validity
- Uniqueness
- Timeliness
๐ก 3.1 Accuracy (Akurasi)
๐ Penjelasan
Data harus benar dan sesuai fakta.
๐ Narasi
Contoh salah:
- tanggal lahir tidak valid,
- nama salah ketik,
- IPK melebihi batas.
๐ก 3.2 Completeness (Kelengkapan)
๐ Penjelasan
Data harus lengkap dan tidak kosong.
๐ Contoh
| Nama | Prodi | IPK |
|---|---|---|
| Andi | Informatika | 3.75 |
| Budi | NULL | 3.40 |
๐ก 3.3 Consistency (Konsistensi)
๐ Penjelasan
Format data harus seragam.
๐ Contoh Inkonsistensi
| Data | Masalah |
|---|---|
| IF | Informatika |
| SI | Sistem Informasi |
| S.Informasi | Tidak konsisten |
๐ก 3.4 Validity (Validitas)
๐ Penjelasan
Data harus sesuai aturan.
๐ Contoh
| Data | Status |
|---|---|
| IPK 3.75 | Valid |
| IPK 7.00 | Tidak valid |
๐ก 3.5 Uniqueness (Keunikan)
๐ Penjelasan
Tidak boleh ada data duplikat.
๐ก 3.6 Timeliness (Ketepatan Waktu)
๐ Penjelasan
Data harus terbaru dan relevan.
๐ผ๏ธ Diagram Dimensi Data Quality
6
๐ข 4. Jenis Permasalahan Data
๐ Masalah Umum pada Data
- Missing Value
- Duplicate Data
- Typographical Error
- Inconsistent Data
- Invalid Data
- Outlier
๐ก 4.1 Missing Value
๐ Penjelasan
Data kosong atau NULL.
๐ Narasi
Data kosong menyebabkan:
- analisis tidak lengkap,
- dashboard salah,
- AI gagal memprediksi.
๐ก 4.2 Duplicate Data
๐ Penjelasan
Data ganda dalam sistem.
๐ Contoh
| NIM | Nama |
|---|---|
| 22001 | Andi |
| 22001 | Andi |
๐ก 4.3 Typographical Error
๐ Penjelasan
Kesalahan penulisan.
๐ Contoh
| Salah | Benar |
|---|---|
| Infromatika | Informatika |
| Sukabmi | Sukabumi |
๐ก 4.4 Inconsistent Data
๐ Penjelasan
Format berbeda untuk data yang sama.
๐ก 4.5 Invalid Data
๐ Penjelasan
Data tidak sesuai aturan.
๐ก 4.6 Outlier
๐ Penjelasan
Data ekstrem yang tidak normal.
๐ผ๏ธ Ilustrasi Dirty Data
7
๐ข 5. Data Cleansing Process
๐ Tahapan Data Cleansing
- Data Profiling
- Data Parsing
- Standardization
- Matching
- Deduplication
- Validation
๐ก 5.1 Data Profiling
๐ Penjelasan
Menganalisis kondisi data.
๐ก 5.2 Data Parsing
๐ Penjelasan
Memecah data menjadi bagian kecil.
๐ก 5.3 Standardization
๐ Penjelasan
Menyamakan format data.
๐ก 5.4 Matching
๐ Penjelasan
Mencocokkan data yang mirip.
๐ก 5.5 Deduplication
๐ Penjelasan
Menghapus data ganda.
๐ก 5.6 Validation
๐ Penjelasan
Memastikan data sesuai aturan.
๐ผ๏ธ Diagram Data Cleansing Process
9
๐ข 6. Teknik Data Cleansing
๐ Teknik Utama
- Remove Duplicates
- Replace Missing Values
- Standardization
- Data Transformation
- Validation Rules
- Fuzzy Matching
๐ Contoh Teknik Cleansing
| Masalah | Solusi |
|---|---|
| NULL | Isi default |
| Duplikat | Remove duplicates |
| Typo | Koreksi manual |
| Format beda | Standardisasi |
๐ Narasi
Teknik cleansing dapat dilakukan:
- manual,
- otomatis menggunakan script,
- menggunakan tools ETL.
๐ผ๏ธ Teknik Data Cleaning
6
๐ข 7. Data Quality dalam ETL
๐ Hubungan ETL dan Data Quality
Data cleansing biasanya dilakukan pada tahap:
- Transform dalam ETL.
๐ Narasi
Pada proses transformasi:
- typo diperbaiki,
- data ganda dihapus,
- format disamakan.
๐ผ๏ธ ETL dan Data Quality
11
๐ข 8. Data Governance dan Data Quality
๐ Pengertian
Data Governance adalah pengelolaan kebijakan data.
๐ Narasi
Data governance memastikan:
- kualitas data terjaga,
- keamanan data,
- akses data terkontrol,
- standar data konsisten.
๐ Komponen Data Governance
| Komponen | Fungsi |
|---|---|
| Policy | Aturan data |
| Security | Keamanan |
| Metadata | Informasi data |
| Quality Control | Pengawasan kualitas |
๐ผ๏ธ Diagram Data Governance
8
๐ข 9. Tools Data Cleansing
๐ Tools Populer
| Tools | Fungsi |
|---|---|
| OpenRefine | Data cleaning |
| Talend | ETL & cleansing |
| Pentaho | ETL |
| Excel | Data preprocessing |
| Python Pandas | Cleaning otomatis |
| SQL | Validasi data |
๐ Narasi
Dalam dunia industri, cleansing sering dilakukan menggunakan:
- ETL tools,
- Python,
- SQL,
- Big Data platform.
๐ผ๏ธ Ilustrasi Tools Data Cleaning
7
๐ข 10. Studi Kasus Kampus
๐ Studi Kasus
Universitas memiliki data mahasiswa:
- ganda,
- typo,
- format prodi berbeda.
๐ Contoh Data Bermasalah
| NIM | Nama | Prodi |
|---|---|---|
| 22001 | Andi | IF |
| 22001 | Andi | Informatika |
| 22002 | Budi | Infromatika |
๐ Solusi
- Hapus duplikat
- Perbaiki typo
- Standardisasi nama prodi
๐ข 11. Tutorial Praktikum
๐ป Praktikum Data Cleansing dengan SQL
๐ Tools
- MySQL
- XAMPP
๐ก Langkah 1 โ Membuat Database
CREATE DATABASE cleansing_db;
๐ก Langkah 2 โ Membuat Tabel
CREATE TABLE mahasiswa (
nim VARCHAR(10),
nama VARCHAR(100),
prodi VARCHAR(50)
);
๐ก Langkah 3 โ Input Data Bermasalah
INSERT INTO mahasiswa VALUES
('22001','Andi','IF'),
('22001','Andi','Informatika'),
('22002','Budi','Infromatika');
๐ก Langkah 4 โ Standardisasi Data
UPDATE mahasiswa
SET prodi='Informatika'
WHERE prodi='IF';
๐ก Langkah 5 โ Perbaikan Typo
UPDATE mahasiswa
SET prodi='Informatika'
WHERE prodi='Infromatika';
๐ก Langkah 6 โ Analisis Data
SELECT prodi, COUNT(*)
FROM mahasiswa
GROUP BY prodi;
๐ผ๏ธ Diagram Tutorial SQL Cleansing
7
๐ข 12. Best Practice Data Quality
๐ Tips Menjaga Data Quality
- Validasi data sejak input
- Gunakan format standar
- Monitoring kualitas data
- Gunakan ETL otomatis
- Audit data berkala
- Gunakan metadata
๐ข 13. Latihan Mahasiswa
๐ฏ Latihan Teori
- Jelaskan pengertian Data Cleansing!
- Apa itu Data Quality?
- Sebutkan dimensi Data Quality!
- Apa dampak poor data quality?
- Mengapa data cleansing penting?
๐ฏ Latihan Praktikum
Lakukan cleansing pada:
- data mahasiswa,
- data penjualan,
- data rumah sakit.
Cari:
- typo,
- duplikasi,
- missing value,
- inkonsistensi.
๐ข 14. Diskusi Kelas
๐ฌ Topik Diskusi
- Mengapa data berkualitas sangat penting?
- Apa tantangan menjaga data quality?
- Bagaimana AI dipengaruhi oleh data buruk?
- Apakah cleansing manual masih diperlukan?
๐ข 15. Kesimpulan
๐ Ringkasan
Data Cleansing dan Data Quality merupakan bagian penting dalam pembangunan Data Warehouse.
Dengan data yang bersih:
- analisis lebih akurat,
- dashboard lebih valid,
- Business Intelligence lebih optimal,
- AI dan Machine Learning lebih efektif.
Dalam era Big Data dan AI, kualitas data menjadi aset strategis organisasi modern.