Pengenalan Topic Modelling

Modul ini memperkenalkan konsep dasar Topic Modelling sebagai teknik unsupervised learning dalam NLP untuk menemukan struktur tema tersembunyi pada kumpulan dokumen teks tanpa label manual. Materi mencakup pengertian topic modelling, perbedaannya dengan sentiment analysis, serta karakteristik output dan ruang lingkup aplikasinya pada berbagai domain seperti analisis berita, ulasan pelanggan, eksplorasi media sosial, hingga pendukung tugas klasifikasi seperti fake news detection.

Preprocessing Teks untuk Topic Modelling

Modul ini membahas tahap Preprocessing Teks untuk Topic Modelling sebagai fondasi penting sebelum penerapan algoritma LDA maupun LSA. Fokus utama modul adalah memastikan teks berita yang bersifat tidak terstruktur diubah menjadi data yang bersih, terstandardisasi, dan siap dipetakan ke ruang topik. Proses ini dilakukan melalui serangkaian langkah seperti lowercasing, cleaning noise, tokenization, stopword removal, stemming/lemmatization, filtering kata tidak relevan, serta vectorization menggunakan Count Vectorizer atau TF-IDF.

Topic Modelling dengan LDA (Latent Dirichlet Allocation)

Modul ini membahas penerapan Topic Modelling dengan Latent Dirichlet Allocation (LDA) sebagai model generatif probabilistik yang memandang setiap dokumen sebagai campuran beberapa topik, dan setiap topik sebagai campuran kata-kata dengan probabilitas tertentu. Materi dimulai dari pemahaman proses generatif LDA, interpretasi dua distribusi laten utama distribusi topik per dokumen (θ) dan distribusi kata per topik (φ) serta peran Dirichlet prior untuk smoothing dan stabilitas model.

Topic Modelling dengan LSA (Latent Semantic Analysis)

Modul ini membahas Latent Semantic Analysis (LSA) sebagai pendekatan Topic Modelling berbasis aljabar linier yang mengekstraksi struktur semantik laten dari dokumen melalui proses Singular Value Decomposition (SVD) pada matriks dokumen–kata berbobot TF-IDF. Melalui proses reduksi dimensi dan truncation komponen utama, LSA memetakan setiap dokumen ke dalam ruang topik sebagai vektor bobot komponen topik, bukan probabilitas seperti pada LDA.

Topic Modelling dengan BERTopic

Modul ini memperkenalkan BERTopic sebagai pendekatan Topic Modelling modern berbasis embeddings semantik dari model bahasa seperti BERT. Berbeda dari metode tradisional yang bertumpu pada frekuensi kata, BERTopic memetakan setiap dokumen ke dalam ruang makna sehingga topik yang dihasilkan lebih koheren, kontekstual, dan diskriminatif. Prosesnya menggabungkan tiga komponen utama: pembuatan document embeddings (BERT / Sentence-Transformer), reduksi dimensi dengan UMAP dan clustering berbasis densitas menggunakan HDBSCAN, kemudian pembentukan representasi topik melalui c-TF-IDF pada tingkat klaster untuk mengekstraksi kata kunci yang paling unik dan representatif.

Evaluasi Model dan Interpretasi Topik

Modul ini membahas bagaimana menilai kualitas dan kegunaan hasil Topic Modeling, baik dari sisi matematis maupun interpretasi manusia. Evaluasi dilakukan melalui dua pendekatan utama: evaluasi subjektif (berbasis penilaian manusia terhadap koherensi makna topik) dan evaluasi objektif (berbasis metrik kuantitatif seperti Coherence Score dan Perplexity). Modul ini menekankan pentingnya keseimbangan antara skor metrik yang tinggi dan topik yang benar-benar masuk akal secara semantik.

Submission & Ringkasan

Modul ini merangkum keseluruhan pipeline Topic Modelling dari tahap persiapan data hingga pemanfaatan topik sebagai fitur klasifikasi. Pembelajaran diformulasikan ke dalam tiga fase utama: (I) Persiapan Data, yang mencakup pembersihan teks, normalisasi linguistik, serta vectorization menggunakan CountVectorizer dan TF-IDF; (II) Pemodelan Topik, yaitu pelatihan LDA, LSA, dan BERTopic, pemilihan jumlah topik optimal berbasis Coherence Score, transformasi ke Topic Vectors, serta interpretasi topik melalui visualisasi pyLDAvis/UMAP; dan (III) Klasifikasi, di mana Topic Vectors digunakan sebagai fitur semantik laten untuk membedakan Fake News dan Real News melalui model supervised learning.