Quantization 4-bit: seberapa besar penurunan kualitas di bahasa Indonesia?
Membandingkan GPTQ, AWQ, dan bitsandbytes pada tugas NLU berbahasa Indonesia. Hasilnya: penurunan jauh lebih kecil dari yang ditakutkan.
Juni 2026Saya Raka Mahendra, engineer yang fokus pada LLM fine-tuning, computer vision, dan infrastruktur MLOps. 6 tahun mengubah notebook eksperimen menjadi layanan dengan latensi rendah dan biaya terkendali.
Setiap proyek saya lengkapi dengan metrik nyata — akurasi, latensi, dan dampak biaya — bukan sekadar demo.
Fine-tuning model 8B parameter untuk customer service e-commerce dengan LoRA dan dataset percakapan berlisensi. Dilengkapi guardrail dan evaluasi otomatis harian.
Pipeline computer vision untuk deteksi cacat produk di lini manufaktur — dari labeling, training YOLO custom, hingga deployment edge di 12 kamera pabrik.
Sistem retrieval-augmented generation untuk firma hukum: 1,2 juta dokumen diindeks dengan hybrid search, reranker, dan sitasi otomatis ke pasal sumber.
Eksperimen, benchmark, dan catatan teknis dari pekerjaan sehari-hari — dibagikan supaya orang lain tidak jatuh di lubang yang sama.
Membandingkan GPTQ, AWQ, dan bitsandbytes pada tugas NLU berbahasa Indonesia. Hasilnya: penurunan jauh lebih kecil dari yang ditakutkan.
Juni 2026Catatan proses mengecilkan model deteksi 6x lipat tanpa kehilangan recall kritis, termasuk trik augmentasi yang paling berpengaruh.
April 2026Framework evaluasi semi-otomatis dengan LLM-as-judge yang dikalibrasi sampel manusia — dipakai di tiga proyek klien.
Februari 2026Tool yang saya pakai dari eksperimen sampai serving — dipilih karena terbukti, bukan karena tren.
Saya terbuka untuk proyek konsultasi, kontrak jangka pendek, dan diskusi teknis. Ceritakan masalah Anda — saya balas dalam 1–2 hari kerja.
raka@mahendra.ai