LinkedIn Bekukan Ekspansi Data Centers Meski Booming AI: Strategi Efisiensi GPU Jadi Prioritas

Kebijakan Berbeda di Tengah Gelombang AI

Saat Google, Meta, dan Amazon berlomba membangun kluster GPU berukuran raksasa untuk melatih dan menjalankan model bahasa Year, LinkedIn justru mengambil jalan yang kontras. Platform jaringan profesional milik Microsoft mengumumkan tidak akan memperluas kapasitas data Centers-nya sepanjang tahun fiskal mendatang. Keputusan ini dikonfirmasi oleh eksekutif LinkedIn kepada WIRED, menandakan pergeseran strategi: dari scaling out (menambah hardware) ke scaling up (memperbaiki efisiensi).

Mengapa LinkedIn Memilih Menahan Diri?

Beberapa faktor mendorong keputusan ini. Pertama, beban kerja AI di LinkedIn bersifat inference-heavy — sistem rekomendasi lowongan, feed personalisasi, dan deteksi spam — yang tidak memerlukan kluster pelatihan model fondasi sebesar yang dibutuhkan OpenAI atau Anthropic. Kedua, Microsoft sebagai induknya sudah memiliki kapasitas Azure yang masif; LinkedIn dapat “menyewa” kapasitas tambahan dari saudara kandungnya bila tiba-tiba lonjakan permintaan terjadi. Ketiga, tekanan investor untuk menunjukkan disiplin modal (capex discipline) semakin kuat setelah beberapa kuartal pengeluaran infrastruktur melonjak di seluruh industri.

Tantangan Teknis: Membuat Setiap GPU Berharga

Alih-alih membeli H100 atau B200 baru, tim infrastruktur LinkedIn difokuskan pada tiga pilar efisiensi:

• Optimasi kernel dan scheduler: Menulis custom kernel CUDA/Triton untuk operasi embedding lookup dan attention yang dominan di model rekomendasi, mengurangi siklus idle GPU hingga 15–20 %.
• Kuantisasi dan distillation: Mengubah model ranking berparameter miliar dari FP16 ke INT8/FP8 tanpa kehilangan recall signifikan, memotong memory bandwidth setengahnya.
• Penjadwalan batch dinamis: Menggabungkan permintaan inference real-time dan batch offline ke GPU yang sama, meningkatkan utilisasi dari rata-rata 45 % ke atas 75 %.

Hasil internal yang dibocorkan ke WIRED menunjukkan biaya per inference turun sekitar 30 % dalam dua kuartal terakhir — setara dengan menghemat ratusan juta dolar pembelian GPU baru.

Pelajaran untuk Perusahaan Indonesia yang Mengadopsi AI

Strategi LinkedIn relevan bagi startup hingga enterprise di Indonesia yang hendak memanfaatkan AI generatif tapi terbatas anggaran:

1. Audit beban kerja dulu, beli nanti. Banyak tim langsung menyewa A100/H100 di cloud tanpa memprofil apakah model mereka memory-bound atau compute-bound. Alat seperti nsys (NVIDIA Nsight Systems) atau py-spy bisa mengungkap bottleneck dalam hitungan jam.
2. Manfaatkan model terbuka yang sudah dioptimasi. Gunakan varian quantized dari Llama-3, Qwen2, atau Nemotron yang sudah tersedia di Hugging Face (mis. llama-3-8b-instruct-awq) — ukurannya 4–5 GB, jalan di satu GPU 24 GB (RTX 3090/4090) dengan throughput layak produksi.
3. Rancang arsitektur multi-tenant GPU. Jika Anda menyediakan layanan AI internal (mis. chatbot HR, summarizer dokumen hukum, code assistant), gabungkan beban batch malam hari dan real-time siang hari ke kluster yang sama dengan priority scheduler (Kueue, Volcano, atau custom di Kubernetes).
4. Pantau metrik yang benar. Jangan hanya lihat GPU utilization di nvidia-smi. Fokus pada MFU (Model FLOPs Utilization), memory bandwidth utilization, dan biaya per 1.000 token/request.

Risiko dan Antisipasi

Menahan ekspansi punya risiko: jika tiba-tiba fitur AI generatif baru (mis. AI coach karir real-time) jadi viral, latensi bisa melonjak. LinkedIn mengantisipasi ini dengan kontrak burst capacity ke Azure dan feature flag yang mematikan fitur non-kritis saat kapasitas penuh. Praktik serupa — graceful degradation — wajib dirancang sejak awal oleh tim platform Indonesia.

Kesimpulan

Keputusan LinkedIn membuktikan bahwa di era AI, brute-force scaling bukan satu-satunya jalan. Disiplin teknik — kernel tuning, kuantisasi, penjadwalan cerdas — bisa menghasilkan ROI lebih cepat dibanding menunggu kiriman GPU baru yang lead time-nya 6–12 bulan. Bagi CTO dan engineering lead di Indonesia, pesannya jelas: optimalkan dulu, beli nanti. Setiap GPU yang sudah Anda miliki masih punya ruang perbaikan 2–3× sebelum Anda benar-benar butuh yang baru.