Source code aplikasi, template web, dan ebook. Unduh dari akun setelah bayar. Lihat produk

Blog / Performance, Caching & Scalability / Jangan Cuma Upgrade VPS: Deep...
Performance, Caching & Scalability

Jangan Cuma Upgrade VPS: Deep Dive Load Balancer untuk Laravel Saat Traffic Naik

AD

Admin HijrahKreativa

Penulis

19 Oct 2026
12 min read
11 views

Kapan menambah server lebih tepat daripada memperbesar satu server, cara menyiapkan Laravel agar stateless, konfigurasi load balancer Nginx dan HAProxy dengan health check, membaca IP asli dan HTTPS di balik proxy, deploy bergilir tanpa downtime, serta jebakan yang muncul ketika aplikasi pertama kali berjalan di lebih dari satu server.

Overview

Aplikasi RW awalnya berjalan di satu VPS 2 vCPU / 4 GB: Nginx, PHP-FPM, MySQL, Redis, worker queue, dan cron dalam satu mesin. Setelah dipakai 12 RW, setiap tanggal 1–10 server penuh. Solusi pertama yang terpikir adalah naik ke 8 vCPU / 16 GB.

Memperbesar satu server (vertical scaling) memang cara paling sederhana, dan sering kali tepat sebagai langkah pertama. Namun ada batasnya:

Vertical (VPS lebih besar) Horizontal (beberapa server + load balancer)
Kerumitan Rendah; tidak ada perubahan kode Sedang; aplikasi harus stateless
Batas Ukuran mesin terbesar yang tersedia Hampir tidak terbatas untuk lapisan aplikasi
Ketersediaan Satu server mati = aplikasi mati Satu server mati, server lain melayani
Deploy Ada jeda saat restart Bisa bergilir tanpa downtime
Biaya Naik tajam di ukuran besar Naik bertahap
Database Tetap satu titik Tetap satu titik (perlu strategi tersendiri)

Load balancer bukan obat untuk semua masalah. Bila bottleneck ada di database, menambah server aplikasi justru menambah beban database. Pastikan dulu pemeriksaan performa dasar sudah dilakukan (query, index, cache, queue).

Hasil akhir:

  • arsitektur dua atau lebih server aplikasi di belakang load balancer,
  • Laravel yang stateless: session, cache, file, lock, dan jadwal terpusat,
  • konfigurasi Nginx dan HAProxy dengan health check dan pemilihan algoritma,
  • TrustProxies untuk IP asli dan HTTPS,
  • endpoint health check yang benar-benar memeriksa dependensi,
  • deploy bergilir dan draining koneksi,
  • daftar masalah yang khas muncul pada multi-server.

Prerequisites

Komponen Versi
PHP 8.3+ (disarankan 8.4)
Laravel 13.x
Load balancer Nginx 1.26+ atau HAProxy 3.x, atau load balancer terkelola dari penyedia cloud
MySQL 8.4 (server terpisah atau layanan terkelola)
Redis 7.x (server terpisah atau terkelola)
Penyimpanan file S3 atau layanan kompatibel S3 (MinIO, Cloudflare R2, dll.)

Step-by-step Tutorial

Langkah 1: Arsitektur Target

                    ┌──────────────────────┐
  Pengguna ──HTTPS──▶  Load Balancer (TLS)  │
                    └──────┬───────┬───────┘
                      HTTP │       │ HTTP (jaringan privat)
                ┌──────────▼─┐   ┌─▼──────────┐
                │  app-1     │   │  app-2     │   Nginx + PHP-FPM
                │  (web)     │   │  (web)     │   kode identik
                └─────┬──────┘   └──────┬─────┘
                      │                 │
        ┌─────────────┼─────────────────┼─────────────┐
        ▼             ▼                 ▼             ▼
   ┌─────────┐   ┌─────────┐      ┌──────────┐  ┌──────────┐
   │ MySQL   │   │ Redis   │      │ S3/MinIO │  │ worker-1 │  queue + scheduler
   │         │   │ cache,  │      │ file     │  │          │
   │         │   │ session,│      │ unggahan │  └──────────┘
   │         │   │ queue   │      └──────────┘
   └─────────┘   └─────────┘

Pemisahan peran:

  • Load balancer: terminasi TLS, membagi request, health check.
  • Server web (app-1, app-2, ...): hanya melayani HTTP; bisa ditambah atau dikurangi kapan saja.
  • Server worker: menjalankan queue worker dan scheduler; tidak menerima traffic web, sehingga laporan berat tidak memperlambat halaman.
  • Data: MySQL, Redis, dan penyimpanan file berada di luar server web.

Prinsipnya: server web boleh dihapus kapan saja tanpa kehilangan data.

Langkah 2: Membuat Laravel Stateless

Ini bagian yang paling sering terlewat. Setiap hal yang disimpan di disk lokal server web akan "hilang" ketika request berikutnya mendarat di server lain.

Komponen Default (satu server) Multi-server
Session file redis atau database
Cache file redis
Queue database/redis lokal redis terpusat
Unggahan file disk local/public disk s3
Lock & rate limiter cache file cache redis
Scheduler cron di server hanya server worker, atau onOneServer()
Log storage/logs lokal dikirim ke layanan terpusat (stderr, syslog, Loki, dll.)
APP_KEY — harus sama di semua server
# .env (sama di semua server web dan worker)
APP_KEY=base64:...                 # identik
SESSION_DRIVER=redis
CACHE_STORE=redis
QUEUE_CONNECTION=redis
FILESYSTEM_DISK=s3
REDIS_HOST=10.0.0.20
DB_HOST=10.0.0.30
LOG_CHANNEL=stderr                 # atau stack yang mengirim ke log terpusat

APP_KEY yang berbeda membuat cookie terenkripsi dari server A tidak bisa dibaca server B: pengguna terlempar ke halaman login secara acak dan muncul error The MAC is invalid.

Untuk file unggahan:

// Simpan ke disk default (s3), jangan hardcode 'public'
$path = $request->file('bukti')->store('bukti-transfer');

// URL sementara untuk file privat
$url = Storage::temporaryUrl($path, now()->addMinutes(10));

Bila memakai Media Library, set 'disk_name' => env('MEDIA_DISK', 's3') di config/media-library.php, dan jalankan konversi gambar di worker queue.

Langkah 3: Membaca IP Asli dan HTTPS di Balik Proxy

Di balik load balancer, Laravel melihat semua request berasal dari IP load balancer dengan skema http. Akibatnya:

  • rate limiter per IP menganggap semua pengguna adalah satu orang dan memblokir semuanya,
  • log dan audit trail mencatat IP load balancer,
  • url() dan route() menghasilkan tautan http://, sehingga muncul mixed content dan redirect berulang.

Load balancer mengirim informasi asli lewat header X-Forwarded-*. Beri tahu Laravel untuk mempercayainya, hanya dari IP load balancer:

// bootstrap/app.php
use Illuminate\Http\Request;

->withMiddleware(function (Middleware $middleware) {
    $middleware->trustProxies(
        at: ['10.0.0.10', '10.0.0.11'],      // IP privat load balancer
        headers: Request::HEADER_X_FORWARDED_FOR
            | Request::HEADER_X_FORWARDED_HOST
            | Request::HEADER_X_FORWARDED_PORT
            | Request::HEADER_X_FORWARDED_PROTO,
    );
})

Untuk load balancer terkelola yang IP-nya berubah-ubah, at: '*' bisa dipakai hanya bila server web tidak dapat diakses langsung dari internet (firewall hanya mengizinkan traffic dari load balancer). Bila server web terbuka ke publik, penyerang bisa memalsukan X-Forwarded-For dan melewati rate limiter.

Periksa hasilnya:

Route::get('/_debug/ip', fn (Request $r) => [
    'ip'     => $r->ip(),
    'secure' => $r->secure(),
    'url'    => url('/'),
])->middleware('auth', 'role:super-admin');

Langkah 4: Konfigurasi Load Balancer Nginx

# /etc/nginx/conf.d/rw-lb.conf (di server load balancer)
upstream rw_app {
    least_conn;                                 # kirim ke server dengan koneksi aktif paling sedikit
    server 10.0.0.21:80 max_fails=3 fail_timeout=15s;
    server 10.0.0.22:80 max_fails=3 fail_timeout=15s;
    # server 10.0.0.23:80 backup;               # hanya dipakai bila yang lain mati

    keepalive 64;                               # koneksi ke upstream dipakai ulang
}

server {
    listen 443 ssl;
    http2 on;
    server_name rw.example.id;

    ssl_certificate     /etc/letsencrypt/live/rw.example.id/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/rw.example.id/privkey.pem;

    client_max_body_size 20m;

    location / {
        proxy_pass http://rw_app;
        proxy_http_version 1.1;
        proxy_set_header Connection "";        # wajib untuk keepalive upstream

        proxy_set_header Host              $host;
        proxy_set_header X-Real-IP         $remote_addr;
        proxy_set_header X-Forwarded-For   $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_set_header X-Forwarded-Host  $host;
        proxy_set_header X-Forwarded-Port  $server_port;

        proxy_connect_timeout 3s;
        proxy_read_timeout    60s;
        proxy_next_upstream error timeout http_502 http_503;
        proxy_next_upstream_tries 2;
    }
}

server {
    listen 80;
    server_name rw.example.id;
    return 301 https://$host$request_uri;
}

Catatan:

  • Nginx open source hanya punya passive health check (max_fails/fail_timeout): server dianggap mati setelah request sungguhan gagal. Health check aktif tersedia di Nginx Plus, HAProxy, dan load balancer terkelola.
  • proxy_next_upstream mencoba ulang ke server lain bila gagal. Hati-hati dengan request non-idempoten: Nginx secara default tidak mengulang POST (kecuali ditambah non_idempotent), dan memang sebaiknya dibiarkan begitu agar pembayaran tidak diproses dua kali.

Langkah 5: Alternatif HAProxy dengan Health Check Aktif

# /etc/haproxy/haproxy.cfg (sebagian)
defaults
    mode http
    timeout connect 3s
    timeout client  60s
    timeout server  60s
    option forwardfor
    option http-server-close

frontend https_in
    bind :443 ssl crt /etc/haproxy/certs/rw.pem alpn h2,http/1.1
    http-request set-header X-Forwarded-Proto https
    http-request set-header X-Forwarded-Port 443
    default_backend rw_app

backend rw_app
    balance leastconn
    option httpchk
    http-check send meth GET uri /up hdr Host rw.example.id
    http-check expect status 200
    default-server inter 5s fall 3 rise 2 maxconn 100
    server app1 10.0.0.21:80 check
    server app2 10.0.0.22:80 check

maxconn 100 per server membatasi request yang dikirim bersamaan ke satu server; kelebihannya diantrekan di HAProxy, bukan menumpuk di PHP-FPM. Sesuaikan dengan jumlah worker PHP-FPM per server.

Langkah 6: Memilih Algoritma

Algoritma Cara kerja Cocok untuk
Round robin Bergiliran Request seragam, server identik
Least connections Ke server dengan koneksi aktif paling sedikit Laravel pada umumnya: durasi request bervariasi (halaman ringan vs laporan berat)
IP hash / sticky Klien yang sama selalu ke server yang sama Aplikasi yang belum stateless, atau WebSocket
Weighted Server lebih besar mendapat porsi lebih banyak Server dengan ukuran berbeda

Hindari sticky session sebagai jalan pintas untuk menutupi session berbasis file. Saat satu server mati atau dikeluarkan untuk deploy, semua penggunanya tetap kehilangan session. Selesaikan dengan session terpusat.

Langkah 7: Health Check yang Bermakna

Laravel menyediakan route /up bawaan (health: '/up' di bootstrap/app.php). Route ini memicu event DiagnosingHealth yang bisa dipakai untuk memeriksa dependensi:

// app/Providers/AppServiceProvider.php
use Illuminate\Foundation\Events\DiagnosingHealth;
use Illuminate\Support\Facades\{DB, Event, Redis};

Event::listen(function (DiagnosingHealth $event) {
    DB::connection()->select('select 1');
    Redis::connection()->ping();

    if (app()->isDownForMaintenance()) {
        throw new RuntimeException('maintenance');
    }
});

Bila listener melempar exception, /up mengembalikan 500 dan load balancer mengeluarkan server tersebut dari rotasi.

Pertimbangkan dampaknya: bila MySQL mati, semua server gagal health check dan load balancer tidak punya server sehat sama sekali. Beberapa tim memisahkan dua endpoint:

  • liveness (/up): proses PHP hidup; dipakai load balancer.
  • readiness (/siap): dependensi sehat; dipakai saat deploy dan pemantauan.

Pastikan health check ringan (tanpa query berat), tidak memakai session, dan dikecualikan dari log akses agar tidak membanjiri log.

Langkah 8: Deploy Bergilir Tanpa Downtime

Dengan dua server atau lebih, deploy bisa dilakukan satu per satu:

#!/usr/bin/env bash
# deploy-bergilir.sh (disederhanakan)
set -euo pipefail
SERVERS=("10.0.0.21" "10.0.0.22")
RILIS=$(date +%Y%m%d%H%M%S)

# 1. Migrasi sekali saja, dari satu tempat, dan harus kompatibel mundur
ssh deploy@10.0.0.40 "cd /var/www/rw/current && php artisan migrate --force"

for S in "${SERVERS[@]}"; do
  echo "== $S: keluarkan dari rotasi"
  ssh deploy@$S "sudo touch /var/www/rw/shared/storage/keluar-rotasi"   # health check membaca file ini → 503
  sleep 20                                                             # draining: tunggu request berjalan selesai

  echo "== $S: deploy"
  ssh deploy@$S "/var/www/rw/bin/rilis.sh $RILIS"   # git/rsync, composer install, optimize, symlink current, reload php-fpm

  echo "== $S: masukkan kembali"
  ssh deploy@$S "sudo rm -f /var/www/rw/shared/storage/keluar-rotasi"
  curl -fsS --retry 5 --retry-delay 2 "http://$S/up" -H 'Host: rw.example.id'
done

# 2. Worker: restart agar memakai kode baru
ssh deploy@10.0.0.40 "/var/www/rw/bin/rilis.sh $RILIS && cd /var/www/rw/current && php artisan queue:restart"
// tambahan di listener DiagnosingHealth
if (file_exists(storage_path('keluar-rotasi'))) {
    throw new RuntimeException('keluar dari rotasi');
}

Syarat penting deploy bergilir:

  • Migrasi kompatibel mundur. Selama deploy, kode lama dan baru berjalan bersamaan terhadap skema yang sama. Menambah kolom nullable aman; mengganti nama atau menghapus kolom dilakukan dalam dua rilis (expand → contract).
  • Aset Vite. Kode lama dan baru bisa meminta file aset yang berbeda. Sajikan aset dari CDN/S3 yang menyimpan beberapa versi, atau pastikan direktori public/build versi sebelumnya masih tersedia selama deploy.
  • Payload job kompatibel. Worker lama dan baru bisa memproses job yang di-dispatch versi lain.

Langkah 9: Komponen yang Perlu Perhatian Khusus

Scheduler. Jalankan cron hanya di server worker. Bila cron terpasang di semua server (misalnya karena image yang sama), semua tugas wajib memakai ->onOneServer().

WebSocket (Reverb). Koneksi WebSocket berumur panjang. Aktifkan scaling via Redis agar event yang dipancarkan di satu server Reverb sampai ke klien yang terhubung ke server lain:

REVERB_SCALING_ENABLED=true

Load balancer harus meneruskan header Upgrade dan Connection, dengan timeout baca yang panjang untuk koneksi WebSocket.

Rate limiter. Pastikan memakai cache Redis yang sama, dan TrustProxies sudah benar, agar batas berlaku per pengguna/IP asli di semua server.

File sementara dan ekspor. Ekspor yang dibuat oleh worker harus disimpan ke S3, bukan ke storage/app server worker, karena pengguna mengunduhnya lewat server web.

Langkah 10: Uji Sebelum Production

  1. Matikan satu server web saat load test berjalan: error rate harus tetap rendah dan pulih dalam hitungan detik.
  2. Login, lalu buat beberapa request berturut-turut: pastikan tetap login meskipun request mendarat di server berbeda (tambahkan header X-Server: app-1 di Nginx server web untuk melihatnya).
  3. Unggah file di satu request dan buka di request berikutnya.
  4. Periksa log: IP yang tercatat adalah IP klien, bukan load balancer.
  5. Jalankan load test dengan k6 dan bandingkan rps dengan satu server.
# di server web, untuk pengujian
add_header X-Server $hostname always;

Troubleshooting

Error / Gejala Penyebab Solusi
Logout acak, 419 Page Expired Session file di server berbeda SESSION_DRIVER=redis
The MAC is invalid APP_KEY berbeda antar server Samakan APP_KEY
File unggahan kadang 404 Disimpan di disk lokal satu server Disk s3
Tautan http://, redirect loop, mixed content Proxy tidak dipercaya trustProxies dengan header X-Forwarded-Proto
Semua pengguna terkena rate limit Laravel melihat IP load balancer trustProxies; cache Redis bersama
Tugas terjadwal berjalan dua kali Cron di semua server Cron hanya di worker atau onOneServer()
Too many connections di MySQL Total worker semua server melebihi max_connections Hitung total koneksi; naikkan batas atau kurangi worker
Server baru gagal health check /up memeriksa dependensi yang tidak terjangkau Periksa firewall ke MySQL/Redis dari server baru
Aset 404 sesaat setelah deploy Versi aset berbeda antar server Deploy aset ke CDN/S3 atau simpan build lama
Throughput tidak naik setelah tambah server Bottleneck di database Optimasi query, cache, read replica

Best Practices

Keamanan

  • TLS diterminasi di load balancer; traffic ke server web lewat jaringan privat.
  • Server web hanya menerima traffic dari load balancer (firewall).
  • trustProxies hanya untuk IP load balancer, kecuali server web sepenuhnya tertutup.
  • Secret (APP_KEY, kredensial DB) didistribusikan lewat mekanisme secret, bukan disalin manual.

Performa

  • least_conn untuk beban Laravel yang durasinya bervariasi.
  • Keepalive ke upstream dan batas koneksi per server (maxconn).
  • Worker queue dan scheduler di server terpisah dari web.
  • Ukur bottleneck database sebelum menambah server aplikasi.

Maintainability

  • Server web identik dan bisa dibuat ulang dari skrip/image.
  • Deploy bergilir dengan migrasi expand → contract.
  • Health check liveness dan readiness yang jelas perannya.
  • Log terpusat agar masalah bisa ditelusuri tanpa masuk ke tiap server.

Related Articles

Last Tested

Komponen Versi
Laravel 13.x
PHP 8.4
Nginx 1.26
HAProxy 3.0
MySQL 8.4
Redis 7.x
Tanggal 19 Oktober 2026

Bagikan artikel:

Artikel lainnya