User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Disallow: /wp-login.php
Disallow: /wp-register.php

# Blokir halaman duplicate content atau yang tidak relevan untuk diindeks
Disallow: /tag/
Disallow: /category/
Disallow: /?s=
Disallow: /*?replytocom
Disallow: /*/feed/
Disallow: /*/trackback/

# Sitemap (pastikan path ini sesuai dengan plugin sitemap yang digunakan)
Sitemap: https://www.bayarkilat.id/sitemap.xml

# Izinkan bot meng-crawl semua konten
User-agent: Googlebot
Allow: /

User-agent: Bingbot
Allow: /

# Tambahan untuk crawler media sosial (Facebook, Twitter, dll.)
User-agent: Twitterbot
Allow: /

User-agent: Facebot
Allow: /

# Optimisasi khusus Googlebot Image
User-agent: Googlebot-Image
Allow: /

# Jangan crawl URL parameter
Disallow: /*?utm_source=
Disallow: /*?utm_medium=
Disallow: /*?utm_campaign=

# Blokir akses ke file privasi atau server
Disallow: /cgi-bin/
Disallow: /wp-content/plugins/
Disallow: /wp-content/cache/
Disallow: /wp-includes/
Disallow: /readme.html
Disallow: /license.txt