Пример robots.txt для WP
Пример robots.txt для WP - удаляем повторения для уменьшения саплментала
User-agent: *
Disallow: /cgi-bin/
Disallow: /go/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /author/
Disallow: */page/*
Disallow: /wp-images/
Disallow: /images/
Disallow: /backup/
Disallow: /banners/
Disallow: /archives/
Disallow: */trackback/
Disallow: */feed/
Disallow: /*?*

Блог
Услуги
Карта
CSS оптима
RSS
О нас
Контакт
Не понятно для чего эти параметры?
Disallow: /cgi-bin/
Disallow: /go/
Disallow: /images/
Disallow: /banners/
Disallow: */trackback/
Disallow: */feed/
Disallow: /*?*
?????
)) Отключаем часть нештатных каталогов,
часть каталогов от чпу - фид и трекбеки и прочее.