Если кто-то переходит по несуществующей ссылке на ваш сайт, то WordPress его отправляет на страницу с текстом о том, что искомый адрес не найден и нужно воспользоваться поиском. При этом предлагается форма «строгого» поиска, т.е. если вы там ошибётесь с одной буквой, то скорее всего ничего не найдёте.
Вместо этого я решил сразу отправлять пользователя на главную страницу, где есть ссылки на последние записи в блоге, облако тэгов и аж два вида поиска (строгий от WordPress и «умный» от Яндекса).

Решение взял отсюда.
1. Для начала нам нужно в папке с дочерней темой создать файл 404.php

<?php
header("HTTP/1.1 301 Moved Permanently");
header("Location: ".get_bloginfo('url'));
exit();
?>

2. Затем переписать его в папку с дочерней темой WordPress:

/wp-content/themes/twentytwelve-child/404.php

Теперь, если страница или файл не будут найдены, браузер автоматически откроет домашнюю страницу.