Как добавить ссылку?

<?php
if ( is_home() ) {
    // This is a homepage
} else {
    // This is not a homepage
}
?>

This is a homepage
This is not a homepage
сюда вбивать адрес? Можно пожалуйста подробнее? Этот код в сайдбар можно поставить?

именно. сами фразы "// This is a homepage" надо убрать и написать там тот html-код, который вам нужен.
вставить данную конструкцию можно в любой файл шаблона