Eben das Favicon, also das kleine Bildchen, dass für jeden Tab dieser Seite angezeigt wird, in WordPress eingebunden. Dazu mit einem der vielen im Internet verfügbaren Favicon-Generatoren das gewünschte Bild zu einer .ico-Datei umwandeln lassen und dieses auf den Webspace geladen (bei mir /wp-content/themes/THEME_NAME/favicon.ico).
Dann in WordPress unter Appearance -> Editor -> Header, also in die header.php des Themes vor dem „</head>“ in die Datei einfügen:
<link rel="shortcut icon" href="./wp-content/themes/THEME_NAME/favicon.ico" />
Viele Bots und Browser setzen das favicon im root-Verzeichnis voraus.
Um nicht unnötig Verwirrung zu stiften, empfiehlt es sich daher dieses auch dorthin zu legen.
Eigentlich kann man sich dann auch die Referenzierung per HTML sparen.