Il file .htaccess non lo vedi perché nei sistemi linux è un file nascosto (questo vale per tutti i file che iniziano con il punto). Per vederlo devi selezionare nelle opzioni del tuo programma ftp "mostra file nascosti" o qualcosa di simile.
Cosa significa non funziona? Cercando di aprire un indirizzo inesistente ti viene mostrato il messaggio di file non trovato del browser invece di quello personalizzato?
Se si, devi controllare la posizione dei file.
Supponendo che il tuo sito sia
www.bol.com e che il file errore404.html si trovi nella root, cioè:
www.bol.com/errore404.htmlil tuo .htaccess dovrebbe essere così:
ErrorDocument 404 /errore404.html
se invece il file errore404.html si trova in una sottocartella
www.bol.com/errori/errore404.htmlil tuo .htaccess dovrebbe essere così:
ErrorDocument 404 /errori/errore404.html