Bloccare l'indicizzazione dei file tecnicamente vuol dire che si impedisce ai motori di ricerca di indicizzare quei file e quindi alle persone di poter trovare quei file attraverso i motori di ricerca.
Se poi qualcuno scopre (navigando sul sito o collegandosi direttamente) l'esistenza di un file allora poco importa se quel file è indicizzato oppure no, per impedirne l'accesso devi lavorare sui permessi di accesso a quel file, che è un'altra cosa rispetto all'indicizzazione.
Per esempio se hai un sito fatto con wordpress puoi anche impedire l'indicizzazione del file "wp-login.php", ma se qualcuno sa che il sito è fatto con wordpress allora può collegarsi direttamente a quella pagina del sito (es.: wordpress.com/wp-login.php) e troverà quel file anche se non è indicizzato.
Al contrario si può anche indicizzare un file ma permetterne la visualizzazione solo agli utenti autorizzati (ad esempio inserendo username e password o permettendo l'accesso solo da alcune aree geografiche o IP).