Il était sensible et fier, frémissant aux injustices, prêt à la révolte. « Dans mon enfance, dit-il (1ère préface des Libres Penseurs), quand certain patron de mon père venait lui intimer durement ses ordres, mon coeur bondissait, j’éprouvais un frénétique désir d’écraser cet insolent. […] Lorsque, paisible, je regarde avec pitié le triste troupeau qui se rue, à travers la fange, sur l’appât des convoitises humaines, tout à coup mon pied glisse, d’humiliants désirs se soulèvent et me rappellent la boue dont je suis fait. […] » Mais, si mon âme est faible, elle a du moins embrassé une loi forte ; si elle penche à de vils désirs, elle aime pourtant une loi sainte et pure ; si je me rends coupable dans mon coeur, du moins je ne veux point devenir la pierre où trébuche le pied de l’innocent. […] Dans la scène de la clairière, quand elle se déchaîne et laisse éclater, sincère enfin et secouant sa fausse vertu, ce qu’il y a dans son coeur bourgeois de désir brutal, d’égoïsme et de « concupiscence » toute crue (car c’est là, pour Veuillot, le résidu de l’amour proprement « passionnel »), je vous assure que c’est très beau. […] Seulement, nous profiterons de vos indications : nous serons moins dupes de la « Déclaration des droits de l’homme » ; nous concevrons mieux que c’est sur les cœurs qu’il faut agir et que l’apparente justice géométrique des lois n’est rien si le désir de la justice et si la charité ne sont point en nous.