« Cher Deleyre, lui disait-il, sans être votre ami, j’ai de l’amitié pour vous. » Et moyennant cette distinction à demi bourrue, à demi obligeante, il lui donnait parfois de bons conseils ; un jour, par exemple, que Deleyre s’était refait journaliste et polémiste à l’étranger : « Cher Deleyre, lui écrivait Rousseau, défiez-vous de votre esprit satirique ; surtout apprenez à respecter la religion : l’humanité seule exige ce respect. […] Deleyre était de ceux qui aiment mieux pâtir que jouir et prospérer ; il craignait toujours de faire tort aux autres, et de peur d’être heureux aux dépens du grand nombre, il se rangeait volontiers de lui-même du côté des misérables : il avait retourné le proverbe comme trop dur et trop égoïste : « Je trouve le proverbe bien cruel, disait-il, et j’aime encore mieux faire pitié qu’envie, moi. » Nature vraiment pitoyable et tendre, il a la piété sans la religion !

Dans une suite de chapitres ou de livres traitant de la religion, de la propriété, de la famille, du travail, de l’association, des rapports privés et du gouvernement, il a parcouru et approfondi tous les aspects, les modes de combinaison et les ordres de sentiments et de faits sous lesquels se présentent les sociétés modernes, et il a proposé en détail dans chaque ordre son plan raisonné de réforme. […] Appartenant à la vieille race de gentilshommes ruraux que n’avaient pas atteints la corruption de Cour et l’élégance des vices inhérents à Versailles ou même nés bien auparavant à Fontainebleau et à Chambord dès le règne de François Ier, il déplorait la perte d’un état de choses, où la grande propriété, la famille, la religion, les mœurs étaient garanties ; il avait l’imagination et le souvenir remplis des tableaux d’une vie simple, régulière, patriarcale, frugale, antique, et il demandait au Pouvoir royal restauré de rétablir de son plein gré et de toute sa force ce qu’il avait laissé perdre par sa faute, ce qu’il avait compromis et entraîné avec lui dans une ruine commune.

Une sœur de la défunte, une autre infante, était fort proposée par un parti influent : mais une telle union eût choqué la délicatesse publique ou même la religion du roi. […] Comme il m’aime plus que ses enfants, je l’ai attaqué du côté de la religion, et lui ai fait sentir si ce mariage (espagnol) n’était pas heureux, on s’en prendrait à lui ; que Rome donnait des dispenses auxquelles bien des honnêtes gens, dans le royaume, ne donnaient pas leur approbation ; enfin je me suis retourné de tant de manières, que le roi m’écrit qu’il a pris son parti, et qu’après avoir vaincu ses ennemis, il faut bien que tout me cède (c’est une galanterie de sa part). » Ainsi le maréchal, qui sous ses airs de soldat a des finesses de négociateur, s’est fait casuiste un moment avec Noailles ; il a eu recours à un ordre d’arguments gallicans et presque jansénistes.

Puis la profonde diversité des êtres humains sur les différents points du globe, la multiplicité des religions, des morales et des coutumes, n’est sûrement pas un encouragement à croire. […] Et ce qui augmente encore son trouble, c’est le mystère de cette race maorie qui vient on ne sait d’où, qui passe sa vie à rêver et à faire l’amour, qui n’a pour toute religion qu’une vague croyance aux esprits des morts ; de cette race voluptueuse et songeuse qui vit dans une nature trop belle, mais muette, où il n’y a pas d’oiseaux, où l’on n’entend que le bruit des flots et du vent ; de cette race sans histoire qui va décroissant et s’éteignant d’année en année et qui mourra d’avoir été trop heureuse… Et cependant la reine Pomaré donne un bal dans ses salons aux officiers de marine.