Il n’y en peut avoir autre raison, sinon qu’il craignait qu’on ne se saisît de sa personne ; c’était sa conscience qui le jugeait. […] En cela le duc de Rohan payait encore la peine de son passé : il avait beau s’être conduit dans les dernières années avec tout l’éclat et toute la loyauté possible, il n’avait pas la conscience nette ni la mémoire libre ; il supposait aux autres des desseins que ces soupçons de sa part leur auraient suggérés peut-être, et il ne revoyait de loin la France qu’avec une sombre perspective de procès, de Bastille et d’échafaud.
La forme de son refus est piquante, toute en raisons et en épigrammes sous air de scrupules : « J’ai une conscience trop timorée, dit-il, pour faire le métier de journaliste. […] Il ne faut ‘ point être catin ni bégueule. » Puis, ce sont d’autres, cas de conscience : il suivrait la route directement opposée à celle de ses devanciers ; il serait dans un esprit contraire à celui de la feuille même (une feuille ultra-royaliste alors) à laquelle il travaillerait ; « Pour moi, Voltaire serait un modèle, au moins souvent, et Chénier une autorité.