Il reçut dans la maison de son grand-père une bonne éducation et une instruction très inégale. […] Il nous reproche d’aimer dans les arts à recevoir les opinions toutes faites, les recettes commodes, et à les garder longtemps même après que l’utilité d’un jour en est passée76. La Harpe fut utile en 1800, quand presque tout le monde, après la Révolution, eut son éducation à refaire : est-ce une raison pour éterniser les jugements rapides qu’on a reçus de lui ?
Le lendemain de sa mort, Frédéric écrivait au prince Henri ce billet, dont les dernières lignes sont mouillées de ses larmes : Mon cher frère, j’ai reçu votre triste lettre, et vous remercie de tout mon cœur de la part que vous prenez à mon affliction. […] Tels sont encore la plupart des axiomes de morale, lesquels reçoivent une caution plus forte aux yeux de ceux qui croient à une religion. […] Le prince Henri, de retour à Rheinsberg, après son premier voyage de France, eut l’occasion d’y recevoir un Français des plus distingués, qu’il avait déjà vu à Paris, le marquis de Bouillé.