On ajoutait que sa mère l’avait mis au monde au coin d’une borne dans la rue de La Harpe, faisant entendre que c’était de là que lui venait son nom. […] Mais, dans une note qu’il ajouta à la lettre de son ami, La Harpe, l’un des rédacteurs du Mercure, le prit de plus haut : S’il s’est tu jusqu’à présent, disait-il, c’est par mépris : Mais aujourd’hui que l’on voudrait infirmer l’hommage que je rends à la liberté, et faire croire que ma haine pour l’aristocratie n’est que le sentiment de jalousie que l’on suppose aux conditions inférieures, je suis obligé de déclarer qu’en effet le hasard m’a fait un assez bon gentilhomme, d’une famille originaire de Savoie et établie dans le pays de Vaud, remontant en ligne directe jusqu’à l’année 1389, où l’un de mes ancêtres était gentilhomme de la chambre de Bonne de Bourbon, comtesse de Savoie. […] … Pauvre et orphelin, j’ai été nourri du pain de votre charité. » Et il ajoute cette note de peur qu’on en ignore : « L’auteur, à l’âge de neuf ans, a été nourri six mois par les sœurs de la Charité de la paroisse Saint-André-des-Arcs, et l’on sait que, jusqu’à l’âge de dix-neuf ans, il a été élevé et nourri par charité. » J’ai insisté sur ce premier point qui avait son importance, et parce que, tout examen fait, nous en pouvons déjà conclure la méchanceté et la malice des ennemis de La Harpe, sa vanité qui s’exalte aisément, et aussi son fonds de générosité et de sincérité, « un de ces fonds propres à porter le repentir », a très bien dit de lui Chateaubriand.