Quand plus tard il s’agira pour lui d’aller s’établir en Hollande, il laissera échapper son secret : « Le cartésianisme, dit-il, ne sera pas une affaire (un obstacle) ; je le regarde simplement comme une hypothèse ingénieuse qui peut servir à expliquer certains effets naturels… Plus j’étudie la philosophie, « plus j’y trouve d’incertitude. […] Le plus triste endroit de la vie de Bayle est l’affaire assez tortueuse de l’Avis aux Protestants, soit qu’il l’ait réellement composé, soit qu’il l’ait simplement revu et fait imprimer.
À la fin, ils n’auront plus d’autre emploi ni d’autre intérêt : causer, écouter, s’entretenir avec agrément et avec aisance de tous les sujets, graves ou légers, qui peuvent intéresser des hommes ou même des femmes du monde, voilà leur grande affaire. […] Tous les récits, tous les portraits, tous les exposés d’affaires pourraient être détachés et proposés en modèle dans les écoles, avec les chefs-d’œuvre de la tribune antique.