Quatrième fils du ministre François Michel Le Tellier de Louvois, il est docteur en Sorbonne à l'âge de 25 ans, puis intendant du cabinet des médailles, conservateur de la Bibliothèque royale — charge dont il hérite à l'âge de huit ans sur l'intervention de son père, écartant par la suite Jérôme II Bignon et Louis Colbert — et grand vicaire de l'archevêque de Reims.
Il est membre de l'Académie royale des sciences en 1699 ; en 1706 il est reçu à l'Académie française et en 1708 à l’Académie royale des inscriptions et belles lettres.