Resté orphelin de bonne heure, il fut recueilli par son frère qui dirigea lui-même son éducation. Ses études furent couronnées par l'une des plus brillantes soutenances de thèse grecque et latine dont la vieille université ait conservé le souvenir.
En 1692, Jean Boivin devient garde de la bibliothèque du roi, où il fait cette année-là une découverte importante, celle d'un ancien texte biblique du IVe ou Ve siècle, en lettres onciales, que recouvre un manuscrit des Homélies d'Éphrem le Syrien. Il s'acquiert une réputation d'érudit en publiant en latin les textes des grands mathématiciens de l'antiquité et il est nommé professeur au Collège royal, où il est titulaire de la chaire de grec de 1706 à 1726. Il traduit Nicéphore Grégoras et Pierre Pithou, ainsi qu'Aristophane, Homère et Sophocle, et écrit lui-même des poésies grecques. Il est élu membre de l'Académie royale des inscriptions et belles-lettres en 1705, et de l'Académie française en 1721.