Né en 1863 à Paris, dans une famille originaire du Bas-Rhin, fils du marchand d'étoffes Louis Philippe Lévi, Sylvain Lévi entre en 1873 en sixième au lycée Charlemagne, suit des études classiques et obtient son baccalauréat en 1881, mais échoue au concours d'entrée à l'École normale supérieure. Il poursuit des études de lettres à la Sorbonne et obtient l'agrégation de lettres en 1883, à vingt ans. D'abord tenté par une spécialisation en hellénisme, il s'inscrit en 1882, sur suggestion d'Ernest Renan, au cours de sanskrit dispensé à l'École des hautes études par Abel Bergaigne. Professeur de langue et littérature sanskrites au Collège de France et directeur d'études à l'École pratique des hautes études, l'un des plus grands indianistes et orientalistes de son temps, il entreprend en 1922-1923, avec son épouse Désirée, une seconde mission en Inde et au Japon, répondant à l'invitation du prix Nobel Rabindranath Tagore pour enseigner l'histoire du bouddhisme à l'université que celui-ci a fondée à Santiniketan, au Bengale. Il compte parmi les premiers à s'intéresser à la langue tokharienne et contribue à son déchiffrement. Il meurt en 1935.