Silvius Leopold Weiss wurde vermutlich 1687 in Grottkau geboren, wie neuere Forschungen nahelegen, und nicht bereits 1686 in Breslau. Sein Vater Johann Jacob Weiss ein Lauten- und Theorbenspieler lehrte ihn wie auch seinen beiden jüngeren Geschwistern Johann Sigismund und Juliana Margaretha schon in jungen Jahren das Lautespiel.
Silvius Leopold Weiss war in Breslau als Lautenist bei Karl Phillip von Pfalz-Neuburg tätig. 1706 reiste er über Kassel nach Düsseldorf an den Hof des Kurfürsten Johann Wilhelm, des Bruders seines Arbeitgebers. Er hielt sich dort beinahe einen Monat auf. Vermutlich durch seine Vermittlung fanden sein Vater und sein Bruder in der kurpfälzischen Hofkapelle in Düsseldorf Anstellung (nachgewiesen ab 1709). Sie gehörten auch in Mannheim noch zur Hofkapelle des Kurfürsten Karl Phillip von Pfalz-Neuburg, der seinem Bruder nachfolgte.
Wahrscheinlich erst ab 1710 hielt Silvius Leopold sich in Begleitung des polnischen Prinzen Alexander Sobieski in Rom auf. In Rom lernte Weiss berühmte Musiker der damaligen Zeit kennen, u. a. Alessandro und Domenico Scarlatti und Heinichen kennen. Ob er auch Händel dort getroffen hat, ist fraglich, da Händel bereits 1708 Rom verließ. Der Aufenthalt in Italien hatte großen Einfluss auf die musikalische Entwicklung des Lautenisten Weiss. 1714 kehrte er vermutlich zu seinem vorigen Dienstherrn Karl Philipp zurück, der damals in Innsbruck residierte.
Um 1717 ließ er sich zum ersten Mal am Hof zu Dresden hören. Im August 1718 wurde er dort als königlicher Kammerlautenist am Hof des Kurfürsten von Sachsen, August des Starken, angestellt. Er gehörte zu den bestbezahlten Musikern am Hof in Dresden, wo er bis zu seinem Lebensende blieb. 1723 reiste er in Begleitung von Johann Joachim Quantz und Carl Heinrich Graun nach Prag. Sie spielten dort in der Krönungsoper Costanza e Fortezza von Johann Joseph Fux mit. Im Jahre 1736 schlug er eine Anstellung am Wiener Hof aus, die ihm das außerordentlich hohe Gehalt von 2000 Talern eingebracht hätte. Belegt ist 1739 eine Begegnung mit Johann Sebastian Bach in Leipzig.
Auch wenn einige seiner Schüler und auch sein Sohn Johann Adolf Faustinus (1741-1814) die Lautenkunst am Leben erhielten, galt Weiss als der beste Lautenist seiner Zeit und war rückblickend der letzte große Lautenist von europäischem Ruf.
1750 starb Weiss in Dresden im Alter von 63 Jahren. Beigesetzt wurde Weiss in Dresden auf dem alten katholischen Friedhof.