Von 1960 bis 1965 studierte Dilly Malerei und Grafik an der HfBK Berlin und an der École des Beaux Arts in Paris. 1966 war er Meisterschüler der HfbK Berlin und hatte Einzel- und Gruppenausstellungen unter anderem in Berlin, Freiburg, München und Neapel.
Ab 1967 absolvierte Dilly ein Zweitstudium der Kunstgeschichte, Geschichte und Soziologie an der Freien Universität Berlin. 1977 erfolgte die Promotion zum Dr. phil; Titel der Dissertation war Kunstgeschichte als Institution – Studien zur Geschichte einer Disziplin. 1984 folgte die Habilitation, und er wurde Professor für Kunstgeschichte an der Universität Stuttgart. Zwischen 1989 und 1996 war er Gast- und Vertretungsprofessor an verschiedenen kunsthistorischen Instituten.
Ab 1995 war Dilly Professor für neueste Kunstgeschichte und Kunsttheorie an der Martin-Luther-Universität Halle-Wittenberg in Halle. Er lebt als emeritierter Professor in Halle.