Entre son Prix de Rome et sa nomination comme Directeur de l'École de Musique religieuse de Malines, les œuvres seules d'Edgar Tinel tiennent lieu d'événements biographiques. Elles remplissent tout "l'entre-deux". Elles se suivent à une cadence rapide et sont, pour ainsi dire, imbriquées l'une dans l'autre. Polyeucte marque une étape dans la conception musicale de l'auteur. Ces trois tableaux symphoniques de l’opus 21 totalement réinstrumentés en 1889 (Ouverture composée en 1878-79, le Songe de Pauline en 1881-82, la Fête dans le Temple de Jupiter en 1881) débordent le cadre de la musique de scène et sont, essentiellement, de la musique à programme. Musique, par ailleurs, très dramatique, mouvementée, faisant largement appel aux sentiments humains et qui montre à quel point Tinel eût réussi dans le genre du Poème symphonique, à la condition que celui-ci se fût trouvé en accord avec son idéal d'art et de foi : car nous surprenons dans cet ouvrage, pour la première fois, l'affirmation éclatante des croyances religieuses de l'auteur. Polyeucte est l'avenue qui conduit aux trois grandes œuvres hagiographiques (Franciscus, Godelieve et Katharina), c'est une œuvre-mère d'où ces dernières sont issues, et tout particulièrement l'œuvre de la suprême maturité : Katharina (cfr ci après).
En portant son choix sur la tragédie chrétienne de Corneille, Tinel fut sollicité, en ordre principal, par la pensée fondamentale qui s'y développe. La foi en est le personnage principal, et le radieux cortège de lumières terrestres qui l'environne : l'amour conjugal dans Polyeucte, l'amour dominé par le devoir dans Pauline, l'honneur et l'amour chevaleresque dans Sévère, toutes ces pures vertus humaines pâlissent devant la vertu divine, comme les étoiles devant le soleil qui se lève. Dans le Polyeucte de Tinel aussi, la foi est le personnage principal. Tous les autres lui sont subordonnés, et pour bien marquer ce caractère, le musicien l'inscrit au fronton de son Ouverture, sous la forme d'un choral d'allure solennelle et grave, harmonisé diatoniquement à quatre parties et exposé par les trombones et le tuba.
Ce choral constitue le thème inaugural de l'œuvre et c'est par lui que le développement thématique atteint son point culminant. A l'accord final du thème s'enchaîne un Allegro non troppo où le rythme.
Esquissé par les bois et les violons, dans une longue anacrouse se posant sur une pédale de dominante, prépare l'entrée, après un crescendo concentré, d'un nouveau thème.
Ce motif jouera de même un rôle prépondérant dans l'œuvre. Il incarne, dans l'Ouverture et dans le Songe de Pauline, le héros du drame et s'attache spécialement à typer dans Polyeucte son aspect humain. La formule rythmique esquissée au début de l'Allegro non troppo sert d'accompagnement à ce thème que les violons et les altos ornent de figures en triolets. Celles-ci évoluent sur une pédale de la dominante la avant d'aboutir au pont, ou à la transition. Ce procédé tout classique amène derechef la tonalité fondamentale de ré mineur. La transition, comportant 27 mesures, dessine une marche modulatoire propre à mettre en valeur la tonalité de fa majeur. C'est dans la conception harmonique de celle-ci qu'un troisième thème est exposé.
Procédant par syncopes, harmonisé en accords parfaits et en accords de septième et de neuvième dans un style lié et bien soutenu, ce motif personnifie un autre aspect du héros dont il caractérise l'amour conjugal. Un élément thématique complémentaire vient s'ajouter à ce motif syncopal, élément qui est emprunté au premier thème de Polyeucte. Seulement, la manière dont cet élément complémentaire est traité ici donnera au thème de Polyeucte quelque chose de plus vivant et de plus passionné. La tonalité majeure dans laquelle il se présente et la gradation du développement instrumental où il va s'engager contribuent sensiblement à opérer cette transformation.
La tête seule de ce thème, sera utilisée dans le développement qui commence au moment où le tutti orchestral affirme à nouveau la tonalité de base amenée au moyen d'une cadence évitée en ut, cinquième degré du ton relatif fa majeur. Nous retrouvons donc, dans le travail thématique de tout ce développement comportant 121 mesures, cette figure du premier thème de Polyeucte.
Et, dans l'ordre de gradation réalisé par le compositeur, à deux reprises, le thème du choral de la foi, entonné par tout le groupe des cuivres, prolongera à travers toute la masse orchestrale ses amples et puissantes sonorités. Après avoir atteint ce point culminant dans le développement central de l'ouverture, la réexposition, selon l'usage traditionnel de la forme-sonate, réunit à nouveau les thèmes et figures rythmiques précédents - à l'exception toutefois du choral - mais, cette fois-ci, la marche modulatoire dessinée dans la transition met en valeur le ton de ré majeur où le thème de l'amour conjugal de Polyeucte est réexposé. Soudain, la sonore mélodie du choral se fait à nouveau entendre : tout développement passionné a cessé. Les cuivres, doublés maintenant des bois, font retentir leur fanfare sacrée. Dans un frémissement suave de sonorités étincelantes, dans la claire et franche tonalité de ré majeur, les harpes enveloppant la céleste mélodie des violons, font ruisseler leurs bruissants arpèges. La mélodie infiniment douce et soutenue, plane dans les régions éthérées, dans l'azur. Le thème de Polyeucte, caractérisant son aspect humain, s'est transformé : plus rien n'attache Polyeucte aux choses terrestres. Il a embrassé la foi chrétienne, et, dans la joie de son âme enivrée de l'espérance du martyre, il est prêt à répandre son sang pour son Dieu.
Dans la tragédie de Corneille, cette transformation d'âme du héros, qui correspond à tout cet épilogue séraphique de l'Ouverture de Tinel, est exprimée dans les célèbres "Stances", qui se placent à la scène II du quatrième acte : Source délicieuse, en misères féconde, que voulez-vous de moi, flatteuses voluptés ? Honteux attachements de la chair et du monde, que ne me quittez-vous quand je vous ai quittés.
Le Songe de Pauline est un dialogue permanent entre les bois et les cordes fréquemment interrompu par de stridents accords de cuivre, par des silences angoissants et par le rappel solennel du thème de la foi. Le thème de la passion désemparée de Pauline exprimée par le cor anglais est annoncé dès les premières mesures et revient tout au long de cette vision du personnage que l’héroïne de Corneille a vu dans son rêve au cours de laquelle elle a entendu distinctement ses paroles. Mais tout s’évanouit. La finale semble une dernière fois exprimer la peine que causa à Pauline son troublant songe. Notons que les trois morceaux sont liés par un thème apparenté mais peuvent très bien, d’autre part, être exécutés séparément.
Le tableau final, Fête dans le temple de Jupiter, est le plus travaillé, le plus varié. Il compte trois parties qui s’enchaînent sans transition : le Cortège qui introduit la fête païenne, les Danses qui lui succèdent, l’Irruption soudaine de Polyeucte et de Néarque sont de vives évocations dramatiques. Après le défilé des prêtres et de prêtresses promenant en lentes théories leurs idoles et préparant leurs libations, voici la troupe des danseuses balançant des thyrses, agitant les petites cymbales antiques et prenant des poses de bacchantes. Ce sont deux Danses : la première en 6/8 (Allegretto en Ré majeur) et la seconde en 2/4 (Allegro en Fa majeur) qui débute par des pizzicatos des cordes. Les Danses représentent l’élément païen du drame. La deuxième danse alterne avec un passage plus calme des cuivres. La Danse s’arrête brusquement et le finale débute par un motif de choral à quatre trompettes. C’est le thème principal, présent dans les trois parties de Polyeucte et qui symbolise la foi. Des traits vifs de cordes illustrent la confusion que suscite l’Irruption soudaine de Polyeucte et de Néarque dans le temple. (Allegro non troppo) où ils viennent briser les images de faux dieux. Dans une puissante envolée, l’étincelant thème de choral, maintenant aux cuivres, conserve sa prépondérance. Cette dernière partie est également en ré mineur.
Le dimanche 3 avril 1881, Joseph Dupont créa la Fête dans le temple de Jupiter dans le cadre des "Concerts Populaires" à l’"Alhambra National" de Bruxelles. Après cette première, l’instrumentation fut revue à Malines le 28 mai 1881. En 1892, la partition fut éditée chez Breitkopf et Härtel. Le manuscrit est conservé à la Bibliothèque Royale de Bruxelles.