La sémiologie de la musique est l'étude des significations, des symboles et des sens dans la musique.
Elle pose des questions épistémologiques fondamentales. La musique ayant un sens et une signification variable selon les cultures, les époques, les styles, les points de vue. Elle a fait l'objet d'une théorisation importante dans le domaine musicologique francophone, à la suite des travaux de Jean-Jacques Nattiez, contribuant ainsi à renforcer l'idée exprimée par Nicolas Ruwet dès 1959[1] selon laquelle "la musique est langage"[2][Pas dans la source].
Selon Tolstoï, « L’art est une forme de l’activité humaine consistant, pour un homme, à transmettre à autrui ses sentiments, consciemment et volontairement, par le moyen de certains signes extérieurs »; pour lui, « Dès que les spectateurs ou les auditeurs éprouvent les sentiments que l’auteur exprime, il y a œuvre d'art »[3]. L’objet de l’art est donc d’évoquer, de communiquer.
Depuis son origine dans l'Antiquité, la sémiologie a été conçue pour traiter en particulier des modes de signification du langage[réf. nécessaire]. Mais dans son Cours de linguistique générale, le linguiste Ferdinand de Saussure imagine « une science qui étudie la vie des signes au sein de la vie sociale ; [...] nous la nommerons sémiologie (du grec sêmeîon, «signe»). [...] La linguistique n'est qu'une partie de cette science générale »[4]. C'est le point de départ de ce qu'on appelle la sémiologie (ou sémiotique) générale, dont la sémiologie musicale est l'une des branches. De fait, Jean-Jacques Nattiez note que la sémiologie musicale « est née et s'est développée au contact de disciplines non spécifiquement musicologiques[5] ».
La réflexion sur les rapports entre musique et langage est l'une des constantes de la réflexion sur la musique :
Une caractéristique du langage, c'est qu'il est « articulé ». Selon la description d'André Martinet,
Jean-Jacques Nattiez considère que la musique n'est pas articulée de la même manière. Pour lui, les notes, unités de seconde articulation, ne s'associent pas pour former des unité significatives : « la musique ne relie pas les significations dénotées ou connotées selon la logique propre au langage verbal ou à la littérature »[14]. Pour Nicolas Meeùs, cependant, en musique « la question de la double articulation ne doit pas nécessairement se poser en termes de signification »[15]. Il explique que la notion linguistique de « signification » pourrait être remplacée en musique par celle de « pertinence analytique » et que l'un des critères qui font qu'un groupe de notes a cette pertinence, c'est qu'il est répété, ce qui peut en faire un « motif »[16].
Dans son Cours de linguistique générale, Ferdinand de Saussure imagine « une science qui étudie la vie des signes au sein de la vie sociale ; [...] nous la nommerons sémiologie (du grec sêmeîon, «signe»). [...] La linguistique n'est qu'une partie de cette science générale ». C'est le point de départ de ce qu'on appelle la sémiologie (ou sémiotique) générale, dont la sémiologie musicale est l'une des branches. Jean-Jacques Nattiez note que la sémiologie musicale « est née et s'est développée au contact de disciplines non spécifiquement musicologiques »[17]. Roland Barthes a pourtant mis en doute la possibilité d'une sémiotique générale : « Il n'est pas du tout sûr qu'il existe dans la vie sociale de notre temps des systèmes de signes d'une certaine ampleur, autres que le langage humain »[18]. Selon Nattiez, « Barthes n'hésite pas à considérer a priori tous les systèmes de signes comme des langages, alors que chez Mounin ce travail comparatif est [...] préparatoire à une évalutation de l'importance réelle du modèle linguistique fondamental. Mais dans les deux cas le but est sémiotique ; les objets étudiés par Barthes sont les langages constitués de signes à deux faces, ceux de Mounin sont des signaux produits dans l'intention de communiquer »[19]. Pour François Rastier, « une sémiotique générale ne peut être que fédérative ; elle définit le champ où la linguistique, l’iconologie, la musicologie et les autres sciences sémiotiques procèdent à leurs échanges pluridisciplinaires »[20].
La sémiotique générale est la sémiotique en général, la sémiotique linguistique ou la sémiotique musicale n'en sont que des branches parmi d'autres, qui s'y rejoignent pour procéder « à leurs échanges pluridisciplinaires ». La sémiotique générale peut se définir de nombreuses manières : les deux faces des signes dont parle Barthes cité par Nattiez sont ceux formés de « signifiant » et de «signifié », tandis que pour Mounin, c'est « l'intention de communiquer » qui caractérise la sémiotique. Ce sont deux aspects importants.
Eric Buyssens a écrit que « La sémiologie peut se définir comme l'étude des procédés de communication »[21]. Selon Oswald Ducrot, « Une des innovations de la linguistique de Saussure est de déclarer essentiel à la langue son rôle d'instrument de communication »[22] ; il ajoute que c'est aussi l'opinion de ceux qu'on appelle les fonctionnalistes[23]. Pour Winfried Nöth, « la recherche explicitement sémiotique [...] étudie les processus de signification et de communication »[24].
Mais Jean-Jacques Nattiez objecte que « La communication n'est qu'un cas particulier des divers modes d'échange, une des conséquences possibles des processus de symbolisation »[25].
Les compositeurs sont rarement (jamais) en phase avec leur temps. Qui pourrait les en blâmer ; comment refuser d’y voir le visage d’une esthétique renouvelée qu’il ne nous appartient pas de juger. Toute création cherche ce que Debussy appelait « le plaisir délicieux de l’idée à choisir entre toutes. »
De son côté, la réception esthétique repose sur un désir tendu vers l’inconnu, et qui rencontre le plaisir de la variété de moments inattendus. Le compositeur doit tendre à donner à la fois des balises, des points d'ancrage et à déstructurer l'écoute. C'est pourquoi les règles qu'édictent les théories musicales sont illimitées et souvent transgressées, permettant à la diversité des formes de l’écoute musicale de se construire sur la complexité et la variété.
Claude Lévi-Strauss pour qui la musique représente « le langage moins le sens » utilise sa théorie des structures élémentaires pour découvrir celles qui parcourent toute l’histoire de la musique. Dans sa théorie, ces structures sont notre fond commun, la conscience d’une représentation du monde propre à un certain ensemble de l’humanité. Ainsi « en inventant les formes musicales, la musique [a] seulement redécouvert les structures qui existaient déjà au niveau mythique ». Son analyse anthropologique et structuraliste explique pourquoi beaucoup de musiques qui nous paraissent « étrangères » voire « étranges » peuvent s'écouter, et être perçues comme des musiques à part entière. Il suffit alors de se tourner vers les philosophies de la connaissance. Les règles qui engendrent tous les processus créatifs neufs devraient appartenir en commun à toutes les théories issues de la psycholinguistique qui explorent la création.
En traduisant la structure hiérarchique de l’expression musicale, se dégage un « lexique » et une « syntaxe » musicale. Heinrich Schenker ou Milton Babbitt, tous deux musiciens, s'entendirent à entamer ce projet. Analogue à la langue est alors le corpus des œuvres, cette analyse où chaque œuvre se voit définie par sa relation aux autres, où chaque style naît de sa structure commune avec le précédent. Le rapport langue - parole semble, dans cette analyse, corroborer le rapport des théories musicales à la création ou celui de l’écriture à l’exécution, à l'interprétation : dans les deux cas la langue fonde un assemblage des unités syntaxiques en syntagmes que la parole réorganise, et où le langage oral opère par des combinaisons de phonèmes : la note, le signe ou signal musical fonctionne comme le phonème ; les unités syntactiques de la musique, celles qui fournissent la logique de son ordonnancement propre sont par contre toujours à chercher.
Le langage tel qu’envisagé par les linguistes structuralistes américains ou par ceux de l’école française, à laquelle se rattachait Georges Mounin, s’analyse comme la distribution de segments unitaires. Cette distribution s’opère selon des codes précis qui permettent de dégager un signifiant des différentes analogies de l’activité symbolique et conceptuelle du langage. Les unités sonores, qu’il reste dans ce cas à définir, opèrent dans la musique comme dans la langue par répétitions, parallélisme, assemblage, sélection et opposition (binaire, sérielle) : le rapport est dit syntagmatique ; ou bien elles opèrent par des comparaisons : le rapport est alors paradigmatique. Tout langage, y compris le langage musical, et c’est la théorie développée dans la vision sémiologique, est une combinaison à la fois syntagmatique et paradigmatique (en fonction de ce qui suit et de ce qui précède) de ses éléments syntaxiques construits en fonction d’une linéarité. Au niveau de la structure générale de l’œuvre, des signaux agissent sur la perception de la structure. Certaines fonctions dévolues aux phénomènes musicaux s’exploitent pour donner à entendre une fonction sémiotique immanente.
La musique s’organise bien autour de patterns, c’est-à-dire de formes acquises culturellement, ou de schémas d’acquisition, d’assimilation d’un ensemble organisé de préférences, d’habitudes, qui dégagent des lois de perception (soulignées par l’école béhavioriste et notamment par les travaux de Georg B. Watson). Ce rapprochement entre des codes (par exemple ceux de la notation musicale), des conventions (celles de la musique tonale), paraît pouvoir imposer un système de communication dont chaque musique ne serait qu’une des formes. Le nouveau modèle que doit proposer la théorie doit se fonder sur une universalité du langage musical (cette fonction structurée et structurante) pour définir les particularités de chaque style, de chaque œuvre.
En 1957, le linguiste américain Noam Chomsky propose une nouvelle théorie du langage basée sur le postulat d'une grammaire universelle par définition dépourvue de contraintes sémantiques. Il s’oppose dans cette théorie aux tenants du structuralisme pour lesquels le langage possède avant tout la double articulation signifiant/signifié. Il réduit la diversité des expressions bien formées des langues naturelles à un ensemble réduit de structures syntaxiques profondes à partir desquelles se construisent tous les discours particuliers. Cette théorie marque la naissance de la psycholinguistique moderne. Le principal intérêt de cette révolution chomskienne pour l’élaboration des règles de construction de tous les langages, y compris du langage musical, c’est qu’elle explique comment le cerveau produit et reconnaît des énoncés « signifiants » qui n’ont jamais été utilisés précédemment. La production, même infinie, peut s’opérer par des règles en nombre fini. Ces règles sont dites de transformation, ou transformationnelles et d’association ou associationnelles. Elles furent reprises dans la théorie générative de la musique par Fred Lerdahl et Ray Jackendoff (1981) pour expliquer un mécanisme similaire dans la création musicale, sous les termes psychologiques de structures de groupement, structures métriques, réductions de l’espace-temps, réductions de prolongation. Lerdahl et Jackendoff fondèrent la théorie générative de la musique sur la perception par l’auditeur de l’organisation de la musique (tonale puis atonale) par des lois empruntées à la Gestalttheorie. Mais surtout leur théorie n’est pas sans conséquences ni implications pour la composition. Si l’on entend, comme le font les auteurs, par système compositionnel non pas un algorithme, mais un ensemble de procédures, on ne se limite plus à des règles inhibitrices, et, comme le souhaitait le prouver la théorie de Chomsky, la génération d’une énonciation nouvelle, peut obéir à un système fini de règles. Le caractère sémantique est interprétatif. Le code de production appartient à tout le monde (il a un caractère général) et parvient à être traduisible parce qu’il est quantifiable[26],[27].
De fait, la musique se construit souvent à partir d'un code, la théorie musicale : qu'elle soit tonale ou atonale, spectrale ou sérielle, la théorie, existante ou inventée (théorie a priori et théorie a posteriori) reste le fondement de l'écriture musicale.
Elle s'écrit (mais également se conçoit) alors comme un système de signes, c'est-à-dire d'objets reconnaissables sur la base de quelques caractéristiques propres à la culture. Certes elle reste un art non signifiant. Igor Stravinsky dans une apostrophe demeurée célèbre — mais malheureusement souvent utilisée à contresens par ses détracteurs — fut l’un des premiers à considérer à juste titre que la musique n’avait d’autre signification que celle de tout art : une direction qui fondait son essence (et son sens), mais qui ne pouvait et ne devait pas être confondue avec une analyse en termes d’états psychologiques. Il réunissait par là les deux conceptions du sens, dynamiques et linguistiques :
Pourtant la rythmique du Sacre du Printemps brise les carcans de la mesure pour réinventer une forme de rythme inconnue de la culture occidentale. Pierre Boulez quand il étudie la rythmique du Sacre essaie de montrer que, même très élaborée, cette rythmique conserve la trace d’un matériau traditionnel. Mais de quelle tradition peut-on parler ? S'il y a eu « scandale » à la création, c'est bien que le public ne pouvait donner un sens à cette musique. Non seulement le compositeur cherche à exprimer une certaine vision immanente de son art, mais l'auditeur construit par son écoute l'expressivité de la musique : chaque culture a sa propre esthétique de la réception (cf. sociologie de la musique). Ce qui fait dire aux théoriciens de la sémiologie musicale qu'il y a au moins deux niveaux de sémantique musicale : celui du compositeur, nommé poïétique ou poiesis (« création »), et celui de l'auditeur, nommé esthésique (« réception »).
Tous les critères d'authenticité ou de fidélité aux textes jouent sur cette ambiguïté. Les redécouvertes des interprétations baroques ont leurs tenants et leurs aboutissants qui ne peuvent pas, pour l'interprète comme pour l'auditeur, être analysés, à l'orée du XXIe siècle, dans le même sens que celui entendu au XVIIIe. Toutes les polémiques de l'interprétation musicale sont nées de ce double aspect du sens musical.
Dans Musicologie générale et sémiologie (1987), Jean-Jacques Nattiez utilise la tripartition sémiologique de Jean Molino pour "démontrer l'existence symbolique de la musique" (p.57).
Pour Jean Molino et Jean-Jacques Nattiez, fondateurs de la sémiologie musicale, le sens musical est à double niveau : celui du compositeur, qu'ils nomment poïésis, et celui du récepteur, ou esthésique. Chaque compositeur, surtout à notre époque où chacun refuse de se laisser enfermer dans des ghettos stylistiques, cherche à définir un langage qui lui soit propre.
Jean-Jacques Nattiez dans ses Fondements d’une sémiologie de la musique a ancré son étude dans l’analyse des correspondances symboliques que la musique établit depuis le niveau de sa création jusqu’à celui de sa réception. Il explique que le langage musical s'établit à la fois au niveau créatif que le compositeur cherche à exprimer, et à ce que le récepteur fait de la perception formelle, du sens, de la structure, ce qu'il appelle le niveau esthésique. La musique art du temps, est aussi l'art du temps perçu, (que chacun sait parfaitement subjectif).
Roman Jakobson, dans un schéma célèbre, a posé la nécessité d’un code commun au récepteur et au locuteur, et à l’objet dont on parle. Cette restriction n’opère que dans une procédure discursive de la communication. Un processus d’intégration de la continuité du temps musical n’offre au contraire pas de restrictions de cet ordre. La reconnaissance d’une œuvre musicale s’effectue par corrélation de l’information transmise avec le contenu d’une mémoire à long terme permanente.
Nattiez situe un troisième niveau qui est l'intermédiaire entre ces deux là : celui de la partition, ou « niveau neutre ». Pour l’interprétation musicale la notation possède à la fois cet atout considérable de transmettre la création de l’auteur lui-même. Malgré tout, l’acuité des différences de transcription à travers l’édition prouve s’il était nécessaire que cette transmission est toujours relative et le penchant fixiste qui défend à l’œuvre d’évoluer sous peine de trahir la pensée de son auteur rendent ce niveau très important.
L’écriture musicale, à l’instar des mathématiques représente une forme d’abstraction ; mais elle fait subir aux formes d’expression de semblables penchants à l’uniformisation vers un standard. Enfin, et surtout, l'écriture parvient à réintégrer le symbole personnel en procurant une certaine autonomie à l'interprète qui peut donner de multiples facettes à la composition. La puissance du symbole confiée à l’interprète procure à la musique une dimension importante, que ni le compositeur ni le récepteur ne peuvent vraiment contrôler.
Les énoncés du langage, forme signifiante et abstraite de la communication, sont une manifestation de l’intelligence conceptuelle de l’homme, de son aptitude à communiquer. Toute science qui manipule des concepts généraux se construit sur un langage, souvent difficile à faire évoluer. Le langage est souligné par tous les auteurs comme la forme évoluée de communication qui a permis à l’homme de se forger un savoir et d’expérimenter les lois de l’univers. Cette aptitude à relier le signe, le mot, le concept et la chose ou l’idée dans des représentations signifiantes arbitraires et abstraites est en l’occurrence purement humaine et n’existe nulle part ailleurs dans le monde animal. L’art, qui, comme l'explique Hegel se définit comme la manifestation sensible de l’idée, dépasse sensiblement ce cadre de représentation.
L’imagination créatrice de l'art, imagination symbolique, intervertit le sens commun du symbole : la musique a certaines connotations (elle peut représenter pour certains des émotions, des affects), mais ce n'est pas son but. En s’appuyant sur des référents expressifs attribués aux modes, aux phrasés, aux accents, aux mélismes, la musique ne cherche pas à traduire une image ou même directement des sentiments. Il s'agit non plus d'une symbolisation univoque, mais de « re-présenter », c’est-à-dire comme le signifiait Nietzsche de présenter autrement, d’une autre façon, ce qui n’appartient pas à l’expérience sensible. La musique exerce un pouvoir de transcendance en signifiant par référence à un temps vécu propre à chacun. Ses perceptions peuvent opérer différemment pour chacun des esprits qui la reçoivent tout en conservant une unité et une universalité. La sémantique musicale, par essence abstraite, crée en fait un monde bien particulier, qui est à la fois immanent à son matériau et transcendant au monde perçu par chacun. Les énoncés musicaux détiennent un « signifié » qui leur confère un potentiel à structurer l’œuvre suivant différents niveaux de hiérarchie. Le matériau musical se déduit de la représentation ; l’immanence de son expression est retenue pour en affecter l’émotion — au sens de mouvement de l’âme — à un donné musical transcendant.