Introduction

1 En cette année du bicentenaire de la naissance de Charles Darwin, il est d’usage que l’on fasse remonter l’histoire de son propre champ de recherche jusqu’à l’époque de Darwin. Fort heureusement, l’utilisation de caractères comportementaux pour dessiner des arbres évolutifs remonte à une date encore plus ancienne. De 1853 à 1858, Henri de Saussure (de la grande famille Genevoise, mais travaillant principalement à Paris) fit un usage explicite de données comportementales à des fins de taxonomie et de classification des guêpes sociales (celles qui vivent en colonies avec une reine et des ouvrières). Son travail était autant basé sur l’architecture des nids des guêpes que sur leur variation morphologique (de Saussure, 1853-1858). Il publia un diagramme évolutif montrant une forme d’évolution réticulée, en accord avec l’école de pensée parisienne héritière de Buffon et de Lamarck. C’était courant avant Darwin et avant que se répande l’usage des diagrammes hiérarchisés en forme d’arbres que nous utilisons de nos jours. Bien qu’aujourd’hui nous considérions différemment les relations entre les genres de guêpes, le système de Saussure est encore à la base des principaux concepts en usage dans l’étude des guêpes sociales, incluant plus de 1 000 espèces dans à peu près 30 genres répartis en trois sous-familles de par le monde. Peu de travaux de chercheurs du milieu du XIX^e siècle ont aussi bien survécu, et cela est du en partie à ce que, de manière commode, les guêpes elles-mêmes ont laissé à de Saussure une très grande quantité d’informations utiles dans les nids qu’elles construisent. Évidemment, puisque les données comportementales sont préservées dans la structure du nid, cette information est d’une certaine manière plus facile à étudier que d’autres classes de données comportementales, et elle est certainement plus facile à conserver et à réexaminer. En fait, le Muséum national d’histoire naturelle de Paris possède des nids beaucoup plus anciens que ceux des années 1850, incluant le nid d’Epipona tatua décrit par Cuvier (1797). Les espèces de ce genre construisent un carton particulièrement durable, et le nid de Cuvier est encore en bon état (Wenzel, 1992a) ; il peut être facilement identifié à l’aide d’une clé couvrant les nids de tous les genres de guêpes sociales du monde (Wenzel, 1998). Une longévité de deux cents ans est rare pour une donnée biologique, et c’est avec une grande fierté que l’on peut compter cet exemple parmi les artefacts comportementaux.

Le développement de l’éthologie

2 À la fin du XIX^e siècle, les observations des comportements animaux étaient couramment rapportées de manière très détaillée, particulièrement chez les oiseaux et les insectes. L’intégration de ces observations en une perspective cohérente a été faite à différents moments dans différents domaines, et ainsi se sont graduellement développées une philosophie et une méthodologie de la science qui prit le nom d’éthologie. On cite couramment, au titre de repère commode, le travail d’Oskar Heinroth (1910) comme marquant le début du courant moderne. Heinroth travaillait au zoo de Berlin, et il faisait figure d’autorité sur le comportement des canards et des oies. Il a montré que les rituels comportementaux s’accordent avec les affinités taxonomiques (plus les oiseaux sont taxonomiquement proches, plus ils partagent de comportements), et il a également documenté l’ontogenèse du comportement, sa pertinence contextuelle, les limites des données, et d’autres détails qui constituent la fondation rigoureuse et solide de la science. En 1973, l’éthologie a été reconnue par l’attribution du prix Nobel de médecine à Karl von Frisch, Konrad Lorenz, et Nikolaas Tinbergen (il n’y a pas de prix pour la biologie, aussi la médecine était-elle la seule option possible). Parmi ces hommes, von Frisch était le plus âgé, et il est principalement renommé pour avoir déchiffré le langage dansé de l’abeille domestique. Lorenz a reçu le prix pour son travail sur le phénomène d’empreinte comportementale, un domaine exploré par son mentor, Heinroth. Tinbergen est maintenant surtout renommé en tant qu’ornithologue, mais sa part du prix lui fut décernée pour son travail sur les guêpes solitaires, notamment sur la manière dont elles utilisent un système sophistiqué et hiérarchisé de repères et de comparaisons pour s’orienter, naviguer, et retrouver leurs nids. Le prix Nobel entendait démontrer qu’une compréhension fonctionnelle, adaptative et évolutionniste du comportement était à portée de main, et que cela constituait une avancée très significative en biologie.

3 Les premiers éthologistes avaient une perspective explicitement phylo-génétique : ils cherchaient à comprendre les comportements en attribuant le plus d’éléments possibles à l’ascendance commune. Ils luttaient également contre la conception erronée selon laquelle le comportement serait plus plastique que la morphologie, et donc que le comportement ne serait vraisemblablement pas susceptible de refléter des aspects de l’ascendance commune qui ne seraient pas démontrés par la morphologie. Actuellement cette vision se traduit par la formule courante selon laquelle « le comportement évolue rapidement », ou par des généralisations analogues qui sont affirmées sans justification ni contexte précis. Lorenz (1958) a rejeté cette vision de manière convaincante avec un exemple tiré du comportement de toilettage et qui paraîtrait familier à tout bon observateur. Quand un chien doit se gratter l’oreille droite, il abaisse son épaule droite et fait passer sa patte arrière droite par-dessus son épaule pour atteindre son oreille. Tout le monde connaît cette posture, les mouvements distinctifs de la patte arrière, et l’attitude d’un chien se grattant l’oreille. Lorenz a souligné que cet ancien comportement était exactement préservé chez la plupart des tétrapodes, et même chez les passereaux qui ont par ailleurs virtuellement modifié chacun de leurs éléments morphologiques pour le vol. Avec sa posture dressée, il serait plus facile pour un oiseau d’abaisser simplement la tête et de la tourner vers la gauche, lever le pied droit à hauteur de la poitrine et se gratter l’oreille droite, mais au lieu de cela il manifeste le pattern comportemental ancien. D’abord, il ouvre et étire son aile droite, la plaçant ainsi en obstruction dans le passage de sa patte. Ensuite il fait passer gauchement son pied droit par-dessus l’aile droite, tourne la tête vers la droite, et met finalement en contact les griffes du pied avec le côté droit de la tête. Dans ce cas, le patron comportemental rigide est demeuré inchangé, bien qu’il soit maladroit et que l’évolution morphologique des oiseaux semblerait devoir favoriser un système plus commode. Si Lorenz a raison (et il n’est pas souvent attaqué sur ce point), ce comportement devrait remonter à l’époque du Permien (280 Ma), date à laquelle les mammifères ont divergé de la lignée qui a produit les reptiles modernes et les oiseaux. Ainsi, si nous le voulons, nous pouvons trouver des comportements très anciens qui demeurent globalement les mêmes chez différents animaux qui ont évolué vers des morphologies plus modernes. Dans ce cas, le comportement est conservatif, et c’est la morphologie qui évolue le plus rapidement.

L’homologie du comportement

4 Afin de proposer une origine par ascendance commune pour les comportements qui sont similaires sous certains aspects, mais non identiques, les systématiciens et les anatomistes ont besoin de critères pour ce qu’ils nomment « l’homologie ». De nos jours, les systématiciens s’appuient sur les critères formels proposés par Remane (1952 ; critère de position similaire, de similarité particulière de forme ou de fonction, et de connexion par des intermédiaires), chacun d’eux constituant un argument pour proposer une similarité par filiation commune. Certains éthologistes utilisaient déjà explicitement ces critères. Tinbergen (et son étudiant Moynihan) ont étudié la cérémonie de salutation des mouettes (Tinbergen, 1959). La cérémonie consiste en un rituel que deux membres d’un couple effectuent quand l’un d’eux revient au nid où l’autre l’attend. La fonction spéciale de la cérémonie est une raison pour proposer que toutes les cérémonies de salutation soient semblables dans ce contexte, et de même origine évolutive (figure 1). En divisant la séquence comportementale en trois parties, Tinbergen et Moynihan ont découvert que chacune des trois espèces (la mouette rieuse, la mouette pygmée et la mouette tridactyle) commence la séquence avec l’oiseau de retour ouvrant le bec et adoptant une posture suggérant une suffocation tout en émettant un son, et ceci bien que les détails varient entre les espèces. La position de ces comportements comme « première étape » est suffisante pour les considérer comme étant les mêmes dans un contexte évolutif. L’étape médiane est également la même chez ces trois espèces. Les partenaires exécutent le même mouvement en même temps avec la tête et le bec (tête basse et portée vers l’avant pour la mouette rieuse, dressée verticalement pour la mouette pygmée, et dirigée vers le bec ouvert du partenaire chez la mouette tridactyle). Ces mouvements traduisent l’homologie en ce qu’ils sont tous « le même mouvement effectué en même temps par les deux partenaires ». Pour que la proposition d’homologie soit valide, il suffisait à Tinbergen d’établir en quoi les actions étaient similaires ; il n’est pas nécessaire que les mouvements eux-mêmes soient spécifiés, et ils peuvent différer dans les détails entre les espèces. Pour la troisième étape de la cérémonie, les partenaires bougent la tête en directions opposées, et ceci varie également en détails entre les espèces. Pour ce qui est des détails non discutés ici, les espèces de mouettes rieuse et pygmée sont les plus similaires, et bien que la mouette tridactyle puisse leur être reliée comme nous l’avons décrit, elle est plus distante. Ainsi, Tinbergen a considéré les trois espèces et identifié l’homologie à différentes étapes et à différents niveaux. Cette étude représente un merveilleux modèle de la manière dont l’évolution du comportement peut refléter la parenté, et comment les chercheurs peuvent découvrir cette information.

Figure 1

D’après Tinbergen (1959). Trois espèces de mouettes, de gauche à droite : la mouette rieuse, la mouette pygmée et la mouette tridactyle. Trois étapes de la cérémonie de salutation de chaque espèce, de haut en bas : la posture de suffocation, la posture du bec dressé, et le détournement de la tête.

D’après Tinbergen (1959). Trois espèces de mouettes, de gauche à droite : la mouette rieuse, la mouette pygmée et la mouette tridactyle. Trois étapes de la cérémonie de salutation de chaque espèce, de haut en bas : la posture de suffocation, la posture du bec dressé, et le détournement de la tête.

5 Le critère de Remane de « connexion par des intermédiaires » a toujours été utilisé pour relier des espèces dans un contexte évolutif, et c’est par ailleurs l’élément fondamental de l’ancienne scala naturae, la chaine des êtres, qui s’étend des organismes les plus simples à la base de l’échelle et se développe vers le haut par des intermédiaires, pour atteindre finalement les plus complexes (souvent avec l’Homme au sommet). Bien que nous n’utilisions plus la scala naturae comme thème organisateur en taxonomie ou en systématique, elle est encore utilisée (peut-être inconsciemment) en écologie comportementale pour proposer une série d’étapes qui représentent le processus évolutif depuis une forme primitive jusqu’à un état dérivé. Les chercheurs peuvent ranger les espèces vivantes selon un certain ordre, tel que, par exemple : « vit à terre, chasse en eau peu profonde » connecté à « nage en eau profonde pour chasser, et retourne à terre pour se reproduire », lui-même connecté à « strictement aquatique, ne revient jamais à terre ». Évidemment, ils ne proposent pas nécessairement que l’espèce vivante qui nage pour chasser soit l’ancêtre réel de l’espèce strictement aquatique, mais l’idée est que les espèces courantes représentent des modèles des lointains ancêtres et sont utiles pour nous informer sur les transitions qui ont eu lieu dans la lignée qui mène aux animaux strictement aquatiques. Comme telles, les transitions que nous discutons font toutes parties d’un caractère homologue, comme « le choix de l’habitat », qui est observé dans les trois états que nous avons décrits, avec des différences dans les détails qui sont combinés dans cette perspective générale du processus d’évolution du milieu terrestre au milieu aquatique.

Figure 2

Redessiné d’après Evans (1958). Phylogénie hypothétique de quelques guêpes Sphécides, basée sur le comportement de nidification. Le concept original d’Evans intégrait de nombreuses lignées de guêpes phylo-génétiquement distantes, arrangées sur une échelle à 13 échelons ressemblant à une scala naturae. Ce fragmentmontre comment Evans a utilisé la séquence des événements pour définir des états comportementaux dans l’arbre évolutif général. Les stades 3, 4, et 5 diffèrent principalement par la séquence des événements, tandis que les stades 5 et 6 diffèrent par le rythme d’approvisionnement en proies.

Redessiné d’après Evans (1958). Phylogénie hypothétique de quelques guêpes Sphécides, basée sur le comportement de nidification. Le concept original d’Evans intégrait de nombreuses lignées de guêpes phylo-génétiquement distantes, arrangées sur une échelle à 13 échelons ressemblant à une scala naturae. Ce fragmentmontre comment Evans a utilisé la séquence des événements pour définir des états comportementaux dans l’arbre évolutif général. Les stades 3, 4, et 5 diffèrent principalement par la séquence des événements, tandis que les stades 5 et 6 diffèrent par le rythme d’approvisionnement en proies.

6 L’un des exemples les plus spectaculaires de caractère du type scala naturae, reliant des intermédiaires, a été proposé par Howard E. Evans, un entomologiste notoire. Evans était un expert des guêpes, et il a aligné le comportement de nidification des guêpes en une série de 13 étapes selon une échelle des plus primitives aux plus dérivées (Evans, 1958 ; figure 2). Les guêpes n’étaient pas toutes proches parentes, et Evans ne suggérait pas que les espèces impliquées aux étapes inférieures soient les ancêtres des espèces des niveaux supérieurs, mais il proposait que les espèces les plus dérivées soient passées par des étapes intermédiaires que l’on observe aujourd’hui chez d’autres espèces.

7 Ce travail (publié dans Evans, 1958 ; mais mieux connu à partir de la discussion dans Wilson, 1971 : 21-24) est toujours bien considéré, et il renforce ce qui a été discuté plus haut à propos de l’identification de l’homologie. Dans certains cas, Evans a identifié une évolution par l’expression d’une nouvelle classe de comportements, dans d’autres cas il l’a vue dans le changement de l’ordre de succession des comportements déjà présents. Par exemple, Evans a utilisé un changement d’ordre pour établir des catégories séparées : ainsi, « trouve la proie construit le nid - pond l’œuf » est différent de « construit le nid - trouve la proie - pond l’œuf ». Au-dessus de cela on trouve « construit le nid - trouve la proie - pond l’œuf - ajoute plusieurs proies en une seule fois », et au-dessus de cela se trouve « construit le nid - trouve la proie - pond l’œuf - ajoute plusieurs proies progressivement » (c.à.d. ajouter des proies pendant plusieurs jours successifs). Cet exemple est significatif, parce que l’altération des séquences demeure l’un des domaines les plus riches et les plus difficiles pour les phylogénéticiens comportementalistes modernes (pour les discussions récentes les plus sophistiquées, voir Robillard et al. 2006 ; Legendre et al., 2008). Le modèle d’Evans pour l’évolution du comportement de nidification chez les guêpes demeure un point important en phylo-génétique comportementale, mais l’approche de type scala naturae tend à contraindre la pensée parce que nous commençons par postuler que certaines espèces représentent des intermédiaires sur le chemin conduisant aux formes dérivées, alors qu’en fait il pourrait n’y avoir aucun élément en faveur d’une telle relation. Si les espèces vivantes placées à la base de la scala naturae ne sont pas réellement les ancêtres de celles du sommet, alors quelle indication avons-nous de ce qu’elles sont effectivement primitives ? Après tout, les espèces actuelles sont toutes des points d’aboutissement légitimes de l’évolution, chacune à sa façon, et non pas de réels marchepieds intermédiaires conduisant à d’autres espèces actuelles.

8 Depuis les temps de Tinbergen, Remane et Evans, un autre critère d’homologie a été établi comme critère ultime. Nous disposons maintenant de méthodes informatisées pour analyser des données extensives sur de nombreuses espèces et produire des arbres évolutionnistes par des calculs mathématiques explicites. Si une caractéristique d’intérêt apparaît comme ayant été dérivée une seule fois chez un ancêtre de toutes les espèces qui présentent cette caractéristique, alors l’origine unique démontre l’homologie. Ce critère sera qualifié de « congruence avec d’autres données » parce que la proposition d’homologie est testée par toutes les données prises en compte dans l’étude, dans la mesure où elles fondent l’arbre sur lequel nous observons les caractères d’intérêt. Si les autres données produisent un arbre qui nécessite que le caractère soit dérivé plus d’une fois, alors les origines séparées ne sont pas homologues. C’était l’objectif visé par les précédents évolutionnistes, mais il ne pouvait être atteint jusqu’à ce que les perspectives proposées par Willi Hennig dans les années 1960 soient développées dans des programmes informatiques durant les années 1970 et 1980. Cette approche est appelée l’analyse cladistique (ou phylo-génétique), et elle est la méthode la plus utilisée pour analyser des caractères afin de reconstruire une estimation de la phylogénie des espèces étudiées en utilisant les données disponibles (les méthodes concurrentes sont moins recommandables, mais cette question dépasse les objectifs de cet article). De nombreux biologistes du comportement ont également adopté ce critère.

Le choix des espèces

9 Il y a deux méthodes courantes pour chercher à connaître l’évolution de caractéristiques d’intérêt. La première consiste à effectuer des comparaisons multiples parmi plusieurs espèces de différentes lignées d’organismes qui portent les caractères d’intérêt. Si nous voulons étudier le vol, alors nous pourrions étudier un oiseau, une chauve-souris, un ptérosaure, etc. et espérer découvrir quelques principes généraux concernant les diverses occurrences de la capacité de vol. Cette méthode est erronée parce qu’elle est beaucoup moins générale qu’elle ne prétend l’être. Elle est basée sur les seules données étudiées, et ainsi elle peut n’avoir aucune pertinence pour d’autres systèmes qui ne sont pas proches de ceux étudiés, tels qu’un oiseau-mouche, ou certainement pas une libellule, ni de grands papillons nocturnes. L’exclusion de ces animaux volants limite la généralité des leçons qui sont supposées être générales.

10 La seconde méthode est essentiellement à l’opposé de la première. Plutôt que d’examiner beaucoup d’espèces pour une seule caractéristique afin d’en tirer des leçons générales, on examine une seule espèce pour beaucoup de caractéristiques, afin de généraliser notre connaissance à d’autres groupes. C’est pourquoi Drosophila melanogaster est tellement importante : nous connaissons vraiment beaucoup de choses à propos de D. melanogaster et ainsi nous espérons que notre traitement unifié de cet organisme modèle nous apprendra quelque chose sur les autres espèces. Mais la toile de fond de D. melanogaster n’est pas générale, elle est unique à D. melanogaster, et notre connaissance dérivée de D. melanogaster ne sera pas pertinente pour de nombreuses questions importantes, par exemple comment un oiseau, une chauve-souris ou un ptérosaure peuvent voler. Cette méthode nous laisse également avec un sentiment erroné de confiance en ce que, parce que nous connaissons complètement un seul système, nous comprenons le phénomène de manière extensive. Cela est rarement vrai (Wenzel & Noll, 2006).

11 La dominance de ces approches alternatives a supprimé de manière injuste une troisième possibilité, qui est souvent meilleure que chacune d’elles : l’étude de l’évolution de beaucoup de caractères particuliers parmi un grand nombre d’espèces de la même lignée, afin de documenter de manière détaillée un grand patron évolutif. Cette méthode a la force des comparaisons multiples, et aussi la force d’une proposition unifiée. Cette méthode est la phylo-génétique moderne. Elle permet souvent de développer le meilleur des deux autres approches.

12 Les détails de la méthode de reconstruction phylo-génétique elle-même sont au-delà du propos de cet essai, et doivent être recherchés ailleurs (Lecointre & Le guyader, 2001). Le propos de cet essai est de montrer en quoi la perspective phylo-génétique est particulièrement informative pour l’étude du comportement et de l’adaptation. Pour accéder à une perspective phylo-génétique, nous commençons par choisir un groupe d’espèces qui toutes descendent d’un ancêtre commun récent (un groupe monophylétique, un clade) et pour chacune de ces espèces nous dressons la liste des caractéristiques d’intérêt, définies avec précision en veillant à trouver des patrons qui puissent être expliqués par un processus d’héritage avec modification. Les espèces sont assemblées en un cladogramme qui est une estimation des origines évolutives (la phylogénie) des espèces étudiées. Les méthodes phylo-génétiques peuvent montrer quels aspects sont très généraux parmi les espèces considérées, quels aspects sont particuliers à certaines lignées, et s’il y a un patron répété dans différentes parties du cladogramme. Au minimum, la perspective phylo-génétique permet (à travers la description des caractéristiques étudiées) une meilleure évaluation de ce que nous essayons d’expliquer que ne le fait la méthode consistant à choisir simplement l’oiseau, la chauve-souris ou le ptérosaure. Également, dans cette dernière approche, des caractères comme « l’aile » ou « le vol » sont bien plus nommés que réellement définis, comme nous allons le voir ci-dessous. Et comme nous l’avons vu, la perspective phylo-génétique offre une meilleure évaluation du degré de généralité ou de particularité de nos conclusions que ne le fait un modèle basé sur une seule espèce étudiée, telle que D. melanogaster.

Le choix des données comportementales et de « bons » caractères

13 Considérons une simple parodie de reconstruction phylo-génétique : « Collecter les bons caractères qui montrent l’ascendance commune, puis construire un arbre à partir de ces caractères ». Cette vision est inexacte pour de nombreuses raisons. La première est qu’il n’y a aucun moyen de connaître les bons caractères avant l’étude ; une autre est que même les caractères qui sont largement cohérents avec la filiation (de « bons » caractères dans un sens phylo-génétique) peuvent être difficiles à interpréter et peuvent ne pas produire un arbre de manière aisée ; une troisième est que des caractères qui sont « pauvres » peuvent néanmoins apporter des informations importantes quand l’étude est restreinte à certaines lignées. En fait, ce ne sont pas les caractères qui sont bons, ce sont plutôt les définitions scientifiques des caractères qui peuvent être bonnes. Quand nous disons que certains animaux ont des ailes, la définition des « ailes » peut être très bonne et riche en détail concernant la structure interne, la musculature correspondante, son mouvement, etc. Dans ce cas, nous pourrions savoir que les oiseaux, les chauves-souris, les ptérosaures et les insectes ont respectivement des structures alaires qui sont apparues indépendamment et non pas liées à l’ascendance commune. Une définition pauvre pourrait simplement se limiter à « un appendice qui fournit la sustentation pour la capacité de vol », auquel cas nous ne distinguerions pas le fait que les ailes de ces animaux sont indépendantes. D’un point de vue scientifique, les structures biologiques ne sont ni bonnes ni mauvaises ; elles existent, tout simplement, et il appartient à l’entreprise humaine de définir des caractères qui peuvent être bons ou mauvais.

14 Notre parodie de reconstruction est également pauvre parce qu’elle implique une circularité qui n’est pas réellement un problème dans l’analyse moderne. Les gens pensent généralement qu’il y a un risque de raisonnement circulaire à utiliser un caractère d’intérêt pour construire un arbre qui est alors utilisé pour interpréter ce caractère. Toutefois, la circularité intervient quand le chercheur code le caractère, et non pas quand le chercheur examine les parcours évolutifs (Deleporte, 1993). Le codage maladroit de la part des chercheurs est un problème plus important que celui que posent les trajectoires évolutives incohérentes. Au pire, le problème de décrire une « homologie » qui soit non valide, et d’échouer à découvrir ensuite son invalidité, est un problème d’erreur statistique de type II (échouer à rejeter une hypothèse fausse) et non de circularité (Wenzel, 1997). Tous les programmes de recherche souffrent du risque d’erreur de type II, bien que ce soit moins évident dans la plupart des cas. S’il y a beaucoup de caractères dans l’analyse phylo-génétique, alors le risque d’erreur de type II n’est probablement pas sévère. Si un chercheur différent pense qu’une erreur de type II a été commise, il est bienvenu pour ajouter ses propres données à l’analyse et démontrer quelle solution doit être acceptée. Si ses données ne contraignent pas à une révision du concept, alors la proposition originale survit à cette épreuve, et il n’y a pas de raison particulière de penser que ce soit une erreur (Wenzel, 1997). La circularité n’est pas un problème sérieux dans les analyses phylo-génétiques modernes réalisées par des chercheurs prudents, parce qu’elle sera facilement révélée (Luckow et Bruneau, 1997).

15 Les méthodes de reconstruction phylo-génétique diffèrent de celles de l’écologie comportementale en regard de la question de savoir comment les comportements reflètent les patrons de filiation avec modification. Pour les études phylo-génétiques, on choisit un groupe d’espèces apparentées et ensuite on constitue une liste de similarités et de différences. Dans ce paradigme, les éléments qui sont communs aux espèces proches parentes peuvent être attribués à l’ascendance commune, et les éléments qui varient peuvent être dus à la modification à partir d’un plan de base commun. Par contraste, les études d’écologie comportementale tendent à s’orienter dans la direction opposée. On y décrit habituellement des classes de similarités et de différences, et ensuite on assigne les espèces à ces classes, avec l’objectif précis d’y inclure de nombreuses espèces non apparentées. Cette méthode peut être valide pour une étude de traits écologiques d’intérêt particulier, et elle est approximativement la même que celle que Felsenstein (1985) appelait « contrastes indépendants ». Toutefois, elle est profondément erronée en regard de la question de discuter comment des caractères évoluent dans un contexte darwinien de filiation avec modification parce que rien dans la méthode n’identifierait les similarités dues à l’ascendance commune et les différences dues à la modification. De manière croissante, les phylogénéticiens et les écologistes comportementaux étudient des problèmes suffisamment similaires pour qu’ils nécessitent une base commune de référence et de discussion. Si un phylogénéticien dit que l’architecture évolue de manière ordonnée, et si un écologiste comportemental dit que les nids sont fortement adaptés à leur environnement, peut-être penseront-ils qu’ils sont en conflit. Mais peut-être ont-ils tous deux raison, et ne parlent-ils tout simplement pas de la même chose. Aussi devons-nous examiner comment chacun d’eux définit ses caractères.

Les semblables, et les autres

16 La définition des groupes est un exercice bien connu des philosophes. Il y a deux types fondamentaux de définitions. Une définition « intensionnelle » représente la somme des attributs pour lesquels le terme ou le mot s’applique. C’est la méthode utilisée dans les études phylo-génétiques pour définir les lignées d’organismes apparentés. L’amnios (une synapomorphie) définit les tétrapodes amniotes (un clade, une lignée). Le type alternatif de définition est la définition « extensionnelle », qui est formée en désignant les membres du groupe et en disant qu’ils sont tous membres, et que par extension, tout ce qui ressemble à un membre est un autre membre. C’est ainsi que les écologistes définissent des groupes tels que les herbivores, en désignant les animaux qui mangent la végétation (comme les iguanes, les chenilles et les escargots terrestres). L’exercice consistant à désigner les différents animaux évite spécifiquement toute référence à un clade ou à une lignée significative, de telle sorte que la seule similarité notoire est le fait que ces animaux mangent des végétaux. Chacune de ces méthodes peut être utilisée, mais le problème auquel nous devons faire face aujourd’hui est que la plupart des classes comportementales ont été définies de manière extensionnelle par des écologistes comportementaux, tandis que nous espérons maintenant étudier le comportement au sein d’un paradigme qui repose implicitement sur des définitions intensionnelles. Si nous voulons donner sens à l’évolution du comportement comme processus d’héritage avec modification, alors nous devons nous attacher aux seules définitions intensionnelles.

17 Pour définir un caractère de manière intensionnelle, nous devons déterminer les critères nécessaires et suffisants pour que la définition s’applique. Pour considérer un cas simple, il est nécessaire et suffisant de définir l’amnios comme étant la membrane située à l’intérieur du chorion de l’œuf et enveloppant l’embryon. Les définitions comportementales ou écologiques ne sont pas aussi évidentes. Si nous postulons que les fleurs rouges manifestent un syndrome de pollinisation par les vertébrés, alors nous devons décider si nous atteignons nos objectifs en créant des classes telles que « fleur rouge » versus « non rouge », et « vertébré » versus « non vertébré ». On doit consacrer beaucoup d’efforts à formuler une idée explicite et claire de la définition de « rouge » (est-ce que « rose » y est inclus, et pourquoi, ou pourquoi pas ?) et de la définition de « fleur » (les bractées ou les structures foliées adjacentes font-elles partie des fleurs, et pourquoi, ou pourquoi pas ?). Peut-être trouverons-nous que la couleur rouge n’est pas toujours causée par les mêmes pigments, et que donc ce sont des formes différentes de « rouge », ou encore que des structures rouges ne font pas vraiment anatomiquement partie de la « fleur ». Ensuite, nous devrons considérer la définition de « pollinisation ». S’il s’agit d’un insecte portant du pollen sur une partie spéciale de son corps, de telle sorte qu’une autre fleur pourra le capturer, alors cela pourra être différent du cas d’un lézard qui mange des fleurs, mais laisse occasionnellement tomber suffisamment de pollen pour assurer la pollinisation. Par ailleurs, on peut postuler en confiance que personne ne polémiquera sur la définition de « vertébré », mais il serait bon de réfléchir sur la lignée qui a été choisie au départ. Si l’intention était de signifier « gros animal » (peut-être une définition de type extensionnelle) alors les très gros papillons Sphingidés devraient peut-être appartenir à cette classe. Il est difficile d’imaginer ce qu’une colonne vertébrale (« vertébrés ») peut avoir à faire avec la proposition évolutive en question (la pollinisation), aussi peut-être sommes-nous, en fait, en train d’examiner un phénomène relié aux systèmes visuels, auquel cas nous devrions plutôt discuter du type d’yeux portés par le pollinisateur. Ici l’objectif est la spécificité, avec une vision claire de ce que nous voulons identifier, et pourquoi. Le codage des caractères dans ce contexte n’est pas facile, et il nécessite la prise en considération minutieuse du fait que les caractères ainsi définis puissent être ou non transmis par un processus d’héritage avec modification (Grandcolas et al., 2001). Si nous disons « pollinisées par des vertébrés », alors d’une certaine manière nous serions en train de suggérer que ces fleurs « héritent les vertébrés ». Peut-être cette formulation est-elle adéquate comme substitut de l’élément biologique réel, quel qu’il soit, mais nous devons prendre cette décision en connaissance de cause plutôt que par erreur ou par inadvertance (pour plus de discussion sur ce sujet, voir Luckow & Bruneau, 1997).

18 Le conflit entre les groupes d’espèces des écologistes comportementaux, définis de manière extensionnelle, et les groupes des phylogénéticiens, définis de manière intensionnelle, est important. Usuellement, le conflit surgit à propos de « règles » ou de « lois » concernant l’évolution, proposées dans le passé. Toutefois, ces règles avaient souvent été conçues d’une manière qui n’est pas compatible avec les études modernes du processus d’évolution révélé par les patrons de filiation avec modification. Imaginons que soit proposée la règle suivante : « les animaux aquatiques ont une forme elliptique ». La proposition originale pourrait désigner (et donc, définir de manière extensionnelle) les manchots, les baleines, les calmars et les coléoptères aquatiques. Ils sont tous aquatiques, ils sont elliptiques, ils ne sont guère apparentés, et donc cela prouve la proposition. Alors un critique désigne la larve de moustique, celle de la libellule, et les oursins, et montre qu’ils ne sont manifestement pas elliptiques. Aussi la règle est-elle modifiée pour stipuler « Si un animal aquatique est grand, alors il est elliptique », afin d’écarter les exceptions, et nous proposons un nouveau un cas probant : les requins sont grands, et ils sont elliptiques. Alors un critique signale d’autres exceptions, par exemple le crabe arctique géant, ou un hippopotame. La règle est à nouveau redéfinie pour dire « Si un animal aquatique est grand et se déplace rapidement, alors il est elliptique ». Nous ajoutons, pour confirmation, les phoques. Graduellement, nous modifions les fondements du conditionnel « Si… » en les rendant de plus en plus étroits, de sorte à préserver la conclusion « Alors… » la plus large possible. Nous aboutissons finalement à la situation où nous désignons spécifiquement chaque cas que nous voulons identifier, pour pouvoir prétendre avoir découvert une règle ou une loi. C’est le développement inévitable des lois évolutives, et certaines survivent fort bien. Mais, si une de ces lois est en contradiction avec ce que nous apprenons par les définitions intensionnelles, alors cette loi doit être mise de côté. C’est le conflit important de nos jours.

19 Considérons l’argument bien connu selon lequel les caractères sexuels évoluent rapidement et garantissent l’isolement spécifique. Cette règle est issue d’études en écologie comportementale minutieuses et respectées, et elles jouissent d’un statut élevé dans la communauté évolutionniste. Toutefois, des études modernes montrent que les caractères sexuels n’évoluent pas nécessairement plus rapidement que les autres caractères (Branham & Wenzel, 2003 ; Song & Bucheli, 2010), ou que les génitalia n’évoluent pas comme un système de clé-et-serrure pour l’isolement spécifique (Gilligan & Wenzel, 2008 ; Song & Wenzel, 2008a), ou encore que les caractères sexuels évoluent d’une manière facilement interprétable (McLennan et al., 1988). Dans d’autres domaines, nous pouvons découvrir que, bien que le comportement social soit considéré comme plastique et dépendant du contexte, il n’en va pas nécessairement ainsi, et des détails peuvent être facilement interprétés dans un paradigme de filiation avec modification (Noll & Wenzel, 2008). Ou encore, en dépit des difficultés durables à interpréter la plasticité phénotypique des espèces polymorphiques, le changement de phase chez les locustes est aisément interprétable en contexte phylo-génétique (Song & Wenzel, 2008b). Chacune de ces études vastes et détaillées va à l’encontre d’une règle de statu quo ou d’une idée reçue. Le principal problème est que ces règles ne sont pas très utiles si elles reposent sur des définitions de type extensionnel qui n’ont jamais eu de relation avec un processus de filiation avec modification. De nos jours, les écologistes comportementaux règnent encore en maîtres quand il s’agit de dire comment évolue le comportement, mais le jour vient où nous allons réviser nos anciennes conceptions et développer des études phylo-génétiques basées sur des définitions intensionnelles cohérentes avec la filiation avec modification. Cela ne signifie pas que les études phylo-génétiques contredisent toujours les règles de l’écologie comportementale. En fait, Branham & Wenzel (2003) ont trouvé une large convergence entre les caractères utilisés pour le signalement sexuel, exactement comme le prévoyait la théorie de la sélection sexuelle. Bucheli et al. (2002) ont démontré que, dans un clade d’insectes Lépidoptères mineurs de feuilles, chacun des quatre principaux modèles d’évolution du choix de l’hôte est apparemment vrai, et ceci simultanément, et ce résultat dépasse ce qu’aucune étude non-phylo-génétique ne pourrait jamais aspirer à réaliser. Ainsi, on ne peut échapper à la primauté du test phylo-génétique, que ce soit quand on vise à réfuter un modèle d’évolution comportementale aussi bien que lorsqu’on cherche à le valider.

20 La différence entre l’esprit des définitions de type intensionnelle et extensionnelle peut être éclairée par un unique et bref débat à propos du fait notoire que beaucoup d’araignées présentent un très fort dimorphisme sexuel. Vollrath (1992), un expert des araignées accompli et respecté, a affirmé avoir montré que le dimorphisme avait évolué de nombreuses fois, et il en a proposé une explication évolutionniste. Son concept de dimorphisme était satisfait par la désignation de différentes instances, c.à.d. une définition extensionnelle. Quelques phylogénéticiens (Hormiga et al., 2000) réexaminèrent cette hypothèse, et la précision de leur analyse leur permit de séparer beaucoup des instances identifiées par Vollrath. De manière cruciale pour cette question, Hormiga et al. proposèrent des explications adaptatives séparées comme causes du phénomène. Dans certains cas, les femelles sont plus grandes à cause d’une sélection sur la fécondité totale (les femelles les plus grandes produisent plus d’œufs). Dans d’autres cas, les mâles sont plus petits et plus nombreux (ce qui augmente les chances que certains d’entre eux rencontrent des femelles fertiles). Dans d’autres cas encore, les mâles deviennent sexuellement matures à un âge plus jeune (évitant ainsi l’accroissement abrupt de mortalité qui tue la plupart des araignées avant qu’elles ne se reproduisent). Et parfois, les mâles sont plus grands (à cause de la compétition pour les partenaires). Hormiga et al. expliquent très bien le dimorphisme sexuel des araignées, mais ils n’utilisent pas « dimorphisme » comme une classe qui doive être expliquée, parce que le dimorphisme n’est pas, en fait, une seule et même chose. Nous apprenons plus de l’étude phylo-génétique basée sur la définition intensionnelle que de l’étude écologique basée sur la définition extensionnelle.

La qualité des données comportementales

21 Wenzel (1992) a passé en revue les méthodes utilisées pour définir les caractères dans 23 études phylo-génétiques du comportement incluant la locomotion, le comportement de cour, le toilettage, l’alimentation et le comportement de construction chez les oiseaux, les poissons, les araignées et les insectes. L’homologie des variations était effectivement établie entre espèces, genres et familles, et les auteurs de la plupart des études utilisaient tout ou partie des critères de Remane pour interpréter la variation. Ces propositions d’homologie étaient confirmées dans à peu près la moitié des études par le critère cladiste de congruence avec d’autres données dans une analyse phylo-génétique. Une leçon importante est que ces auteurs traitent la variation comportementale exactement comme les morphologistes traitent la variation anatomique, et qu’ils y ont bien réussi. Une seconde leçon sera que le comportement de cour et l’architecture des nids dominent parmi les comportements « utiles ». Cela est facile à comprendre parce que l’innovation aussi bien en communication (la cour) qu’en construction (l’architecture) doit être quelque peu contrainte pas à pas, sinon le produit comportemental ne fonctionnerait plus correctement. Le comportement de toilettage est également utile, quand il est assez variable, pour montrer des différences entre espèces étroitement apparentées (et il est souvent moins problématique pour l’établissement de l’homologie). Indépendamment, De Queiroz et Wimberger (1993) ont montré que dans 22 études (pour la plupart différentes de celles de Wenzel, 1992) qui incluaient certains caractères comportementaux dans une étude morphologique, les données comportementales étaient aussi bonnes ou même meilleures que la morphologie (et bien mieux que l’ADN) en regard de l’origine unique des traits (versus l’évolution convergente ou la réversion des traits), quand les données étaient analysées cladistiquement pour générer une phylogénie (figure 3). Certains des jeux de données de plus haute cohérence sont comportementaux, et la plus grande matrice comportementale qu’ils ont présentée mérite un commentaire particulier. L’étude par Wenzel (1993) de l’architecture des nids de guêpes montre que ces caractères produisent un arbre largement congruent avec la morphologie, mais plus cohérent intérieurement que la morphologie pour les mêmes genres. Si nous disposons les données comportementales sur l’arbre morphologique, alors les données comportementales sont plus congruentes avec cet arbre que les propres données morphologiques qui ont permis de générer l’arbre (Wenzel, 1993). On peut difficilement trouver un meilleur exemple de l’excellence des données comportementales.

22 Depuis le début des années 1990, beaucoup d’autres études ont montré que les données comportementales se comportaient bien en analyse cladistique. Deux références particulièrement notables pour la quantité des données et l’excellence générale de l’analyse seraient l’étude par Noll (2002) de 42 caractéristiques du comportement social dans 23 espèces d’abeilles sociales et leurs apparentées, et l’étude par Cap et al. (2002 ; 2008) de 11 espèces de Cervidés et de plusieurs groupes extérieurs, incluant 87 caractères du répertoire comportemental des femelles et 18 caractères sur les vocalisations des mâles. On sait aussi maintenant que les associations écologiques révèlent des patrons solides en analyse cladistique lorsqu’elles sont faites soigneusement sur un bon échantillon d’espèces, comme le montrent le choix de l’habitat et le comportement grégaire des blattes (Grandcolas, 1997), ou le choix de l’hôte chez les chenilles mineuses (Bucheli et al., 2002). Il y a maintenant un corps de données substantiel montrant que les chants sont particulièrement utiles, notamment chez certains insectes (Desutter et Robillard, 2003), certaines grenouilles (Robillard et al., 2006) et chez certains mammifères (Cap et al., 2008). Même chez les oiseaux qui apprennent une partie de leurs chants, les détails du mode d’apprentissage sont phylo-génétiquement utiles (Mundinger, 1979), et pour d’autres oiseaux les chants peuvent être plus stables parmi les espèces que les patrons de plumages (Rheindt et al. 2008) ou les patrons génétiques (Freudenstein et al., 2003 : 336). Alors que l’apprentissage pourrait apparaître comme limitant le signal phylo-génétique (après tout, les signaux appris ne sont pas codés dans l’ADN), il y a un argument incontestable selon lequel l’histoire phylo-génétique peut être retracée à un certain niveau par tout trait qui soit transféré biologiquement, verticalement, et nécessaire à la survie de l’espèce (Grandcolas et al., 2001 ; Freudenstein et al., 2003). Par exemple, « chante le chant que chantait ton père » est un caractère parfaitement valable, même si la connaissance du chant du père n’est accessible que par l’apprentissage. De même, bien qu’un saumon recherche apparemment pour sa reproduction le ruisseau particulier qu’il a appris à connaître au stade juvénile, les comportements d’orientation migratoire basés sur l’apprentissage juvénile sont caractéristiques de la totalité des espèces du genre Salmo. Ainsi, « retourne au pays pour te reproduire » est un caractère évolutivement stable même si « le pays » n’est spécifié que par l’apprentissage. Ici, la capacité d’apprentissage est une part du caractère, et non pas un obstacle à sa définition. L’évolution peut incorporer la capacité d’apprentissage dans la réponse adaptative, même si dans une première approche nous traitons les mécanismes impliqués comme une boîte noire, dont les détails devront être précisés par la suite. Pour revenir à un point précédent, la part de Lorenz dans le prix Nobel était basée sur la manière dont l’apprentissage (l’empreinte) renseigne sur des aspects de la reconnaissance de parentèle, et sa vision était à la fois adaptative et évolutionniste, sans rejeter un contexte profond (phylo-génétique).

Figure 3

Tirée de De Queiroz & Wimberger (1993). Le log de « l’indice de cohérence CI » (une mesure de la stabilité d’un caractère sur une phylogénie) contre le nombre de taxa dans l’analyse. Nous observons le phénomène bien connu selon lequel les études les plus vastes montrent le moins de cohérence, c.à.d. plus de réversions et de convergences. Les cercles vides représentent les données morphologiques, et les cercles pleins les jeux de données comportementales. La droite de régression du haut, notée « B », concerne les données comportementales, et la droite inférieure notée « M » concerne la morphologie. Les données comportementales apparaissent comme étant au moins de même qualité que les données morphologiques, et les plus grands jeux de données comportementales sont peut-être meilleurs que la morphologie.

Tirée de De Queiroz & Wimberger (1993). Le log de « l’indice de cohérence CI » (une mesure de la stabilité d’un caractère sur une phylogénie) contre le nombre de taxa dans l’analyse. Nous observons le phénomène bien connu selon lequel les études les plus vastes montrent le moins de cohérence, c.à.d. plus de réversions et de convergences. Les cercles vides représentent les données morphologiques, et les cercles pleins les jeux de données comportementales. La droite de régression du haut, notée « B », concerne les données comportementales, et la droite inférieure notée « M » concerne la morphologie. Les données comportementales apparaissent comme étant au moins de même qualité que les données morphologiques, et les plus grands jeux de données comportementales sont peut-être meilleurs que la morphologie.

Pourquoi ne pas se contenter d’utiliser l’ADN ?

23 Il est naturel de penser que s’il y a des problèmes avec la définition des caractères comportementaux avant de construire une phylogénie, alors nous devrions utiliser l’ADN pour la reconstruction phylo-génétique parce que l’identité du matériel génétique n’est pas contestée, et qu’il est certainement hérité tel que nous l’observons. Tandis que les données de séquence d’ADN ont fourni une nouvelle et grande source d’information, la qualité des données elles-mêmes est parmi les plus pauvres de toutes celles que nous ayons jamais utilisées dans les études évolutionnistes. Toutes les leçons modernes concernant l’utilisation de l’ADN à des fins phylo-génétiques sont remplies de mises en garde à propos des difficultés à utiliser les données de l’ADN. Parmi les problèmes les plus courants, on peut noter qu’une évolution aléatoire conduira à ce que deux espèces partageront les mêmes nucléotides par hasard (plutôt que par filiation commune) à peu près dans 25 % des cas ; qu’une évolution rapide sature certaines des positions de bases (habituellement la troisième position du codon) avec suffisamment de bruit pour que ces positions doivent être entièrement éliminées de l’étude ; que les sites localisés dans les régions des séquences qui présentent beaucoup d’événements d’insertion et de délétion ne peuvent pas être alignés de manière fiable pour statuer sur l’homologie ; que des taux d’évolution très divers entre espèces conduisent à des données qui ne peuvent être acceptées sous leur forme brute parce qu’elles conduiraient à des résultats incorrects ; que les modèles d’évolution génétique doivent être choisis soigneusement, sinon la véritable phylogénie ne sera pas reconstruite à partir des données de séquences ; que différents gènes peuvent évoluer selon différents mécanismes et ne pas pouvoir être utilisés simultanément dans une même étude ; que différents gènes peuvent en fait avoir des histoires différentes et ne pourront jamais donner une réponse cohérente unique ; que d’anciens polymorphismes peuvent conduire à des lignées modernes dont l’histoire phylo-génétique n’est pas reflétée par les données de l’ADN. Ces questions sont maintenant si connues que nous n’avons même pas à citer des autorités pour les soutenir (en fait, on nous prendrait pour des ignorants si nous ne connaissions pas ces avertissements). Si l’ADN présente tant de problèmes, nous devrions au moins considérer que certains types de caractères méritent de se voir donner une seconde chance pour nous informer sur la filiation. Au minimum, nous devrions permettre à des caractères soigneusement argumentés d’atteindre au même statut que les séquences d’ADN. Après tout, les traits comportementaux sont des produits du système nerveux central, qui est construit avec la contribution de très nombreux gènes, de telle sorte que l’on puisse s’attendre à ce qu’ils soient plus performants que les gènes individuels. Ce point de vue devrait être adopté par tous les chercheurs en sciences du comportement, parce qu’il conduit à réorienter l’attention sur le comportement lui-même.

Conclusion

24 Il y a une longue histoire d’utilisation de la variation comportementale pour étudier de grands patrons évolutifs, et vers le milieu du XX^e siècle les éthologistes ont mis en œuvre la plupart des principes nécessaires à la compréhension de la manière dont le comportement est modelé par la filiation avec modification. Tandis que certains caractères peuvent mieux s’ajuster que d’autres à l’histoire évolutive, la définition même des caractères demeure un thème de discorde important, et parfois sous-estimé, entre programmes de recherche. Les études écologiques tendent à utiliser des définitions de caractères de type extensionnelles, qui n’ont pas nécessairement de lien avec l’histoire phylo-génétique, et qui en fait ne sont donc pas informatifs concernant l’évolution dans le contexte de filiation avec modification. Les études phylo-génétiques reposent sur des définitions intensionnelles qui ont une bien meilleure capacité à représenter la filiation avec modification. Ces deux perspectives sont souvent en désaccord, et dans ce cas la perspective phylo-génétique est généralement plus précise et plus informative. Les études phylo-génétiques montrent souvent que les règles générales et les idées reçues ne sont pas supportées quand la variation comportementale est étudiée minutieusement parmi de nombreuses espèces apparentées. La variation comportementale, bien saisie dans les études de grande envergure, fournit souvent des caractères de très haute qualité quand on les compare à d’autres classes de données, et même les comportements qui intègrent des éléments d’apprentissage peuvent refléter efficacement l’histoire phylo-génétique. L’emphase actuellement mise sur les arbres évolutifs basés sur des données de l’ADN est quelque peu déplacée, et nous devrions nous attendre à ce que les données comportementales soient au moins aussi bonnes que les données de l’ADN pour l’inférence phylo-génétique.