Comparison of different methods to detect genetic barriers in a small mammal population

Abstract

Habitat fragmentation and the consequently the loss of connectivity between populations can reduce the individuals interchange and gene flow, increasing the chances of inbreeding, and the increase the risk of local extinction. Landscape genetics is providing more and better tools to identify genetic barriers.. To our knowledge, no comparison of methods in terms of consistency has been made with observed data and species with low dispersal ability. The aim of this study is to examine the consistency of the results of five methods to detect barriers to gene flow in a Mediterranean pine vole population Microtus duodecimcostatus: F-statistics estimations, Non-Bayesian clustering, Bayesian clustering, Boundary detection and Simple/Partial Mantel tests. All methods were consistent in detecting the stream as a non-genetic barrier. However, no consistency in results among the methods were found regarding the role of the highway as a genetic barrier. Fst, Bayesian clustering assignment test and Partial Mantel test identifyed the highway as a filter to individual interchange. The Mantel tests were the most sensitive method. Boundary detection method (Monmonier’s Algorithm) and Non-Bayesian approaches did not detect any genetic differentiation of the pine vole due to the highway. Based on our findings we recommend that the genetic barrier detection in low dispersal ability populations should be analyzed with multiple methods such as Mantel tests, Bayesian clustering approaches because they show more sensibility in those scenarios and with boundary detection methods by having the aim of detect drastic changes in a variable of interest between the closest individuals. Although simulation studies highlight the weaknesses and the strengths of each method and the factors that promote some results, tests with real data are needed to increase the effectiveness of genetic barrier detection.

A fragmentação do habitat e a consequente perda da conectividade entre populações pode reduzir o intercâmbio de indivíduos e consequentemente o fluxo genético, aumentando as hipóteses de ocorrer consanguinidade e consequentemente aumentar o risco de extinção local. A disciplina da genética da paisagem fornece cada vez mais e melhores ferramentas para detectar barreiras genéticas. No entanto, não se conhecem até à data, comparações de métodos em termos de consistência de resultados com dados observados e espécies com reduzida capacidade de dispersão. O objectivo deste estudo é avaliar a consistência dos resultados de cinco métodos de análise do papel da auto-estrada e de um rio como barreira ao fluxo genético numa população de rato-cego-mediterrânico Microtus duodecimcostatus: estimativas do Festatistico, método de aglomeração não-Bayesianos, métodos de aglomeração Bayesianos, método de detecção de fronteiras (algoritmo Monmonier) e o teste Mantel simples e parcial. Todos os métodos testados foram consistentes em considerar o rio como uma não barreira genética ao rato-cego-mediterrânico. No entanto, não houve consistência nos resultados quanto ao papel da autoestrada como barreira genética. As estimativas do F-estatistico, os métodos de aglomeração Bayesianos e o teste de Mantel parcial que mostram que a autoestrada pode estar a funcionar como um filtro ao movimento dos indivíduos entre os dois lados da estrutura. Os métodos de deteção de fronteiras (algoritmo Monmonier) e de aglomeração não-Bayesiano não detectaram diferenciação genética nas populações de rato-cego-mediterrâneo devido à estrada. Com base nos nossos resultados nós recomendamos a aplicação dos testes de Mantel, os métodos de aglomeração Bayesianos e dos métodos de detecção de fronteiras para esclarecer o papel dos atributos da paisagem como barreiras genéticas uma vez que, todos foram capazes de detectar barreiras mas não obtiveram resultados similares. Apesar dos estudos com base em simulações apontarem as vantagens e desvantagens de cada método e os fatores que associados aos resultados, é necessário que se façam testes com base em dados reais para que sejam mais eficazes na detecção de barreiras genéticas.