Com o objetivo de estudar a análise de variância de frequências gênicas visando a caracterização da estrutura genética de estimadores dos populações de indivíduos diplóides, estabeleceram-se as propriedades dos parâmetros genéticos obtidos pelo método dos momentos, bem como a distribuição do quociente entre quadrados médios tentando propor um critério para testar a nulidade do coeficiente de endogamia. Foram considerados os seguintes casos: a. análise de variância das frequências gêmeas de amostras de indivíduos de uma população; b. análise de variância de frequências gênicas de amostras de indivíduos de populações diferentes. No estudo dos estimadores dos parâmetros genéticos, por se tratar, da estimação de quocientes entre variáveis aleatórias, utilizou-se a aproximação através do desenvolvimento de uma função em série de Taylor. No caso de amostras de indivíduos de uma população, as expressões dos estimadores foram avaliadas numericamente utilizando-se os resultados da estimação em N = 100 experimentos simulados através do SAS (“Statistical Analysis System”), considerando-se amostras com n = 10, 20, 30, 50, 100 e 200 indivíduos, extraídas em 99 populações de dois alelos e em 110 populações de três alelos, com diferentes coeficientes de endogamia e frequências gênicas. Nas populações de três alelos, comparou-se ainda a estimação do coeficiente de endogamia obtida da média das estimativas de cada alelo e através da análise conjunta envolvendo os três alelos. No estudo da distribuição do quociente entre quadrados médios, os resultados foram avaliados numericamente utilizando-se os resultados da simulação de N = 1000 experimentos através do SAS, considerando-se 17 tamanhos diferentes de amostra entre 5 e 500 indivíduos em 19 populações não endogâmicas de dois alelos e 21 populações não endogâmicas de três alelos, com diferentes frequências gênicas. Os estimadores do coeficiente de endogamia e da taxa de fecundação cruzada foram tendenciosos. As expressões das tendências apresentaram-se em função de 1/n, tomando-se desprezíveis com o aumento de n. As fórmulas propostas para estimação da variância do estimador do coeficiente de endogamia e do estimador da taxa de fecundação cruzada apresentaram resultados satisfatórios quando o coeficiente de endogamia da população foi inferior a 0,5, a frequência gênica estava entre 0,3 e 0,7 e o tamanho da amostra superior a 30 indivíduos. A estimação do coeficiente de endogamia em populações com alelos múltiplos, usando a análise conjunta com todos os alelos foi menos tendenciosa que a estimação através da média das estimativas nas análises de cada alelo, embora apresentassem a mesma variância. O critério para testar a nulidade do coeficiente de endogamia mostrou-se válido usando-se: 30 indivíduos se a frequência gênica da população estiver entre 0,3 e 0,7; 50 indivíduos se a frequência gênica estiver entre 0,25 e 0,7 5 e 100 indivíduos se a frequência gênica estiver entre 0,2 e 0,8. No caso de três alelos o critério usando a análise conjunta foi bastante restrito, valendo apenas se a frequência de cada alelo não for menor que 0,2 , o número de indivíduos estiver entre 10 e 30 e o nível de significância for 0,01. No caso de amostras de indivíduos de populações diferentes, os estimadores do coeficiente de endogamia de todos os indivíduos das populações, do coeficiente de endogamia dos indivíduos dentro das populações, do coeficiente de coancestria e da taxa de fecundação cruzada foram tendenciosos. As tendências dos estimadores dos coeficientes de endogamia foram negativas. As variâncias dos estimadores dos coeficientes de endogamia e da taxa de fecundação cruzada tiveram expressões semelhantes às fórmulas obtidas no caso de amostras de indivíduos de uma população.

The purpose of this study was to investigate the analysis of variance of gene frequencies aiming to charecterize the genetic structure of diploid populations. Properties of the genetic parameters estimators obtained by the method of moments and the distribution of ratios between mean squares were studied in order to propose a criterion to test the nullity of the inbreeding coefficient. The following cases were oonsidered: a. analysis of variance of gene frequencies of samples from a single population. b. analysis of vsriance of gene frequencies of samples from diferente populations. ln studing the estimators of genetic parameters na approximation through the development of Taylor's fimction series was used. ln the case of samples of individuais from a population, the expressions of the estimators were numerically evaluated from one hundred experiments simulated through SAS (Statistical Analysis System) and considering samples of 1,0, 20, 30, 50, 100 and 200 individuals extracted from 99 populations with two alicies and from 110 populations with three alleles, and different inbreeding coefficient and gene frequencies. In populations with three alleles the inbreeding coefficient estimated as the mean coefficient from tbe analysis for eech allele, was compared with the inbreeding coefficient obtained from the joint analysis of variance for all three alleles. Toe distribution of ratios between mean squares was evaluated numerically from one thousand experiments simulated through SAS and considering 17 different sample sizes varying from 5 to 500 individuals from 19 non-inbred populations with two alleles and from 21 non-inbred populations with three alleles, and having different gene frequencies. The estimetors for the inbreeding coefficient and for the cross-fertilization rate were biased. The expressions for biases were functions of l/n and became negligible as the sample size (n) increased. The formulae proposed for estimating the variance of estimators for the inbreeding coefficients and for the rate of cross-fertilization presented satisfactory results for populations with inbreeding coeficiente lower than 0.5, gene frequencies varying from 0.3 and 0.7, and sample size greater than 30 individuals. The estimate of the inbreeding coeficiente in populations with multiple alleles was least biased using the joint coefficient analysis of varience than the mean estimate obtained from the analysis of variance for each allele:, though they presented the sarne variance . The criterion for testing nullity of the inbreeding coefficient proved to be valid for populations with sample size of 30 individuals and gene frequencies between 0.30 and 0.70 , or 50 individuais with gene frequencies betwem 0.25 and 0.75 or 100 individuals if gene frequencies were between 0.20 and 0.80 . ln populations with three alleles the criterion using the joint analysis of variance proved to be highly restricted, being valid only if any allele has frequency not smaller than 0.20 , the sample size is between 10 and 30 individuals and significance leved is 0.01. ln the case of samples from different populations the estimators for the inbreeding coefficient of all individuals in the populations, for the inbreeding coefficient of individuals within the populations, for the coefficient of coancestry and of the rate of cross-fertilization were biased. The biases of the estimators for the inbreeding coefficients were negative. Expressions for the variances of the estimators of the inbreeding coefficient end of the rate of cross-fertilization were similar to those obtained from samples taken from a single population.