On boundary detection

Abstract

Given a sample of a random variable supported by a smooth compact manifold $M\subset \mathbb{R}^{d}$, we propose a test to decide whether the boundary of $M$ is empty or not with no preliminary support estimation. The test statistic is based on the maximal distance between a sample point and the average of its $k_{n}$-nearest neighbors. We prove that the level of the test can be estimated, that, with probability one, its power is one for $n$ large enough, and that there exists a consistent decision rule. Heuristics for choosing a convenient value for the $k_{n}$ parameter and identifying observations close to the boundary are also given. We provide a simulation study of the test.

Soit un $n$-échantillon issus d’une loi supportée par $M$, une variété compacte suffisament régulière. On propose un test de l’hypothèse nulle $\partial M=\varnothing $ contre l’hypothèse alternative $\partialM\neq \varnothing $ qui ne nécessite pas d’estimation de $M$ préliminaire. La statistique de test est la distance maximale (adéquatement renormalisée) entre une observation et la moyenne de ses $k_{n}$-plus proches voisins. On montre que le niveau du test peut être estimé, que sa puissance est $1$ lorsque $n$ est suffisament grand et, enfin, qu’il existe une règle de décision consistente. De manière pratique, on propose aussi une heuristique pour le choix de $k_{n}$ et pour l’indentification des observations proches du bord. Ces résultats sont illustrés par des simulations.