Fonction de coût par triplet

La fonction de coût par triplet (ou Triplet loss en anglais) est une fonction objectif pour les algorithmes d'apprentissage automatique où une entrée (appelée ancre) est comparée à une entrée positive (vérité) et une entrée négative (fausse). La distance entre les données de base (ancre) et l'entrée positive (vérité) est minimisée, tandis que la distance entre l'entrée de ligne de base (ancre) et l'entrée négative (falsifiée) est maximisée[1] - [2]. Une première formulation équivalente à la fonction de coût par triplet a été introduite (sans l'idée d'utiliser des ancres) pour l'apprentissage métrique à partir de comparaisons relatives par M. Schultze et T. Joachims en 2003[3].

En imposant l'ordre des distances, les modèles de perte de triplets implique qu'une paire d'échantillons avec les mêmes étiquettes a une valorisation plus petite en distance que des paires avec des étiquettes différentes. Il est souvent utilisé pour l' apprentissage de la similitude dans le but d'apprendre les incorporations, telles que l' apprentissage du classement, les plongement de mots, les vecteurs de pensée et l'apprentissage métrique[4].

Envisagez la tâche de former un réseau de neurones à reconnaître les visages (par exemple pour l'admission dans une zone de haute sécurité). Un classificateur formé pour classer une instance devrait être recyclé chaque fois qu'une nouvelle personne est ajoutée à la base de données de visages. Cela peut être évité en posant le problème comme un problème d'apprentissage de similarité au lieu d'un problème de classification. Dans notre cas, le réseau est entraîné (en utilisant une perte de contraste) pour produire une distance qui est petite si l'image appartient à une personne connue et grande si l'image appartient à une personne inconnue. Cependant, si nous voulons produire les images les plus proches d'une image donnée, nous aimerions apprendre un classement et pas seulement une similitude. Une fonction de coût par de triplet est utilisée dans ce cas.

La fonction de perte peut être écrite à l'aide d'une fonction de distance euclidienne

${\displaystyle {\mathcal {L}}\left(A,P,N\right)=\operatorname {max} \left({\|\operatorname {f} \left(A\right)-\operatorname {f} \left(P\right)\|}^{2}-{\|\operatorname {f} \left(A\right)-\operatorname {f} \left(N\right)\|}^{2}+\alpha ,0\right)}$

où ${\displaystyle A}$ est notre entrée d'ancrage, que l'on veut tester, ${\displaystyle P}$ est une entrée positive de la même classe que ${\displaystyle A}$, ${\displaystyle N}$ est une entrée négative d'une classe différente de ${\displaystyle A}$, ${\displaystyle \alpha }$ est une marge entre les paires positives et négatives, et ${\displaystyle \operatorname {f} }$ est une intégration.

Cela peut ensuite être utilisé dans une fonction de coût, c'est-à-dire la somme de toutes les pertes, qui peut ensuite être utilisée pour minimiser le problème d' optimisation posé

${\displaystyle {\mathcal {J}}=\sum _{i=1}^{{}M}{\mathcal {L}}\left(A^{(i)},P^{(i)},N^{(i)}\right)}$

Les indices sont pour des vecteurs d'entrée individuels donnés sous forme de triplet. Le triplet est formé en prenant en compte une entrée d'ancrage, une entrée positive qui décrit la même entité que l'entité d'ancrage et une entrée négative qui ne décrit pas la même entité que l'entité d'ancrage. Ces entrées sont ensuite exécutées sur le réseau et les sorties sont utilisées dans la fonction de perte.

Cet article est issu de wikipedia. Text licence: CC BY-SA 4.0, Des conditions supplémentaires peuvent s’appliquer aux fichiers multimédias.