polarolouis/these-recap-hebdo
1
0
Fork 0
Code Issues Pull requests Projects Releases Packages Wiki Activity Actions

Contrastive learning
All checks were successful
ci/woodpecker/push/woodpecker Pipeline was successful
Details

Browse source
This commit is contained in:
Louis 2026-05-11 13:51:45 +02:00
parent 46c72ff2f8
commit a95b686dd5
No known key found for this signature in database
1 changed files with 6 additions and 2 deletions
Show stats Download patch file Download diff file Expand all files Collapse all files

8
knowledge_base/vae_wasserstein_gromov.qmd
View file

@ -23,9 +23,13 @@ $\widetilde{Y} = D_1^{-1/2} Y D_2^{-1/2}$
**à compléter** **à compléter**
# Hypersphère méga cool # Apprentissage contrastif
Il faut creuser les contraintes des *embeddings* à vivre sur la surface d'une hypersphère car, d'après Julian et la littérature, par rapport à un espace euclidien cela permet d'avoir : Puisque l'on voudrait marquer la séparation entre différentes structures de réseaux, on pourrait vouloir faire de l'[apprentissage contrastif pour V(G)AE](https://u9534056.medium.com/an-overview-of-contrastive-learning-fa520f5f2c23).
## Hypersphère méga cool
Il faut creuser : forcer les contraintes des *embeddings* à vivre sur la surface d'une hypersphère car, d'après Julian et la littérature, par rapport à un espace euclidien cela permet d'avoir :
- position latente bornée : stabilisation de l'apprentissage et évite l'explosion dans une ou plusieurs directions. - position latente bornée : stabilisation de l'apprentissage et évite l'explosion dans une ou plusieurs directions.
- couverture "uniforme" de la sphère : tendance à faciliter l'apprentissage contrastif, avec l'idée de bien séparer les graphes aux structures différentes. - couverture "uniforme" de la sphère : tendance à faciliter l'apprentissage contrastif, avec l'idée de bien séparer les graphes aux structures différentes.