STAGE – Représentation mathématique pour IA aidant à la conception de design photonique et RF – F/H

ST a une grande expertise de l'Intelligence Artificielle au service du monde du design analogique ou digital. De nombreux projets faisant appel à des techniques aussi variées que les meta-heuristics, les GANs, le Reinforcement Learning, l'apprentissage non-supervisé, les méthodes de diffusions et autres méthodes génératives sont soit en phase d'exploration, soit pour la plupart en production ou proche de l'être. L'expérience de l'équipe R&D a été démontrée depuis 4 ans de plusieurs façons : tapeout de circuits complets dans diverses technologies dont la partie mask-préparation a été entièrement réalisée par IA, génération de design optiques 100% par IA avec une qualité sans précédente, convergence de solutions de reinforcement learning topo-free pour le design analogique. Dans chacun de ces cas, il a fallu trouver comment représenter le monde du design au neural network, afin de minimiser le bruit inhérent au réseau de neurone et stabiliser la convergence. C'est cette représentation que nous appelons “Représentation Mathématique” (MathRep) car elle fait la part belle aux mathématiques et parfois à la connaissance du domaine des graphs. Elle fixe le niveau absolu de qualité de la génération, sa célérité, sa stabilité. Notre prochaine étape, où des étudiants en stage vont pleinement pouvoir exprimer leur créativité, est l'accompagnement des méthodes génératives au services des projets de solution générative de designs Photonique et de designs Radio-Frequence (2 projets différents). L'une des tâches fondamentales permettant le succès de ses projets est l'étude de la représentation mathématique qui permettra à l'IA d'obtenir les résultats attendus. Cette représentation est à ce point importante qu'elle justifie toute notre attention. Des choix de représentation dépendront divers facteurs importants tels que la qualité finale des designs et la stabilité de la génération des designs, le temps de génération, la variété des types de design couverts. Un part d’exploration a été effectuée en 2026 sur la partie purement photonique. Il nous faut aller au bout et élargir à la partie Radio-Frequences.

Vous devrez travailler dans un environnement multi-équipes et multiculturel. Cette personne sera hébergée au sein du BooSTcamp de ST qui a regroupé en 2024 plus de 70 étudiants et plus de 40 en 2025&26. Vous travaillerez en lien étroit avec les autres stagiaires et thésards spécialisés dans un des domaines de design. Sa spécialité sera la partie MathRep, les formes de Graphs associés (GCN, Hypergraphs), les transformées liées aux calculs matriciels.

Les travaux menés dans ce stage ont pour buts de :

• Analyser les différentes approches de Graph et MathRep
• Explorer et valider une solution fiable pouvant se baser sur un algorithme d'intelligence artificielle
• Optimiser la complexité des algorithmes en vue d'une solution rapide et fiable, couvrant le plus de types de designs possibles dans le domaine en question
  • L’optimisation pourra se faire dans un premier temps dans des cas d'usages particuliers, puis généraux
• Implémenter la solution et la valider sur GPU
• Générer des benchmarks et effectuer des mises à niveau si la qualité n'est pas suffisante.
• Généraliser l'approche et les solutions pour servir différents cas d'usage de complexités différentes

A propos de vous

• En Master2, avec connaissance générale et expérience en machine learning ou Deep learning (TPs, projet personnel)
• Parfaite maitrise de Python, connaissance générique de Ray
• Une première expérience de TensorFlow ou Pytorch
• Connaissance & expérience en Théorie des Graphs, manipulation des GNNs.
• Très curieux.se, rapide, fiable, rigoureux.se
• Connaissance basique du monde du design analogique ou photonique est un plus (option design des grandes écoles ou université)