Houssem
Guermazi.

Le speculative decoding accélère l’inférence des LLM : un petit modèle draft propose plusieurs tokens que le modèle cible vérifie en une seule passe. Une vérification avec perte accepte davantage de tokens et accélère encore la génération, au risque de modifier la réponse. Où cette acceptation approximative est-elle sans danger, et quel compromis qualité–vitesse produit-elle ?

• Comparaison de la vérification exacte, qui préserve la distribution du modèle cible, et de règles d’acceptation avec perte.
• Banc d’essai reproductible en PyTorch / Hugging Face avec des paires draft–cible open-weight, sur GSM8K et MATH500.
• Suivi de la précision, du taux d’acceptation et du nombre de tokens acceptés par passe du modèle cible.
• Formulation de la vérification comme un programme linéaire de transport optimal, avec la frontière d’acceptation min(1, 1 − TV + ε), confrontée à des statistiques Qwen2.5-1.5B / 0.5B.
• Étude du lien entre position, divergence draft–cible, confiance du modèle et désaccords qui changent la réponse finale.

Projet de recherche au laboratoire MICS (CentraleSupélec), d’octobre 2026 à avril 2027. Objectif : caractériser empiriquement le compromis qualité–vitesse et, si possible, évaluer une règle d’acceptation guidée par la sensibilité des tokens.

Comment accélérer la construction de maillages tétraédriques tout en conservant une géométrie correcte, y compris sur des nuages de points difficiles ?

• Étude empirique de sept algorithmes CPU/GPU sur des nuages allant jusqu’à un million de points, avec une NVIDIA A100.
• Comparaison des performances, de la scalabilité et de la robustesse numérique.
• Validation par prédicats géométriques robustes, couverture de l’enveloppe convexe, cohérence des volumes et similarité de Jaccard.
• Étude de l’effet d’un jitter contrôlé sur les cas dégénérés et le recours à l’arithmétique exacte.

Une démarche de benchmarking reproductible qui examine conjointement vitesse, validité géométrique et comportement numérique.

Évaluer la robustesse de classifieurs cachés et identifier l’origine de contenus générés lors du hackathon CISPA Paris Cybersecurity & AI.

• Attaques adversariales black-box à faible perturbation L2, à partir d’ensembles de modèles CNN et ViT.
• Variantes de PGD, transfert d’attaques et calibration des perturbations par recherche binaire.
• Attribution de modèles génératifs à partir d’erreurs de reconstruction de plusieurs autoencodeurs.
• Fine-tuning d’un ResNet-50 pour la détection de filigranes, avec calibration ROC à 1 % de faux positifs.

Trois axes expérimentaux : transférabilité des perturbations adversariales, attribution par reconstruction et calibration de la détection à faible taux de faux positifs.

Construire un espace de représentation qui rapproche les vêtements visuellement similaires et sépare les exemples moins pertinents.

• Conception et fine-tuning d’une architecture à poids partagés pour des triplets anchor / positive / negative.
• Optimisation avec une triplet-margin loss et recherche par similarité cosinus.
• Comparaison de l’attention globale de ViT et de l’attention hiérarchique à fenêtres décalées de SwinV2.
• Benchmark face à Jina CLIP à l’aide de distributions de distances, de projections t-SNE et d’attributs visuels définis avec le partenaire.

Une exploration de la qualité des embeddings et des critères d’évaluation d’un moteur de recherche visuelle.

Apprendre une politique de contrôle par interaction avec un environnement simulé plutôt que par programmation explicite de chaque action.

• Implémentation d’un agent Deep Q-Network pour l’environnement CartPole.
• Experience replay pour réutiliser les transitions collectées.
• Exploration ε-greedy et mises à jour par différence temporelle.

Une mise en pratique des mécanismes fondamentaux de l’apprentissage par renforcement pour le contrôle non linéaire.

Relier la détection et la segmentation d’objets à une annotation guidée par points et à un suivi vidéo cohérent.

• Fine-tuning et benchmark de YOLOv5 et YOLOv8 sur KITTI et sur des données de segmentation de fissures.
• Évaluation de la précision, du rappel, du F1 et de la qualité des masques.
• Association de YOLOv8 aux encodeurs d’images, de prompts et de masques de SAM.
• Annotation guidée par points et suivi vidéo avec identifiants persistants.

Un pipeline qui relie plusieurs modèles de vision à une tâche d’annotation et de suivi concrète.

Transformer un système de recommandation en une expérience utilisable, de la représentation des données à l’interface.

• Implémentation d’un système de recommandation et d’une plateforme React / Node.js.
• Intégration de services via des API REST.
• Étude des représentations latentes, des matrices creuses et des méthodes d’optimisation liées à la qualité de recommandation.

Une expérience complète reliant modélisation, développement logiciel et interface utilisateur.

Étudier comment des représentations textuelles permettent de classifier des tweets dans un projet académique de détection de risque suicidaire.

• Prétraitement NLP et construction de variables textuelles.
• Représentations Word2Vec et TF-IDF.
• Classification par Random Forest et évaluation des prédictions.

90 % d’accuracy dans l’évaluation du projet, avec une attention portée au prétraitement et à la représentation des textes.