Explore every episode of the podcast Sciences des données - Stéphane Mallat
| Title | Pub. Date | Duration | |
|---|---|---|---|
| Séminaire - Génération de données en IA par transport et débruitage : Prédictions par interpolations stochastiques | 12 mars 2025 | 01:04:39 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Séminaire - Génération de données en IA par transport et débruitage : Prédictions par interpolations stochastiques Intervenant : Éric Van Den Ejden | |||
| 08 - Génération de données en IA par transport et débruitage (8) | 12 mars 2025 | 01:29:16 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Génération de données en IA par transport et débruitage (8) | |||
| Séminaire - Génération de données en IA par transport et débruitage : Problèmes inverses et IA génératives | 05 mars 2025 | 01:03:55 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Séminaire - Génération de données en IA par transport et débruitage : Problèmes inverses et IA génératives Intervenant : Éric Moulines Professeur à l'École Polytechnique | |||
| 07 - Génération de données en IA par transport et débruitage (7) | 05 mars 2025 | 01:17:09 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Génération de données en IA par transport et débruitage (7) | |||
| Séminaire - Génération de données en IA par transport et débruitage : Dynamique des modèles de diffusions | 26 févr. 2025 | 00:47:48 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Séminaire - Génération de données en IA par transport et débruitage : Dynamique des modèles de diffusions Intervenant : Tony Bonnaire Professeur à PSL | |||
| 06 - Génération de données en IA par transport et débruitage (6) | 26 févr. 2025 | 01:33:04 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Génération de données en IA par transport et débruitage (6) | |||
| Séminaire - Génération de données en IA par transport et débruitage : Des modèles de diffusion aux ponts de Schrödinger | 12 févr. 2025 | 01:09:20 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Séminaire - Génération de données en IA par transport et débruitage : Des modèles de diffusion aux ponts de Schrödinger Résumé Les modèles de diffusion ont révolutionné l'IA générative. Conceptuellement, ces méthodes définissent un mécanisme de transport d'une distribution de bruit vers une distribution de données. Des travaux récents ont étendu ce cadre pour définir des transports entre des distributions arbitraires, élargissant considérablement le potentiel de ces modèles de diffusion. Cependant, les méthodes existantes échouent souvent à approcher le transport optimal entre ces distributions. Dans cette présentation, nous montrerons comment il est possible de modifier les méthodologies actuelles pour obtenir les ponts de Schrödinger – une variante à entropie régularisée du transport optimal dynamique. Intervenant : Valentin De Bortoli Google DeepMind | |||
| 05 - Génération de données en IA par transport et débruitage (5) | 12 févr. 2025 | 01:32:31 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 05 - Génération de données en IA par transport et débruitage (5) | |||
| Séminaire - Génération de données en IA par transport et débruitage : Transport optimal et diffusions en apprentissage statistique | 05 févr. 2025 | 00:52:39 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Séminaire - Génération de données en IA par transport et débruitage : Transport optimal et diffusions en apprentissage statistique Intervenant : Gabriel Peyré Directeur de recherche au CNRS | |||
| 04 - Génération de données en IA par transport et débruitage (4) | 05 févr. 2025 | 01:29:26 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 04 - Génération de données en IA par transport et débruitage (4) | |||
| Séminaire - Génération de données en IA par transport et débruitage : Présentations des gagnants des challenges 2024 | 29 janv. 2025 | 00:37:23 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Séminaire - Génération de données en IA par transport et débruitage : Présentations des gagnants des challenges 2024 | |||
| 03 - Génération de données en IA par transport et débruitage (3) | 29 janv. 2025 | 01:31:29 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 03 - Génération de données en IA par transport et débruitage (3) | |||
| Séminaire - Stéphane Mallat : Challenge de données 2025 (2) | 22 janv. 2025 | 00:56:10 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Séminaire - Stéphane Mallat : Challenge de données 2025 (2) | |||
| 02 - Génération de données en IA par transport et débruitage (2) | 22 janv. 2025 | 01:34:38 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 02 - Génération de données en IA par transport et débruitage (2) | |||
| Séminaire - Stéphane Mallat : Challenge de données 2025 (1) | 15 janv. 2025 | 00:52:04 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 Séminaire - Stéphane Mallat : Challenge de données 2025 (1) | |||
| 01 - Génération de données en IA par transport et débruitage | 15 janv. 2025 | 01:25:52 | |
Stéphane Mallat Collège de France Science des données Année 2024-2025 01 - Génération de données en IA par transport et débruitage Le cours présente l'état de l'art de la génération d'images, de sons et de données scientifiques par réseaux de neurones profonds. On se concentre sur l'échantillonnage de distributions de probabilités obtenues par transport d'un bruit blanc Gaussien. Après une revue de l'état de l'art, on étudie le transport par score diffusion, qui effectue un débruitage progressif pour générer des données (images, sons, …). Cela nécessite d'estimer le score de la densité de probabilité, avec un réseau de neurone profond. Le cours introduit les bases mathématiques, algorithmiques avec leurs applications. Les sujets suivants seront abordés : Transport de probabilités en apprentissage profond. Génération et échantillonnage par transport ; Équation de Fokker Plank donnant l'évolution de la densité de probabilité d'un système dynamique. Équation de Langevin pour l'échantillonnage de probabilités ; Génération de données par score diffusion. Estimation du score par débruitage avec la formule de Tweety-Myasawa ; Apprentissage du score avec des réseaux de neurones profonds. Généralisation de l'apprentissage. Applications à la génération d''images et de sons ; Analyse du calcul effectué par les réseaux de neurones. Débruitage et parcimonie dans des bases orthogonales ; Génération de données conditionnée par une information complémentaire ; Interpolant stochastiques pour la prédiction. Applications à la prédiction de systèmes physiques chaotiques comme la météorologie. | |||
| Séminaire - Francis Bach : Une vision alternative des modèles de diffusion par débruitage | 13 mars 2024 | 00:56:27 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 Séminaire - Francis Bach : Une vision alternative des modèles de diffusion par débruitage | |||
| 08 - Apprentissage et génération par échantillonnage aléatoire | 13 mars 2024 | 01:00:00 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 08 - Apprentissage et génération par échantillonnage aléatoire | |||
| Séminaire - Christian Robert : Calculs bayésiens approximés (ABC) : d'un substitut élémentaire à une nouvelle forme d'inférence | 06 mars 2024 | 01:09:53 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 Séminaire - Christian Robert : Calculs bayésiens approximés (ABC) : d'un substitut élémentaire à une nouvelle forme d'inférence | |||
| 07 - Apprentissage et génération par échantillonnage aléatoire | 06 mars 2024 | 01:25:05 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 07 - Apprentissage et génération par échantillonnage aléatoire | |||
| Séminaire - Randal Douc : Échantillonnage par distributions auxiliaires : de la téléportation à l'échantillonnage d'importance par chaîne de Markov | 28 févr. 2024 | 01:03:01 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 Séminaire - Randal Douc : Échantillonnage par distributions auxiliaires : de la téléportation à l'échantillonnage d'importance par chaîne de Markov | |||
| 06 - Apprentissage et génération par échantillonnage aléatoire | 28 févr. 2024 | 01:36:22 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 06 - Apprentissage et génération par échantillonnage aléatoire | |||
| Séminaire - Michèle Sebag : Modèles causaux : les modèles génératifs en support à des interventions | 14 févr. 2024 | 00:59:36 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 Séminaire - Michèle Sebag : Modèles causaux : les modèles génératifs en support à des interventions | |||
| 05 - Apprentissage et génération par échantillonnage aléatoire | 14 févr. 2024 | 01:30:08 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 05 - Apprentissage et génération par échantillonnage aléatoire | |||
| Séminaire - Marylou Gabrié : Modèles génératifs pour la simulation de systèmes à l'équilibre | 07 févr. 2024 | 00:57:49 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 Séminaire - Marylou Gabrié : Modèles génératifs pour la simulation de systèmes à l'équilibre | |||
| 04 - Apprentissage et génération par échantillonnage aléatoire | 07 févr. 2024 | 01:35:24 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 04 - Apprentissage et génération par échantillonnage aléatoire | |||
| Séminaire - Stéphane Mallat : Présentations de gagnants des challenges 2023 | 31 janv. 2024 | 00:53:31 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 Séminaire - Stéphane Mallat : Présentations de gagnants des challenges 2023 | |||
| 03 - Apprentissage et génération par échantillonnage aléatoire | 31 janv. 2024 | 01:33:02 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 03 - Apprentissage et génération par échantillonnage aléatoire | |||
| Séminaire - Stéphane Mallat : Apprentissage et génération par échantillonnage aléatoire : Challenges de données 2 | 24 janv. 2024 | 00:43:25 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 Séminaire - Stéphane Mallat : Apprentissage et génération par échantillonnage aléatoire : Challenges de données 2 | |||
| 02 - Apprentissage et génération par échantillonnage aléatoire | 24 janv. 2024 | 01:31:29 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 02 - Apprentissage et génération par échantillonnage aléatoire | |||
| Séminaire - Stéphane Mallat : Apprentissage et génération par échantillonnage aléatoire : Challenges de données 1 | 17 janv. 2024 | 00:46:25 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 Séminaire - Stéphane Mallat : Apprentissage et génération par échantillonnage aléatoire : Challenges de données 1 | |||
| 01 - Apprentissage et génération par échantillonnage aléatoire | 17 janv. 2024 | 01:33:33 | |
Stéphane Mallat Collège de France Science des données Année 2023-2024 01 - Apprentissage et génération par échantillonnage aléatoire | |||
| Séminaire - Marc Mézard : Physique statistique et inférence : le défi des données structurées | 08 mars 2023 | 01:00:37 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Séminaire - Marc Mézard : Physique statistique et inférence : le défi des données structurées Les cinq dernières décennies ont vu la construction d'une nouvelle branche de physique statistique qui étudie les systèmes fortement désordonnés. Partant de l'étude des verres de spin, ce champ s'est étendu et s'est intéressé à des systèmes complexes dans différentes branches de la science, allant de l'informatique à la biologie en passant par la théorie de l'information. Quatre obstacles principaux ont dû être surmontés pour développer la théorie des systèmes désordonnés en très grande dimension : étudier des ensembles statistiques d'échantillons, analyser quantitativement le désordre microscopique, explorer des paysages d'énergie complexes, comprendre leurs liens avec les propriétés dynamiques. Cet exposé proposera tout d'abord une vision synthétique de ces développements. Il décrira ensuite le nouveau défi posé par l'application de ces méthodes en apprentissage machine, celle du désordre structuré. | |||
| 08 - Modèles, information et physique statistique | 08 mars 2023 | 01:40:19 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Le cours introduit les outils mathématiques permettant de modéliser des données en grande dimension, en lien avec la physique statistique et la théorie de l'information. La physique statistique montre que les lois macroscopiques résultent de la statistique des interactions de particules microscopiques. La théorie de l'information relie cette perspective avec la modélisation de données, à travers les notions d'entropie, d'énergie de Gibbs et de dépendances locales. Les applications concernent l'inférence de modèles, la génération de nouvelles données ou la compression, ainsi que la résolution de problèmes inverses. | |||
| Séminaire - Erwan Allys : Modélisation et séparation statistiques de composantes en astrophysique | 01 mars 2023 | 00:56:21 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Séminaire - Erwan Allys : Modélisation et séparation statistiques de composantes en astrophysique Un des défis de l'astrophysique et de la cosmologie est d'étudier des processus non linéaires complexes à partir d'un nombre souvent limité d'observations multicomposantes. Cette tâche est rendue d'autant plus difficile que la modélisation physique de ces processus n'est pas toujours achevée, ce qui implique de ne reposer que sur les observations disponibles, sans étape d'entraînement préalable. Dans ce séminaire, on étudiera comment construire des modèles performants en basse dimension prenant en compte le caractère physique et la régularité des processus étudiés. Ces modèles de maximum d'entropie, construit à partir de représentations de type scattering transforms, peuvent être construits directement à partir des données observationnelles. On discutera ensuite comment ces outils permettent de développer de nouveaux types de séparations de composantes, permettant notamment d'estimer les statistiques, et donc de construire un modèle, de processus inconnus à partir d'observations multicomposantes. | |||
| 07 - Modèles, information et physique statistique | 01 mars 2023 | 01:32:24 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Le cours introduit les outils mathématiques permettant de modéliser des données en grande dimension, en lien avec la physique statistique et la théorie de l'information. La physique statistique montre que les lois macroscopiques résultent de la statistique des interactions de particules microscopiques. La théorie de l'information relie cette perspective avec la modélisation de données, à travers les notions d'entropie, d'énergie de Gibbs et de dépendances locales. Les applications concernent l'inférence de modèles, la génération de nouvelles données ou la compression, ainsi que la résolution de problèmes inverses. | |||
| Séminaire - Valentin De Bortoli : Synthèse d'images par maximum d'entropie | 22 févr. 2023 | 00:56:35 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Séminaire - Valentin De Bortoli : Synthèse d'images par maximum d'entropie Valentin De Bortoli, CNRS, École normale supérieure Ces dernières années ont vu l'essor des techniques basées sur les réseaux de neurones pour la synthèse d'images. Ces méthodes reposent le plus souvent sur la minimisation d'une fonction, pour laquelle les minimiseurs sont supposés être les solutions du problème de synthèse. Dans cet exposé, nous étudions, à la fois théoriquement et expérimentalement, un autre cadre pour aborder ce problème en utilisant un schéma d'échantillonnage / minimisation alterné. Tout d'abord, nous utilisons des résultats de la géométrie de l'information afin de définir un problème de synthèse pour lequel la solution est une distribution d'entropie maximale sous contraintes d'espérance. Les échantillons de cette distribution représentent des images synthétiques. Ensuite, nous nous tournons vers l'analyse de notre méthode et nous montrons, en utilisant des résultats récents de la littérature sur les chaînes de Markov, que son erreur peut être explicitement bornée avec des constantes dépendantes de manière polynomiale de la dimension, même dans le cadre non convexe. Cela inclut le cas où les contraintes sont définies via un réseau de neurones différentiable. | |||
| 06 - Modèles, information et physique statistique | 22 févr. 2023 | 01:30:57 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Le cours introduit les outils mathématiques permettant de modéliser des données en grande dimension, en lien avec la physique statistique et la théorie de l'information. La physique statistique montre que les lois macroscopiques résultent de la statistique des interactions de particules microscopiques. La théorie de l'information relie cette perspective avec la modélisation de données, à travers les notions d'entropie, d'énergie de Gibbs et de dépendances locales. Les applications concernent l'inférence de modèles, la génération de nouvelles données ou la compression, ainsi que la résolution de problèmes inverses. | |||
| Séminaire - Bruno Loureiro : Physique statistique et réseaux de neurones | 15 févr. 2023 | 00:51:16 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Séminaire - Bruno Loureiro : Physique statistique et réseaux de neurones | |||
| 05 - Modèles, information et physique statistique | 15 févr. 2023 | 01:34:00 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Le cours introduit les outils mathématiques permettant de modéliser des données en grande dimension, en lien avec la physique statistique et la théorie de l'information. La physique statistique montre que les lois macroscopiques résultent de la statistique des interactions de particules microscopiques. La théorie de l'information relie cette perspective avec la modélisation de données, à travers les notions d'entropie, d'énergie de Gibbs et de dépendances locales. Les applications concernent l'inférence de modèles, la génération de nouvelles données ou la compression, ainsi que la résolution de problèmes inverses. | |||
| Séminaire - Giulio Biroli : Entropie et physique statistique | 08 févr. 2023 | 00:49:15 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Séminaire - Giulio Biroli : Entropie et physique statistique | |||
| 04 - Modèles, information et physique statistique | 08 févr. 2023 | 01:30:29 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Le cours introduit les outils mathématiques permettant de modéliser des données en grande dimension, en lien avec la physique statistique et la théorie de l'information. La physique statistique montre que les lois macroscopiques résultent de la statistique des interactions de particules microscopiques. La théorie de l'information relie cette perspective avec la modélisation de données, à travers les notions d'entropie, d'énergie de Gibbs et de dépendances locales. Les applications concernent l'inférence de modèles, la génération de nouvelles données ou la compression, ainsi que la résolution de problèmes inverses. | |||
| Séminaire - Modèles, information et physique statistique : Prix des challenges de la saison 2022 | 01 févr. 2023 | 01:03:57 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Séminaire - Modèles, information et physique statistique : Prix des challenges de la saison 2022 | |||
| 03 - Modèles, information et physique statistique | 01 févr. 2023 | 01:27:33 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Le cours introduit les outils mathématiques permettant de modéliser des données en grande dimension, en lien avec la physique statistique et la théorie de l'information. La physique statistique montre que les lois macroscopiques résultent de la statistique des interactions de particules microscopiques. La théorie de l'information relie cette perspective avec la modélisation de données, à travers les notions d'entropie, d'énergie de Gibbs et de dépendances locales. Les applications concernent l'inférence de modèles, la génération de nouvelles données ou la compression, ainsi que la résolution de problèmes inverses. | |||
| Séminaire - Modèles, information et physique statistique : Challenge de données (2) | 25 janv. 2023 | 00:45:00 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Séminaire - Modèles, information et physique statistique : Challenge de données (2) | |||
| 02 - Modèles, information et physique statistique | 25 janv. 2023 | 01:24:10 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Le cours introduit les outils mathématiques permettant de modéliser des données en grande dimension, en lien avec la physique statistique et la théorie de l'information. La physique statistique montre que les lois macroscopiques résultent de la statistique des interactions de particules microscopiques. La théorie de l'information relie cette perspective avec la modélisation de données, à travers les notions d'entropie, d'énergie de Gibbs et de dépendances locales. Les applications concernent l'inférence de modèles, la génération de nouvelles données ou la compression, ainsi que la résolution de problèmes inverses. | |||
| Séminaire - Modèles, information et physique statistique : Challenge de données (1) | 18 janv. 2023 | 00:47:44 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Séminaire - Modèles, information et physique statistique : Challenge de données (1) | |||
| 01 - Modèles, information et physique statistique | 18 janv. 2023 | 01:31:55 | |
Stéphane Mallat Collège de France Science des données Année 2022-2023 Modèles, information et physique statistique Le cours introduit les outils mathématiques permettant de modéliser des données en grande dimension, en lien avec la physique statistique et la théorie de l'information. La physique statistique montre que les lois macroscopiques résultent de la statistique des interactions de particules microscopiques. La théorie de l'information relie cette perspective avec la modélisation de données, à travers les notions d'entropie, d'énergie de Gibbs et de dépendances locales. Les applications concernent l'inférence de modèles, la génération de nouvelles données ou la compression, ainsi que la résolution de problèmes inverses. | |||
| 08 - Information et complexité | 09 mars 2022 | 01:32:44 | |
Stéphane Mallat Collège de France Science des données Année 2021-2022 Distorsions et parcimonie | |||
| 07 - Information et complexité | 02 mars 2022 | 01:31:53 | |
Stéphane Mallat Collège de France Science des données Année 2021-2022 Information de Fisher Les distorsions des algorithmes de compression sont dues aux erreurs d'approximation après quantification. Ce cours étudie la décroissance de l'erreur en fonction du nombre de bits du codage et fait le lien avec la parcimonie de la représentation dans une base. | |||