Identification and Simulation of Physical Systems with Structured Deep Learning and Inductive Knowledge
Identification et simulation des systèmes physiques par apprentissage profond structuré et connaissances inductives
Abstract
Recent technological progress is supported by the generalization of numerical tools for simulating, controlling, and observing physical systems. Yet, by focusing on more and more complex phenomena, our conventional tools are falling short of meeting the growing expectations of engineers, whether in terms of accuracy or computation time.
Data-driven approaches, in particular neural networks, offer promising alternatives to address these new challenges. These models can capture complex, nonlinear relationships in physical systems, and shift the burden from manual derivation of tedious mathematical formulas towards large-scale data collection. However, these methods often sacrifice stability, robustness, precision, and more generally guarantees classically offered by traditional approaches.
In this thesis, we propose combining the fields of physics, deep learning, and control theory to propose new hybrid methods, taking advantage of the expressivity of neural networks, while relying on inductive biases from physics. We describe theoretical tools (discussed in Part 1) related to the simulation of dynamical systems and connect them to neural network design. In a second time (Part 2), we leverage these insights to design control algorithms and simulation techniques addressing the resolution of complex problems related to partial differential equations. Finally, in Part 3, we focus on larger-scale simulations such as fluid dynamics and counterfactual reasoning.
Our work has been presented at scientific conferences in the field of artificial intelligence and control theory. By bridging the gap between physics and machine learning, we believe that this paves the way toward a new generation of methods for the simulation and control of physical systems.
Les progrès technologiques de notre époque sont soutenus par la disponibilité croissante d’outils numériques pour simuler, contrôler et observer les systèmes physiques. En se concentrant sur des phénomènes de plus en plus complexes, nos outils conventionnels ne parviennent pas à répondre aux attentes croissantes des ingénieurs, que ce soit en termes de précision ou de temps de calcul. Les approches data-driven, en particulier les réseaux de neurones, offrent des alternatives prometteuses pour résoudre ces problèmes. Ces types de modèles capturent des relations complexes et non linéaires dans les systèmes physiques et déplacent la charge de modélisation vers celle de la collecte de données. Cependant, ces nouvelles méthodes sacrifient souvent les critères de stabilité, de robustesse et de précision et plus généralement les garanties offertes par les approches traditionnelles. Nous proposons de combiner les domaines de la physique, de l’apprentissage profond et de la théorie du contrôle pour proposer de nouvelles méthodes hybrides, tirant parti de la puissance des réseaux de neurones, tout en s’appuyant sur des biais inductifs issus de la physique. Ce manuscrit présente nos travaux dans ce domaine. En particulier, il décrit des outils théoriques (abordés dans la partie 1) liés à la simulation de systèmes dynamiques et les connecte à la conception de réseaux neuronaux. Dans un deuxième temps (Partie 2), nous exploitons ces connaissances pour concevoir des algorithmes de contrôle et des techniques de simulation impliquant la résolution de problèmes complexes liés aux équations aux dérivées partielles. Enfin, dans la troisième partie, nous abordons des problèmes de simulation à plus grande échelle tels que la dynamique des fluides et le raisonnement contrefactuel. Nos travaux ont été présentés lors de conférences scientifiques dans le domaine de l’intelligence artificielle et de la théorie du contrôle. En construisant un pont entre la physique et l’apprentissage automatique, nous croyons fermement que cette direction de recherche peut contribuer à une nouvelle génération de méthodologies pour la simulation et le contrôle des systèmes physiques.
Origin | Files produced by the author(s) |
---|