Un modèle du MIT associe des structures cristallines 3D à du texte pour aider l'IA à raisonner sur les matériaux

Des chercheurs du MIT, en collaboration avec des partenaires, ont construit un modèle d'IA multimodal qui relie des structures cristallines tridimensionnelles à des descriptions en langage naturel, afin que les systèmes d'IA puissent raisonner sur les matériaux cristallins et leurs propriétés. L'étude, issue du groupe de Ju Li au département de science et génie des matériaux du MIT, paraît dans la revue à comité de lecture Nature Communications. L'article nomme le système CLaC, pour modèle contrastif langage-cristal (Contrastive Language-Crystal model).

Selon MIT News, les grands modèles de langage actuels peinent avec les matériaux parce que les structures cristallines sont conservées dans des formats spécialisés plutôt que dans le texte à partir duquel ces modèles apprennent, et parce que la littérature expérimentale se concentre sur un petit nombre de classes de cristaux populaires. L'article note que les bases de données de cristaux ne contiennent que des millions d'entrées, bien moins que les données derrière les modèles vision-langage. Pour compenser, l'équipe a associé des structures du Materials Project à des récits synthétisés par GPT et fondés sur des propriétés calculées, ainsi qu'à des paragraphes extraits d'articles. Les auteurs rapportent que les récits synthétiques couvrent un ensemble de cristaux 300 fois plus diversifié que la littérature écrite par des humains. Un réseau de neurones en graphe encode les structures, un encodeur de texte traite le langage, et l'apprentissage contrastif place les deux dans un espace de représentation partagé.

Dans des tests zero-shot, la version entraînée sur des récits synthétiques a associé les structures à la bonne description de composition avec une exactitude de 95,4 ± 0,2 %, contre 13,5 ± 0,3 % pour un modèle non entraîné et 17,8 ± 0,3 % pour une référence construite sur Gemma-3-1b-it, indique l'article. Une version entraînée uniquement sur du texte extrait d'articles s'est comportée en grande partie comme une sélection aléatoire lorsqu'on lui a demandé de retrouver des matériaux correspondant à une propriété cible. Dans un exemple lié aux batteries, les chercheurs ont recherché des candidats d'électrolytes solides pour lithium-ion en utilisant uniquement un critère de bande interdite élevée ; les 30 matériaux les mieux classés contenaient tous du lithium, avec une bande interdite moyenne de 3,23 eV. Li6PClO5, classé quatrième, avait été signalé comme prometteur dans des travaux indépendants, et Li4SiO4, classé neuvième, avait auparavant été fabriqué sous forme d'électrolyte solide en couche mince.

Les auteurs décrivent aussi des limites claires. L'exactitude de la classification des systèmes cristallins n'était que de 34,0 ± 0,4 %, à peu près au niveau de la référence Gemma, ce qu'ils relient à une petite taille de lot d'entraînement de 16 et à une distribution fortement déséquilibrée des systèmes cristallins. La conductivité ionique, propriété clé pour les électrolytes, est absente du jeu de données synthétique, et n'a donc pas pu être utilisée dans la requête sur les batteries. L'article ajoute que le domaine manque de benchmarks multimodaux standard, ce qui rend difficiles les comparaisons directes entre modèles, que la découverte de matériaux guidée par instructions avec le modèle reste un travail futur, et que davantage de recherches sont nécessaires sur la manière dont la composition du jeu de données et la génération de texte façonnent le comportement de recherche et les biais possibles.

« La structure est vraiment au cœur du domaine de la science des matériaux », a déclaré Li dans le communiqué de MIT News, ajoutant que comprendre la structure permet aux chercheurs d'inférer beaucoup de choses sur les propriétés d'un matériau. Il a comparé le modèle à AlphaFold, qui relie les structures des protéines à leur fonction. La co-autrice Elsa Olivetti a déclaré que l'approche relie la structure à la propriété et au procédé de fabrication, et a ajouté : « J'espère que cela pourra être l'un de ces sauts qualitatifs ». Les autres auteurs sont le premier auteur Yang Jeong Park, ancien postdoctorant au MIT, Mayank Kumaran et Chia-Wei Hsu. Selon MIT News, les travaux ont été financés en partie par la National Research Foundation of Korea et par deux agences de défense américaines, la Defense Threat Reduction Agency et la Defense Advanced Research Projects Agency.