MIT-modell kopplar 3D-kristallstrukturer till text för att hjälpa AI att resonera om material

Forskare vid MIT har tillsammans med samarbetspartner byggt en multimodal AI-modell som kopplar tredimensionella kristallstrukturer till beskrivningar på naturligt språk, så att AI-system kan resonera om kristallina material och deras egenskaper. Studien kommer från den grupp som leds av Ju Li vid institutionen för materialvetenskap och materialteknik vid MIT och publiceras i den referentgranskade tidskriften Nature Communications. I artikeln kallas systemet CLaC, efter Contrastive Language-Crystal model (kontrastiv språk–kristall-modell).

Enligt MIT News har dagens stora språkmodeller svårt med material, eftersom kristallstrukturer lagras i specialiserade format snarare än i den text som modellerna lär sig från, och eftersom den experimentella litteraturen fokuserar på ett litet antal populära kristallklasser. Artikeln noterar att kristalldatabaser bara innehåller miljontals poster, betydligt färre än de data som ligger bakom vision–språk-modeller. För att kompensera parade teamet ihop strukturer från Materials Project med GPT-syntetiserade berättelser förankrade i beräknade egenskaper, tillsammans med stycken hämtade ur vetenskapliga artiklar. Författarna rapporterar att de syntetiska berättelserna täcker en uppsättning kristaller som är 300 gånger mer varierad än den litteratur som skrivits av människor. Ett grafneuralt nätverk kodar strukturerna, en textkodare hanterar språket, och kontrastiv inlärning placerar båda i ett gemensamt representationsrum.

I zero-shot-tester matchade versionen som tränats på syntetiska berättelser strukturer med rätt sammansättningsbeskrivning med 95,4 ± 0,2 % noggrannhet, jämfört med 13,5 ± 0,3 % för en otränad modell och 17,8 ± 0,3 % för en baslinje byggd på Gemma-3-1b-it, enligt artikeln. En version som enbart tränats på text extraherad ur artiklar presterade i stort sett som slumpmässigt urval när den ombads hämta material som matchade en målegenskap. I ett batteriexempel sökte forskarna efter kandidater till fasta litiumjonelektrolyter enbart med ett kriterium om högt bandgap; alla 30 högst rankade material innehöll litium, med ett genomsnittligt bandgap på 3,23 eV. Li6PClO5, rankad fyra, hade pekats ut som lovande i oberoende arbete, och Li4SiO4, rankad nia, hade tidigare framställts som en fast tunnfilmselektrolyt.

Författarna beskriver också tydliga begränsningar. Noggrannheten vid klassificering av kristallsystem var bara 34,0 ± 0,4 %, ungefär i nivå med Gemma-baslinjen, vilket de kopplar till en liten batchstorlek på 16 vid träningen och en kraftigt obalanserad fördelning av kristallsystem. Jonledningsförmåga, en nyckelegenskap för elektrolyter, saknas i det syntetiska datasetet och kunde därför inte användas i batterisökningen. Artikeln tillägger att fältet saknar standardiserade multimodala benchmarks, vilket gör direkta jämförelser mellan modeller svåra, att instruktionsbaserad materialupptäckt med modellen återstår som framtida arbete, och att mer forskning behövs om hur datasetets sammansättning och textgenereringen formar hämtningsbeteende och möjliga snedvridningar.

”Struktur är verkligen kärnan i materialvetenskapen”, sade Li i pressmeddelandet från MIT News och tillade att förståelse för strukturen låter forskare sluta sig till mycket om ett materials egenskaper. Han jämförde modellen med AlphaFold, som kopplar proteinstrukturer till funktion. Medförfattaren Elsa Olivetti sade att metoden kopplar struktur till egenskaper och bearbetning, och tillade: ”Jag hoppas att detta kan bli en av de där stegvisa förändringarna”. Övriga författare är förstaförfattaren Yang Jeong Park, tidigare postdoktor vid MIT, Mayank Kumaran och Chia-Wei Hsu. Enligt MIT News finansierades arbetet delvis av National Research Foundation of Korea och av två amerikanska försvarsmyndigheter, Defense Threat Reduction Agency och Defense Advanced Research Projects Agency.