Un model MIT asociază structuri cristaline 3D cu text pentru a ajuta AI să raționeze despre materiale

Cercetători de la MIT, în colaborare cu alți parteneri, au construit un model AI multimodal care conectează structurile cristaline tridimensionale cu descrieri în limbaj natural, astfel încât sistemele AI să poată raționa despre materialele cristaline și proprietățile lor. Studiul, realizat în grupul condus de cercetătorul Ju Li din Departamentul de Știința și Ingineria Materialelor de la MIT, apare în revista evaluată colegial Nature Communications. Lucrarea numește sistemul CLaC, de la Contrastive Language-Crystal model (model contrastiv limbaj-cristal).

Potrivit MIT News, modelele lingvistice mari actuale au dificultăți cu materialele, deoarece structurile cristaline sunt păstrate în formate specializate, nu în textul din care învață aceste modele, și pentru că literatura experimentală se concentrează pe un număr mic de clase de cristale populare. Lucrarea notează că bazele de date de cristale conțin doar milioane de intrări, mult mai puține decât datele din spatele modelelor viziune-limbaj. Pentru a compensa, echipa a asociat structuri din Materials Project cu narațiuni sintetizate de GPT, fundamentate pe proprietăți calculate, alături de paragrafe extrase din articole științifice. Autorii raportează că narațiunile sintetice acoperă un set de cristale de 300 de ori mai divers decât literatura scrisă de oameni. O rețea neuronală pe grafuri codifică structurile, un codificator de text se ocupă de limbaj, iar învățarea contrastivă le plasează pe ambele într-un spațiu de reprezentare comun.

În teste zero-shot, versiunea antrenată pe narațiuni sintetice a asociat structurile cu descrierea corectă a compoziției cu o acuratețe de 95,4 ± 0,2%, față de 13,5 ± 0,3% pentru un model neantrenat și 17,8 ± 0,3% pentru o referință construită pe Gemma-3-1b-it, afirmă lucrarea. O versiune antrenată doar pe text extras din articole s-a comportat în mare măsură ca o selecție aleatorie atunci când i s-a cerut să recupereze materiale care corespund unei proprietăți țintă. Într-un exemplu legat de baterii, cercetătorii au căutat candidați de electroliți solizi litiu-ion folosind doar un criteriu de bandă interzisă mare; toate cele 30 de materiale clasate pe primele locuri conțineau litiu, cu o bandă interzisă medie de 3,23 eV. Li6PClO5, clasat pe locul al patrulea, fusese semnalat ca promițător în lucrări independente, iar Li4SiO4, clasat pe locul al nouălea, fusese realizat anterior ca electrolit solid în strat subțire.

Autorii descriu și limitări clare. Acuratețea la clasificarea sistemelor cristaline a fost de doar 34,0 ± 0,4%, aproximativ la nivelul referinței Gemma, ceea ce ei pun pe seama unei dimensiuni mici a lotului de antrenare, de 16, și a unei distribuții puternic dezechilibrate a sistemelor cristaline. Conductivitatea ionică, o proprietate esențială pentru electroliți, lipsește din setul de date sintetic, așa că nu a putut fi folosită în interogarea privind bateriile. Lucrarea adaugă că domeniului îi lipsesc benchmark-uri multimodale standard, ceea ce face dificile comparațiile directe între modele, că descoperirea de materiale pe bază de instrucțiuni cu acest model rămâne o lucrare viitoare și că sunt necesare mai multe cercetări privind modul în care compoziția setului de date și generarea textului influențează comportamentul de recuperare și posibilele prejudecăți.

„Structura este cu adevărat în centrul domeniului științei materialelor”, a declarat Li în comunicatul MIT News, adăugând că înțelegerea structurii le permite cercetătorilor să deducă multe despre proprietățile unui material. El a comparat modelul cu AlphaFold, care leagă structurile proteinelor de funcția lor. Coautoarea Elsa Olivetti a declarat că abordarea leagă structura de proprietăți și de procesare și a adăugat: „Sper că aceasta poate fi una dintre acele schimbări de etapă”. Ceilalți autori sunt Yang Jeong Park, prim autor și fost postdoctorand la MIT, Mayank Kumaran și Chia-Wei Hsu. Potrivit MIT News, lucrarea a fost finanțată parțial de Fundația Națională de Cercetare din Coreea și de două agenții de apărare din SUA, Defense Threat Reduction Agency și Defense Advanced Research Projects Agency.