Model MIT memadukan struktur kristal 3D dengan teks agar AI dapat bernalar tentang material

Para peneliti di MIT, bersama para kolaborator, telah membangun model AI multimodal yang menghubungkan struktur kristal tiga dimensi dengan deskripsi dalam bahasa alami sehingga sistem AI dapat bernalar tentang material kristalin dan sifat-sifatnya. Studi dari kelompok Ju Li di Departemen Ilmu dan Teknik Material MIT ini terbit di jurnal peer-review Nature Communications. Makalah tersebut menamai sistem ini CLaC, singkatan dari model Bahasa-Kristal Kontrastif (Contrastive Language-Crystal model).

Menurut MIT News, model bahasa besar saat ini kesulitan menangani material karena struktur kristal disimpan dalam format khusus, bukan dalam teks yang menjadi bahan belajar model-model tersebut, dan karena literatur eksperimental berfokus pada sejumlah kecil kelas kristal yang populer. Makalah itu mencatat bahwa basis data kristal hanya memuat jutaan entri, jauh lebih sedikit daripada data di balik model bahasa-visi. Untuk mengimbanginya, tim memasangkan struktur dari Materials Project dengan narasi yang disintesis GPT dan berlandaskan sifat-sifat hasil perhitungan, di samping paragraf yang ditambang dari makalah-makalah ilmiah. Para penulis melaporkan bahwa narasi sintetis tersebut mencakup kumpulan kristal yang 300 kali lebih beragam daripada literatur yang ditulis manusia. Sebuah jaringan saraf graf mengodekan struktur, sebuah penyandi teks menangani bahasa, dan pembelajaran kontrastif menempatkan keduanya dalam satu ruang representasi bersama.

Dalam pengujian zero-shot, versi yang dilatih dengan narasi sintetis mencocokkan struktur dengan deskripsi komposisi yang tepat dengan akurasi 95,4 ± 0,2%, dibandingkan 13,5 ± 0,3% untuk model yang tidak dilatih dan 17,8 ± 0,3% untuk model dasar yang dibangun di atas Gemma-3-1b-it, demikian menurut makalah tersebut. Versi yang hanya dilatih dengan teks yang diekstrak dari makalah berkinerja hampir seperti pemilihan acak ketika diminta mengambil material yang sesuai dengan sifat target. Dalam contoh baterai, para peneliti mencari kandidat elektrolit padat litium-ion hanya dengan kriteria celah pita yang tinggi; ke-30 material peringkat teratas semuanya mengandung litium, dengan celah pita rata-rata 3,23 eV. Li6PClO5, yang berada di peringkat keempat, sebelumnya telah ditandai sebagai kandidat menjanjikan dalam penelitian independen, dan Li4SiO4, di peringkat kesembilan, sebelumnya telah dibuat sebagai elektrolit padat lapisan tipis.

Para penulis juga menguraikan keterbatasan yang jelas. Akurasi dalam mengklasifikasikan sistem kristal hanya 34,0 ± 0,4%, kurang lebih setara dengan model dasar Gemma, yang mereka kaitkan dengan ukuran batch pelatihan yang kecil, yaitu 16, serta distribusi sistem kristal yang sangat tidak seimbang. Konduktivitas ionik, sifat kunci bagi elektrolit, tidak ada dalam set data sintetis sehingga tidak dapat digunakan dalam kueri baterai tersebut. Makalah itu menambahkan bahwa bidang ini belum memiliki benchmark multimodal standar sehingga perbandingan langsung antarmodel menjadi sulit, bahwa penemuan material berbasis instruksi dengan model ini masih merupakan pekerjaan di masa depan, dan bahwa diperlukan lebih banyak penelitian mengenai bagaimana komposisi set data dan pembangkitan teks memengaruhi perilaku pengambilan serta kemungkinan bias.

“Struktur benar-benar merupakan inti dari bidang ilmu material”, kata Li dalam rilis MIT News, seraya menambahkan bahwa pemahaman tentang struktur memungkinkan peneliti menyimpulkan banyak hal tentang sifat suatu material. Ia membandingkan model ini dengan AlphaFold, yang menghubungkan struktur protein dengan fungsinya. Rekan penulis Elsa Olivetti mengatakan bahwa pendekatan ini menghubungkan struktur dengan sifat dan pemrosesan, dan menambahkan: “Saya berharap ini bisa menjadi salah satu lompatan besar itu”. Para penulis lainnya adalah penulis pertama Yang Jeong Park, mantan postdoc MIT, Mayank Kumaran, dan Chia-Wei Hsu. Menurut MIT News, penelitian ini sebagian didanai oleh National Research Foundation of Korea dan oleh dua lembaga pertahanan AS, yaitu Defense Threat Reduction Agency dan Defense Advanced Research Projects Agency.