Machine learning for molecular and materials science 리뷰

8 min read

Paper

One-Sentence Summary

이 논문은 분자과학과 재료과학에서 머신러닝이 어떻게 설계 - 합성 - 특성 분석 - 이론 계산 - 문헌 활용의 연구 흐름을 가속할 수 있는지 정리한 리뷰 논문이다.

먼저 알아야 할 배경

분자와 재료의 성질은 원자 배치와 전자 구조에서 나온다. 이론적으로는 슈뢰딩거 방정식이나 양자역학 계산으로 물질의 성질을 예측할 수 있지만, 실제 연구에서는 계산 비용이 크다.

그래서 계산화학과 재료과학에서는 오랫동안 여러 근사 방법을 사용했다. 대표적으로 DFT, 즉 density functional theory가 있다. DFT는 정확도와 계산 비용 사이의 균형이 좋아서 많은 물질의 구조와 성질을 예측하는 데 쓰인다.

하지만 문제는 탐색 공간이 너무 크다는 점이다. 가능한 분자 구조, 결정 구조, 원소 조합, 합성 조건은 사실상 무한에 가깝다. 모든 후보를 직접 합성하거나 고정밀 계산으로 검증하기는 어렵다.

이때 머신러닝의 역할이 생긴다. 이미 계산했거나 실험한 데이터를 학습해서, 아직 보지 않은 후보의 성질이나 성공 가능성을 빠르게 예측하는 것이다.

이 논문의 핵심 문제의식

논문이 던지는 질문은 단순히 “화학에도 머신러닝을 쓸 수 있는가?“가 아니다.

더 중요한 질문은 다음에 가깝다.

실험, 계산, 문헌, 데이터베이스에 흩어진 지식을 학습 가능한 형태로 만들면, 물질 발견의 전체 흐름을 얼마나 바꿀 수 있는가?

전통적인 계산화학은 사람이 세운 물리 모델을 컴퓨터가 계산하는 방식에 가깝다. 반면 머신러닝 기반 접근은 데이터에서 패턴을 학습해 후보를 좁히거나, 계산 비용이 큰 단계를 대체하거나, 실험 방향을 추천한다.

이 논문은 머신러닝을 기존 물리 기반 모델의 대체재로만 보지 않는다. 오히려 실험, 시뮬레이션, 데이터베이스, 문헌을 연결하는 접착제에 가깝게 본다.

머신러닝 워크플로우

논문은 재료 발견에 머신러닝을 적용하는 일반적인 흐름을 다음처럼 설명한다.

데이터 수집
-> 표현 방식 설계
-> 학습 방법 선택
-> 모델 검증
-> 실험/계산/설계에 피드백

1. 데이터 수집

머신러닝은 데이터에서 배운다. 데이터는 실험 결과일 수도 있고, DFT 같은 계산 결과일 수도 있고, 논문이나 데이터베이스에서 추출한 정보일 수도 있다.

입문자 관점에서 중요한 점은 “데이터가 많으면 끝”이 아니라는 것이다. 화학과 재료 데이터에는 측정 오차, 실험 조건 차이, 누락값, 표기 방식 차이가 많다. 잘못된 데이터가 들어가면 모델은 그 오류까지 배운다.

논문은 데이터 전처리와 검증을 매우 중요하게 본다. 이는 현재의 AI 논의에서도 여전히 핵심이다. 모델 구조보다 데이터 품질이 연구 결과를 좌우하는 경우가 많기 때문이다.

2. 표현 방식 설계

분자나 결정 구조를 그대로 모델에 넣을 수는 없다. 모델이 이해할 수 있는 숫자 표현으로 바꿔야 한다. 이 과정을 feature engineering 또는 featurization이라고 부른다.

분자에서는 그래프 표현이 자연스럽다. 원자는 노드, 결합은 엣지로 볼 수 있기 때문이다.

결정 구조는 더 까다롭다. 같은 결정도 좌표계를 어떻게 잡느냐에 따라 여러 방식으로 표현될 수 있다. 따라서 회전, 병진, 좌표 선택에 덜 민감한 표현이 필요하다. 논문은 Coulomb matrix, radial distribution function, Voronoi tessellation, fragment descriptor 같은 접근을 예로 든다.

여기서 핵심은 좋은 descriptor가 필요하다는 점이다. 좋은 descriptor는 목표 물성보다 구하기 쉬워야 하고, 불필요하게 고차원적이지 않아야 하며, 물리적 의미를 어느 정도 담고 있어야 한다.

3. 학습 방법 선택

논문은 여러 모델 계열을 소개한다.

입문자에게는 이 부분을 모델 이름 암기보다 문제 유형과 연결해서 이해하는 편이 좋다.

분류 문제는 “이 물질이 금속인가 절연체인가?”, “이 조성이 특정 결정 구조를 가질 가능성이 높은가?” 같은 질문이다.

회귀 문제는 “밴드갭이 얼마인가?”, “분자의 극성률이 얼마인가?”, “에너지가 얼마인가?” 같은 연속값 예측이다.

4. 모델 검증

논문은 bias, variance, irreducible error를 구분한다.

간단히 말하면 다음과 같다.

재료과학에서는 validation이 특히 중요하다. 훈련 데이터와 비슷한 후보에는 잘 맞지만, 완전히 새로운 화학 공간에서는 성능이 떨어질 수 있기 때문이다. 논문이 강조하는 transferability 문제도 여기에 연결된다.

논문이 보는 주요 응용 영역

1. 화학 합성 경로 예측

유기합성에서는 목표 분자를 만들기 위한 경로를 역으로 추적하는 retrosynthesis가 중요하다. 전통적으로는 전문가가 많은 규칙과 경험을 사용해 가능한 반응 경로를 좁혔다.

논문은 이 영역에서 딥러닝과 규칙 기반 시스템의 결합, 그리고 sequence-to-sequence 방식의 가능성을 소개한다. 분자를 SMILES 문자열처럼 텍스트로 표현하면, 화학 반응 예측을 일종의 번역 문제처럼 다룰 수 있다.

다만 합성 예측은 데이터가 부족하거나 특정 반응 영역에 편향되면 약해진다. 특히 자연물 합성처럼 데이터가 적고 경로가 복잡한 영역에서는 one-shot learning 같은 접근이 필요할 수 있다고 본다.

2. 결정화와 실험 조건 탐색

논문은 특정 분자가 결정화될 가능성을 예측하거나, 무기물 합성 조건을 예측하는 사례를 언급한다.

여기서 흥미로운 점은 실패한 실험도 데이터가 된다는 것이다. 보통 논문에는 성공한 결과가 많이 남고 실패한 조건은 사라진다. 하지만 머신러닝 입장에서는 실패 사례도 의사결정에 매우 중요하다.

또한 active learning을 통해 다음에 어떤 실험을 하면 정보량이 큰지 추천할 수 있다. 이는 연구자가 모든 실험을 순차적으로 시도하는 대신, 모델과 실험이 서로 피드백을 주고받는 방식이다.

3. 다차원 특성 분석

재료의 구조를 이해하려면 X-ray, neutron diffraction, spectroscopy, microscopy 등 여러 실험 데이터를 함께 봐야 한다. 문제는 각 데이터가 서로 다른 해상도와 민감도를 가진다는 점이다.

논문은 머신러닝이 이런 다중 데이터 흐름을 연결하는 역할을 할 수 있다고 본다. 예를 들어 표면 구조 분석, 미세조직 이미지 분석, neutron scattering 데이터의 관심 영역 탐색, 위상 전이 탐지 등에 머신러닝이 쓰일 수 있다.

여기서 머신러닝은 단순 분류기가 아니라 실험과 모델링 사이의 피드백 루프를 만드는 도구에 가깝다.

4. 이론화학과 계산 비용 절감

DFT는 강력하지만 완벽하지 않다. 약한 상호작용, 강상관계, 복잡한 양자물질에서는 한계가 있다. 논문은 머신러닝이 DFT의 오차를 보정하거나, 밀도에서 에너지로 직접 매핑하거나, 포텐셜 에너지 표면을 학습해 계산 비용을 줄일 수 있다고 설명한다.

특히 force field나 potential energy surface를 학습하면, 양자역학 수준의 데이터를 바탕으로 훨씬 빠른 시뮬레이션을 수행할 수 있다. 이는 큰 시스템이나 긴 시간 스케일을 다뤄야 하는 문제에서 중요하다.

다만 서로 다른 근사 모델을 연결할 때는 오차가 어떻게 전파되는지 관리해야 한다. 빠른 예측만큼이나 불확실성 추정이 중요하다.

5. 새로운 물질 발견

재료 발견에서는 원하는 물성을 가진 원소 조합이나 결정 구조를 찾는 일이 핵심이다.

논문은 Heusler, half-Heusler, elpasolite 같은 구조군에서 머신러닝이 후보 물질을 선별한 사례를 소개한다. 중요한 흐름은 다음과 같다.

데이터 수집
-> 표현 방식 설계
-> 학습 방법 선택
-> 모델 검증
-> 실험/계산/설계에 피드백

이 방식은 brute-force 탐색보다 효율적이다. 하지만 결정 구조 표현이 어렵기 때문에, 분자과학보다 고체 재료 쪽의 일반화는 더 어려운 문제로 남아 있다.

6. 분자 설계

분자과학에서는 QSAR처럼 구조와 활성을 연결하는 방법이 오래전부터 쓰였다. 논문은 여기에 GAN과 reinforcement learning 같은 생성 모델이 결합되면서, 원하는 특성을 가진 분자를 새로 설계하는 방향으로 발전하고 있다고 본다.

이 부분은 현재의 생성형 AI 흐름과도 잘 연결된다. 단순히 기존 후보를 점수화하는 것이 아니라, 목표 성질을 만족하는 새로운 후보를 제안하는 방향이다.

7. 문헌 마이닝

논문은 과학 문헌 자체도 거대한 데이터 소스라고 본다. 논문, 보조자료, 데이터베이스에서 실험 조건, 물성, 구조, 관계를 추출하면 새로운 연구 데이터베이스를 만들 수 있다.

하지만 문헌은 비정형 텍스트이고, 보조자료 형식도 제각각이다. 그래서 텍스트 마이닝은 단순 검색이 아니라 정보 추출, 표준화, 메타데이터 정리까지 포함하는 문제다.

이 논문에서 특히 배울 점

첫 번째로, 머신러닝을 “모델”보다 “워크플로우”로 본다는 점이 좋았다. 논문은 특정 알고리즘 하나가 모든 문제를 해결한다고 말하지 않는다. 데이터 수집, 표현, 검증, 실험 피드백까지 포함한 전체 연구 흐름을 바꾸는 기술로 설명한다.

두 번째로, domain knowledge의 중요성을 분명히 한다. 분자와 재료는 이미지나 일반 텍스트와 달리 물리 법칙과 화학적 제약이 강하다. 따라서 무작정 큰 모델을 쓰는 것보다, 어떤 descriptor를 만들고 어떤 데이터가 신뢰 가능한지 판단하는 전문성이 중요하다.

세 번째로, 실패 데이터와 문헌 데이터의 가치를 강조한다. 연구 현장에서는 성공한 결과만 축적되기 쉽지만, 머신러닝 시스템을 만들려면 실패한 조건, 누락된 조건, 표준화된 메타데이터가 모두 중요하다.

한계와 비판적으로 볼 점

이 논문은 2018년에 발표된 리뷰 논문이다. 따라서 도구 목록이나 당시의 frontier는 현재 기준으로는 일부 오래됐을 수 있다. 예를 들어 그래프 신경망, foundation model, self-supervised learning, protein/materials 생성 모델 등은 이후 더 빠르게 발전했다.

또한 논문은 넓은 분야를 조망하는 리뷰이기 때문에, 각 응용의 실험 설계나 성능 비교를 깊게 검증하지는 않는다. 어떤 모델이 어떤 데이터 분포에서 실패하는지, benchmark가 얼마나 공정한지, 실제 실험 성공률로 얼마나 이어지는지는 개별 논문을 더 봐야 한다.

가장 중요한 한계는 데이터 품질이다. 화학과 재료과학은 고품질 데이터가 비싸고, 실험 조건이 복잡하며, 실패 사례가 잘 공개되지 않는다. 이 문제를 해결하지 못하면 모델 성능이 좋아 보여도 실제 연구 자동화로 이어지기 어렵다.

내 생각

이 논문은 “머신러닝을 이용한 물질 발견”을 처음 공부할 때 좋은 지도 역할을 한다. 개별 알고리즘보다 연구 흐름 전체를 먼저 보여주기 때문이다.

개인적으로 가장 중요한 메시지는 representation이다. 분자나 결정 구조를 어떻게 숫자로 표현하느냐가 모델 선택만큼 중요하다. 같은 랜덤 포레스트나 neural network를 써도, 입력 표현이 물리적 의미를 잘 담고 있는지에 따라 성능과 일반화가 크게 달라질 수 있다.

또 하나 인상적인 점은 머신러닝이 실험가를 대체한다기보다, 실험가가 어디를 봐야 하는지 제안하는 방식으로 더 현실적이라는 것이다. 특히 active learning은 실험 비용이 큰 재료과학에 잘 맞는다. 모델이 불확실성이 큰 영역이나 정보량이 큰 후보를 추천하고, 실험 결과가 다시 모델을 개선하는 흐름이 가장 설득력 있다.

다만 이 분야에서 “예측 정확도”만으로는 부족하다. 실제 연구에서는 합성 가능성, 비용, 독성, 안정성, 측정 가능성, 재현성까지 함께 고려해야 한다. 따라서 좋은 시스템은 단일 물성 예측기가 아니라 여러 제약 조건을 함께 다루는 의사결정 도구에 가까워야 한다.

입문자를 위한 정리

이 논문을 읽을 때는 다음 네 질문을 잡고 읽으면 이해하기 쉽다.

  1. 내가 예측하고 싶은 대상은 무엇인가?
  2. 그 대상을 학습 가능한 숫자 표현으로 어떻게 바꿀 것인가?
  3. 모델이 훈련 데이터 바깥에서도 맞는지 어떻게 검증할 것인가?
  4. 예측 결과를 실제 실험이나 계산 흐름에 어떻게 연결할 것인가?

전공자라면 여기에 한 가지 질문을 더 붙이면 좋다.

  1. 이 모델이 배운 패턴은 물리/화학적으로 해석 가능한가?

더 공부할 키워드

메모

이 리뷰에서는 원문 figure를 복사하지 않았다. 논문의 figure는 각각 연구 워크플로우, bias-variance trade-off, GAN 기반 분자 생성 개념을 설명하는 용도이며, 본문에서는 이를 문장과 간단한 흐름도로 다시 설명했다.

This post is a personal review and commentary on the paper. It does not reproduce the paper and links to the official source for the original work.

References