Movatterモバイル変換


[0]ホーム

URL:


1,860 views

Matlantis™のニューラルネットワークポテンシャルPFPの適用範囲拡張

汎用原子レベルシミュレータMatlantis™ (https://matlantis.com)のコア技術に相当するニューラルネットワークポテンシャル「PFP」について、開発段階からバージョン3までの発展の過程を紹介します。本資料は2022年9月に行われた第83回応用物理学会秋季学術講演会で発表した資料を一部差し替えたものです(https://meeting.jsap.or.jp/)。

Related topics:
Downloaded 11 times
Matlantis™のニューラルネットワークポテンシャルPFPの適用範囲拡張So Takamoto○, Chikashi ShinagawaPreferred Networks, Inc.
2● Matlantis [1]○ 材料探索を加速する“汎用原子レベルシミュレータ”○ 原子シミュレーションの環境をSaaSとして提供● PFP○ Matlantisのコア技術に相当するNeural network potenital (NNP)○ データセット/アーキテクチャ共に独自開発○ 任意の多元素の組み合わせに対して動作する汎用性が特徴タイトルの用語について: MatlantisとPFP[1] Matlantis. https://matlantis.com/[2] Matlantis Cases. https://matlantis.com/ja/casesMatlantisを利用して計算された事例 [2]
3● Neural Network Potential (NNP) の発展○ 原子構造を扱うNNアーキテクチャの「カンブリア爆発」■ グラフ畳み込み、不変性/共変性の導入、電子状態計算の模倣○ 巨大データセットの登場■ QM9, Materials Project, Open Catalyst Project, etc.● 課題○ 精度: 回帰スコアとしての精度が分子動力学計算の精度と結びつかない○ 外挿性: データセットにない原子構造に対する推論が破綻しやすい○ ロバスト性: 非現実的な構造を回避することの難しさ背景: NNPの発展と課題DimeNet++/OC20 による吸着構造の再現(Co表面/COH分子). 最適化した表面(a)に分子を乗せると構造が崩壊(b).現実的な構造(c)は局所安定. [1][1] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
4● 仮説: 既知の特定の原子構造のみを対象としたデータセットではエネルギー曲面を再現するのに十分な情報を得ることが困難?● 方針: 可能な限り前提知識を排し、位相空間の広範囲をカバーできるよう不安定・非現実的な構造を積極的に教師データに入れる● High-temperature multi-element 2021 (HME21) dataset [1]○ PFPの学習のために作成したデータセットからの一部抜粋○ 多種の元素を含む原子構造を高温でMD計算した構造■ 体積固定(NVT)、~32原子、500 K~10000 K、最大20元素○ MD計算には学習したNNPそのものを利用■ NNPが推論してしまった非現実的な構造も教師データに加えていく、一種の自己学習ユニバーサルなNNPを実現するためのデータセット[1] High-temperature multi-element 2021 (HME21) dataset. https://doi.org/10.6084/m9.figshare.19658538
5● TeaNet: PFPの前身のNNPアーキテクチャ [1]○ 高階のテンソル量をグラフに流す○ EAM/Tersoff ポテンシャル関数の振る舞いをグラフNNに書き直し○ HME21データセットに対する回帰スコアで良い性能 [2]● 分子動力学計算の検証○ (HME21データセットに入っていない)表面吸着を再現○ 反応のNEB計算も可能HME21データセット ベンチマーク左: HME21データセットに対する他アーキテクチャとの比較[1] S. Takamoto, et al., Comput. Mater. Sci. 207, 111280 (2022).[2] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
6● データセット/アーキテクチャの継続的開発○ HME21以外にも様々な方針でデータを取得■ 仮想的な結晶構造、分子/クラスタ等○ アーキテクチャ改良■ 局所性、不変性、エネルギー曲面の連続性は維持● 2021/01 PFP バージョン0○ 論文版 [1]● 2021/07 PFP バージョン1○ Matlantis 提供開始○ 55元素に拡張○ 後にD3補正に対応PFP バージョン0, 1 / Matlantis提供開始PFP バージョン0の適用例 [1][1] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).FT反応の活性化エネルギーMOF構造再現Li拡散相変態
7● 精度のさらなる向上○ PFPでは汎用性を最重要項目と位置づけ、精度を向上させていく開発方針を取った○ 汎用性を維持したままの精度向上を目指す● 2022/02 PFP バージョン2○ フォノンの再現性向上○ Hubbard U補正なしモードを追加● 2022/08 PFP バージョン3○ 分子系液体の密度改善○ 55元素→72元素に拡張Matlantis提供開始以降の方針反応 拡散吸着フォノン分子間力破綻しないMD構造間の自由エネルギー要求されるエネルギーの精度エネルギーのスケールと現象の模式図PFP バージョン3元素の対応状況
8● フォノンの改善○ PFP バージョン1では一部の構造のフォノンの不安定性(計算時の微小変位⊿xへの強い依存性)が報告○ 原子に働く力が大幅に小さいデータ(安定点付近)を収集→PFP バージョン2でフォノンの再現性が改善● 分子系液体○ 同様に分子間の相互作用に課題○ 大きな誤差と小さな誤差を同時に学習できるよう学習手法を修正○ PFP バージョン3では分子系液体の密度 (室温) の再現性が向上精度改善の事例Si phonon dispersion curve(PFP v3.0.0, delta=0.01)Liquid density(PFP v3.0.0, 300 K)
9● PFP バージョン3で55→72元素に拡張● 学習データに使用していない検証用の結晶構造データ* に対して検証○ 安定点のエネルギーおよび微小変化に対するforceの変化をDFTと比較し、精度向上を確認○ 興味深いことに、未対応の時点で一定の精度では推論が行えていた■ ごく少数のデータは存在■ 元素に対してある種の汎化が起こっている可能性を示唆対応元素拡大* Crystallography Open Databaseから抽出.DFTによる構造最適化計算を実施
10● PFPデータセットのスケール○ DFT計算が大きな分量を占める○ PFP バージョン3の時点でGPU 1144年分に相当統計情報PFP Number of data GPU daysv0.0.0 3 x 10^6 6 x 10^4v1.0.0 10 x 10^6 10 x 10^4v2.0.0 17 x 10^6 15 x 10^4v3.0.0 22 x 10^6 42 x 10^4 * PFNの計算機クラスター (MN-2)* 収束しなかった等の理由で学習に使用していないデータの計算時間を含む
11● 原子シミュレーションにおける「基盤モデル」としてのPFP○ エネルギー以外の推論タスクとの融合、転用● さらなる高精度化○ 教師データのためのより高精度な電子状態計算の検討○ 微細なエネルギー差の再現のためのデータセット収集○ NNPアーキテクチャの精緻化● 高速化○ NN演算速度の高速化 (デバイスの最適化、計算グラフ改善)○ モデルの改善、精度と速度のトレードオフ● 原子構造生成、原子構造予測Future works
12● 「任意の物質に適用可能なNNP」を目的に技術開発を行った○ 仮想的な構造・乱れた構造を含むデータセットを作成し、これを学習可能なNNPアーキテクチャを開発した○ 作成したNNPはデータセットに明示的に含んでいない材料に対して良い振る舞いをすることを示した● 材料探索サービス"Matlantis"のコア技術として大規模かつ継続的な開発を行った○ 精度を向上させ、より繊細な計算対象を扱えるようにした○ 対応元素を72元素まで増やした○ 現時点で作成したDFT計算データセットはGPU1枚換算で1000年を超えるスケールに達したまとめ
Making the real world computable

Recommended

PDF
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
PDF
汎用ニューラルネットワークポテンシャル「PFP」による材料探索_MRS-J2021招待講演_2021/12/15
PDF
PFP:材料探索のための汎用Neural Network Potential - 2021/10/4 QCMSR + DLAP共催
PDF
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304
PPTX
【論文紹介】How Powerful are Graph Neural Networks?
PDF
汎用なNeural Network Potential「Matlantis」を使った新素材探索_2022応用物理学会_2022/3/22
PPTX
深層学習の数理
PDF
Optimizer入門&最新動向
PDF
Matlantisに込められた 技術・思想_高本_Matlantis User Conference
PDF
Deep learningの発展と化学反応への応用 - 日本化学会第101春季大会(2021)
PPTX
【DL輪読会】AUTOGT: AUTOMATED GRAPH TRANSFORMER ARCHITECTURE SEARCH
PDF
全力解説!Transformer
PDF
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
PDF
ENEOSにおける低炭素技術への挑戦~汎用原子レベルシミュレータMatlantis™の共同開発者とユーザーの視点から~
PDF
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
PPTX
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
PDF
機械学習によるハイスループット 第一原理計算の代替の可能性_日本化学会_20230323
PPTX
Curriculum Learning (関東CV勉強会)
PDF
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
 
PDF
汎用なNeural Network Potential「Matlantis」を使った新素材探索_浅野_JACI先端化学・材料技術部会 高選択性反応分科会主...
PPTX
物体検出の歴史(R-CNNからSSD・YOLOまで)
PDF
Attentionの基礎からTransformerの入門まで
PDF
0から理解するニューラルネットアーキテクチャサーチ(NAS)
PPTX
近年のHierarchical Vision Transformer
PPTX
[DL輪読会]Set Transformer: A Framework for Attention-based Permutation-Invariant...
PPTX
[DL輪読会]Neural Ordinary Differential Equations
PPTX
Tensor コアを使った PyTorch の高速化
PDF
Deeplearning輪読会
PDF
素材産業のDxに貢献する 『Matlantis』のご紹介_nano tech2022_2022/1/28
PPTX
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)

More Related Content

PDF
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
PDF
汎用ニューラルネットワークポテンシャル「PFP」による材料探索_MRS-J2021招待講演_2021/12/15
PDF
PFP:材料探索のための汎用Neural Network Potential - 2021/10/4 QCMSR + DLAP共催
PDF
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304
PPTX
【論文紹介】How Powerful are Graph Neural Networks?
PDF
汎用なNeural Network Potential「Matlantis」を使った新素材探索_2022応用物理学会_2022/3/22
PPTX
深層学習の数理
PDF
Optimizer入門&最新動向
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
汎用ニューラルネットワークポテンシャル「PFP」による材料探索_MRS-J2021招待講演_2021/12/15
PFP:材料探索のための汎用Neural Network Potential - 2021/10/4 QCMSR + DLAP共催
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304
【論文紹介】How Powerful are Graph Neural Networks?
汎用なNeural Network Potential「Matlantis」を使った新素材探索_2022応用物理学会_2022/3/22
深層学習の数理
Optimizer入門&最新動向

What's hot

PDF
Matlantisに込められた 技術・思想_高本_Matlantis User Conference
PDF
Deep learningの発展と化学反応への応用 - 日本化学会第101春季大会(2021)
PPTX
【DL輪読会】AUTOGT: AUTOMATED GRAPH TRANSFORMER ARCHITECTURE SEARCH
PDF
全力解説!Transformer
PDF
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
PDF
ENEOSにおける低炭素技術への挑戦~汎用原子レベルシミュレータMatlantis™の共同開発者とユーザーの視点から~
PDF
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
PPTX
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
PDF
機械学習によるハイスループット 第一原理計算の代替の可能性_日本化学会_20230323
PPTX
Curriculum Learning (関東CV勉強会)
PDF
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
 
PDF
汎用なNeural Network Potential「Matlantis」を使った新素材探索_浅野_JACI先端化学・材料技術部会 高選択性反応分科会主...
PPTX
物体検出の歴史(R-CNNからSSD・YOLOまで)
PDF
Attentionの基礎からTransformerの入門まで
PDF
0から理解するニューラルネットアーキテクチャサーチ(NAS)
PPTX
近年のHierarchical Vision Transformer
PPTX
[DL輪読会]Set Transformer: A Framework for Attention-based Permutation-Invariant...
PPTX
[DL輪読会]Neural Ordinary Differential Equations
PPTX
Tensor コアを使った PyTorch の高速化
PDF
Deeplearning輪読会
Matlantisに込められた 技術・思想_高本_Matlantis User Conference
Deep learningの発展と化学反応への応用 - 日本化学会第101春季大会(2021)
【DL輪読会】AUTOGT: AUTOMATED GRAPH TRANSFORMER ARCHITECTURE SEARCH
全力解説!Transformer
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
ENEOSにおける低炭素技術への挑戦~汎用原子レベルシミュレータMatlantis™の共同開発者とユーザーの視点から~
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
機械学習によるハイスループット 第一原理計算の代替の可能性_日本化学会_20230323
Curriculum Learning (関東CV勉強会)
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
 
汎用なNeural Network Potential「Matlantis」を使った新素材探索_浅野_JACI先端化学・材料技術部会 高選択性反応分科会主...
物体検出の歴史(R-CNNからSSD・YOLOまで)
Attentionの基礎からTransformerの入門まで
0から理解するニューラルネットアーキテクチャサーチ(NAS)
近年のHierarchical Vision Transformer
[DL輪読会]Set Transformer: A Framework for Attention-based Permutation-Invariant...
[DL輪読会]Neural Ordinary Differential Equations
Tensor コアを使った PyTorch の高速化
Deeplearning輪読会

Similar to Matlantis™のニューラルネットワークポテンシャルPFPの適用範囲拡張

PDF
素材産業のDxに貢献する 『Matlantis』のご紹介_nano tech2022_2022/1/28
PPTX
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
PDF
20180729 Preferred Networksの機械学習クラスタを支える技術
PDF
[DL輪読会]Pervasive Attention: 2D Convolutional Neural Networks for Sequence-to-...
PDF
20180115_東大医学部機能生物学セミナー_深層学習の最前線とこれから_岡野原大輔
PDF
[DL輪読会]The Neural Process Family−Neural Processes関連の実装を読んで動かしてみる−
PDF
[DL輪読会]xDeepFM: Combining Explicit and Implicit Feature Interactions for Reco...
PPTX
2018/06/23 Sony"s deep learning software and the latest information
PDF
[DL輪読会]マテリアルズインフォマティクスにおける深層学習の応用
PDF
fpgax #11+TFUG ハード部:DNN専用ハードについて語る会-2019-02-02 MN-coreについて 金子 紘也
PDF
ディープラーニング最近の発展とビジネス応用への課題
PDF
【参考文献追加】20180115_東大医学部機能生物学セミナー_深層学習の最前線とこれから_岡野原大輔
PDF
20180227_最先端のディープラーニング 研究開発を支えるGPU計算機基盤 「MN-1」のご紹介
PPTX
エッジヘビーコンピューティングと機械学習
PDF
2015年9月18日 (GTC Japan 2015) 深層学習フレームワークChainerの導入と化合物活性予測への応用
PDF
Tutorial-DeepLearning-PCSJ-IMPS2016
PDF
DAシンポジウム2019招待講演「深層学習モデルの高速なTraining/InferenceのためのHW/SW技術」 金子紘也hare
PDF
Deep Learning Lab: DIMo & Chainer
PDF
実世界の人工知能@DeNA TechCon 2017
PDF
[基調講演] Deep Learning: IoT's Driving Engine
素材産業のDxに貢献する 『Matlantis』のご紹介_nano tech2022_2022/1/28
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
20180729 Preferred Networksの機械学習クラスタを支える技術
[DL輪読会]Pervasive Attention: 2D Convolutional Neural Networks for Sequence-to-...
20180115_東大医学部機能生物学セミナー_深層学習の最前線とこれから_岡野原大輔
[DL輪読会]The Neural Process Family−Neural Processes関連の実装を読んで動かしてみる−
[DL輪読会]xDeepFM: Combining Explicit and Implicit Feature Interactions for Reco...
2018/06/23 Sony"s deep learning software and the latest information
[DL輪読会]マテリアルズインフォマティクスにおける深層学習の応用
fpgax #11+TFUG ハード部:DNN専用ハードについて語る会-2019-02-02 MN-coreについて 金子 紘也
ディープラーニング最近の発展とビジネス応用への課題
【参考文献追加】20180115_東大医学部機能生物学セミナー_深層学習の最前線とこれから_岡野原大輔
20180227_最先端のディープラーニング 研究開発を支えるGPU計算機基盤 「MN-1」のご紹介
エッジヘビーコンピューティングと機械学習
2015年9月18日 (GTC Japan 2015) 深層学習フレームワークChainerの導入と化合物活性予測への応用
Tutorial-DeepLearning-PCSJ-IMPS2016
DAシンポジウム2019招待講演「深層学習モデルの高速なTraining/InferenceのためのHW/SW技術」 金子紘也hare
Deep Learning Lab: DIMo & Chainer
実世界の人工知能@DeNA TechCon 2017
[基調講演] Deep Learning: IoT's Driving Engine

More from Preferred Networks

PDF
PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜
PPTX
PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)
PDF
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2
PDF
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
PDF
深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...
PDF
Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2
PDF
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
PDF
PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会
PDF
PFN Summer Internship 2021 / Kohei Shinohara: Charge Transfer Modeling in Neu...
PDF
スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演
PDF
KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...
PDF
KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...
PDF
わかる!metadata.managedFields / Kubernetes Meetup Tokyo 48
PDF
Topology Managerについて / Kubernetes Meetup Tokyo 50
PDF
Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55
PDF
Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...
PDF
PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57
PDF
Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...
PDF
独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50
PDF
Kubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語る
PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜
PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...
Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会
PFN Summer Internship 2021 / Kohei Shinohara: Charge Transfer Modeling in Neu...
スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演
KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...
KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...
わかる!metadata.managedFields / Kubernetes Meetup Tokyo 48
Topology Managerについて / Kubernetes Meetup Tokyo 50
Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55
Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...
PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57
Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...
独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50
Kubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語る

Matlantis™のニューラルネットワークポテンシャルPFPの適用範囲拡張

  • 1.
  • 2.
    2● Matlantis [1]○材料探索を加速する“汎用原子レベルシミュレータ”○ 原子シミュレーションの環境をSaaSとして提供● PFP○ Matlantisのコア技術に相当するNeural network potenital (NNP)○ データセット/アーキテクチャ共に独自開発○ 任意の多元素の組み合わせに対して動作する汎用性が特徴タイトルの用語について: MatlantisとPFP[1] Matlantis. https://matlantis.com/[2] Matlantis Cases. https://matlantis.com/ja/casesMatlantisを利用して計算された事例 [2]
  • 3.
    3● Neural NetworkPotential (NNP) の発展○ 原子構造を扱うNNアーキテクチャの「カンブリア爆発」■ グラフ畳み込み、不変性/共変性の導入、電子状態計算の模倣○ 巨大データセットの登場■ QM9, Materials Project, Open Catalyst Project, etc.● 課題○ 精度: 回帰スコアとしての精度が分子動力学計算の精度と結びつかない○ 外挿性: データセットにない原子構造に対する推論が破綻しやすい○ ロバスト性: 非現実的な構造を回避することの難しさ背景: NNPの発展と課題DimeNet++/OC20 による吸着構造の再現(Co表面/COH分子). 最適化した表面(a)に分子を乗せると構造が崩壊(b).現実的な構造(c)は局所安定. [1][1] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
  • 4.
    4● 仮説: 既知の特定の原子構造のみを対象としたデータセットではエネルギー曲面を再現するのに十分な情報を得ることが困難?●方針: 可能な限り前提知識を排し、位相空間の広範囲をカバーできるよう不安定・非現実的な構造を積極的に教師データに入れる● High-temperature multi-element 2021 (HME21) dataset [1]○ PFPの学習のために作成したデータセットからの一部抜粋○ 多種の元素を含む原子構造を高温でMD計算した構造■ 体積固定(NVT)、~32原子、500 K~10000 K、最大20元素○ MD計算には学習したNNPそのものを利用■ NNPが推論してしまった非現実的な構造も教師データに加えていく、一種の自己学習ユニバーサルなNNPを実現するためのデータセット[1] High-temperature multi-element 2021 (HME21) dataset. https://doi.org/10.6084/m9.figshare.19658538
  • 5.
    5● TeaNet: PFPの前身のNNPアーキテクチャ[1]○ 高階のテンソル量をグラフに流す○ EAM/Tersoff ポテンシャル関数の振る舞いをグラフNNに書き直し○ HME21データセットに対する回帰スコアで良い性能 [2]● 分子動力学計算の検証○ (HME21データセットに入っていない)表面吸着を再現○ 反応のNEB計算も可能HME21データセット ベンチマーク左: HME21データセットに対する他アーキテクチャとの比較[1] S. Takamoto, et al., Comput. Mater. Sci. 207, 111280 (2022).[2] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
  • 6.
    6● データセット/アーキテクチャの継続的開発○ HME21以外にも様々な方針でデータを取得■仮想的な結晶構造、分子/クラスタ等○ アーキテクチャ改良■ 局所性、不変性、エネルギー曲面の連続性は維持● 2021/01 PFP バージョン0○ 論文版 [1]● 2021/07 PFP バージョン1○ Matlantis 提供開始○ 55元素に拡張○ 後にD3補正に対応PFP バージョン0, 1 / Matlantis提供開始PFP バージョン0の適用例 [1][1] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).FT反応の活性化エネルギーMOF構造再現Li拡散相変態
  • 7.
    7● 精度のさらなる向上○ PFPでは汎用性を最重要項目と位置づけ、精度を向上させていく開発方針を取った○汎用性を維持したままの精度向上を目指す● 2022/02 PFP バージョン2○ フォノンの再現性向上○ Hubbard U補正なしモードを追加● 2022/08 PFP バージョン3○ 分子系液体の密度改善○ 55元素→72元素に拡張Matlantis提供開始以降の方針反応 拡散吸着フォノン分子間力破綻しないMD構造間の自由エネルギー要求されるエネルギーの精度エネルギーのスケールと現象の模式図PFP バージョン3元素の対応状況
  • 8.
    8● フォノンの改善○ PFPバージョン1では一部の構造のフォノンの不安定性(計算時の微小変位⊿xへの強い依存性)が報告○ 原子に働く力が大幅に小さいデータ(安定点付近)を収集→PFP バージョン2でフォノンの再現性が改善● 分子系液体○ 同様に分子間の相互作用に課題○ 大きな誤差と小さな誤差を同時に学習できるよう学習手法を修正○ PFP バージョン3では分子系液体の密度 (室温) の再現性が向上精度改善の事例Si phonon dispersion curve(PFP v3.0.0, delta=0.01)Liquid density(PFP v3.0.0, 300 K)
  • 9.
    9● PFP バージョン3で55→72元素に拡張●学習データに使用していない検証用の結晶構造データ* に対して検証○ 安定点のエネルギーおよび微小変化に対するforceの変化をDFTと比較し、精度向上を確認○ 興味深いことに、未対応の時点で一定の精度では推論が行えていた■ ごく少数のデータは存在■ 元素に対してある種の汎化が起こっている可能性を示唆対応元素拡大* Crystallography Open Databaseから抽出.DFTによる構造最適化計算を実施
  • 10.
    10● PFPデータセットのスケール○ DFT計算が大きな分量を占める○PFP バージョン3の時点でGPU 1144年分に相当統計情報PFP Number of data GPU daysv0.0.0 3 x 10^6 6 x 10^4v1.0.0 10 x 10^6 10 x 10^4v2.0.0 17 x 10^6 15 x 10^4v3.0.0 22 x 10^6 42 x 10^4 * PFNの計算機クラスター (MN-2)* 収束しなかった等の理由で学習に使用していないデータの計算時間を含む
  • 11.
    11● 原子シミュレーションにおける「基盤モデル」としてのPFP○ エネルギー以外の推論タスクとの融合、転用●さらなる高精度化○ 教師データのためのより高精度な電子状態計算の検討○ 微細なエネルギー差の再現のためのデータセット収集○ NNPアーキテクチャの精緻化● 高速化○ NN演算速度の高速化 (デバイスの最適化、計算グラフ改善)○ モデルの改善、精度と速度のトレードオフ● 原子構造生成、原子構造予測Future works
  • 12.
    12● 「任意の物質に適用可能なNNP」を目的に技術開発を行った○ 仮想的な構造・乱れた構造を含むデータセットを作成し、これを学習可能なNNPアーキテクチャを開発した○作成したNNPはデータセットに明示的に含んでいない材料に対して良い振る舞いをすることを示した● 材料探索サービス"Matlantis"のコア技術として大規模かつ継続的な開発を行った○ 精度を向上させ、より繊細な計算対象を扱えるようにした○ 対応元素を72元素まで増やした○ 現時点で作成したDFT計算データセットはGPU1枚換算で1000年を超えるスケールに達したまとめ
  • 13.
    Making the realworld computable

[8]ページ先頭

©2009-2025 Movatter.jp