摸條件,因素多,聽聽AI怎么說?劉建國團隊ACS Catal.: 機器學習挖掘非貴金屬ORR催化劑設計中人類忽視的隱藏要素????????


論文相關信息

第一作者(或者共同第一作者):丁睿?????????

通訊作者(或者共同通訊作者):李佳;劉建國(課題組負責人)??????????

通訊單位:南京大學????????????

論文DOI:10.1021/acscatal.1c01473??????

全文速覽

探索、優化并獲得性能優良的催化材料過程中的變量眾多,傳統的人腦化學直覺驅動的多參數空間中的試錯優化過程,很有可能會導致一些重要的影響因素被人為地忽略;引入機器學習的方法進行數據挖掘,能夠從數據驅動的分類/回歸模型中獲得特征重要程度排序以獲得人類研究者難以直觀地從實驗數據中獲得的見解。以沸石咪唑骨架(ZIF-8)衍生的氧還原催化劑為應用領域,除熱解溫度之外,絕大多數研究都沒有將熱解時間設置為變量,但機器學習建模的結果卻表明其具有決定性。在機器學習模型的預測下,材料性能、表征結果與機器學習模型運用可解釋方法解析得到的規律展現出高度的一致性;三者的結合,不僅使研究者獲得了一種優良的非貴金屬ORR催化劑(E1/2=0.82 V vs. RHE),而且揭示了一種被忽略的火山型演變規律,還證明了機器學習有能力挖掘隱藏在復雜實驗數據中的關鍵因素和機制,以促進能源材料的優化。

背景簡介

對于催化材料設計而言,傳統研究往往是依賴研究者的化學直覺進行的:設計不同的合成條件與參數變量來考察產品在性能和理化性質上的變化。然而目前許多領域內,高性能材料的合成方法正越來越復雜并牽涉到越來越多的變量,因此絕大多數報道只能集中于調整少數變量,并且其結論是在本工作得到的有限實驗結果數據集人工提煉得出的。通常,通過正交實驗探索高維參數空間中所有可能的因素來優化催化性能在成本上是不可接受的。另一方面,僅憑主觀化學直覺設計實驗可能會因為研究者的學術背景與經驗帶來偏見,從而導致有一些重要影響因素可能會被研究者人為忽略。以沸石咪唑骨架(ZIF-8)衍生的氧還原催化劑為例,大多數研究都著重于煅燒前ZIF-8前驅體的化學組分調控和其他表面工程以及熱解溫度在熱力學上對活性位點種類帶來的影響。大量的同領域報道使得后續研究趨于同質化并固化研究者的思維,因此先例可能限制了后續研究進一步提升性能的創新空間。

研究出發點

在面對多變量、高維度的復雜數據時,人類研究者察覺并歸納獲得可靠規律的能力是非常有限的。隨著人工智能(AI)領域的興起,訓練機器學習算法對數據集進行數據挖掘以獲得獨特而可靠的見解是一種新興的解決方案,并且已被廣泛應用于許多研究領域。在材料研究領域,應用機器學習建立數據驅動模型來指導實驗也正在成為一種新興趨勢。通過高通量實驗、第一性原理模擬、有限元分析以及文獻中提取的數據集訓練的機器學習模型目前在諸多研究工作中都被證明能夠充分幫助研究人員找到理想性能的材料設計參數,并協助研究者加深對合成方法、材料結構和材料性能之間關系的理解。

因此,研究基于由高質量文獻構建的大型數據庫訓練機器學習模型,以分析影響ZIF衍生?ORR 催化劑活性的復雜因素。由9種機器學習算法構建的54個分類模型和18個回歸模型在網格搜索優化后得到的特征重要性分布結果表明,在催化劑的14個物理化學性質中,吡啶氮物種的含量對ORR活性具有決定性作用。此外針對14個與合成過程先關的參數,同樣方法構建并分析另外?36 個分類模型和?18 個回歸模型的結果表明,熱解時間對吡啶氮物種含量的影響僅次于熱解溫度,而這在構成數據庫的共計103篇相關工作中卻幾乎不被注意。對照實驗的結果驗證了機器學習見解,發現ORR性能在不同溫度下皆與熱解時間呈火山型關系。表征結果和被應用于解釋機器學習黑箱模型的SHapley Additive exPlanations (SHAP)算法表現出高度一致,并揭示了導致這一規律的演變機制來自于三個隨時間連續變化的過程:初始階段Zn-N 物種損失,?Fe-N 物種的形成和最后階段的轉化為石墨氮物種。除了催化劑設計上的新發現,研究者還證明了機器學習可以對人類研究人員難以處理的數據集進行數據挖掘。因此,這項工作可以成為新興研究范式的一個很好的先例,該范式將機器學習作為一種工具,幫助科學家開發高性能材料、識別關鍵點并獲得新的科學規律。

圖1 機器學習指導并挖掘隱藏要素的工作流程示意圖

圖文解析

機器學習挖掘隱藏要素

在?ZIF 衍生的 ORR 催化劑中,在酸性介質中起決定性作用的活性位點通常被認為是原子分散的過渡金屬-氮-碳物種。因此,較高的活性位點密度可以導致更好的宏觀ORR活性,這可以直觀地反映在表征得到的過渡金屬和氮元素的整體含量上。然而,除此之外,催化材料的比表面積及其微孔和中孔結構等其他性質也會對反應物的傳質路徑產生很大影響。位于化學極化和傳質極化混合控制區的半波電位被認為是評價ORR催化劑催化活性的常用指標。然而,半波電位也會受到研究人員測試方法的影響。例如活性無關的測試參數,催化劑負載,在各種研究中經常有不同的報告。因此,通過機器學習對數據集的分析可以闡明復雜的微觀化學性質、測試參數和性能指標(酸性條件下的半波電位)之間的關系,以協助研究人員進行實驗設計和機理研究。機器學習包含兩個建模部分,從數據科學的角度研究電催化劑化學性質與半波電位之間的關系以及合成參數與吡啶物種含量之間的關系。

化學性質與半波電位

使用材料的化學性質和影響半波電位的測試參數作為模型的輸入特征,而將半波電位設置為目標輸出。對于九種不同的機器學習算法,設置了三種不同的分類標簽來訓練機器學習模型來區分電催化劑是否合格(半波電位超過?0.78/0.80/0.82 V vs RHE)。此外,還訓練了直接預測半波電位的回歸模型。共計36個模型針對14個化學性質的特征排序結果于中,機器學習認為?Fe 含量和 BET表面積是兩個最重要的特征,符合化學直覺。值得注意的是,吡啶氮物種含量被視為第三個最重要的屬性且與 Fe 含量的差距很小,甚至優于總氮含量。在去除掉重要性較低的特征后,重新訓練的36個模型的特征排序結果中吡啶氮物種的含量仍然保持在前三。尤其當正例分類界限為較嚴苛的0.82 V?vs. RHE時,吡啶氮物種是氧還原活性最重要的代表性特征。

合成參數和吡啶氮物種含量

與前一建模部分相同,將兩個不同的吡啶物種含量(2/3 at.%)作為分類標簽構建了18 個分類模型和 9 個回歸模型。熱解溫度和熱解時間超過鐵鹽、2-甲基咪唑和鋅鹽比例被認為是影響吡啶氮物種形成的兩個最重要的合成參數。在僅使用一半的輸入特征重新訓練 27 個模型之后,熱解時間也仍然是第二重要的特征。此外,在針對3?at.% 的分類任務模型中,熱解時間的重要性超過了熱解溫度。盡管已經有很多研究從熱力學的角度探討了溫度對活性位點形成的影響。然而,這些研究往往將熱解時間固定在相同的值,很少有研究人員對從動力學角度探索熱解時間如何影響催化劑感興趣。相關缺乏信息可能是由于 ZIF 衍生催化劑通常采用的高熱解溫度超過 900 °C,以保證鋅物質的蒸發。研究者們往往采用的高溫條件導致能帶來高石墨化程度和相對良好的化學穩定性。然而,這容易讓研究者相信最終產品似乎已達到穩定狀態從而對熱解時長忽視。

2?機器學習模型特征排序結果

實驗驗證

為了探究機器學習的見解是否真正找到了人類忽略的點,研究者進行了相應的樣品合成評估和表征。在不同的熱解溫度下,兩個活性指標,即?0.8 V 時的半波電位和動態電流(vs. RHE),皆顯示出與熱解時間的“火山型關系。最佳樣品在0.1 M HClO4?中表現出 0.82 V vs.?RHE的優秀半波電位。通過對一系列在較高溫度下熱解的樣品進行TEM表征,催化劑中沒有明顯的由?Fe 形成的顆粒或團簇,而能譜圖則證明Fe、N 和 C 均勻分布在 ZIF 衍生的碳化顆粒上。因此可以認為,優秀的氧還原活性來自于原子級分散的Fe-Nx催化劑,這已被大量研究所報道過。表征結果顯示,對于最重要的吡啶氮物種,其總體物種含量及其占總體氮物種的比例均呈現相似的下降,趨于平穩并再次下降的趨勢。對于其他類型的氮物種,吡咯氮物種的含量和比例隨熱解時間增加持續下降,但石墨氮物種的比例不斷隨時間增加。無論在何種溫度下,都可以觀察到類似的吡啶物種類變化趨勢和石墨化程度的增加。

圖3?不同熱解時間與熱解時長的ZIF衍生Fe-N-C樣品在酸性介質中的ORR極化曲線

圖4?最佳樣品Fe-1000-1h的BET/XRD/TEM 表征結果

圖5?Fe-ZIF-8前驅體與1000℃下不同熱解時長樣品的XPS與raman表征結果

機理揭示

通過比較吡啶氮種類和催化活性隨熱解時間的變化趨勢,可以發現ORR性能首先與吡啶類的含量呈負相關,在超過一定時長后呈正相關。這一時間邊界在 900 ℃為 2 h,在 1000 和 1100 ℃,相應的點分別降到 1 和 0.25 h。初始負相關時間區段會隨著溫度的升高而變短。此外,研究者向機器學習模型引入了一種可解釋的方法,SHAP,以試圖了解“AI化學家”如何做出通常隱藏在黑盒模型中的決定。可以發現機器學習在 ZIF 衍生的催化劑體系中,吡啶類物質的 SHAP 值也首先呈正相關,而后變為負相關。這一發現意味著它對催化活性的影響從正面變為負面,并且吡啶氮物種物質太高或太低都不利于半波電位的提升。該結果與前述的實驗表征結果一致,即過量的吡啶類物質將位于負相關區域并且不利于催化活性。

結合熱重-質譜等其余表征方法對初始階段Zn-N物種損失過程的證明。結合上述對照實驗的表征結果和“AI化學家”使用SHAP方法提出的觀點,研究者提出了隱藏在?Fe 摻雜 ZIF衍生催化劑中吡啶氮物種的背后演化機制。在熱解之前,ZIF-8 中的決定性吡啶氮物種為Zn-N,當熱解開始時,最初的主要過程是 Zn 在約 900 °C 以上的溫度下蒸發。因此,該時期吡啶氮物種的含量與催化性能呈負相關,因為催化劑尚未達到足夠高的石墨化程度以成為典型的?Fe-N-C 催化劑。在去除大部分 Zn-N 后(速度取決于溫度),吡啶氮物種開始表現出與催化性能相同的變化趨勢,因為它們主要代表作為 ORR 活性位點的原子分散的 Fe-Nx?物種直到在Fe-N 位點的含量達到飽和最大值。然而,當熱解時間過長時,過度的石墨化將 Fe-N 活性位點轉化為石墨氮的非活性位點,氮總量的減少進一步降低了最后階段活性位點的豐度。

圖6?不同溫度下熱解時長、半波電位與吡啶氮物種含量的變化規律;代表性機器學習模型針對吡啶氮物種-半波電位關系的SHAP解釋結果;熱重-質譜測試結果

圖7?人類研究者與?AI 合作在工作中合作發現機制示意圖

總結

突破傳統化學直覺而依靠機器學習的見解,研究者在AI的幫助下發現被忽視的熱解時間對吡啶氮物種的含量在目標材料體系中有很大影響。在機器學習結果的指導下,實驗驗證和表征結果以及可解釋的方法引入有助于進一步研究發生的過程及其背后的組合機制。這項工作開發了一種新的研究范式,通過使用人工智能挖掘數據集中的底層設計元素。這為未來具有更復雜變量的能源材料的開發和優化提供了一種新思路。

心得與體會

作為第一作者,本工作的初期構想僅在于設計一種高性能的非貴金屬催化劑。在使用機器學習建模進行數據挖掘和分析前,筆者也未曾想到熱解時長在本體系中是一個非常關鍵的要素并認為這一計算結果具有偶然性而不可置信。因為在構建數據集的過程中,我們發現同領域的研究者往往受限于一些權威高檔次工作的思路而趨于同質化,集中于前驅體的類型和組分調控或是設計一些精妙的調控形貌的策略上。然而進一步的算法和建模任務拓展以及實驗表征結果讓我們確信,機器學習的方法確實能夠在非常龐雜的數據中,找到人類研究者沒有能力通過肉眼看出的規律。另外本工作還要感謝陳雅文同學對實驗部分樣品合成的支持,以及李佳老師,劉建國老師的支持和指導。

作者介紹

丁睿(第一作者,機器學習建模/實驗驗證/樣品表征)

南京大學現代工程與應用科學學院2014級畢業生,新能源科學與工程專業;

2018年以直博生指標加入本院劉建國教授課題組攻讀博士學位;

2020年獲得南京大學博士生國家獎學金;

研究領域為將大數據機器學習與清潔能源材料設計及理論計算(第一性原理、量子化學、有限元模擬)三者的交叉結合探索,同時在燃料電池低鉑、非貴金屬氧還原催化劑開發,單原子催化劑設計,電解水催化劑設計、新型結構功能納米材料設計上具有研究經驗和濃厚興趣。

以第一作者身份已發表的論文:

1. Rui Ding, Ran Wang, Yiqin Ding, Wenjuan Yin, Yide Liu, Jia Li*, Jianguo Liu*, Designing AI-aided analysis and prediction models for nonprecious metal electrocatalyst-based proton exchange membrane fuel cells, Angewandte Chemie International Edition, 2020, 59, 19175-19183.

2. Rui Ding; Yawen Chen; Ping Chen; Ran Wang; Jiankang Wang; Yiqin Ding; Wenjuan Yin; Yide Liu; Jia Li; Jianguo Liu, ACS Catalysis, 2021, 11, 9798

3. Rui Ding, Yiqin Ding, Hongyu Zhang, Wenjuan Yin, Ran Wang, Zihan Xu, Yide Liu, Jiankang Wang, Jia Li*, Jianguo Liu*, Applying machine learning to boost the development of high-performance membrane electrode assembly for proton exchange membrane fuel cells, Journal of Materials Chemistry A, 2021, 9, (inside cover)

4. Rui Ding, Yide Liu, Zhiyan Rui, Jia Li*, Jianguo Liu*, Zhigang Zou, Facile Grafting strategy synthesis of single-atom electrocatalyst with enhanced ORR performance, Nano Research, 2020, 13, 1519-1526. (back cover)

5. RuiDing#, Wenjuan Yin#, Gang Cheng, Yawen Chen, Jiankang Wang, Ran Wang, Zhiyan Rui, Jia Li, Jianguo Liu,Energy and AI, 2021, 5, 100098.

郵箱:dz1834014@smail.nju.edu.cn

陳雅文(第二作者,樣品設計)

南京大學現代工程與應用科學學院2018級碩士研究生

研究領域為非鉑/低鉑催化材料設計

郵箱:mg1834037@smail.nju.edu.cn

李佳(通訊作者)

2020年8月至今,特任副研究員,南京大學

2017年11月-2020年7月,博士后,南京大學

2012年9月-2017年9月,博士研究生,大連理工大學

2008年9月-2011年7月,碩士研究生,內蒙古大學

2004年9月-2008年7月,本科,內蒙古大學

研究方向:燃料電池低鉑及非貴金屬電催化劑

代表性論文:

[1] RuiDing#, Wenjuan Yin#, Gang Cheng, Yawen Chen, Jiankang Wang, Ran Wang, Zhiyan Rui, Jia Li, Jianguo Liu, Energy and AI, 2021, 5, 100098.

[2] RuiDing; Yawen Chen; Ping?Chen; Ran?Wang; Jiankang Wang; Yiqin?Ding; Wenjuan Yin; Yide?Liu; Jia?Li; Jianguo?Liu,?ACS Catalysis, 2021, 11,?9798

[3] Rui Ding, Yiqin Ding, Hongyu Zhang, Wenjuan Yin, Ran Wang, Zihan Xu, Yide Liu, Jiankang Wang,Jia Li*, Jianguo Liu*, Applying machine learning to boost the development of high-performance membrane electrode assembly for proton exchange membrane fuel cells, Journal of Materials Chemistry A, 2021,?9, 6841.?(inside cover)

[4] Rui Ding, Ran Wang, Yiqin Ding, Wenjuan Yin, Yide Liu, Jia Li*, Jianguo Liu*, Designing AI-aided analysis and prediction models for nonprecious metal electrocatalyst-based proton exchange membrane fuel cells, Angewandte Chemie International Edition, 2020, 59, 19175-19183.

[5] Rui Ding, Yide Liu, Zhiyan Rui, Jia Li*, Jianguo Liu*, Zhigang Zou, Facile Grafting strategy synthesis of single-atom electrocatalyst with enhanced ORR performance, Nano Research, 2020, 13, 1519-1526. (back cover)

[6] Jia Li, Xiang Zhu, Jianyu Wang, Zhiyan Rui, Shiqiao Zhang, Yuxin Li, Rui Ding, Wenxiang He, Jianguo Liu*, Zhigang Zou, Iron-containing porphyrins self-assembled on ZnO nanoparticles as electrocatalytic materials for oxygen reduction, ACS Applied Nano Materials, 2020, 3, 742-751.

[7] Jia Li, Jin-Xun Liu, Xueqiang Gao, Bryan R. Goldsmith, Yuanyuan Cong, Zihui Zhai,Shu Miao, Qike Jiang, Yong Dou, Junhu Wang, Quan Shi, Xinwen Guo, Donghai Wang,?Hongmei Yu, Wei-Xue Li*, Yujiang Song*, Nitrogen-doped graphene layers for electrochemical oxygen reduction reaction boosted by lattice strain, Journal of Catalysis, 2019, 378, 113-120.

[8] Jia Li, Yujiang Song*, Gaixia Zhang, Huiyuan Liu, Yiren Wang, Shuhui Sun*, Xinwen Guo, Pyrolysis of self-assembled iron porphyrin on carbon black as core/shell structured electrocatalysts for highly efficient oxygen reduction in both alkaline and acidic medium, Advanced Functional Materials, 2017, 27, 1604356. (front cover)

[9] Jia Li, Huiyuan Liu, Yang Lv, Xinwen Guo, Yujiang Song*, Influence of counter electrode material during accelerated durability test of non-precious metal electrocatalysts in acidicmedium, Chinese Journal of Catalysis, 2016, 37, 1109-1118.

[10] Jia Li, Yan Xie, Shushuang Li, Yangzhi Bai, Xinwen Guo*, Baolian Yi, Yujiang Song*, Graphene supported foam-like platinum electrocatalyst for oxygen reduction reaction, Materials Research Express, 2014, 1, 025045.

[11] Weifeng Si?, Jia Li? (?Co-first authors), Huanqiao Li, Shushuang Li, Jie Yin, Huan Xu, Xinwen Guo, Tao Zhang, Yujiang Song*, Light-controlled synthesis of uniform platinum nanodendrites with markedly enhanced electrocatalytic activity, Nano Research, 2013, 6, 720-725.

郵箱:lijia0226@nju.edu.cn

劉建國(通訊作者,課題組負責人)

南京大學現代工程與應用科學學院教授,博士生導師。入選國家級高層次人才,科技部中青年科技創新領軍人才,國家自然科學科學二等獎獲得者。中國工程院戰略咨詢中心氫能特聘專家,中國內燃機學會燃料電池分會副主任委員,中國電器工業協會燃料電池分會副理事長。入選“江蘇省333工程第二層次人才”、“江蘇省青藍工程中青年學術帶頭人”、江蘇省“六大人才高峰高層次人才”。發表SCI論文110余篇,引用超過5000次,H因子41。擔任PNSMI(SCI期刊),《電化學》雜志編委,出版2部專著。承擔多項國家重點專項課題、國家自然科學基金以及江蘇省杰出青年基金等項目。作為執筆人完成了包括山東,廣東,江蘇等多個省市氫能規劃和戰略研究報告。

課題組網站鏈接:https://fuelcell.nju.edu.cn/

郵箱:jianguoliu@nju.edu.cn

課題組介紹:

課題組主要從事氫能產業鏈和氫能規劃研究,以及燃料電池材料和關鍵技術的基礎研究。基礎研究包括燃料電池新型電催化劑設計與制備、高性能膜電極設計與制備、燃料電池電堆和系統集成、燃料電池制造技術、燃料電池長期壽命衰減機理、高性能新型化學電源以及機器學習在電化學能源中的應用等方面。歡迎報考碩士和博士,以及合作博士后加入課題組共同發展氫能事業。

本文由作者丁睿投稿。

分享到