超流是指物质在特定条件下表现出的无摩擦、无粘性、熵为零、无限热导的量子现象。自1938年液氦的超流现象被观测到后，该研究领域的科学家已四次获得诺贝尔物理学奖。仲氢与氦-4类似，是不可区分的玻色体系，且质量更小。因此，仲氢是下一个最有可能具有超流性质的热门物质之一。1998年，Grebenev等(Science1998,279, 2083)将探针分子置于氦滴中，通过高分辨率红外-微波光谱研究分子在量子溶剂中的微观转动动力学，开启了微观超流研究的新途径，随后成为了该领域研究的重要方式，也成为检验理论模拟微观超流可行性和准确性的模型体系。

为提高理论模拟精度和效率，吉林大学李辉团队发展了势能微扰的路径积分蒙特卡洛方法。该方法将模拟精度和速度都提高了两个数量级。绝热阻尼转子方法的发展则大幅度提高了生色分子与仲氢之间有效势的精度。通过这些理论方法的发展，研究团队成功地发现了仲氢在纳米尺度的超流现象。这是除氦-4外，科学界发现的第二个具有超流性质的物质，且再次确认了量子交换效应在超流研究中的重要性（图a，b）。论文以“编辑推荐”形式发表于Phys. Rev. Lett.2010,105, 133401，美国物理学会Physics网站以“微观超流”为题对该工作做了报道，New Scientist以“第一个无摩擦超流分子产生”为标题进行了评述。

图：a，b，量子交换在分子超流中的重要性；c，pH2 / He量子混合溶剂中的相分离现象；d，超流分数的计算原理；e，量子团簇中，超流分数同pH2数目之间的关系；f，量子团簇中溶剂分子的化学势随团簇大小的变化。

2000年，Grebenev等通过高分辨红外光谱探测氦-4的微观超流成功后，就试图通过相似的方法探测仲氢的超流。但他们的研究并不是纯仲氢团簇的直接探测，而是将仲氢团簇置于氦滴中进行，发现在特定仲氢团簇中奇异的光谱现象：在0.15 K下，OCS·(pH2)N（N = 14, 15, 16）红外光谱的Q -支消失(Science2000,289, 1532)，他们把该现象归因于仲氢的超流。然而，该解释自提出以来备受争议：实验中实际观测的是仲氢和氦-4混合玻色流体。该体系中总的超流分数、各自的超流贡献、混合后仲氢超流是增强还是减弱等问题成为该领域理论和实验科学家们共同关注的焦点。针对量子混合玻色流体中的弱相互作用、低温量子多体问题、量子交换效应、转动的量子化等难点，研究团队发展了基于第一性原理的量子蒙特卡洛模拟方法及程序，首次发现了量子混合玻色体系的相分离现象，计算得到了内层仲氢相的超流分数，证实了仲氢的超流响应非常微弱（图e）。研究表明，实验观测到的奇异光谱现象应归因于内层仲氢和外层氦-4的相分离（图c），即仲氢团簇在氦-4液滴中形成高对称的非流体核，而并非仲氢本身的超流行为。两种量子流体的化学势随团簇尺寸的变化揭示了相分离现象的成因（图f），从而终结了持续近二十年在微观超流领域的争议。该工作发表在Phys. Rev. Lett. 123, 093001 (2019)上。

为了实现超流体系的光谱精度模拟，李辉团队深入研究了分子间相互作用高精度势能模型，如(1)线性分子-原子：CO2···He, OCS···He（Phys. Chem. Chem. Phys.2008,10, 4128;J. Chem. Phys.2012,137, 234310）；(2)线性分子-线性分子：CO2···H2, CO···H2, CO···N2（J. Chem. Phys.2010,132, 214309;J. Chem. Phys.2013,139, 164315;J. Chem. Phys.2017,147, 044313;Phys. Chem. Chem. Phys.2018,20, 2036）；(3)非线性分子-原子：CH3F···He, H2O···Ar（J. Chem. Phys.2014,140, 214309;J. Chem. Phys.2016,144, 014301）；(4)非线性分子-线性分子：CH3F···H2，H2O···N2（J. Chem. Phys.2018,148, 124302;J. Chem. Phys.2019,151, 074301;J. Chem. Phys.2020,153, 054303）。这些模型方法不仅可以用于描述刚性分子的分子间作用势，同样也可以和绝热阻尼转子模型结合，约化氢分子的转动，并且具有极高的精度，即便在高角动量量子数的情况下依然可以很好地复现实验结果。由于在该领域的特色研究，李辉教授受邀于2018年“分子相互作用与动力学”戈登研究会议（Gordon Research Conference）做专题报告。