拓扑绝缘体由于具有受时间反演保护的拓扑表面态而展现出许多新奇的特性，如量子自旋霍尔效应、磁掺杂时的量子反常霍尔效应，以及在拓扑/铁磁异质结中的非局域磁阻尼贡献等。这种拓扑表面态通常寄宿在样品表面约几个纳米左右的深度中，因此具有较大表面占比的超薄膜是放大这些新奇特性的理想体系。然而随着厚度的减薄，薄膜上、下表面中的表面态将在空间上产生重合并相互耦合。之前的理论工作计算了典型的狄拉克拓扑材料Bi₂Se₃超薄膜体系中上下表面态的杂化[Phys. Rev. Lett., 101 246807 (2008), Phys. Rev. B 81 115407 (2009)]，并指出这种杂化会导致表面态的狄拉克点打开一个能隙，且该能隙在某些厚度的体系中是拓扑非平庸的，这将进一步导致一维拓扑边缘态的出现。尽管单粒子能带理论可以成功描述拓扑绝缘体的能带结构，预言的能隙在实验中也被成功观测到[Nat. Phys. 6 584-588 (2010)]，但是随着薄膜厚度的降低，能隙理论计算值明显小于实验值，且后续的自旋分辨的角分辨光电子谱实验[Nat. Phys. 8 616-622 (2012)]，铟掺杂诱导的拓扑相变实验[Nano Lett. 19 4627-4633 (2019)]，以及微探针输运实验[Adv. Quantum Technol. 2200043 (2022)]中，均未观测到该能隙的拓扑性质，表明单粒子能带理论仍无法描述Bi₂Se₃超薄膜体系的能带结构及其输运特性。

　　最近，中国科学院物理研究所/北京凝聚态物理国家研究中心磁学重点实验室M04课题组成昭华研究员带领研究团队与州大学兰州大学薛德胜教授合作，对Bi₂Se₃超薄膜体系中上下表面态的耦合进行了系统的研究。在实验上，他们通过超高真空分子束外延系统，制备出高质量的且可精确控制厚度的Bi₂Se₃超薄膜，通过角分辨光电子谱（ARPES）测量了不同厚度Bi₂Se₃的表面态，并拟合出了低厚度时能隙的大小以及Dirac点的位置。在理论上，他们引入了一个屏蔽库仑形式的等效互作用来描述这种表面态间的耦合，在Hartree近似下计算了该耦合的自能，发现该耦合会导致表面态能带随着厚度变化会产生整体的平移。同时他们也计算了自洽质量能隙方程，给出了质量能隙随厚度的变化规律。发现随着样品厚度的降低，能带的平移以及能隙大小的变化均与实验结果较好地吻合。此外，他们还发现在Bi₂Se₃超薄膜体系中，上下表面的库仑耦合与石墨烯体系中K, K’点处两个狄拉克锥间的库仑耦合十分相似，打破的都是手征对称性，并不会产生拓扑非平庸的能隙，这一工作解决了之前在Bi₂Se₃超薄膜体系中实验与理论结论中存在的矛盾，这使得人们对拓扑超薄膜体系中表面态行为的理解更加深刻，同时也为多层拓扑堆垛体系找到了一种新的描述方式。相关工作发表在了Nature Communications. 14, 4424 (2023).

　　博士生刘佳南为论文的第一作者，成昭华为通讯作者。香港大学沈顺清教授对本文提出了宝贵的建议。该项研究工作得到国家重点研发计划和国家自然科学基金会的大力资助。

　　相关工作链接： https://doi.org/10.1038/s41467-023-40035-0

图1. a上下表面态耦合的示意图。蓝色线是自洽质量能隙方程对应的自能Feynman图。b为厚度为27 QL的Bi₂Se₃的ARPES谱，此时样品厚度足够厚，可以视为无互作用时的情况。黑色点为Lorentz峰拟合得到的峰位，红色虚线为无质量Dirac费米子色散的线性拟合，理论计算中所用的两个参数通过该拟合得到。

图2. a-f为不同厚度Bi₂Se₃的ARPES谱，黑点为Lorentz峰拟合得到峰位，红色线为Dirac费米子色散关系的拟合。

图3. a图为实验中得到的Dirac点位置随厚度的变化（黑色点）与理论值（红色线）的对比。b图为实验中得到的能隙随厚度的变化（黑色点）与理论值（红色线）的对比，蓝色点为Y. Zhang等人在实验中测得的值[Nat. Phys. 6 584-588 (2010)]。