1878年法国神经学家和人类学家布罗卡（P.Broca）注意到构成每侧大脑半球的一圈组织，如胼胝体下回、扣带回、钩回、腹海马等结构，在解剖上相互联系，形成一个环形，他称之为大脑边缘叶（limbiclobe），但他没有提出该叶的功能。1937年美国神经解剖学家帕佩兹（J.W.Papez）提出，起源于海马的神经通路经乳头体、丘脑前核和扣带回的中继，返回海马构成一封闭环路，这一环路能作为情绪表达的神经基础。此边缘环路又名Papez环。至1952年，麦克林（P.D.Maclean）正式提出边缘系统这一术语，就是指那些由前脑古皮质、旧皮质演变而来的结构，以及与这些结构具有密切组织学联系并位于附近的神经核团。边缘系统包括扣带回、眶回、胼胝体下回、梨状区、海马回、杏仁核、隔区、下丘脑、乳头体等大脑部分和神经核团。可以认为，边缘系统是脑基底成分的一个相互联系的复合体，位于所有这些结构的中心的是下丘脑。从机能上看，下丘脑被认为是边缘系统的一个中心成分。
大脑的边缘系统活动与内脏的机能调节的关系至为密切。植物性神经系统许多功能活动的高级中枢位于边缘系统内。下丘脑包括许多重要神经核团，并与大脑皮层、海马、杏仁核、垂体后叶以及中脑被盖的“中脑边缘区”具有密切和广泛的组织学和机能的联系。下丘脑对血压、体温、摄食、水平衡、内分泌等的调节都具有重要影响。
喜、怒、哀、乐、恶、好、忧、惧等情绪反应，属于中枢神经系统高级机能。此类反应既包括躯体神经系统的活动，又包括植物性神经系统的活动。例如发怒时肌肉张力和心率、血压等变化同时发生。自1937年以来，生理学和心理学工作者普遍认为边缘系统的活动和情绪变化具有密切的关系。有关这方面的研究工作主要在动物身上进行，也有部分结果来自临床。通过埋藏电极刺激下丘脑一些部位能使猫出现惊惧反应。此时动物呈现低头、双耳后竖、身躯拱起、肌肉紧张、瞳孔扩大、体毛竖起等一系列具情绪反应色彩的躯体及交感神经系统活动的变化。刺激另一些区域可使动物出现逃遁反应，如搜索环境、夺路奔逃等。此外，刺激下丘脑外侧部还可以引起动物的“攻击反应”。刺激猫的杏仁核也可出现攻击反应，但在损毁下丘脑后攻击反应即消失。边缘系统对于情绪活动的另一重要方面是“自我刺激”。自1954年起，奥尔德（J.Olds）等人发现，将电极埋藏在隔区、杏仁核、海马、内侧前脑束、下丘脑等处，电刺激时动物表现出一种正向反应，而且能够主动按动安装在箱内的杠杆开关获得刺激，表现出一种“乐意”接受刺激的反应，又称为“愉快效应”。出现这种反应最频繁的地方是下丘脑后部、乳头体的前方。以后这些部位又称为“欣慰中枢或奖赏中枢”。这样就将边缘系统一些部位和“愉快”情绪反应联系起来，而不只是和恐惧、逃遁和防御反应有关。此外，应用同样刺激装置，发现在中脑导水管的中央灰质区，并向上延伸到下丘脑和丘脑的室周结构中，存在苦痛中枢或惩罚中枢（hunishment centers）。刺激这些区域可使动物表现出所有的疼痛、烦恼和苦痛的征候。当此种情况出现时，动物可学会自行切断刺激电路。