嵩阳书院是中国古代著名的高等学府，中国古代四大书院之一（岳麓书院，白鹿洞书院，睢阳书院）。嵩阳书院建制古朴雅致，中轴线上的主要建筑有五进，廊庑俱全。嵩阳书院因其独特的儒学教育建筑性质，被称为研究中国古代书院建筑、教育制度以及儒家文化的“标本”。书院是中国封建社会特有的一种教育组织，在中国古代教育史上占有重要而又独特的地位，具有举足轻重的影响。
嵩阳书院仪门为新修的牌坊式建筑，因书院除具有讲学的主要功能外，还有藏书和祭祀孔子的功能，所以在这里设置仪门，是提示学子到这里要注意言行穿戴、不至失礼。门额上有乾隆皇帝亲笔御书“高山仰止”四字，这四个大字，在爬泰山时也见过。
嵩阳书院又是古代四大书院中的佼佼者，对传播中华民族传统文化和培养造就人才发挥了重要的作用。历史上嵩阳书院以理学著称于世，嵩山地区自古就是儒家学派活动的重要地区，。这里有嵩阳书院、颍谷书院、少室书院、南城书院、存古书院，其中最显赫的为嵩阳书院（哈哈，简直成了大学城了！）。这里在嵩山山脚下，景色清幽、环境宜人，真是一个修身、读书、著书、讲学的好地方。
嵩阳书院在历史上曾是佛教、道教场所，但时间最长最有名气的是作为儒教圣地。嵩阳书院初建于北魏太和八年（公元484年），名为嵩阳寺，为佛教活动场所，僧侍多达数百人。宋景祐二年（公元1035年），改为嵩阳书院，此后一直是历代名人讲授经典的教育场所。据记载，先后在嵩阳书院讲学的有范仲淹、司马光、程颢、程颐、杨时、朱熹、李纲、范纯仁等二十四人，司马光的巨著《资治通鉴》第9卷至21卷就是在嵩阳书院和崇福宫完成的。号称“二程”的程颐、程颢在嵩阳书院讲学10余年。
从仪门进入，在台阶之下的右侧建有一座碑亭，亭子里立有一通古碑“中岳嵩阳寺伦统碑”，为东魏孝静帝天平二年（535年）刻立，是中岳嵩山迄今为止发现最早的石碑。从石碑上我们可以很明显地看出，当时这里作为一处佛教寺院的兴旺程度。 石碑正面刻有91尊佛像，保留有北魏时期造像的风格。可惜的是，由于年代久远和人为的破坏，许多造像已经面目全非。另一面上部刻大佛龛，内作一佛二菩萨三弟子，龛楣浮雕的飞天童子诸像及碑侧图案，颇为精致，为中原石刻艺术中的上乘之作。
嵩阳书院另一方闻名的石碑，碑的全称为“大唐嵩阳观纪圣德盛应以颂碑”，唐天宝三年（公元744年）刻立，碑高9.02米，宽2.04米，厚1.05米，碑制宏大，雕刻精美，通篇碑文1078字，内容主要叙述嵩阳观道士孙太冲为唐玄宗李隆基炼丹九转的故事。李林甫撰文，裴迥篆额，徐浩的八分隶书。字态端正，刚柔适度，毛法遒雅，是唐代隶书的代表作品。大唐碑重80多吨，仅碑帽就有10多吨重。
整个嵩阳书院的建筑都属于灰筒瓦覆盖、硬山卷棚式建筑，代表着儒家主张朴素、中庸、平和的思想理念。大门上“嵩阳书院”四字是由登封著名书法家宋书范先生仿照苏东坡字体所写，这块匾额为嵩阳书院增色不少。书院内其余每进建筑的匾额均由当代河南书法家书写。门两侧柱子上有副对联为乾隆皇帝御笔：“近四旁为中央，统泰华衡恒，四塞关河拱神岳；历九朝为都会，包伊洛涧，三台风雨作高山。”气势磅礴，充满了浪漫主义的文笔色彩。
嵩阳书院内原有古柏三株，西汉元封六年（公元前1），汉武帝刘彻游嵩岳时，见柏树高大茂盛，遂封为“大将军”，“二将军”和“三将军”。大将军柏树高12米，围粗5.4米，树身斜卧，树冠浓密宽厚，犹如一柄大伞遮掩晴空。
二将军柏树高18.2米，围粗12.54米，虽然树皮斑驳，老态龙钟，却生机旺盛，虬枝挺拔。树干下部有一南北相通的洞，好似门厅过道，树洞中可容五、六人。两根弯曲如翼的庞然大枝，左右伸张，形若雄鹰展翅，金鸡欲飞。每当山风吹起，枝叶摇动，如响环佩，犹闻丝竹之音。三将军柏毁于明末。
关于将军柏树龄一直是个神秘的话题。该树从受封，已有二千多年的历史，赵朴初老先生留有“嵩阳有周柏，阅世三千岁”的赞美诗句。经林学专家鉴定，将军柏为原始柏，树龄有4500年，是中国现存最古最大的柏树
先圣殿 是嵩阳书院祭祀孔子的场所，又叫先师祠。楹联：“至圣无域浑天下； 盛极有范垂人间”先师殿内中央供奉圣先师孔子站像，左右两侧为颜子、子思、曾子、孟子四大贤人线刻图像。西墙为孔子弟子72贤人传略和12先哲画像。东山墙有儒学的产生、发展及其影响的介绍。
殿中根据画圣吴道子所绘制的孔子画像而塑造了高2.21米孔子行教立像。殿里还有四块石碑，分别刻画了孔子的四大弟子。他们是：颜回：字子渊。以德行见长，受到孔子称赞。被后人尊为“复圣”；子思：孔子之孙。战国初期哲学家，曾著《中庸》。被后人尊为“述圣”。
先圣殿的后面是讲堂，清朝时期为纪念北宋名儒程颢、程颐在此讲学，河南学道林尧英把自己的俸禄捐献出来所修。历史上著名的“程门立雪”的故事就发生于此。
传说北宋时期，程颢、程颐兄弟俩在嵩阳书院讲学时的一年冬天，福建杨时、游酢二人来到嵩阳书院求学，见讲堂门窗紧闭，从门缝看见一位胡须花白的老人双目微闭坐着火炉旁。二人便站在风雪交加的门外等候，待程颐起身开门，发现雪地里站着两个雪人问道：“二位何地人，立在雪中做甚？”两人齐答“千里投奔先生门下，万望先生赐教”。先生并无收留之意，便长跪雪中不起。程颐深感其诚，说道：“我收下你们就是了”。杨时、游酢师从程颐以后，刻苦钻研，勤学不倦。后来，他俩与吕大临、谢良佐同为“程门四弟子”，成为嵩阳书院的一段佳话。
如今，讲堂内是一个小型陈列室，殿内陈列的用具是1989年根据宋元时期的讲堂风格而复制，墙壁上介绍了嵩阳书院的教学特点，教学规定等。过了讲堂，前面这个池子叫泮池。比较通俗的说法，孔子家居泮水之滨，少年常在泮水边读书。后人为纪念孔子，就在学宫或书院里修建泮池，以表示不忘先师的意思。古代嵩阳书院凡考中秀才，都要在这里举行绕池仪式，表示不忘先师的教导，继承先师的博学，要效法先师品德，安邦治国。
御碑亭位于讲堂东南，四角重檐。亭内立清高宗乾隆弘历诗碑一通。亭已倒塌，碑于1967年文革时被毁。在原亭基础上重建亭子，并将碑首，残碑复原。乾隆诗全文如下“书院嵩阳景最清，石幢犹纪故宫名。虚夸妙药求方士，何似菁莪寄俊英？山色溪声留宿雨，菊香竹韵喜新晴。初来岂得无言别，汉柏荫中句偶成。”
嵩阳书院杏坛清朝中州著名学者耿介主持倡兴嵩阳书院，循孔杏坛讲学旧说，在地除地为坛。讲学期间坛上古杏树一株，传为耿介手植，今石护坛，周匝平台栏杆，恢复旧貌。泮池和大唐碑前的杏坛，都是为纪念孔子而修建。孔子年少时常在泮水边读书，成年后常在杏树下筑坛讲学，学宫或书院里修建泮池和杏坛，以示不忘先师。
道统祠：始建于康熙年间，后多有重修。如果说儒家思想是中国优秀的文化理论，那么可以说，她是孔子在中国传统文化的基础上归纳、整理并极力推动其发展而成的。在孔子之前，中国的先民就在嵩山地区这块热土上创造了灿烂的远古文化。道统祠就是为了纪念这些为创造、发展、继承中国远古文明的先驱者所建造的。门联为“海纳百川有容乃大，壁立千仞无欲则刚”。祠内供奉着唐尧、大禹、周公坐像。坐像后面是古代发生在登封的帝尧巡狩、大禹治水和周公测景三次重大活动场景图。
藏书楼是嵩阳书院的最后一层建筑，清朝王日藻捐俸银所建。属砖木结构的硬山式建筑，面宽五间，纵高两层，上层室外有通廊。历史上藏书很多，北宋太宗皇帝曾御赐书院九经藏于楼中，可惜毁于明末大火。
现在的嵩阳书院，基本保留了清朝修复后的建筑主体原貌，占地近1万平方米、分五进院落，共有古建筑106间。十几年来，由于当地文物部门的重视，对一些房屋和文物进行了保护性的修缮，对周围的环境进行了大规模的整修，使得这座古老书院重新以蓬勃的生机出现在游客面前 。现已成立郑州大学嵩阳书院，1961年中华人民共和国国务院公布为全国重点文物保护单位。
