公元前478年，孔子去世后，鲁哀公将其生前住宅改为庙。
唐代时称文宣王殿，共有五间。宋天禧五年大修时，移今址并扩为七间。
宋崇宁三年徽宗赵佶取《孟子》:"孔子之谓集大成"语义，下诏更名为"大成殿"，清雍正二年重建，九脊重檐，黄瓦覆顶，雕梁画栋
八斗藻井饰以金龙和玺彩图，双重飞檐正中竖匾上刻清雍正皇帝御书"大成殿"三个贴金大字。
大殿坐落在2.1米高的殿基上，为全庙最高建筑。
大成殿与北京故宫太和殿、泰安岱庙天贶殿并称为“东方三大殿”，其中价值高、历史长的当属大成殿。
西汉以来历代帝王不断给孔子加封谥号，孔庙的规模也越来越大，成为全国最大的孔庙。现存的建筑群绝大部分是明、清两代完成的，占地327亩，前后九进院落。庙内有殿堂、坛阁和门坊等464间。四周围以红墙，四角配以角楼，是仿北京故宫样式修建的。
1961年，国务院把“三孔”列为全国重点文物保护单位；1994年被联合国教科文组织列为“世界文化遗产”
现为国家AAAAA级景区，与北京故宫、承德避暑山庄并列为中国三大古建筑群；与南京夫子庙、北京孔庙和吉林文庙并称为中国四大文庙。
