觉生寺始建于清雍正十一年（1733年），由雍正帝下旨敕建，到雍正十二年（1734年）冬天正式获赐名觉生寺，现时觉生寺山门的“敕建觉生寺”匾额乃由雍正帝御笔手书。根据雍正帝在雍正十二年（1734年）所立的《敕建觉生寺碑文》记载，雍正帝选址西直门外曾家庄（今海淀区内）建寺，乃在于该处高朗干爽，林木佳茂，而且“右隔尘市之嚣，左绕山川之胜”，适宜用作“寂静清修之地”。该碑文又记载，雍正帝有云“以无觉之觉，觉不生之生，所谓觉生也”，是故雍正帝为寺庙取名觉生寺，希望借佛寺“振其大觉之道，达夫正觉之旨”。

觉生寺最初为皇家佛教寺庙，到乾隆八年（1743年），乾隆帝将位于万寿寺的永乐大钟移到觉生寺，故觉生寺又被俗称为“大钟寺”。乾隆帝在位期间，曾多次亲赴觉生寺祈雨，至乾隆五十二年（1787年）更下令辟觉生寺为祈雨场所之一，此后祈雨活动一至持续至清末。

大钟寺曾在1957年10月28日被北京市公布为第一批市级文物保护单位。后来文化大革命完结后，大钟寺寺内建筑凄凉破败，极需维护，北京市政府遂于1980年2月批准成立大钟寺文物保管所，后又于1984年11月批准成立大钟寺古钟博物馆，开始对全寺展开修缮工程，终于在1985年10月正式开放，并举行了建馆典礼。

在1996年，觉生寺获中华人民共和国国务院列入全国重点文物保护单位。现时大钟寺虽已改成博物馆，但每年农历正月也会举行昔日的庙会。