西晋末年，道人葛洪入川至汉安县境内一空穴居炼丹修行（后人将此洞称之为葛仙洞，位于今内江县联盟乡境内）。

一夜，在洞中修炼有成的葛洪得一梦，梦中仙乐阵阵，见玉皇大帝在五色祥云的围绕下，降临在河对岸数十里范围内最高的一座山上，葛洪惊喜醒来，出洞观望，见天已大亮，河对岸数十里内最高的那座山上果然霞光漫天，彩云围绕，祥瑞之极。葛洪大喜，起身朝那座最高的山峰奔去，不知不觉中，已修道有成的葛洪一步就跨出了几里远的路程，葛洪几步来到这座山前，跪地膜拜，霞光祥云中，似有玉皇大帝庄严高大的身影若隐若现……。

朝拜玉皇大帝后，葛洪醒悟到原来大小梁山是他掐诀念咒时手印所指的方向，玉皇下降是其丹道有成所感。为纪念此殊胜因缘，葛洪当即动手在此山上修建了三间草屋，以方便修行传道。

数年后，这座山上（此山名大梁山，位于内江市中区交通乡）建起了一个道观，为纪念“葛洪道人朝玉皇”的事迹，后人将其命名为玉皇观。当地百姓在先辈们的讲述中得知，当年的玉皇观依山而建，层层殿阁隐于郁郁葱葱的千年苍松古柏之中，飞檐画栋，金碧辉煌，气派非凡，是道家修行人练功清修的理想之地。

元末明初，内江玉皇观已是一个规模庞大、庄严神圣的道家道场，老百姓在上山朝拜的同时，默默的接受着传统道德思想的教育和感化，那时每逢正月初九玉皇大帝圣诞，来自内江、自贡、泸州等地排队上山朝拜的民众长达数里路之遥。当时，道观占地已达108亩，近百名道人常住修行，平时前来挂单的道人更是达到两三百人。

上世纪五六十年代，玉皇观毁于一旦，大部分建筑物被毁坏，其中67间较好的殿堂房屋分给了当地村民居住，道士们或被逼离开，或被强行还俗。改革开放后，党和国家落实教政策，在相关部门的支持下，全真龙门派第21代唐至华道长，带领门下众多弟子及信众，经过多年筹备，共同出资，于1998年3月19日成功将内江玉皇观恢复重建。自此，千年古观——内江玉皇观又燃起了袅袅香火。二十一世纪初，又有茅山派上清宗第79代嫡传，道长余明辉与当地善信一道，筹巨资将这一传统文化圣地进行扩建，扩建后的玉皇观气势宏大，占地200余亩，是当今整个川东南难得一见的道家宫观。历史故事、民间传说都已远去，而雾绕重楼、庄严宏伟的内江玉皇观不再只是道人的清修之所，更是世人祈福迎祥、净化心灵、回归传统道德世界的圣地。