自古以来，“玉”在中国人的心目中就占据着几近神化的地位。人们视“玉”为瑞宝，认为它可以趋吉避凶，带来吉祥福祉。人们为了朝礼神明祖先，敬畏诸神，用玉献祭，把它作为沟通人世间生灵与神灵的法物。《礼记·月令》：“仲春三月，祀用圭璧。”《周礼·春官·大宗伯》云：“以玉作六器，以礼天地四方……。”以“玉”祭神、通神，发展到以“玉”喻神、称神（特别是天神），从而使玉与神仙思想紧密地联系起来。我们从一些称谓天帝诸神的词语上就可窥见一斑，如人们称至高无上的天之主宰为“玉帝”和“玉皇”；称玉帝的居处为“玉虚”；称天神的居所为“玉台”；称神仙的住所为“玉宇”、“玉楼”；称仙人所居的宫殿为“玉阙”或“玉门”；称仙女为“玉女”；称月亮为“玉盘”、“玉轮”，月中的蟾蜍为“玉兔”……，可见“玉”与神仙之密切关系。

“玉”与神仙信仰相联之渊源，可追溯至原始社会的新石器时代，那时的人们就意识到“玉”这种矿物是有价值的自然财富，认为它是天神所赐。人们用“玉”制成玉璧、玉琮、玉圭、玉璋等器物，来祭祀天地诸神，让神灵保佑风调雨顺、五谷丰登、财富增多、国泰民安。“玉”就这样逐渐成为一种与神灵沟通的工具。

人们在祭天告神时常以“玉”为媒介。《尚书·金滕》记载，武王克殷第二年生了大病，群臣忧虑。于是周公筑祭坛与天通话，祈求上帝与先祖为武王延寿，并许诺“尔之许我，我其以璧与圭，归俟尔命”。即如果上天答应我的要求，我将用玉璧与玉圭作为归复天命的信物。在人与神的交往中，也往往以“玉”作为见面礼物。《尚书大传》中有：舜时，西王母来献白玉琯的记载。《穆天子传》：“周穆王行三万五千里西巡昆仑山，会西王母于瑶池，赠丝帛载玉万只而归”，“天子宾于西王母，乃执白玉璧，以见之。”

考古专家对浙江新石器时代良渚文化中出现的大量玉璧进行考证后，也认为玉璧最初是仿照天体制造的，巫师持璧用于祭祀，是将璧作为想象中与神祇形象相同的礼器来祭祀神祇，以达到被祭者（天）与祭者（人）之间意识的沟通与交流。

用“玉”与神界沟通的另一种方式是焚烧玉器用作殉葬或祭祀。新石器时代的墓葬中就经常出现大量烧烤过的殉葬玉器。直至商代，焚烧玉器之习还很盛行。《逸周书·世浮解》中记载，武王伐纣时，商纣王兵登鹿台，怀揣数千美玉自焚。《旧唐书·礼仪》也记载“旧礼效祀即毕，收取玉币牲体置于柴上，然后燔于燎坛至上”，这种燎祭之俗其目的也是以“玉”通神。

在以“玉”祭神、通神的同时，人们还将仙界描绘成充满美玉的世界。如《水经注·河水》：“昆仑之墟，方八百里，高万仞，上有木禾，面有九井，以玉为槛；面有五门，门有开明兽守之，百神之所在。……昆仑之上，有木禾、珠树、玉树、琼树、不死树。沙棠、琅轩（美玉的一种）在其东，绛树在其南，碧树、瑶树在其北……。”昆仓山是一座通天之山，是“百神之所在”，山上有神人所食的各种玉树，就连所用的井槛也是以玉制成。这座神山的总管是西王母，西王母所居的昆仑山即因产玉而称玉山。西王母这样，东王公亦如此。《神异经·东荒经》云：“东荒山中有大石室，东王公居焉。”仙人住石室，吃的也离不开石，但这不是一般的石，而是玉石。据《说文》解，“石之美者为玉”，玉乃美石也。

仙人食玉以及一些凡人食玉成仙的例子也广为人们所接受。如《山海经》云：“岭山其中多白玉，是有玉膏，其源沸沸汤汤，黄帝是食是饷。”华夏的祖先黄帝也被人们美化为食玉的神仙。《诗经》中有：“太华之山，上有明星玉女主持玉浆，服之成仙。”《河图》中也说：“少室之上巅，亦有白玉膏，服之即得仙道。”《搜神记》亦有：“赤松子者，神农时雨师也，服冰玉散，以教神农。”“赤松子”本为人间的雨师，即因服用冰玉散，而步入神仙之列。洛阳偃师出土的东汉建宁二年服致碑上也说：“土仙者大伍公见西王母昆仑之墟，受仙道，大伍公从弟子五人，……皆食石脂仙而去。”此处的石脂即为玉浆、玉脂也，“大伍公”及弟子五人即是食玉成仙的凡人。象神仙那样食玉更是人们的理想，如战国时期著名的诗人屈原在《楚辞·九思·疾世》中就希望象神仙那样“吮玉液兮止渴，啮芝华兮疗饥”。在《涉江》中还期盼“登昆仑兮食玉羹，吾与天地兮比寿，与日月兮齐光”。