汉代的第二位皇帝惠帝时，久旱不雨。惠帝亲自穿上祭服，带领大臣们在渭水河畔祭祀，天空阴云笼罩，吹起了大风，好像要下雨的样子，但过了一会儿又风吹云散了。惠帝十分困惑，但也无奈，只好上了马车，和大臣们一起回长安。
惠帝的车夫看见未央宫的宫阙时，车轮好像撞上了一个东西，他停了下来，让扈从的士兵去查看，只见车轮下的土隆了起来，土内隆隆有声，好像有一只大猪在嗥叫的样子。
惠帝命令内侍挪开马车，挖开隆起的土包，只见土坑里有一块青色的玉，外形像一只鸟，但只有一只脚。惠帝叫来大臣陈平，让他辨认，陈平说：“回禀陛下，玉雕名为商羊，用水浇它就会下雨。”
惠帝立刻命内侍拿来水囊，往土坑里浇水，玉雕被冲洗得光华灿烂，闪烁着青光，天上瞬时阴云密布，不一会儿便雷声大作，下起了大雨。惠帝很高兴，问陈平商羊是什么来历。
陈平答：“回禀陛下，商羊是雨师。它既能变大，又能变小，大的时候像一片云，能遮蔽整个天空，能吸干北海的水；小的时候像一个蚊子，一滴露水就能喂饱它。”
惠帝问：“从前雨师也在帝王面前出现过吗？”
陈平说：“东周时，有一只大鸟落在齐国的宫殿上。齐侯和他的大臣都不能辨认，就派使者去问孔子。孔子告诉使者，鸟儿名叫商羊，是水的祥瑞。应该告诉民众挖掘沟渠，预备排水，不然会有水灾。后来果然连续几天都下了大雨，因为有防备，所以没有形成水灾。”
惠帝十分高兴，嘉奖了陈平，命人就地建设雨师庙，将那只玉鸟供奉在里面，设立专门的官职祭祀，每当天旱，就命人用水浇灌，总会下一场甘霖。
后来惠帝的母亲吕后毒杀了高祖生前最爱的儿子赵王如意，又虐杀了如意的母亲戚夫人。惠帝得知后又惊又怒，生了一场大病，不久就驾崩了。人们看到雨师庙中飞出一只大鸟，脚不践地，鸣声十分哀戚，在长安郊外的田野上低飞，大雨连续下了好几天，连未央宫都泡在洪水中。
后来洪水退了，人们发现雨师庙中的玉雕失踪了，连续数年大旱。后来吕后死了，人们惊讶地发现那块玉雕又出现在了祭台上。西汉晚期王莽篡政，那块玉雕便失去了下落。
商羊是古代神话传说中的神鸟，仅有一足，每当大雨到来之前便会翩翩起舞，其记载可见于《孔子家语》《论衡》等古代典籍。《孔子家语》又名《孔氏家语》，或简称《家语》，是一部记录孔子及孔门弟子思想言行的著作，今传本共十卷四十四篇，对全面研究早期儒学极具价值，被誉为“儒学第一书”。
