吴山坐落于西湖南面，由紫阳、云居、七宝、峨眉等十多个小山头组成，西连凤凰山、将台山和玉皇山。相传，春秋时这里是吴国的南界，因而得名，又因山上有座城隍庙，所以又叫“城隍山”。吴山历史悠久，有很多古迹，如春秋的伍子胥庙、晋朝的郭璞井、宋代的东岳庙、明朝的城隍庙等。在吴山的山岗上，因石灰岩长期溶蚀作用形成了一组惟妙维肖的“十二生肖石”，山顶上有一座高8米、双层重檐的江湖汇观亭，登上此亭北望西湖明澈似镜，南眺钱江宛若锦带。到了清朝雍正年间，“吴山太观”被列为“西湖十八景”之一，这个景目又包括金地笙歌、瑶台万玉、紫阳秋月、三茅观潮、枫岭红叶、云居听松等“吴山十景”。吴山的自然和人文景点吸引着众多的游客前来观光，使它成为杭州客流量很大的一个地方。
另一方面，杭州自唐宋以来就佛寺遍布，有“东南佛国”之称。在每年春暖花开的季节到立夏为止将近一个月左右的时间里，各地（主要是杭嘉湖三地及苏南一带）的善男信女身背写着“朝山进香”的黄布香袋，成群结队地涌入杭城，到各寺院烧香拜佛、许愿还愿。这种年年必有、规模宏大、具有宗教色彩的特色旅游给经商者带来了生意。他们或在寺院附近定点设铺，或随处流动设摊，出售胭脂、簪珥、牙尺、剪刀、木鱼、经卷、玩具、花篮、梳子、药物等物品。据范祖述原著、洪如嵩补辑的《杭俗遗风》记载：“城中三百六十行生意，一年中敌不过春市一市之多。大街小巷，挨肩擦背，皆香客也……各色生意，诚有不可意计者矣。”这种因烧香拜佛者聚集而成的商业性集市叫作香市。吴山早在元代就有香市，元代诗人贡有初在《春日吴山绝句》中有：“十八姑儿浅淡妆，春衣初试柳芽黄。三三五五东风里，去上吴山答愿香。”就从侧面反映了吴山香市的情况。到了清代，吴山香市与钱塘门外的昭庆寺香市、岳坟以北七八里开外的天竺香市成为杭州持续最久、规模最大、集市最盛的三大香市。
鉴于上述情况，吴山在生意人眼中具有特殊意义，而其脚下的大井巷是人们登吴山的必经之路，所以胡雪岩选中这块“黄金宝地”。他在上吴山的石阶路旁购地8亩，开设建筑面积约12000平方米的胡庆余堂国药号，为其经营奠定了长期、固定的基地。应该说，这是很有眼光的。
第二，“精修”，即店堂修建精致，别具一格。
胡庆余堂初建时由东西并列的三进建筑组成（后来西边一进被拆除，现只剩两进）。头进是营业店堂，二进是制药工场，这种前店后场、产销结合的组织格局有利于灵活、及时地适应顾客需要。两进院落之间有夹弄和风火墙相隔；每进设前、后天井，左、右有廊屋相连，呈环形通达之状，外观气派，结构简洁。
作为我国古代建筑史中不可多得的建筑群，胡庆余堂除了具备江南园林大红漆柱、镏金描彩、雕梁刻枋、飞檐镂格等古朴典雅的共性之外，还根据营业需要，有自己独特的创意：整座建筑被设计成仙鹤状，象征着店铺生机长存，四周造起高12米（墙脚就高达2米）、长60米的青砖风火墙。胡雪岩请人在靠河坊街的一面墙上写了“胡庆余堂国药号”7个特大汉字，十分引人注目。
胡庆余堂的上檐有一般建筑比较罕见的一排排花灯状的垂莲柱，正门在大井巷内，青石库门坐西朝东，青砖角叠的门楼上镶嵌着“庆余堂”3个金光闪闪的大字。跨过门楼，映入眼帘的是“进内交易”牌，4个镏金大字远看凸出，近看凹进，一望就知是高手之作。入口长廊被做成船篷轩。
人靠脸皮，店仗门面，胡庆余堂如此不落俗套的设计能不使人顿兴好奇和赞叹吗？
第三，“巧陈”，即店堂的内部摆陈巧妙适宜。
