唐宋年间，徽州经商者就不乏其人。9世纪初，白居易的《琵琶行》有“商人重利轻别离，前月浮梁买茶去”之句，浮梁县就在徽州西部，与休宁和婺源毗邻。当时的徽州名为歙州，虽地处偏僻，但当地出产的茶叶已经颇有名气。被后世称为“茶圣”的陆羽，在其著作《茶经》中，就对“歙州茶”作出了很高的评价。可见，徽人经商之风由来已久，并声名远播——尽管文人墨客对他们的指摘，往往存在颇多偏见。
徽商真正闻名全国，走上发迹的道路，则源于明清两代的两淮地区的漕盐运输。由此，徽商形成了几百年的商帮，并在历史上奠定了不容忽视的一席之地。
众所周知，食盐是生活必需品，无论盐价抬到多高，老百姓也不可能不吃盐。汉武帝是盐铁专卖的始作俑者，开创了官府与民争利之先。西汉后期的名臣霍光虽一度废止了这一政策，使幼帝刘弗陵获得了“孝昭帝”的身后美谥，但三国以后，历代皇朝都厉行盐铁专卖。到了宋朝，两淮地区成为南北盐务中转的枢纽。而徽商得以染指两淮盐业，并从中赚取暴利，始于明初建立的“盐引”制度。
“盐引”制度的制定，是明朝国防的必需。
明朝开国后，长城以北的草原，一直很不安宁。为此，朱元璋曾派大将蓝玉深入蒙古沙漠，将元朝的残余势力消灭殆尽。但随后，瓦剌、鞑靼等部落先后兴起，明成祖朱棣五次御驾亲征，深入蒙古草原，最终在他64岁那年死于征途，马革裹尸而还。25年后（1449年），瓦剌酋长也先，在土木堡将御驾亲征的明英宗生擒，并围困北京。“粉身碎骨全不怕，要留清白在人间”的兵部尚书于谦，就在这一战中得胜成名。北方游牧民族的威胁，贯穿于明朝的始终。
为了稳定边防，明朝在苦寒的北方设立了九个军事重镇，边关将士的粮草，朝廷以出榜招商的方式解决，鼓励各地的商人运粮到边塞支援。而官方给运量商人的报酬，不是货币，而是一种被称为“盐引”的特许资格——商人运多少粮食到边关，官府就按照相应的价格，允许该商人到两淮盐场领取一定量的食盐，到指定的地区销售，其中的差价，就是商人获得的利润。
大量的徽州商人抓住了这个历史机遇，以结伙经商的方式，置办粮草，从数千里之外的江南地区开赴长城以北的边关。然而，由于路途过于遥远，起初的徽商，在粮草与食盐的转运贸易中，虽获利颇丰，但与晋、陕等距边关较近的商帮相比，依然处于劣势。
贩卖食盐的利润是很高的，清朝道光时期的名臣陶澍就此算过一笔账：在两淮的盐场，每斤盐大约卖到一至四文钱，但盐商把这些食盐运到其他各地销售，“近者六七十文，远者竟需八九十文不等”，利润至少翻了二三十倍。明朝的民间经济，大抵与清代相近，但官府对盐务的管控，却远不及政府严厉，据有关专家推算，明代盐商的利润，当比清朝犹有过之。
歙州的黄氏家族，和休宁的很多汪姓盐商，都通过盐务经营，成为名震一方的累代富商。休宁西门是很多汪姓盐商的老家，在明朝中期的当地宗谱中，有“乡人称富者……西门汪氏”的记载。
精明的徽州商人，在不断往返于漠北和江淮两地的艰辛创业中，逐渐创造出了一套更好的办法。距边关较近的晋、陕等地的商人，运粮草到边塞很容易，但苦于南下千里之外的江淮换盐贩卖。于是，徽州商人与他们达成了“分工合作”的协定，晋陕商人专门负责运粮换取“盐引”，而徽商代为支盐行销，利润与持有“盐引”的晋陕商人分摊。
从此，徽商得到了两淮贩盐之便，并把贩盐的利润，进一步向茶、药、墨块、印书等行业扩张经营。而晋商也得到了更多的银钱，其中的部分商家，开始走上办银号、“钱生钱”的道路。近代史上，晋商以“汇通天下”著称于世，徽商则大多专务实体经济，其端倪肇始于自明朝中后期的“盐引”分工。
徽商在两淮盐务的经营利润扶摇直上，很多徽州人都纷纷移居到两淮盐场附近，或者贩盐利润最高的扬州等地，从而逐渐垄断了两淮盐务的经营。
明末的动荡，特别是以“七杀碑”著称的张献忠对富商、富户的大量残杀，以及清军对扬州城的两次洗劫，造成两淮盐业一度萧条。清朝坐稳江山之后，盐务基本承袭明朝旧制，并对盐商课以重税。到了康熙年间，两淮盐业又恢复了繁荣。
当时很多徽州人的祖辈，足迹都曾遍布两淮，对盐运至京师及各大枢纽城市的水旱道路，都非常了解。
徽州商人黄汴，专门编纂了《一统路程图记》，书中详细记述了自淮扬地区及明代两京和十三布政司的水陆交通路线，对每个水陆驿站的名称，与每条道路的起点、终点乃至中途的分支，以及各地的风俗禁忌，都有详尽的记载。《一统路程图记》又名《天下水陆路程》，此书如今收藏在日本的山口大学。
清代有个佚名的徽商，编了一本《江湖绘画路程》，书中通过33幅详尽的地图，记述了由徽州府前往杭州及长江中游的道路。此外，书中还把从湘潭到镇江的航船路线，编成了简明通俗的“行路歌”，在徽商之间广为传唱。
清代的徽商凭借对江淮中转道路的熟悉，和一定程度的地利之便，终三百年之世，一直处于两淮盐业的垄断地位，一些巨商富甲天下。
康熙初年的徽商江演，家境贫寒，自幼随父背井离乡，到扬州当学徒。后来，江演用多年学徒生涯中艰辛积攒的一笔资金，从事食盐贸易，逐渐发家致富。几十年后，江演的儿子江承瑜子承父业，盐务经营的规模不断扩大，晚年被诸多同行推举为两淮盐业的总商。
江承瑜逝世后，其子江春继承家业，并袭任总商，其产业持续壮大，逐渐堪居全国之冠。
乾隆六次下江南，江春家族都参与甚至主导了当地的“迎驾”。1756年乾隆第三次下江南，江春筹资建造行宫，穷奢极侈的布局，令毕生好大喜功的乾隆爷“龙心大悦”，亲临江春私宅慰劳，并为其私宅赐名“净香园”。
三年后，乾隆再次来到江南，当他泛舟观赏瘦西湖时，随口说了一句：“这地方很像春天的南海琼岛，可惜没有喇嘛塔。”江春当时早已买通了乾隆身边的太监和侍卫，得知此事后，立刻按照乾隆近侍所绘的喇嘛塔图形，仅仅一夜之间，就建成了一座喇嘛塔，巍然耸立在瘦西湖畔。第二天乾隆再次来到瘦西湖，见状非常惊讶，在问明缘由之后，不禁对江春等徽州盐商的财力，发出连声感叹。
十几年后，年近七旬的乾隆第五次“巡幸”江南，江春率领当地的盐商大亨，筹集巨资为乾隆祝寿。1783年，72岁的乾隆最后一次下江南时，当众将金丝荷包赐给江春的幼子江振先，以示嘉奖。
江春比乾隆小10岁，先于乾隆10年作古。终其一生，乾隆都对他尽力笼络，封他为“内务府奉宸苑御布政使”，并赐其顶戴花翎。每当新的两淮巡盐御史上任，乾隆都会私下嘱咐：“江广达为人忠厚老成，盐务的重大决策一定要和他协商。”“广达”是江春的盐商招牌，所以人们常常尊称江春为江广达。1789年，68岁的江春寿终正寝，一代鸿儒袁枚亲笔为他撰写墓志铭。
两淮的盐务，成就了徽商在近四百年来不可磨灭的历史地位。但徽商的经营范围，并不局限于制盐，其足迹也不局限于江淮一隅。