水源问题也成为困扰郭守敬的最大问题。公元1291年，郭守敬经过多次实地勘测，找到了水源，立刻向忽必烈提出开凿大都运粮河的新方案：他根据大都周围西北高、东南低的地形，将大都西北昌平神山今凤凰山脚下的白浮泉先引入瓮山泊，并让这条引水河在沿途拦截所有原先从西山东流的泉水，汇合成流，这样，便可使运河水量大大增加。另外，由于这些泉水清澈明净，几乎不含泥沙，在运河下游还可建立系列控制各段水位的闸门，以便运粮船能够平稳行驶。
忽必烈听着这个颇具科学道理又切实可行的开凿计划，深感满意。于是立即下令重设掌管水利工作的专门机构——都水监，任命郭守敬全权负责。第二年刚开春，这个千秋功业在郭守敬的精心打造下开始了。
60多岁的郭守敬雄心不减，他率领几万军民，夜以继日，艰苦奋战，只用了年半时间，这条全长160多华里的运河便全部竣工，切就像郭守敬预想的样成功。忽必烈喜不自胜，亲自为这条运河取名为“通惠河”。从此，南来的运粮船及各路商船可以直驶进大都城内了。以后明清两代的水路运输，都始终受益于通惠河。