但雨季过后，这里又严重缺水，形成旱灾。因此，治理岷江水患就成为这一地区人民迫切的需求和秦国治蜀之关键。李冰任蜀郡守后，决心治理水患，他与儿子二郎沿江上溯，实地考察了水情及沿途的地理情况，从而为治理水患掌握了第一手的资料。了解水情后，李冰带领当地人民开始了治理水患的斗争。他决定开凿玉垒山，把岷江分为两股一部分水引向东岸，另一部分水沿着岷江右河道流入长江。
这样，既可分流减灾，又能引水灌田。一举两得，变水害为水利。塞这一水利工程的最大障碍便是如何凿开玉垒山。此山为坚硬的石山，在这一时期虽然已有铁器的使用，但是毕竟尚未普及，所以工程进度十分缓慢。一位石匠想出一个办法，先在岩石上凿出一条槽线，然后在槽线和一些天然的石缝里填满干草，再堆上树枝点火燃烧，再在烧热的岩石上泼洒冷水，从而使岩石松动，凿石工程也就容易多了。
李冰推广了这个办法，工程速度大大加快。经过艰苦的劳动，巨石嶙峋的玉垒山终于被劈开，凿开的山口有20多米宽。人们把开凿的山口称“宝瓶口”，并把开凿后与玉垒山分离的山堆叫“离堆”。接着李冰又在距玉垒山较远的江心筑起一道分水堰，迫使岷江水分为两股，其中一股流入“宝瓶口”。这道分水堰采用竹笼装卵石的办法，一层层投放到江中堆积而成，由于其堰头远看好似大鱼嘴，所以叫“分水鱼嘴”，又称“都江嘴”。
鱼嘴后面的洲滩护堤人称“金字堤”或“金刚堤”，而东边的称“内金刚堤”，西边的称“外金刚堤”。从此以后，岷江流到灌县后便一分为二。东边的一股完全进入宝瓶口，称为“内江”，通过宝瓶口后又分为走马河、泊条河、蒲阳河三条支流，供灌溉系统用水；西边一股称“外江”，沿岷江故道流入长江。为了防止水患，李冰还修了一道长200米的“飞沙堰”，全部用竹笼装卵石堆成，坐落在“宝瓶口”对面。
因为堰顶比堤岸低，内江水少时，可以保证内江的水量不流失，内江水大时，多余的水可自动漫过“飞沙堰”流到外江，保证内江不受水患之灾。为了防止都江堰附近的河床被泥沙淤高，李冰在外江和内江每年轮流用杩槎断流，以便进行淘挖。并且制定了“深淘滩，低作堰的六字治水方针。又在三处分别安置了三座石人雕像，标明“竭不至足，盛不没肩”的水平高度，作为保证灌溉和安全防洪的尺度。
用现代水利工程原理来看都江堰工程，飞沙堰具有滚水坝的作用，宝瓶口具有节制闸的功能，这是我国历史上第一次大规模地采用中流作堰、分水灌溉的办法。在当时的世界上，无论是规划、设计方面，还是施工方面都具有最先进的水平。这项伟大的水利工程完工后，当时每年可灌溉田地200万亩至300万亩，使得成都平原真正成为举世闻名的“天府之国”，同时又可避免水害对生产和生活的破坏。
而今，这一古老的工程继续焕发着青春，灌溉区范围由原来的12个县市扩大到27个县市，灌溉面积则扩大到1000万亩左右。古代的四川人民没有忘记为他们做了好事的秦国水利专家，他们尊李冰为“川祖”，在都江堰建造了一座“二王庙”，里面有李冰父子的塑像，供后人参观、瞻仰，盛赞李的历史功绩。在都江堰离堆北端，另建一座“伏龙观”，它是纪念李冰父子的另一处建筑。
相传李冰父子治水时，曾经制服过岷江孽龙，并将其锁在离堆之下的伏龙潭中。故后人建祠祭祀，至北宋初年改名为“伏龙观”。在伏龙观内陈列有李冰石像，关于此像来历是：1974年，都江堰例行岁修，于内江、外江分流堤埂上出土石人二座。大石人胸前题刻“故蜀郡李府君讳冰”，两臂肘部，左刻“建宁元年闰月朔廿五日都水掾”，右刻“尹龙长陈台造三石人镇水万世焉”。
