“百姓的功德啊！”回头又对张孟谈说：“民心虽说没变，要是水势再高涨起来，咱们不就全完了吗？”张孟谈说：“形势当然非常紧急，可是我老觉得韩家跟魏家绝不会把自己的土地平白无故地让给智伯。他们也是出于无奈，才跟着他来打咱们。依我说，主公多预备小船、竹排、木头板子，再跟智伯在水上拼个死活。我先去见见韩、魏这两家去。”赵襄子当天晚上就派张孟谈偷偷地去跟两家相商。
三家的兵马将晋阳城围了2年多，没打下来。到了第三年（公元前453年），有一天，智伯正在察看地形的时候，忽然想起晋阳城东北的那条晋水来了。晋水由龙山那边过来，绕过晋阳城往下流去。要是把晋水一直引到西边来，晋阳城不就淹了吗？他就吩咐士兵们在晋水旁边另外挖了一条河，一直通到晋阳城，又在上游那边砌了一个挺大的蓄水池。在晋水上垒起土堆来，让上游的水不再流到晋水里去。这时候正是雨季，一连下了几天大雨，蓄水池里的水都满了。智伯叫士兵们开了一个大口，大水就一直向晋阳城灌进去。不到几天工夫，城里的房子多半都淹了。老百姓跑到房顶上避难。竹排，木头板子都当了小船。烧火、做饭都在城墙上。可是全城的老百姓，宁可淹死，决不投降。
第二天，智伯请韩康子和魏桓子一起去察看水势。他指着晋阳城，得意地对他们说：“你们知道吗？水能灭国。早先我以为晋国的大河像城墙一样可以挡住敌人；照晋阳的情形看来，大河反倒是个祸患了。你们瞧：晋水能够淹晋阳，汾水就能淹安邑（魏家的大城），绛水也就能淹平阳（韩家的大城）。”他们两个人连连答应着说：“是，是！”智伯见他们答话有点慌里慌张，好像挺害怕的样子，自己才觉得话说错了。他笑着说：“我是直心眼，有一句话说一句，你们可别多心！”他们又都连着回答说：“哪儿会呢！您是顶天立地的英雄。我们能够跟着您，蒙您抬举，真是非常荣幸了。”他们尽管嘴上这么说，心里可都觉得赵襄子派张孟谈来找他们，对他们是有好处的。