1958年，吴祖太主动要求调到林县水利局工作。他是林县少有科班出身的水利工程技术员。短短的时间内，他几乎跑遍了林县的山山水水，从英雄渠到南谷洞水库，从淅河滩到太行山，每一项水利工程的设计都有他的心血。吴祖太父母就他一个儿子，未婚妻薄慧贞是河南省淇县高村的小学教师，父母希望他们能早日完婚。但吴祖太实在忙得脱不开身，婚期只好一推再推。直到1959年，农历的大年初一，才在原阳的老家，匆匆举行了简单的婚礼。但大年初五，吴祖太就返回了林县。红旗渠工程进行选线测量时，吴祖太又担起了勘测、设计任务的大梁。为了测量出准确的数据，他带着勘测队每天攀援在漳河两岸的高山峡谷中。1959年5月的一天，正当测量工作紧张进行时，吴祖太收到了家里寄来的一份加急电报：“母病重，速归。”这会儿正忙得走不开的吴祖太哪儿顾得上回家，正准备写封信让妻子代替自己回家照顾生病的母亲，但这时，他突然接到了上级的通知，让自己马上到新乡开会，等他上车才知道，他的妻子在一次义务劳动中，为抢救一名横穿铁路的学生而不幸牺牲。而这时，吴祖太和他21岁的新婚妻子结婚不过100天！突如其来的噩耗，差点把吴祖太击垮了。他守着新婚妻子的遗体，呆呆地坐了一天一夜。但是，这边的红旗渠选线测量工作正在节骨眼儿上，大家伙都在焦急地等着他哪！吴祖太流着眼泪，将妻子暂时安葬在她的故乡淇县的一个安静的地方，想着等到修好渠通了水后，再把妻子的灵柩移回原阳，然后就又赶回了林县。

有一次，吴祖太和测量小组根据一处两山夹一沟的地形，设计了一个架设渡槽的方案，一直忙碌到星星眨眼。同伴们都舒了口气：“总算又闯过了一关，咱们下山吧。”吴祖太却还不放心：“咱可不能马虎，渠线这么长，又是非常微小的落差，在测量上如果有一星半点差错，就会造成不可挽回的损失呀。”这时，正好望见一位在岭上放羊的老人，他便拿着图纸凑了过去，老人听完他的讲解，笑着说：“年轻人，我也不太懂你画的这东西，不过我活了71岁，见这沟里发过3次大洪水，水头啊，正冲着你们画的那座桥。”吴祖太听后吓得出了一身的冷汗，按照老人的指点，避开水头，最后设计了一条盘山渠道。

1960年2月，红旗渠工程动工，吴祖太负责工程设计。既要根据勘测的实际情况，绘制每项工程设计图纸，还要考虑每个工段施工的安全措施，他成了工地上最忙的一个人。整天没日没夜地奔波操劳着，恨不得能生出三头六臂来。他的队友回忆说，吴祖太有个习惯性的动作，就是揪头发。每当遇到困难和深夜困倦的时候，他就会用力揪自己的头发。 1960年3月28日的傍晚，山西省境内的王家庄隧洞工段上，吃晚饭的时候，民工们反映洞壁上出现了裂缝。吴祖太一听，放下碗就往现场走，大家劝他明天再去吧，他却说，得想个办法不能叫民工冒着危险进行施工。进洞刚十来分钟，万万没有想到的是，这个时候洞顶塌方了。人们跑到的时候，震荡弥漫的灰尘还没有散尽。大家疯了一样刨着，把他挖出来，只见他满身满脸都是尘土，静静的躺在地上，再也不能说话了。这一年，吴祖太才27岁。吴祖太就这样将自己的热血洒在了红旗渠的工地上。人们在整理他的遗物时，发现只有一个破旧的小木箱，里边装的全是红旗渠工程的设计资料！吴祖太牺牲的噩耗传开以后，县委书记杨贵非常痛心。在工地上，工程总指挥部党委为他开了追悼大会，会场上一片哭声。中共林县县委追认他为中国共产党正式党员。红旗渠与吴祖太就这样突然牺牲在了他日夜忙碌的修渠工地上，县委决定派人派车把吴祖太的遗体送回他的老家原阳。