В конце правления династии Шан один находчивый человек по имени Цзян Тайгун хотел привлечь внимание главы удела Чжоу Вэнь-вана. Он днями сидел на берегу реки Вэй, неподалеку от резиденции правителя, и делал вид, что ловит рыбу. У Тайгуна был прямой крючок без наживки, который он даже не опускал в воду. Из-за этого занятия семья Тайгуна толком не имела дохода и становилась все беднее. Его жене, по имени Ма Ши, в конце концов это осточертело, и она решила уйти от бестолкового мужа. Цзян Тайгун пытался убедить её не делать этого, обещая, что однажды он достигнет богатства и положения. Однако Ма Ши ему не верила, и Тайгуну ничего не оставалось, кроме как отпустить её. 

Позже Цзян Тайгун все же завоевал благосклонность Вэнь-вана и помог его сыну У-вану объединить феодалов, чтобы свергнуть династию Шан и основать династию Западная Чжоу. 

Узнав о богатстве и положении Тайгуна, бывшая жена пожалела о том, что ушла. Она разыскала его и предложила вернуться. Но Цзян Тайгун понимал, что к чему, и не горел желанием воссоединиться с ней. Он вылил на землю горшок воды и велел ей собрать воду обратно. Ма Ши опустилась на колени, чтобы собрать её, но набрала лишь немного грязи. Цзян Тайгун холодно сказал: «Ты оставила меня, словно пролила на землю воду, которую теперь невозможно собрать!» 

Есть и другая версия происхождения идиомы:
Во времена династии Хань жил человек по имени Чжу Майчэнь. Он был очень беден и сводил концы с концами тем, что рубил и продавал дрова. При этом он старался много учиться. Каждый день по пути из дома в лес, из леса на рынок, с рынка домой он непрерывно заучивал что-то из книг наизусть и декламировал это вслух. Жена дровосека стала его стесняться и в итоге ушла. Когда Чжу Майчэнь сдал экзамены и занял должность правителя области, жена появилась и стала просить его вновь заключить брак с ней. Чжу Майчэнь же, побрызгав водой перед лошадью, сказал: «Если сможешь собрать эту воду, я снова женюсь на тебе».

С тех пор говорят «Пролитую воду трудно собрать», когда случилось что-то необратимое.