广州自来水的雏形最早可以追溯到宋代，并且与宋代著名的文学家——苏轼有关，当时苏轼被贬至惠州，途经广州时发现，广州城内因饮用受海潮影响的江水而常发生瘟疫。苏东坡根据治理杭州的经验，向当时的广州太守王敏仲建议，将离广州20公里的蒲涧山（即现在的白云山）滴水岩上的水通过竹管引入城中，解决饮水问题。王敏仲听从了苏轼的建议，兴建了这一引水工程，使广州居民在900多年前就喝上“自来水”。
建议被采纳后，苏轼又考虑到该自来水工程的后续维护工作，他提议，在每根竹管上钻小孔并塞住，有了这些小孔，日后即使发现水管堵塞，只要拔掉各节小孔的小竹针，看哪处小孔不出水，便可马上判明堵住的竹管并来更换，不会累及整个供水网络。
清朝末年时的广州，虽已是中国南方经济文化的繁荣之地，但普及自来水对百姓而言仍是遥不可及的梦。1903年，上海商人南下找到两广总督岑春煊提出创办自来水厂，1905年，官商各出资60万两白银成立“广东省河自来水公司”，自来水事业由此在广州生根发芽。1908年，增埗水厂建成，成为广州第一间公用自来水厂。
但这时期的自来水，却是名副其实的“奢侈品”。刚建成时，自来水供水范围仅在广州西关、南关和惠爱路一带繁华富庶的城区，当时，安装自来水除了高昂的管线安装费用，每月最低的水费也要超过白银1元8角，相当于山泉水的几十倍价格，只有富裕家庭才能承担，普普通通的家庭则只能依赖井水或从挑夫手中购买山泉水。
在早期，由于自来水价格高，普普通通的家庭难以承担高昂的水费，因此，当时的自来水公司采取了用水票的方式来降低普普通通的家庭的用水门槛。居民能根据自己的需要购买相应数量的用水票，然后到指定的水站取水。这种用水票制度在某些特定的程度上缓解了普普通通的家庭的经济压力，同时也促进了自来水的普及。
新中国成立后，广州自来水事业进入了加快速度进行发展期。政府开始重视自来水的普及和水质的提升。1950年，广州市自来水公司成功铺设了第一条过河水管。从长堤五仙门直达同庆路口，实现向海珠地区供应自来水。1959年增埗水厂改称西村水厂，随后，白鹤洞、员村、黄埔、河南、车陂等水厂相继建成，供水量大幅度的增加。这一时期，自来水逐渐从奢侈品变成了广州市民日常生活的“标配”。
改革开放后，广州自来水事业焕发勃勃生机。1981年，广州率先实行“以水养水”的政策，极大地加快了广州自来水建设的步伐，释放了企业的潜能和活力，广州的供水范围和服务人口明显地增长。同时，从1981年开始，广州自来水行业开始使用无线数传遥测装置，随时将全市水厂、加压站库及市区管网中不同地段的服务水压点的参数自动传送到调度室，并可及时按各地段不同水压、各水厂、站、库地理位置、设备能力、供水情况等进行生产调度。
入21世纪，广州实施了供水工程“跨世纪三步曲”，积极为广州中心城区引入优质饮用水源。
2000年完成，该工程使得广州东部两个水厂得以使用东江北干流的稳定水源，对于解决广州结构性缺水问题具备极其重大意义。
2004年完成，包括南洲水厂工程、广州饮用净水工程一期工程、广州大学城供水工程。工程从北江顺德水道取水，标志着广州供水能力和供水水质的质的提升，是新世纪广州供水建设的里程碑。
2010年完成，西江水替换了广州西北部的西村、石门、江村三大水厂的水源，实现了从“放心水”到“优质水”的飞跃，形成了东江、北江、西江“三江并举”的优质水源新格局，全方面提升了广州中心城区的供水质量，保障了城市供水安全。
2019年，国内采用膜处理先进工艺的规模最大水厂——北部水厂（一期）投产，精准对接城市经济社会快速的提升的需求，惠及白云区150万人口，绘就了一幅城市供水环境升级的美丽画卷。
2024年，广州北江引水工程全线通水，作为构建广州市多水源供水安全保障体系、优化水资源结构、解决广州北部地区供水需要的重大民生工程，具备极其重大的战略意义和社会效益。其全面建成后，将实现从广东省中北部的清远市向珠三角南部的广州市长距离调水，年供水量2.92亿立方米，解决广州市花都区、广州空港经济区、白云区等北部片区的供水增长需求，让“共饮一江水”美好愿景照进了现实。
