白云区境大部分地区原属番禺、南海两县管辖，只有近郊农村属广州市管辖。番禺建县始于秦，秦始皇三十三年（公元前214年）统一岭南，设桂林郡、象郡、南海郡，番禺是南海郡辖下的一个县，也是郡治所在地。其时，区境属南海郡番禺县管辖。直至清代，番禺、南海均属广州府。现区境中远郊大部分属番禺，称禺北、禺东。整个禺北属慕德里司管辖，禺东的萝岗、黄陂及大源、同和等地属鹿步司管辖。现区境西南部属南海，归金利司管辖。
1949年10月，中华人民共和国成立之初，广州市辖28个区。其中地处城郊的有三元、沙河、石牌、新洲、沥、芳村等6个区。1950年6月，将城西几个区的农村部分合并为西村区，同年7月，市政府成立郊区办事处，作为市政府派出机构，统管城郊7个区的日常行政事务。1951年8月，经中央内务部同意，将城郊7个区合并为白云、西村、新、芳村等4个区。1953年3月，中央人民政府政务院决定将黄埔港及原属番禺的长洲上下庄等45个自然村正式划归广州市，成立黄埔区。与此同时，市撤销西村区建制，将其辖地并入白云区。1954年6月，市撤销芳村区建制。1954年10月成立中共广州市郊区委员会，代表市委领导市郊白云、黄埔、新3个区的党委工作。3个区的农业生产则由市政府农林处领导。1955年1月，广州市人民政府改称人民委员会，并将原市政府农林处改称郊区办事处，属市人委派出机关，对市郊3个区的政府行政及农业生产进行督导。
1956年4月，市人委决定将白云、黄埔、新3个城郊行政区合并成立郊区，同时撤销市人委郊区办事处，成立广州市郊区人民委员会。1957年12月28日，广东省人委同意将番禺县珠江以北地区划给广州市郊区，计有南岗、萝岗、黄陂、太和、龙归、良田、竹料、钟落潭、九佛、同文、鸦湖、岗楼、蚌湖、嘉禾、神山、江村、石井等17个乡，1个镇（江高镇）。同时划入广州郊区的还有增城县镇龙乡境内的28个自然村。1958年8月，郊区将全区24个乡、1个镇、158个农业社合并为萝岗、东圃、沙河、新、鹤洞、三元里、石井、江村、太和、人和、竹料、钟落潭等12个人民公社。
1958年11月，将郊区的人和、太和、竹料、钟落潭等4个公社并入花县，一度改称广北县。郊区余下的三元里等8个公社划为近郊，成立近郊党委、近郊人委，并改为县一级机构。1959年3月，人和、太和、竹料、钟落潭等4个公社从花县划归郊区。市委撤销近郊党委和近郊人委，恢复原郊区建制。1959年4月，南海县盐步、平洲、里水等3个公社部分地区（现芳村的海北、海中、海南、秀水、龙溪及石井的横沙等乡村）划入广州市郊区。
1960年5月，为了适应当时城市人民公社化运动的发展，广州市调整市区区域，原郊区分为江村、黄埔、芳村、良田等4个相当于区一级的人民公社。同年7月，4个区级人民公社改为区，良田公社并入江村区。经过调整之后，全市有4个中心区：东山、海珠、荔湾、越秀。3个市郊区：江村、黄埔、芳村。1962年5月，市决定将芳村、江村、黄埔3个区合并，重新成立广州市郊区。
1968年3月，成立广州郊区革命委员会。1980年6月，广州市郊区革命委员会改为广州市郊区人民政府。1984年2月，广州市郊区各人民公社改为区，设区公所；各生产大队改乡，设乡政府。1985年5月，广州市为了扩大城区，经国务院批准，划出原郊区部分地域成立天河区和芳村区。1986年，又将南郊新、赤岗划入海珠区。1986年12月，经广东省人民政府批复，同意广州市郊区撤销区公所设镇建制。1987年1月，经国务院批准，广州市郊区更名为白云区，列入城区建制。