古代埃及和罗马人都擅长制造小型的彩色玻璃制品。古代腓尼基在玻璃制造业中也占有重要地位，其中心产地是西顿和安条克等地。在公元4-5世纪的早期基督教教堂中，一些木质窗框中镶嵌有经雕琢过的雪花石膏，类似玻璃般的效果。公元7世纪，英国的教堂和修道院已经出现了彩绘玻璃窗。公元675年，圣本笃·波斯哥［］从法国引进工匠，为在芒克威尔茅斯建造的圣彼得修道院窗户进行着色。公元8世纪以后，伊斯兰世界的一些清真寺和公共空间也开始以彩色玻璃装饰，基本以纯粹的几何设计为主，包含花卉和文字图案，不表现人物形象和宗教偶像。
大概在12世纪的时候，罗马式建筑综合着艺术风格，比如说之前罗马和拜占庭的风格风靡欧洲那会的时候，另一种哥特式在法国盛行并延续了十五世纪。这风格跟罗马教堂不同的点在于深悠的颜色，也和窗户设计有直接的关系。窗户不只是在墙上开一个洞而已，它们开始试图占据墙壁的面积并且延续四周，建筑开始引入。而装饰窗户的彩色玻璃，设计美观，阳光从外面射入，缤纷的色彩透出圣洁的光。
107,707块彩色玻璃拼成了一面巨大的玻璃幕墙，光线透过蓝色的玻璃，点亮了整个空间。这也是参考了古代基督教教堂的设计。
近些年来，许多教堂在翻修时将恢复彩绘玻璃窗户作为了其中的一个重要部分。对于教友来说，这是增强自身信仰热忱的一种方式，而对于外教人来说，这是心目中教堂不可或缺的一个部分。这些玻璃的制作工厂来自于四面八方，既有上海教区自己的工场、也有上海和外省的一些玻璃工厂，甚至不乏从国外进口的作品。