1928年2月25日，沪江大学首任华人校长刘湛恩博士就职典礼后，举行图书馆破土礼。同年9月竣工，耗资4万美元。1948年图书馆向东扩建，次年启用。命名为“湛恩纪念图书馆”，纪念为国殉难的刘湛恩校长。
图书馆为砖木结构建筑。长条形平面轴线对称，清水红砖外墙，双坡红瓦屋顶，立面中部凸出平顶城堡式塔楼，尖券门洞形成建筑主入口，墙面壁柱层层内收，突出屋面形成雉堞式装饰。
整座建筑有两层，支架为全钢骨建筑，非常牢固。馆内设施先进，两层间用升降机传递图书，方便快捷。软木地板上铺有油地毡，墙壁四周装了暖气片。
