10～11世纪古罗斯出现图书馆。文献上最早关于图书馆的记载出现于1037年，当时雅罗斯拉夫大公召集人翻译希腊书籍，抄写斯拉夫文书籍，并将其保存在基辅的索菲娅教堂。12世纪，弗拉基米尔、诺夫哥罗德、罗斯托夫、梁赞、斯摩棱斯克、苏兹达尔等许多城市都开设图书馆。各修道院图书馆的藏书从几十本到几千本不等，除神学书籍外，保存并转抄了年鉴、编年史、医书、药书、文学作品等。16世纪末，修道院集中了国内总藏书的37%，数量有26万～35万册（其中6%～8%为印刷品）。17世纪中叶，出现了第一批世俗图书馆，私人藏书的数量也有所增加。

彼得大帝时期，俄罗斯出现了新的专业图书馆（数学、航海、炮兵、手工业、矿业等）。1714年圣彼得堡建立了综合性图书馆，于1725年改建成科学院图书馆。18世纪书籍收藏在俄罗斯成为时尚，出现了家庭和宫廷（埃尔米塔什等）收藏。贵族寄宿学校图书馆的藏书多为外文书籍。1756年建立了莫斯科大学科学图书馆，1765年圣彼得堡出现了自由经济社图书馆。18世纪末首次出现商业性和公共免费图书馆。19世纪初各地的寄宿学校、县立学校、教育与科学社团、近卫军团纷纷建立了图书馆。1814年俄罗斯开设了帝国公共图书馆（现在的俄罗斯民族图书馆）。

彼得大帝之后，许多县立学校图书馆被改造成公共图书馆。莫斯科先后建立了面向大众的大型科学图书馆：鲁缅采夫图书馆（1872），历史图书馆（1873）。1894年地方、市自治机构建立的民间免费图书馆与阅览室已超过3000个。1894年教区图书馆已有两万多个。

进入20世纪，图书馆事业获得进一步发展。1905～1907年政府取消了对民间图书馆的注册审查程序，促进了工会与合作图书馆的发展。1908年创建图书馆学会，该学会于1911年召开了全俄图书馆代表大会，出版了“图书馆馆员”杂志，1913年首次为图书馆工作人员开设培训班。1914年在俄罗斯共有75900座各种类型的图书馆（辅助性图书馆除外），总藏书量为4600万册。

1918～1920年间个人和私立的图书馆被征收，大量图书失窃、受损。各部门和社会组织的图书馆逐渐按照等级（地域和部门）管理的原则进行改组。30年代以后，随着经济和文化建设的开展，各种用途的图书馆的数量及其藏书明显增加。各地都建立了培养图书馆干部的体系。1974～1981年间俄罗斯大众、农业、科技等图书馆置于统一的、集中化的图书馆体系中，按照集中统一管理的原则，在一个地域里设一个中心图书馆，而其他图书馆则作为其分馆。到1980年苏联共有62100座图书馆，总藏书量为9.84亿册。

1994年俄罗斯有54800座大众图书馆，藏书量超过11亿册，工作人员13.15万人，读者人数5956余万人。

目前，俄罗斯国立图书馆、俄罗斯民族图书馆（圣彼得堡）、俄罗斯科学院图书馆、俄罗斯国立历史图书馆、外文图书馆等，作为世界规模的综合性图书馆正在发挥着重要的作用。