বঙ্গীয় সাহিত্য পরিষৎ-এর গ্রন্থাগার প্রতিষ্ঠার মূলে আচার্য রামেন্দ্রসুন্দর ত্রিবেদীর প্রণোদনা। ১৩০১ বঙ্গাব্দের ১১ ভাদ্র (২৬ আগস্ট, ১৮৯৪) চতুর্থ অধিবেশনে তিনি পুস্তকালয় স্থাপনের প্রস্তাব করেন। পঞ্চম অধিবেশনে (৮আশ্বিন ১৩০১ বঙ্গাব্দ, ইং ২৩ সেপ্টেম্বর, ১৮৯৪) এই প্রস্তাব গৃহীত হয়। এই প্রস্তাবের আলোচনা সূত্রে সিদ্ধান্ত হয় যে সেই মুহূর্তে পরিষদে বই কিনে গ্রন্থাগার স্থাপন করা সম্ভব নয়। গ্রন্থকার ও হিতার্থীদের কাছ থেকে বই সংগ্রহ করে গ্রন্থাগার স্থাপন করা হবে। লেখক, সাময়িক পত্র-পত্রিকার সম্পাদক, প্রকাশকেরা যেমন বই দিয়েছেন তেমনি অনেকের ব্যক্তিগত বা পারিবারিক সংগ্রহ, বা বিলুপ্ত গ্রন্থাগারের বইপত্রে পুষ্ট হয়েছে পরিষৎ গ্রন্থাগার। এভাবে এসেছে কৈলাসচন্দ্র সিংহ, রামপ্রাণ গুপ্ত, এন. সি. মৈত্র ফ্যামিলি লাইব্রেরি, ভূদেব-সুশীলা সংগ্রহ প্রভৃতি। পরিষদে রয়েছে সত্যেন্দ্রনাথ দত্ত সংগ্রহ, ঋতেন্দ্রনাথ ঠাকুর সংগ্রহ, রমেশচন্দ্র দত্ত সংগ্রহ, সাবিত্রী-লাইব্রেরি সংগ্রহ, যতীন্দ্রনাথ পাল সংগ্রহ, উমেশচন্দ্র ভট্টাচার্য সংগ্রহ প্রভৃতি। এই পর্যায়ের সংগ্রহের মধ্যে বিশেষ উল্লেখযোগ্য বিদ্যাসাগর সংগ্রহ যা লালগোলার মহারাজা নিলাম থেকে কিনে পরিষৎকে উপহার দিয়েছিলেন। সাধারণ সংগ্রহ থেকে বিষয় অনুসারী কয়েকটি সংগ্রহ যেমন- রবীন্দ্রসংগ্রহ, অরবিন্দ সংগ্রহ ও গান্ধী সংগ্রহ, আলাদা করে রাখা হয়েছে। শুধু বই নয়, বাংলা সংবাদসাময়িকীর বিপুল সম্ভার আছে এখানে। বাংলা ছাড়াও ইংরেজি ও সংস্কৃত বইয়ের সংগ্রহও বিপুল।
এই বিপুল পরিমাণ গ্রন্থ ও পত্র-পত্রিকা দেখভাল করার জন্য ১৩০১ বঙ্গাব্দে গ্রন্থরক্ষক পদের সৃষ্টি হয়। পরে পদটির গ্রন্থাধ্যক্ষ, গ্রন্থাগারাধ্যক্ষ নাম হলেও বর্তমানে এই পদটির নাম গ্রন্থশালাধ্যক্ষ । তাঁকে সহায়তা করার জন্য আছে গ্রন্থাগার উপসমিতি। ১৯৬০ সালের প্রথমার্ধে সরকার-পোষিত গ্রন্থাগারিক পদে নিযুক্ত হন পরেশচন্দ্র মুখোপাধ্যায়।