Sejarah UPT Perpustakaan tidak terlepas dari keberadaan Universitas Jenderal Soedirman, yang berdiri sejak tahun 1963 sesuai dengan Surat Keputusan Presiden RI Nomor 195 tanggal 25 September 1963 dan Surat Keputusan Menteri Perguruan Tinggi dan Ilmu Pengetahuan (PTIP) Nomor 153 tanggal 12 November 1963. Semula perpustakaan menempati gedung seluas kurang lebih 80 m2, berlokasi di Jln. Pengadilan Nomor 1 (Kompleks Alun-Alun) Purwokerto.

Pada tahun 1978, kegiatan administrasi (Kantor Pusat Administrasi Unsoed) pindah ke Aula yang berlokasi di Grendeng, yang diikuti pula dengan pindahnya perpustakaan dengan menempati ruangan kurang lebih seluas 50 m2 bersama-sama dengan kegiatan administrasi lainnya. Kemudian pada tahun 1980 Gedung Kantor Pusat Administrasi UNSOED selesai dibangun, sehingga kegiatan administrasi di pindah ke gedung baru tersebut. Mulai saat itu Aula seluas 364 m2 ditempati untuk perpustakaan.

Pertambahan koleksi, sarana, dan prasarana serta jumlah pengguna yang terus meningkat, menjadikan Gedung Aula yang ditempati kurang memadai lagi, sehingga pada tahun 1985 UPT Perpustakaan pindah ke gedung baru berlantai tiga dengan luas kurang lebih 2.498 m2. Semula baru lantai I dan II untuk perpustakaan, namun kemudian tahun 1991 seluruh bangunan diserahkan untuk gedung perpustakaan.
Sejak awal berdirinya hinga saat ini UPT Perpustakaan sudah beberapa kali mengalami pergantian pimpinan (kepala) yang nama dan masa pengabdiannya masing-masing sebagai berikut :

Erna Onggosundjojo	1964 – 1969
Iswanto, SH	1969 – 1971
Dra. Hartati Prawironoto	1971 – 1983
Drs. Bambang Suprapto, DipLib	1983 – 1995
Drs. Indratmo Yudono, Msi	1995 – 2002
Drs. Chamdi, SIP	2002 – 2010
Sutino, S.Sos., M.A	2010 – 2019
Djoko Prasetyo, S.Sos., M.IP	2019 – sekarang