La Biblioteca-Centro documentale IAMB nasce dalla necessità di  dotare il corpo docente e gli studenti del primo corso di irrigazione, nell’anno accademico 1961-1962, di materiale didattico e sussidiario, quando la sede dell'Istituto era nel campus della Facoltà di Agraria dell’Università di Bari, in Via Amendola, nella palazzina del Collegio universitario.
Prima responsabile della biblioteca è la signorina Patrizia Intraccolo, poi trasferita a Bruxelles alla Comunità Europea.

Il 27 ottobre 1972 viene inaugurata l'attuale sede dell’Istituto a Valenzano, sulla via per Ceglie. In quegli anni la biblioteca aveva sede nella palazzina A, in due stanze al piano terra: una destinata ad accogliere i libri e l'altra per il servizio al pubblico.

Negli anni Ottanta l’ing. Nicola Fatic, dimostrando grande attenzione e sensibilità alla documentazione scientifica e alla divulgazione delle risorse bibliotecarie a ricercatori e studenti dell’Istituto, si attiva per incrementare il patrimonio della biblioteca. Verso la fine degli anni Ottanta la biblioteca si trasferisce nella palazzina B.

Il 10 aprile 2002 viene inaugurata l’attuale sede del Centro Documentale, nella palazzina E, alle spalle dell’Aula Magna.

A tagliare il nastro l'allora Segretario Generale del CIHEAM, Enzo Chioccioli.