Biblioteka je osnovana1948. kako bi pomogla članovimaNacionalnog vijeća Japana (国会,Kokkai) pri radu javne uprave. Zvanično je otvorena 5. juna 1948 i rezultat je spajanja Carske biblioteke – stvorene 1872. – i Biblioteke Gornjeg i Donjeg doma Parlamenta, stvorena 1890.
Sa ukuptno 44.187.016 dokumenata u2018. godini[1] nalazi se na šestom mjestu najvećih knjižnica u svijetu[2]. Godine2020. njegov proračun – izvan troškova za objekte – bio je od 19 milijardijena i zapošljavao je 892 ljudi.[3]