Бібліотека Криворізького національного університету заснована у 1922 році на базі бібліотеки залізорудного технікуму, якому було надано право вести підготовку спеціалістів з вищою та середньо спеціальною освітою. На 1 жовтня 1923 року бібліотечний фонд складав 2205 примірників і розподілявся на фундаментальну (654 прим.) та навчальну (1551 прим.) літературу. Видань зі спеціальних предметів було обмаль, всього  257 примірників.

У 1931 році інститут перебазувався у нову будівлю на вулиці Пушкіна. Для бібліотеки було відведено добре обладнане приміщення з читальним залом й абонементом. Книжковий фонд налічував 12 тис. примірників, а до 1932 року він збільшився до 40 тис. примірників. Бібліотека обслуговувала близько тисячі студентів і двохсот викладачів.

У серпні 1936 року КГРІ став філіалом Дніпропетровського гірничого інституту, як гірничий факультет. З 1937 року інститут відновив свої права, спочатку як вечірній, а з липня 1938 року – з денною формою навчання. Це не могло не позначиться на роботі бібліотеки, але її фонд складав 20 тис. примірників. До 1940 року фонд бібліотеки налічував близько 30 тис. примірників книг з різних галузей знань.

У роки Другої світової війни фонд частково був вивезений до Нижнього Тагілу разом з кафедрами інституту. Після війни у будові уцілілого студентського гуртожитку виділена кімната для бібліотеки (навчальний корпус був спалений фашистами). Книжковий фонд, який повернули з Нижнього Тагілу, нараховував 4 тис. примірників, 5 тис. томів склали видання, які вибрали працівники бібліотеки з попелищ і повернули мешканці Кривого Рогу. Таким чином, книжковий фонд на 1 квітня 1944 року складав 9 тис. примірників. У 1948 році навчальний корпус був відбудований і бібліотека  розташувалася на першому поверсі з читальним залом на 90 посадкових місць, абонементом і книгосховищем. До кінця 1950 року фонд бібліотеки нараховує 50 тис., а у 1960 цифра сягає 144 707 тис. примірників.

У 1960 році при будівельному факультеті на вулиці Островського (вул. Трамвайна) було відкрито абонемент літератури з будівництва й архітектури та читальний зал на 100 посадкових місць.

З 1961 року фондом бібліотеки користуються іноземні студенти, які навчаються в університеті.

У 1967 році бібліотека отримала додаткове приміщення у новому навчальному корпусі по вул. XXII Партз’їзду (вул. Віталія Матусевича) площею 522,8 м². Загальна площа фундаментальної бібліотеки склала 1060 м². Що дало змогу відкрити абонемент навчальної літератури, універсальний читальний зал на 110 місць та 5 спеціалізованих читальних залів при кабінетах кафедр суспільних наук й кабінеті дипломного проєктування на 40 місць кожний.

У 1977 році із введенням в експлуатацію навчального корпусу №3 на вулиці Пушкіна бібліотека отримала додаткове приміщення і загальна площа бібліотеки стала 2470 м². У новому приміщенні були відкриті абонементи художньої, навчальної літератури, відділ бібліографії з книгосховищем на 100 тис. примірників й 2 читальні зали: при відділі бібліографії на 25 місць та галузевий читальний зал на 60 місць. Окреме приміщення виділено під каталоги, відділ комплектування й відділ наукової обробки літератури.

У листопаді 1988 року бібліотека отримала 100 м² додаткової площі у навчальному корпусі №6 на вулиці XXII Партз’їзду (вул. Віталія Матусевича), де було відкрито читальну залу з будівництва й архітектури на 40 посадкових місць.

З 1955 по 1977 рр. бібліотека мала філіали у м. Марганець, Жовті Води, на руднику XX Партз’їзду (ПрАТ «Суха Балка»).

У створення і розвиток бібліотеки зробили вагомий внесок завідувачі: Бортовська Н.Н. (1922–1923 рр.), Богуславська В.П. (1929–1931 рр.), Міщенко С.І. (1931–1932 рр.), Динга Г.В. (1932–1936 рр.), Могилевська М. (1937–1938 рр.), Фурман М.А. (1938–1940 рр.), Бочинська Т.К. (1940–1941 рр.), Кузнєцова О.С. (1941–1942 рр.), Солянова О.М. (1942–1943 рр.), Капелович Н.А. (1943–1946 рр.), Запольська Г.Ф. (1946–1948 рр.), Лєвіна Г.Я. (1948–1952 рр.), Кудряшова Н.М. (1952–2011 рр.), Віняр Г.М. (2011–2016 рр.), Баскакова С.О. (2016–2022 рр.).

Сьогодні бібліотека є найбільшою у Криворізькому басейні. Загальний фонд універсальний і нараховує понад 900 тис. примірників книг, періодичних видань, дисертацій та авторефератів, звітів НДР, перекладів, видань іноземними мовами тощо. Фонд цінних і рідкісних видань складає 3217 примірників. У бібліотеці зберігаються монографії, підручники, навчальні посібники науковців та викладачів університету.

Обслуговування користувачів здійснюється диференційовано на абонементах наукової, навчальної, художньої літератури та читальних залах. Крім постійних відвідувачів, фондом бібліотеки користуються викладачі та студенти інших закладів освіти, спеціалісти промислових підприємств. Бібліотека здійснює обслуговування користувачів по МБА та ЕДД (електронна доставка документів).

З 2005 року в бібліотеці впроваджена система «УФД/Бібліотека», автоматизовані процеси комплектування та наукової обробки літератури, аналітичного опису документів. З 2013 року бібліотека має свій власний вебсайт. Здійснюється інформування користувачів через соціальні мережі: Facebook (https://www.facebook.com/groups/347235315671725/), Instagram (https://www.instagram.com/lib_knu_kr/). На YouTube-каналі бібліотеки (https://www.youtube.com/channel/UCqMsrnm1l6Cjvr6wgQWgNKw), публікуються презентації до соціокультурних заходів, віртуальні тематичні виставки, відеоогляди літератури, відеоконсультації тощо.

З 2017 року бібліотека виконує функції адміністратора міжнародних наукометричних баз даних Scopus та Web of Science. З 2019 року бібліотека виступає координатором і основним виконавцем процесу створення репозитарію університету (DSpace KNU).

З січня 2021 року прийнято методичне рішення щодо консервації Алфавітного та Систематичного друкованих каталогів, каталогу дисертацій та авторефератів, систематичної картотеки статей (СКС),  тематичних картотек. До уваги користувачів запропоновано електронний каталог бібліотеки, який створений за допомогою автоматизованої системи «УФД/Бібліотека» з розширеними базами даних. У 2021 році розпочато створення електронної бібліотеки шляхом інтеграції репозитарію університету в електронний каталог.

Враховуючи сучасні реалії, пріоритетними напрямками роботи бібліотеки стали: захист інформаційного простору (боротьба з фейками, дезінформацією та кіберзагрозами); підвищення рівня медіаграмотності працівників бібліотеки та інформаційної культури здобувачів освіти; забезпечення доступу до електронних інформаційних ресурсів; актуалізація бібліотечного фонду.

Віртуальний простір бібліотеки організований таким чином, що будь-яка інформація зображена на сайті (http://lib.knu.edu.ua), спрямована на формування академічної доброчесності.

Колектив бібліотеки активно працював у період карантинних обмежень, працює в умовах воєнного стану з метою підтримки навчально-виховного та наукового процесів в університеті.

В.о. директора бібліотеки Вікторія Вигівська, 2022 рік