POSEBNA IZDANJA
1. J. Karamata, Teorija i praksa Stieltjes-ova integrala, 1949, 328 str., ćirilica
2. Anton Bilimović, Dinamika čvrstog tela, 1955, 174 str., ćirilica
3. M. Milanković, Astronomska teorija klimatskih promena – njen postanak i odjek, 1957, 58 str., ćirilica
Nova serija:
1. Dragoslav S. Mitrinović, Ružica S. Mitrinović, Tableaux relies d'une classe de nombres aux nombres de Stirling III, 1963, 200 pp.
2. Kovina Milošević-Rakočević, Prilozi teoriji i praksi Bernoullievih polinoma i brojeva, 1963, 143 str., latinica
3. Vladimir Devide, Matematička logika. Prvi dio (Klasična logika sudova), 1963, (drugo izdanje 1972), 219 str., latinica
4. Dragoslav S. Mitrinović, Ružica S. Mitrinović, Tableaux d'une classe de nombres relies aux nombres de Stirling IV, 1964, 115 pp.
5. Dragomir Ž. Đoković, Algebra trigonometrijskih polinoma, 1965, 56 str., latinica
6. Dragoslav S. Mitrinović, Ružica S. Mitrinović, Tableaux d'une classe de nombres relies aux nombres de Stirling VI, 1966, 52 pp.
7. T. Peyovitch, redacteur, Quelques problemes de la theorie qualitative des equations differentielles ordinaires, 1969, 165 pp.
8. Božidar P. Đerasimović, Pravilni verižni razlomci, 1969, 111 str., ćirilica
9. Veselin Milovanović, Matematičko-ligički model organizaciskog sistema, 1971, 32 str., latinica
10. Borivoj N. Rachajsky, Sur les systemes en involution des equations aux deriveespartielles du premier ordre superieur. L'application des systemes de Charpit, 1971, 88 pp.
11. Zlatko P. Mamuzić, Koneksni prostori, 1974, 101 str., latinica, Zbl 0298.54001
12. Z. Ivković, J. Bulatović, J. Vukmirović, S. Živanović, Applications of Spectral Multiplicity in Separable Hilbert Space to Stochastic Processes, 1974, 68 pp., Zbl 0323.60055
13. Milan Plavšić, Mehanika prostih polarnih kontinuuma, 1975, 96 str., latinica, Zbl 0333.73002
14. Veljko Vujičić, Kovarijantna dinamika, 1981, 136 str., latinica, Zbl 0466.70017
15. Djordje Mušicki, Degenerate Systems in Generalized Mechanics, 1992, 28 pp. ISBN 86-80593-10-9, Zbl 0772.70015
16. Boško S. Jovanović, The Finite Difference Method for Boundary-Value Problems with Weak Solutions, 1993, 91 pp. ISBN 86-80593-15-X, Zbl 0801.65101
17. Slavik V. Jablan, Theory of Symetry and Ornament, 1995, 331 pp. ISBN 86-80593-17-6, Zbl 0831.51008
18. Slaviša B. Prešić, m-M Calculus, 1996, 83 pp. ISBN 86-80593-19-2
19. Veljko Vujičić, Preprinciples of Mechanics, 1999, 227 pp. ISBN 86-80593-30-3, Zbl 1010.70001
20. Vera B. Lazić, Mathematical Theory of Composite and Prestressed Structures, 2003, 146 pp. ISBN 86-80593-34-6
21. Miroslav Pavlović, Introduction to function spaces on the disk, 2004, 184 pp. ISBN 86-80593-37-0
ZBORNIK RADOVA (Radivoj Kašanin, urednik)
1. 1951, 146 str., ćirilica
2. 1952, 186 str., ćirilica
3. 1953, 299 str., ćirilica
4. 1955, 144 str., ćirilica
5. 1956, 264 str., ćirilica
6. 1957, 87 str., ćirilica
7. 1959, 147 str., ćirilica
8. 1960, 156 str., ćirilica
Nova serija:
1(9). Tatomir P. Anđelić (urednik), Proceedings of the Symposium on Quasigroups and Functional Equations, Beograd and Novi Sad, 18–21 September 1974, 1976, 83 str., Zbl 0329.00006
2(10). Tatomir P. Anđelić (urednik), Proceedings of the Symposium on Set Theory and Foundations of Mathematics: Belgrade, 1977, 1977, 152 pp.
3(11). Tatomir P. Anđelić (urednik), Sveska posvećena Konstantinu Voronjecu, 1979, 156 str., srpski, engleski, francuski, nemački
4(12). Stevo Komljenović (urednik), Sveska posvećena Tatomiru P. Anđeliću, 1984, 252 str., latinica
5(13). Slaviša Prešić (urednik), Zbornik radova iz računarstva, 1993, 90 str., latinica
6(14). Neda Bokan, Novica Blažić (urednici), XI Jugoslovenski geometrijski seminar: Radovi po pozivu, 1997, 75 pp., engleski, ISBN 86-80593-23-0, Zbl 0870.00034
7(15). Bogoljub Stanković (editor), Three Topics from Contemporary Mathematics, 1997, 186 pp., ISBN 86-8593-27-3, Zbl 0870.00025
8(16). Bogoljub Stanković (editor), Topics from Mathematics and Mechanics, 1998, 139 pp., ISBN 86-80593-28-1, Zbl 0892.00018
9(17). Bogoljub Stanković (editor), Four Topics in Mathematics, 2000, 274 pp. ISBN 86-80593-31-1, Zbl 0942.00006
10(18). Bogoljub Stanković (editor), Two Topics in Mathematics, 2004, 91 pp. ISBN 86-80593-36-2
MATEMATIČIKI VIDICI
1. Rade Dacić, Elementarna kombinatorika, 1977, 159 str., latinica
2. Marica i Slaviša Prešić, Uvod u matematičku logiku; teorija i zadaci, 1979, 398 str., latinica
3. S. Prešić, Z. Šikić, M. Prešić, Ž. Mijajlović, M. Mihaljinec, K. Šeper i dr., Problem postojanja u matematici, 1979, 76 str., latinica
4. Tatomir P. Anđelić, Uvod u astrodinamiku, 1983, 158 str., latinica
5. Marica i Slaviša Prešić, Uvod u matematičku logiku teorija i zadaci, (Drugo dopunjeno izdanje), 1984, 399 str., latinica
7. Neda Bokan, (urednik), Metodika i istorija geometrije, 1997, 62 str., ISBN 86-80593-26-5
ISTORIJA MATEMATIČKIH I MEHANIČKIH NAUKA
1. A. T. Grigorjan, B. N. Fradlin, Naučnoe nasledie školy G. K. Suslova po analitičeskoj mehanike i ee razvitie v issledovanijah jugoslavskih učenyh, 1977, 65 str., ruski
2. Dragan Trifunović (urednik), Istorijski spisi iz matematike i mehanike, 1989, 128 str., ćirilica, ISBN 86-80593-02-8
3. Slavik Jablan, Geometry in the Pre-scientific Period: Ornament Today, 1989, 66 pp., ISBN 86-80593-03-6, Zbl 0746.51002
4. Dragan Trifunović (urednik), Prisutna prošlost; u spomen Radivoja Kašanina, 1991, 175 str., srpski, engleski, ISBN 86-80593-06-0, Zbl 0728.01018
5. Zoran Stokić, Rast znanja; Isak Njutn, Žozef Luj Lagranž, Vilijem Rouan Hamilton, 1991, 104 str., latinica, ISBN 86-80593-08-7
6. Dragan Trifunović (urednik), Prilozi o matematičkim naukama kod Srba: dvadeseti vek, 1992, 197 str., ćirilica, latinica,ISBN 86-80593-14-1
SAVREMENA RAČUNSKA TEHNIKA I NJENA PRIMENA
1. Nedeljko Parezanović, Algoritmi i programski jezik Fortran IV, (Drugo neizmenjeno izdanje), 1972, 271 str., latinica
2. Pavle Pejović, Nedeljko Parezanović, Analogni elektronski računari i njihova primena, 1972, 321 str., latinica
3. Dragiša Stojanović, Ekonomsko-matematički modeli linearnog programiranja; metodološka studija, 1973, 82 str., latinica
4. Ju. A. Stepanenko, Dinamika prostranstvennyh mehanizmov, 1974, 282 str, ruski
5. Koriolan Gilezan, Boško Latinović, Bulova algebra i primene, 1977, 213 str., latinica
6. Radovan Krtolica, Analiza matematičkih modela stohastičkih sistema sa raspodeljenim parametrima, 1979, 107 str., latinica
7. V. Vujčić, M. Ašić, N. Miličić, Matematičko programiranje, 1980, 162 str., latinica
8. Boško S. Jovanović, Numeričke metode rešavanja parcijalnih diferencijalnih jednačina granični i mešoviti problemi za linearne jednačine eliptičkog, paraboličkog i hiperboličkog tipa, 1989, 130 str., latinica
KLASIČNI NAUČNI SPISI
1–13. Euklid, Elementi, (prevod i komentari: Anton Bilimović), 1949–1957, ukupno strana 840, ćirilica
N. I. Lobačevski, Geometrijska ispitivanja iz teorije paralelnih linija, (prevod i komentari: Branislav Petronijević), 1951, 83 str., ćirilica
D. Hilbert, Osnovi geometrije, (prevod: Ž. Garašanin), 1957, 232 str., ćirilica
Nova serija:
1(16). Ruđer Bošković, O zakonu kontinuiteta i njegovim posledicama u odnosu na osnovne elemente materije i njihove sile, (prevod: Darinka Nevenić-Grabovac; komentari: Ernest Stipanić), 1975, 170 str., latinica, Zbl 0324.01004
2(17). Richard Dedekind, Neprekidnost i iracionalni brojevi; Što su i čemu služe brojevi;
Georg Cantor, O proširenju jednog stava iz teorije trigonometrijskih redova,
(prevod: Z. P. Mamuzić), 1976, 93 str., latinica
3(18). Anton Bilimović, Deset Apolonijevih zadataka o dodiru krugova, 1977, 55 str., ćirilica
OSTALA IZDANJA
Veljko Vujičić, Dynamics of Rheonomic Systems, 1990, 96 pp., ISBN 86-80593-04-4, Zbl 0697.70006
Paul L. Butzer, Radomir S. Stanković (editors), Theory and Applications of Gibbs Derivatives, 1990, 312 pp., ISBN 86-80593-05-2, Zbl 0701.00016
Miodrag Tomić, Slobodan Aljančić, Radivoj Kašanin 1892–1989, 1991, 48 str., ISBN 86-80593-06-0, Zbl 0728.01019
Milan P. Čavčić, (urednik), Saopštenja naučnih rezultata u Matematičkom institutu 1946–1961: matematika, mehanika, 1990, 205 str., ISBN 86-80593-07-9
Veljko A. Vujičič, Anatolij A. Martynjuk, Nekotorye zadači mehaniki neavtonomnyh sistem, 1991, 109 str., ISBN 86-80593-09-5
Aleksandar Kron, Elementarna teorija skupova, 1992, 150 str., ISBN 86-80593-11-7
Aleksandar Ivić, Zlatko Mamuzić, Žarko Mijajlović (Editor-in-chief), Stevo Todorčević (editors), Selected Papers of Đuro Kurepa, 1996, 621 pp., ISBN 86-80593-20-6
A. T. Fomenko, Statistička hronologija; matematički pogled na istoriju, (preveli Aleksandar Lipkovski i Dragan Blagojević), 1997, 449 str., ćirilica, ISBN 86-80593-22-2,
Žarko Mijajlović (urednik), Sabrana dela Bogdana Gavrilovića, Elektronsko-fototipsko izdanje (CD), 1997, ISBN 86-80593-24-9
Milan P. Čavčić, (urednik), Saopštenja naučnih rezultata u Matematičkom institutu 1961–1996: mehanika, 1998, 261 str., ISBN 86-80593-29-X
Aleksandar Krapež (editor), A tribute to S. B. Prešić: Papers celebrating his 65th birthday, 2001, 122 pp., ISBN 86-80593-31-1, Zbl 0977.00051
Vladan Đorđević (editor), Recent Advances in Analytical Dynamics – Control, Stability and Differential Geometry; Proceedings, 2002, 150 pp., ISBN 86-80593-32-X, Zbl 1006.00015
Nenad Mladenović, Kontinualni lokacijski problemi, 2004, 50 str., latinica, ISBN 86-80593-35-4