Considerase que os primeiros humanos establecéronse na rexión de Novorosíisk na época paleolítica. Na localización actual desta cidade, no século V a. C., edificouse a colonia comercial grega de Bata, destruída polos nómades alanos no século II a. C.. No século XIII, a baía de Tsemés estaba en mans da Horda de Ouro. Os xenoveses fundaron a colonia de Bataria na desembocadura do río Tsemés. Tras o asalto otomán a Constantinopla en 1453, o territorio da península de Tamán pasou ao Imperio Otomán, ata o tratado de Adrianópolis, no 1829, polo que a rexión pasaba ao Imperio Ruso.
O 12 de setembro de 1838, baixo o mando do xeneral Nikolái Rayevski e o almirante Mikhaíl Lázarev, colonos e soldados rusos ocuparon as ruínas do castelo turco de Sujuk-Qale, que dominara a baía dende 1722 cunha gornición de catrocentos xanízaros. Nos anos 1830 iniciouse a construción da liña defensiva costeira do mar Negro baixo o mando do xeneral Rayevski.
O 27 de setembro de 1866, cando só contaba con 430 habitantes, é denominada como centro administrativo do Ókrug de Chernomorie, que ocupaba a costa do mar Negro dende Tamán a Xeorxia e existiu ata 1896. En 1882 púxose en funcionamento unha fábrica de cemento. Seis anos despois, en 1888 chegou o primeiro tren á cidade. Xunto ao elevador e silo de gran púxose en marcha en 1893 a primeira central eléctrica de corrente trifásica do mundo. Entre 1896 e 1920 foi centro administrativo da gubernia de Chernomore.[1]
O 14 de decembro de 1905, o soviet dos deputados obreiros e campesiños de Novorosíisk chama aos cidadáns á loita contra o tsarismo e proclama a república de Novorosíisk. O 25 de decembro un rexemento baixo o mando do xeneral Mikhaíl Przewalski, primo de Nikolái Przewalski, chega á estación Tonnélnaya de Verjnebakanski, á vez que ancoraba na baía o acoirazado Tri sviatítelia (Tres santos), coa intención de reprimir á cidade. O soviet decidiu non opoñer resistencia ás forzas zaristas. Na cidade estableceuse o estado de sitio e condenouse aos deputados populares a traballos forzados e á pena de morte en sete dos casos.
Entre o 23 e o 30 de novembro de 1917 anulase a autoridade do comisariado do Goberno Provisional, elixíndose a continuación o Comité executivo central dos soviets da gubernia de Chernomorie, establecéndose o poder soviético o 1 de decembro. Por disposición de Vladímir Lenin, afundiuse a frota do mar Negro o 18 e 19 de xuño de 1918, debido ao bloqueo das tropas alemás e a inminente toma da cidade (o 26 de agosto) por parte das forzas conxuntas das tropas brancas e os intervencionistas. Dende esa data ata o 27 de marzo de 1920 foi o centro principal do exército de Denikin O 12 de marzo de 1920 os brancos iniciaron a súa evacuación en buques de vapor. O xeneral Denikin abandonou Rusia polo porto de Novorosíisk neses días, no torpedeiro Tsesarévich Gueorgui. Para o 1 de maio as tropas brancas abandonaran a cidade, sendo ocupada polo Exército Vermello de Obreiros e Campesiños.
En abril de 1930 ponse en marcha en Novorosíisk unha central eléctrica produtora dunha potencia de 22 000 kilovatios, e en 1937 recuperaronse os restos da frota afundida en 1918. En 1940 acabouse co analfabetismo na cidade. Durante a Gran guerra patria a maior parte da cidade foi capturada pola Wehrmacht da Alemaña Nazi en 1942. Ao ano seguinte, na noite do 4 de febreiro de 1943 unha compañía de 274 homes baixo o mando de Tsézar Kúnikov desembarcou ao sur da localidade, no cabo Mysjako, procedente de Gelendzhik, capturando o campo de operacións Málaya Zemlia e reténdoa baixo os ataques inimigos ata a liberación definitiva da cidade o 16 de setembro de 1943 na operación Novorosíisk - Tamán polo 89ª rexemento de fusileiros armenios soviéticos.
O 7 de maio de 1966 a cidade foi condecorada coa Orde da Guerra Patria de 1ª clase pola firmeza, o valor e o heroísmo, manifestado polos defensores de Novorosíisk durante a segunda guerra mundial. O 14 de setembro de 1973 na conmemoración dos 30 anos da derrota do exército alemán na defensa do Cáucaso Norte otorgóuselle a Novorosíisk o título honorífico de Cidade Heroica, a Orde de Lenin e a Estrela de Ouro.