Embora a Universidade de Coimbra tenha sido fundada em 1290, o estudo da história natural só se iniciou cerca de 500 anos mais tarde. Em 1772, o primeiro-ministro, Marquês de Pombal, introduziu uma série de reformas com o objetivo de desenvolver a cultura e a ciência no país. Criou um “Gabinete de História Natural” na Universidade, com um Jardim Botânico anexo. Em 1791, Félix de Avelar Brotero, um importante botânico da época, sucedeu a Domenico Vandelli como segundo diretor do jardim. Nessa altura não existia herbário em Coimbra. Em pouco tempo, Brotero publicou a Flora Lusitanica (1804), a primeira flora portuguesa. Viajou por todo o país para recolher plantas para investigação e constituiu um herbário que representava melhor do que nunca a flora portuguesa. Infelizmente, apenas alguns destes exemplares (cerca de 300) sobreviveram e estão conservados em Lisboa.
Passaram várias décadas até Júlio Augusto Henriques se tornar diretor (1873). Foi ele quem lançou as bases da coleção atual. Cedo se apercebeu da necessidade de uma versão atualizada da Flora Lusitanica de Brotero e começou do zero no que dizia respeito ao Herbário. Os seus planos eram arrojados - e resultaram! - e quando se reformou em 1918, com 80 anos de idade, tinha acumulado uma coleção bastante grande. A sua primeira ação foi adquirir a melhor parte da coleção privada do alemão Moritz Willkomm (1880), que incluía plantas de todo o Mediterrâneo, da Madeira e das Canárias. No mesmo ano, fundou a primeira sociedade botânica do país em memória de Brotero, a Sociedade Broteriana, ainda hoje em atividade. A Sociedade, com a colaboração de profissionais e amadores, colhia plantas em Portugal e no estrangeiro. Em seguida, iniciou o intercâmbio de exemplares com os melhores herbários do mundo na altura. Henriques assegurou que o herbário do Colégio Jesuíta de S. Fiel, na Beira Baixa, incluindo a sua grande e importante coleção de criptgâmicas europeias, viesse para Coimbra quando o Colégio foi encerrado no início da República. As primeiras plantas dos Açores e da Madeira, oferecidas por B.T. Carreiro (1879-1910) e C.A. de Menezes (1890-1912), respetivamente, entraram ao Herbário. J. Cardoso Júnior (1885-1897) e o alemão Carl Bolle (1851) trouxeram plantas de Cabo Verde. Foram acrescentadas plantas de São Tomé e Príncipe, colhidas por A. Chevalier (1905), particularmente importantes por conterem alguns exemplares tipo. Mas o próprio Júlio Henriques, já idoso em 1917, recolheu em todo o país e também em África (S. Tomé e Príncipe).
Seguiu-se Luís Wittnich Carrisso como diretor (1918) o qual expandiu consideravelmente as atividades do seu antecessor. O seu interesse por África floresceu, tanto através das suas próprias viagens a Angola como da sua colaboração com o British Museum em Londres. Criou uma pequena equipa que iniciou a publicação da Flora Zambesiaca e do Conspectus Florae Angolensis. O herbário foi também enriquecido com as plantas angolanas do suíço John Gossweiler (1903), que se juntaram ao material já existente do alemão Frederico Welwitsch (1853-1861), que também trabalhou em Angola para o governo português. Welwitsch também colheu em Portugal e Coimbra possui muitos dos seus exemplares. Infelizmente, Carrisso morreu em 1937, ainda cheio de energia, aos 51 anos, vítima de um ataque cardíaco súbito durante a sua terceira viagem a Angola.
Abílio Fernandes, diretor desde 1942, orientou o Herbário nos dias difíceis da Segunda Guerra Mundial. Foi ele quem organizou a sua atual configuração. Os exemplares estão agora instalados em elegantes armários de madeira em dois pisos adjacentes. Fernandes incentivou a colheita em todo o país e as coleções africanas foram também ampliadas. Destacam-se as de Antunes (Angola), J.B. Teixeira (Angola), Rocha da Torre & J. Paiva (Moçambique), Grandvaux Barbosa (Angola e Moçambique) e J. Paiva (S. Tomé e Príncipe). J. Ormonde colheu nos Açores, Madeira e Cabo Verde.
Durante a administração de Carrisso, a coleção de criptogâmicas não foi uma prioridade e não foi colocada em armários adequados, mas Fernandes recebeu várias ofertas destas plantas encadernadas como livros. Promoveu a coleção de algas e incentivou Póvoa dos Reis na sua investigação sobre a alga vermelha Batrachospermum. Cecília Sérgio (década de 1960) acrescentou Bryophyta e Hepaticae.
Abílio Fernandes reformou-se em 1974, pouco depois da revolução. Durante algum tempo não houve conservador, depois Jorge Paiva e Teresa Almeida cuidaram do Herbário. Com o estabelecimento de novas áreas em biologia na Universidade, o interesse nas coleções biológicas foi abandonado.
Em 1998 foi, pela primeira vez, instituído formalmente o cargo de Curador, tendo sido nomeada Fátima Sales. Nos quatro anos seguintes, o Herbário foi exaurido da maior parte do seu pessoal, restando em 2004 uma única Técnica de Herbário (Manuela Santos), e a conservadora, também docente universitária. Apesar disso, foi iniciada a digitalização da coleção, e incluído muito material. A partir de 2014 a situação foi melhorando gradualmente. As criptogâmicas foram organizadas e muitas foram montadas, a enorme quantidade de exemplares por montar foi resolvida, muito material de S. Tomé e Príncipe foi oferecido por J. Paiva. O Herbário entrou definitivamente na era digital. O sítio internet é moderno e alberga o muito elogiado Catálogo online que aloja mais de 100.000 exemplares, todos também publicados no GBIF, e a inovadora plataforma de crowdsourcing EXPLORATOR.
O Herbário hoje dispõe de dois Gestores de Coleção, uma técnica de Herbário, e a Curadora.