El cemento es tan antiguo, como la humanidad ya que la necesidad que ha tenido el hombre de construir su propio hábitat, así como las estructuras necesarias para su progreso, ha constituido el factor principal en la búsqueda de materiales para esta finalidad.

Su nombre primitivo, o mejor dicho su origen viene de la ceniza calcinada, el cual era observado porque en la noche el hombre armaba fuegos, al quedar la ceniza calcinada y mezclada con la lluvia nocturna, se endurecía, La cal común se obtiene al calcinar la piedra caliza, la diferencia entre la cal común y la cal hidráulica radica en que la cal común se endurece en presencia de CO contenido en el aire y por lo tanto no puede ocurrir bajo el agua; la cal hidráulica por proceder de calizas impuras, se endurece por la reacción que se produce entre los elementos constitutivos, lo cual permite que su fraguado pueda darse bajo agua; de ahí procede el nombre de cal hidráulica. Los Egipcios usaron el yeso además de la cal.

Tanto los Romanos como los Griegos mezclaban cal con cenizas volcánicas o con tejas de arcillas quemadas, obteniendo un material de condiciones muy superiores a los de la cal común. La sílice activa y la alúmina que se encuentran en las cenizas y en las tejas con la cal para producir lo que es conocido como cemento puzolánico, proveniente del nombre de Puzzuoli ciudad que queda en el Golfo de Nápoles, Italia, cerca del Vesubio. En este sitio los Romanos extraían el material volcánico que mezclaban con la cal, estos utilizaron éste cemento para construir el Coliseo de Roma y el Pont du Gard. Los Griegos obtenían estos materiales en la Isla Santorini.

En la edad media hubo una disminución general en la calidad y uso del cemento. En 1756 Jhon Smeaton encontró que el mejor mortero se obtenía cuando se mezclaba puzolana con caliza que contenía una alta cantidad de material arcilloso, Smeaton fue el primero en conocer las propiedades químicas de la cal hidráulica. Posteriormente en 1824, Jhosep Aspin conoció los estudios de Smeaton y continuo las investigaciones llegando a obtener un material que al mezclarlo con el agua reaccionaba dando lugar al endurecimiento de la pasta producida.

Este material endurecido presentaba un aspecto similar al de unas piedras de construcción extraídas en Inglaterra, en la localidad de Portland. El prototipo del cemento moderno fue obtenido en 1845 por Isaac Johnson, quien quemo una mezcla de arcilla y caliza hasta la formación del clinker. En general el cemento portland, concebido originalmente por la semejanza de color y calidad entre el cemento fraguado y la piedra de portland, éste cemento se ha conservado en nuestros días para describir un cemento obtenido en la mezcla minuciosa de materiales calcáreos y arcillosos y otros materiales que contienen sílice, alúmina y quemándolos a una temperatura da la formación del clinker.

La palabra hormigón tiene su origen en el parecido a un bizcocho preparado con almendras, harina, leche y huevos. Las almendras estaban enteras y recordaban a los áridos gruesos incluidos en el mortero. Este bizcocho tenía el nombre de formigò del cual ha derivado el vocablo hormigón.

Los vocablos francés béton y el alemán beton derivan del latín bitumen/bituminis que significa "lodo que se iba espesando".

El vocablo inglés concrete también deriva del latín teniendo el significado de denso, compacto.

La argamasa fue empleada como material de construcción en albañilería, formada de cal, que actúa como conglomerante, arena y agua, que al secarse adquiere una constitución muy dura, pero menor que la del hormigón. En la Edad Media fue muy utilizada en la construcción de murallas y casas como mortero que unía piedras o ladrillos.