Celle qui était appliquée sur les sols (la mosaïque de pavement) a été employée à partir environ de 3000 avant J-C jusqu'au VIIe siècle de notre ère tandis que celle appliquée sur les murs (la mosaïque murale) couvre une période plus tardive, débutant au Ier siècle de notre ère jusqu'à environ le Ve siècle.

L'idée d'incruster des morceaux de matière colorée dans un support (argile, bitume, ciment...), de manière à constituer un décor géométrique ou descriptif, se manifeste pour la première fois en Mésopotamie.
Les premières mosaïques, inventées sans doute par les Sumériens, consistent en cônes d'argile dont la base était teintée en noir, blanc ou rouge; ils étaient enfoncés dans la masse de l'argile de manière à revêtir entièrement sa surface extérieure, seules apparaissant les bases de ces cônes (ou clous) ; elles formaient des bandes colorées disposées en chevrons, losanges, etc. Ainsi ont été revêtues des colonnes et parfois des façades de temples à Uruk (où elles ont été trouvées pour la première fois), Ur, Tello, dans des monuments datés de la fin du env. IVe mill, ou du début du millénaire suivant.

On peut encore classer parmi les mosaïques les "étendards" sumériens, tels ceux d'Ur et de Mari ; ce sont des sortes de tableaux représentant des scènes (personnages festoyants, chars, guerriers, scènes de sacrifices...), obtenus au moyen de fragments de lapis-lazuli, d'ivoire et de coquille, taillés et incrustés dans des panneaux enduits de bitume. Ils datent de la première moitié du env. IIIe millénaire (Dynastique ancien).

La mosaïque utilisée pour revêtir les sols est faite soit de petits galets, soit de tessères (ou tessèles) ; ces dernières peuvent être façonnées dans des matières diverses : fragments de tuiles ou tessons de poteries, cubes de couleur en pierre, pâte de verre (smalt), céramique. Les plus anciennes sont en galets ; on les trouve pour la première fois utilisés à Gordion, au env. vme siècle.
Ce type de pavement va connaître une certaine fortune en Grèce où il sera utilisé exclusivement jusqu'au env. IVe siècle.et dans les siècles suivants concuremment avec les tessères (opus tessellatum). Les plus anciens exemples grecs de mosaïques de galets se trouvent à Olynthe et à Motya (site punique de forte influence hellénique) et sont datés de la fin du env. Ve et du début du env. IVe siècle.Ce type de mosaïque atteint sa perfection à Pella, sans doute à la fin du env. IV s.

L'opus tessellatum dérive de la mosaïque de galets. L'utilisation de galets taillés en tesseres irrégulières avec des arêtes vives représente peut-être une technique de transition, mais la chronologie de ce type de mosaïque est trop incertaine pour qu'on puisse l'affirmer.
Les plus anciennes mosaïques en tesseres encore connues ont été trouvées à Morgantina et sont datées entre env. 260 et env. 250. Elles représentent l'enlèvement de Ganymède, qui deviendra l'un des thèmes courants de la mosaïque à figures.
Elles sont à peu près contemporaines des premières tesseres de marbre puniques (pavimenta punica) trouvées à Kerkouane (sur le cap Bon en Tunisie), ville carthaginoise détruite par Regulus en env. 256 (tesseres en marbre blanc figurant le signe de Tanit et des dauphins).
L'opus tessellatum, qu'on retrouve à Pergame dans la seconde moitié du env. m siècle.va prendre une grande extension au cours des siècles suivants et produire ces magnifiques mosaïques, répandues à travers tout le monde romain, en particulier à l'époque impériale. Cependant, à côté de ces quatre types (pavement en galets, en fragments de poteries, en morceaux de marbre, opus tessellatum), on connaît deux autres catégories : une mosaïque du type de Y opus signinum et celle que les archéologues ont appelée opus vermiculatum, qui n'est qu'une variante du tessellatum et dans laquelle les tesseres sont de toute petite taille (moins de 4 mm2) et servent pour la confection de détails fins et délicats. Les mosaïques seront utilisées à l'époque romaine pour revêtir les sols des bâtiments les plus divers, depuis les thermes et les tavernes jusqu'aux demeures des particuliers.
Certains sites comme Délos, Antioche et son faubourg de Daphné, Utique, ont livré une quantité considérable de mosaïques aux couleurs vives et au dessin exquis.

Parallèlement continue néanmoins d'être utilisée la mosaïque noire et blanche, comme par exemple à Ostie.
L'antiquité chrétienne héritera de la tradition gréco-latine et reprendra souvent ses thèmes d'une immense variété, ! en les christianisant, comme le personnage d'Orphée. La mosaïque ne sera plus alors utilisée pour les sols mais elle revêtira les murs et même les voûtes en atteignant la perfection à l'époque byzantine, comme l'attestent Ravenne, Thessalonique et surtout Sainte-Sophie et diverses églises de Constantinople.
Dans le monde américain, on connaît une sorte de mosaïque faite à partir d'obsidienne, de jade, de turquoise,' de nacre, de coquillage et d'or, fixée sur un support à l'aide de résine de copal.
On en faisait de petites sculptures : masques, statuettes de personnages, couvercles, ornements circulaires, têtes d'animaux.
Cette technique apparaît aux alentours des Ve et VIe siècle, comme en témoignent les masques mortuaires de Teotihuacan et les figurines de Tikal.
Elle ne connaît un certain développement qu'après le Xe siècle.aussi bien au Mexique que dans les régions andines (Pachacamac, fin de Tiahuanaco).