La forme est très ancienne, existe dans toutes les langues. Ainsi, vers l’an 1000, la poétesse japonaise Sei Shônagon, dame de compagnie de l’impératrice Sadako, inventorie dans le Makura-no-sôshi (Notes de chevet, littéralement Poèmes à l’oreiller) ce qu’elle aime, ce qu’elle déteste, ce qu’elle trouve ridicule, ou triste. Elle inaugure un nouveau genre littéraire, le zuihitsu ().
En France, ce type d’écriture est relancée par Félix Fénéon et ses Nouvelles en trois lignes. D’autres auteurs, depuis, ont creusé ce sillon, parfois autobiographique. Citons, entre autres, les oulipiens Georges Perec (et son livre Je me souviens) et Hervé Le Tellier (et Les amnésiques n'ont rien vécu d'inoubliable, réponse à la question ), ou encore Michelle Grangaud, pour son recueil Geste. Valérie Mrejen (dans Eau sauvage, le parfum de son père) fait appel à cette forme pour évoquer ses souvenirs familiaux. Laurent Bourdelas, avec 'Le Chemin des Indigotiers' ou 'Les Chroniques d'Aubos', est l'un de ces auteurs contemporains du fragment, salué par exemple par France Culture; il en va de même pour Patrick Mialon ou Colette Corneille.
S’y apparentent également des formes comme les dans les Ébauches rattachées à la Comédie humaine de Balzac, les nouvelles très courtes de Philippe Cousin, de Jacques Sternbergs ou comme les nanotexte de Patrick Moser.
La forme du fragment questionne le fractionnement de la mémoire et de la pensée. Elle ramène au parcellaire et au dérisoire, donc, contradictoirement, à une forme d’universalité.