《三国演义》是长篇小说，但原来的故事却是零星存在的。这些零星材料如何最终组织成长篇巨著，实是一个有趣的过程。《三国演义》的取材，既有直接取自《三国志》的，也有间接取自《三国志》的注文以及其他六朝文献的史料，更多的则是后世充实的故事材料。尤其是元代戏剧作品，已将三国故事贯串成有血有肉的生命。
西晋陈寿编撰《三国志》，南朝刘宋时裴松之引书四百余种为之注。我们知道，魏晋六朝品评人物风气盛行，品评人物总是根据具体事迹；后来，《世说新语》更是载有不少魏晋时期各种人物的妙人妙事。品评人物风气流传一时，影响所及，许多人对于其中人物的言行十分熟悉。在谈说过程中，一方面兴趣浓厚不减，而口耳相传之间又增添讲者的主观意见和个人色彩，对于人物和事件的描述刻画遂有越来越精彩的现象。例如，两晋南北朝记叙、描写、歌咏三国故事和人物的文献有三十多种。而且，就现存文献而言，实际一定不止此数。
唐代论述三国的诗文多达一百四十多篇，宋代则约有八十篇。这些也都是指今日所知材料而言，当时出现而遗佚的必定更多。元朝除诗文外，元杂剧以三国故事入戏的有六十多本，这是因为一是当时三国故事个别片段已发展得很成熟，能编为戏本，二是戏比诗文流传更广泛，影响更大，与小说发展互相促进，互为因果。而宋以来流传的说三分，则成为平话小说《三国志平话》和《三分事略》，更成为《三国演义》小说的基础。
概括而言，三国故事的形成经过，可以分为下述四个阶段：
第一阶段是陈寿《三国志》成书以前的记载，大部分是史料，包括历史人物的出身、言行等记录和传说。陈寿《三国志》录取其中一部分做材料，编撰正史，但更多的材料则遗留在文人笔下或民间。
第二个阶段是《三国志》成书后初期，尤其是东晋、南北朝，因为离三国不远，仍有大量文献和民间传说流行，但故事内容已开始出现增添或转变的情形。
第三个阶段是唐、宋时代文人的歌咏和说故事者的敷演，前者可使故事传说走向理趣，后者则使零星故事组合成较长的单元。
第四个阶段是元剧作品。元代许多剧作家都尝试将三国故事敷写成情节精彩的剧本。就以吕布和貂禅的故事为例，现存的剧本有无名氏《锦云堂暗定连环计》、郑光祖《虎牢关三战吕布》、武汉臣《虎牢关三战吕布》（残缺）、于伯渊有《白间斩吕布》。另外，元南戏有《貂蝉女》（残缺）。由此可见，元剧作家对三国故事发扬光大作出了杰出的贡献。
第五个阶段是罗贯中的成书。《三国志通俗演义》一书“据正史”、“采小说”、“证文辞”、“通好尚”，尤其是博采各种典籍包括史注、笔记、传说、平话、剧本、诗文等，共冶一炉，成为巨著。这当中汇集了千千万万人的心血，在罗贯中以前，对故事文字和情节方面进行修改加工的无名作者，也同样功不可没。罗贯中可以说是后期一个集大成者。
