秦始皇由云梦乘船沿长江顺流而下，曾登上庐山。秦始皇登庐山，见于《水经·庐江水注》以及《水经注》、《太平御览》所引《浔阳记》，而不为《史记》所载。据《庐山水注》所载：
庐山之南有上霄石，高壁与霄汉连接。秦始皇三十六年（当作三十七年），感叹此岳远，遂以上霄为号。上霄之南，大禹曾刻石标识其丈尺里数，至今犹得见刻石的名号。旧日的先人曾说过：当年大禹治水至此，刻石记功；也有人说这是秦始皇登庐山时的刻石。总之，这都是年代久远的事，现已无法辨识了。
《水经·庐江水注》引《浔阳记》载：
“庐山上有三石梁，长数十丈，广不盈尺，沓然无底……秦始皇、汉武帝及太史公司马迁咸登其岩，望九江而眺钟彭焉。”
《太平御览》引《浔阳记》载：
“上霄峰在庐山东南。秦始皇登之。与霄汉相连，因名之。高处有刻名之字，大如掌背隐起焉，仅百余言。”
秦始皇自庐山下来，乘船沿长江顺水而下，经过丹阳（今安徽当涂县东），走水路到达钱塘（今浙江杭州市）。原拟临浙江渡水登会稽山，由于“水波恶”不宜渡舟，只得西行120里从“狭中”（今浙江富阳县附近）渡水。渡水后，秦始皇登上会稽山。
会稽山在今浙江省中部绍兴、嵊县、诸暨、东阳间，是钱塘江支流浦阳江与曹娥江的分水岭，近于南北走向。会稽山的主峰在嵊县西北。相传大禹当年在这里大会诸侯，始名“会稽”，即“会计”的意思。相传秦始皇登此山以望南海，故又名秦望山。
在会稽山，秦始皇命丞相李斯撰文并手书刻石之文，“立石刻颂秦德”。刻石的铭文，见于《秦始皇本纪》的记载：皇帝休烈，平一宇内，德惠修长。三十有七年，亲巡天下，周览远方。遂登会稽，宣省习俗，黔首斋庄。群臣诵功，本原事迹，追首高明。秦圣临国，始定刑名，显陈旧彰。初平法式，审别职任，以立恒常。六王专倍，贪戾慠猛，率众自强。暴虐恣行，负力而骄，数动甲兵。阴通间使，以事合从，行为辟方。内饰诈谋，外来侵边，遂起祸殃。义威诛之，殄熄暴悖，乱贼灭亡。圣德广密，六合之中，被泽无疆。皇帝并宇，兼听万事，远近毕清。运理群物，考验事实，各载其名。贵贱并通，善否陈前，靡有隐情。饰省宣义，有子而嫁，倍死不贞。防隔内外，禁止淫泆，男女洁成。夫为寄豭，杀之无罪，男秉义程。妻为逃嫁，子不得母，成化廉清。大治濯俗，天下承风，蒙被休经。皆遵度轨，和安敦勉，莫不顺令。黔首修洁，人乐同则，嘉保太平。后敬奉法，常治无极，舆舟不倾。从臣诵烈，请刻此石，光垂休名。《史记·秦始皇本纪·正义》解释说：
“其碑见在会稽山上，其文及书皆李斯，其字四寸，画如小指，圆镌，今文字整顿，是小篆字。”
宋人姚宽撰《西溪丛语》言秦始皇所立石碑上的文字“皆为风雨所剥，隐约就碑可见”，“非伪碑也，或云大篆，或云小篆，皆不可考。”
据《越绝书》记载：
“秦始皇帝三十七年，东游之会稽，正月甲戌到大越，留舍都亭。取钱塘、浙江岑石，石长丈四尺，南北面广六尺，西面广尺六寸，刻文立于越东山上，其道九曲，去县二十一里。”
据北宋元丰八年（公元1085年）刊行的《元丰九域志》记载：
“刻石前，有方石数丈，云是始皇坐。两厢石分八所，云是丞相以下坐，故今有丞相石之名。”
秦始皇的会稽刻石，除了与其他刻石相类似的歌功颂德的文字外，另有60个字是有关整顿风俗教化的文字，其内容是针对这一地区在男女关系、婚姻形态上存有较多的原始社会的遗风，被秦始皇视为“淫泆”，并明令加以禁止。所谓“夫为寄豭，杀之无罪”，是说进入别人家中淫乱的男子即所谓“奸夫”，一经发现，人人皆可得而诛之，杀死奸夫者无罪。这一段珍贵的史料表明，秦始皇在建立帝国后，继承秦孝公、商鞅变法以来重视“移风易俗”的传统，注重对少数民族地区落后风俗的改造。
秦始皇于会稽山刻石颂德之后，又曾在江浙一带巡游其他地方，即所谓憩阼湖、至县、游会稽、渡江乘。
憩阼湖。
据《水经·浙江水注》载：
“浙江北合诏息湖。湖本名阼湖，因始皇巡守所憩，故有诏息之名。”
《太平御览》引《钱塘记》：
“去邑十里，有诏息湖。古老相传，昔秦始皇巡狩，经涂暂憩，因诏以息为名。”
至县。
据《陆云集·答车茂安书》载：
“昔秦始皇至尊至贵……御东观沧海，遂御六军南巡狩，登稽岳，刻文石，身在县三十余日。”
游会稽。
据《史书记载·项羽本纪》载：
“秦始皇帝游会稽，渡浙江，梁与籍俱观。项籍曰：‘彼可取而代也。’梁掩其口曰：‘毋妄言，族矣！’梁以此奇籍。”
渡江乘。
据《史记·秦始皇本纪》载：
“还过吴，从江乘（今江苏镇江市北）渡。”
《江南通志·舆地志·山川》：
“江乘浦在府〔江宁〕西北七十里，《史记》云秦始皇东游，还过吴，从江乘渡，即此。”
据《越绝书》记载，秦始皇到达会稽山已是正月甲戌日，（秦以十月为岁首）加之在县又逗留月余，“渡江乘”的时刻正是严冬与早春交替的季节。然而，秦始皇却不顾北方乍冷还寒的早春季节，又决定沿海滨北上了。
