程氏夫人是四月八日去世的。五月，讣闻至京城，三苏立即回乡奔丧。过长安，苏洵作（途次长安上都槽傅谏议》诗，有“昨日东人秦，大麦黄满田”句。又过了许多时日，才过凤翔，从大散关越秦岭人川至家。
当父子三人回到老家时，家里已是：“屋庐倒坏，篱落破漏，如逃亡人家。”呈一片残败破落景象。苏洵怀着满腔的悲痛将爱妻安葬在彭山安镇乡可龙里老翁泉上，且在此处建一亭子。他常常独自一人徘徊在妻子墓侧，追忆亡妻生前的事情。
关于程氏的为人，司马光为她所作的墓志铭是这么说的：“妇人柔顺足以睦其族，智能足以齐其家，斯已贤矣。况如夫人能开发辅导成就其夫、子，使皆以文学显重于天下，非识略高绝，如能是乎？”这一评价对程氏来说是恰如其分的。程夫人以《东汉史》中的《范清传》教导苏轼的事迹，后被苏辙写进了《亡兄子瞻端明墓志铭》文中。伴随着苏文的不朽，程夫人也成了千百年来被人们传颂的人物。
但程夫人晚年也像自己的公爹苏序一样乐善好施。司马光在《程夫人墓志铭》中说：
始夫人视其家财既有余，乃叹日：“是岂所谓福哉！不已，且愚吾子孙。”因求族姻之孤穷者，悉为嫁娶振业之。乡人有急者，时亦周焉，比其没，家无一年之储。
程夫人晚年的行为对苏洵有所震动，加之自己去京城求取功名处处碰壁，就产生了不求有闻于世，退隐于家乡的念头。
程夫人的安葬地叫老翁泉，位于眉山境内武阳安镇山中。该山主峰高大壮伟，其山脚分为两股，回转环抱，有一眼泉就出在两山之间稍北一点的地方，在山脚右股下端蓄水为大井，可以供给100余家人口的饮水。苏洵认为“水之行常与山俱，山止而泉冽，则山之精气势力自远而至者，皆蓄于此而不去，是可以葬无害。”埋葬了程夫人后，苏洵“乃问泉旁之民，皆曰是为老翁井，问其所以为名之由，曰：往岁十年，山空月明，天地开W，则常有老人苍颜白发，堰息于泉上，就之则隐而人于泉，莫可见。”苏洵在这里建了亭，常优游其间，总想能碰见这个老翁，以证实这个传言的可信。他又怜悯此老翁在荒棒岩石之间，外界的人从不知这千岁老翁，今天幸而遇到自己才能把名声传扬出去。于是，苏洵遂为铭曰：
山起东北，翼为南西。涓涓斯泉，全溢以。敛以为井，可饮万夫。汲者告吾，有史于斯。里无斯人，将此谓谁？山空寂寥，或啸而嬉。更千万年，自洁自好。谁其知之，乃讫遇我。惟我与尔，将遂不泯。无溢无竭，以永千祀。
此文为苏洵“卜葬亡妻”而作。他心情十分抑郁，有欲老于泉旁的思想。他同时作诗《老翁井》，把这种想法说得明明白白：
井中老翁误年华，白沙翠石公之家。公来无踪去无迹，井面团团水生花。公今与世两何预，无事纷纷惊牧竖。改颜易服与世同，毋使世人知有翁。
苏洵在此以老翁自况，表明了归隐之念。《老翁井铭》及《老翁井》诗作传播很快，没过多长时间就传人京城，他的朋友们不禁为此而担心。后来苏洵谢绝征召人京，梅圣俞有《题老人泉寄苏明允》诗：
泉上有老人，隐见不可常。苏子居其间，饮水乐未央。渊中必有鱼，与子自徜徉。渊中苟无鱼，子特玩沧浪。日月不知老，家有雏凤凰。百鸟载羽翼，不敢言文章。去为仲尼叹，出为盛时祥。方今天子圣，无滞彼泉傍。
梅圣俞赞颂了苏洵父子三人的文章，希望其振作起来，打消欲老于泉旁的念头。
紧接着，苏洵一位忠诚的挚友史经臣也与世长辞。这双重的打击令苏洵沉痛悲伤不已，心情久久不能平静，以至于卧床不起。苏洵无法亲自前去祭奠这位生前密友，只好抱病写了祭文，派苏轼前去祭奠。《祭史彦辅文》中说：
我游京师，强起来饯，相顾留连。我还自东，二子丧母，归怀辛酸。子病告革，奔走往问，医云已难。问以后事，口不能语，悲来塞咽。遗文坠菜，为子收拾，以茸以编。我如不朽，千载之后，子名长存。呜呼彦辅，天实丧子，予哭寝门。白发斑斑，疾病来加，卧不能奔。哭书此文，命轼往奠，以慰斯魂。
为了纪念这位死去的老友，苏洵带病整理史经臣的遗稿。史经臣兄弟皆无子，只有史玩有一女流落襄州，苏洵写信给吴照邻，请他多关照该女。我们今天之所以知道有个对朋友忠心耿耿、品行豪放不羁的人叫史经臣，正是苏文流传后世的结果，似乎出于苏洵当年意料之中。
苏轼、苏辙在家中各与自己的妻子团聚，过上了平静的生活。按照封建礼制，兄弟二人要丁忧（在家守丧）三年（按年头计算）。嘉佑四年，苏轼24岁，长子苏迈出生。
丧妻之痛及求取仕途功名的失败，使苏洵的心情一直郁郁不乐，也使他下定决心终老山林，不复他求。然而嘉佑三年十月得到雷简夫书信，告诉他朝廷将召他赴试舍人院。果然，十一月初，朝廷诏令来了，要他进京于舍人院考试策论。苏洵称病不赴试，并于十二月一日写了《上皇帝书》，申诉不能赴京的理由是：“臣不幸有负薪之疾，不能奔走道路，以副陛下搜扬之心，忧惶负罪，无所容处。”还委婉地流露了一下对科举制度的不满：“臣本凡才，无路自进。当少年时，亦尝欲侥幸于陛下之科举，有司以为不肖，辄以摒落。盖退而处者，十有余年矣。今虽欲勉强扶病戮力，亦自知其疏拙，终不能合有司之意。恐重得罪，以辱明诏。”而在《与梅圣俞书》中，其不满更为强烈，他说，难道我是专门想考试的人吗？只是因为仅仅不能附和考官对文章要求的标准，才有现在的穷困。如果现在以50岁衰老而患病的身体，奔走万里去考试，难道不被山林之士所嘲笑吗？想起少年时去考茂材异等科，半夜就起床，携带着吃食，在东华门外等候天亮，排队进人考场，在座位上屈膝俯首答卷，以后每想到这里就感到寒心。现今也老了，难道还甘心于达官贵人指点批评我的文章吗？但是，他口里说自己绝无意于功名，实则还是希望皇帝发现自己的才能，使他有所作为。关于这一点，可以从《上皇帝书》中看出来。在该文中，他把自己的政治变革主张列为十条奏给皇帝，清楚地表明了他对吏治有浓厚的兴趣。当然，这与此时王安石强调的法制治国大相径庭。
嘉佑四年，苏洵51岁。梅圣俞题诗劝洵人京。六月诏命再下，苏洵致书欧阳修，告诉自己准备人京及起程的时间，并向他表达了自己郁郁不乐的心情，对朝廷中办事的拖拉表示了不满。
嘉佑四年十月，苏洵父子带着全家人沿着眠江、长江而下，次年二月到达京城。
这次去京师一方面因为去出仕施展抱负，二是因全家人同往，所以父子们心情很好。他们从水路出发，路线是经嘉州、渝州、忠州、夔州，出三峡到江陵，然后转陆路进京。父子三人一路上欣赏祖国的名山大川，了解各地的风土人情，瞻仰了许多先贤遗迹，唱和了许多诗。苏洵父子三人虽没有什么官职，但名声早已远播四方，所以每到一地，都有地方官员和故旧亲友前来奉陪。他们路过嘉州时，嘉州太守设酒宴招待他们。来到渝州时，渝州太守张子立亲到江边看望他们。长江沿岸的秀丽景色及许多他们早已向往的名胜古迹，如屈原墓、八阵图、神女庙、昭君村、黄牛庙、虾蟆坟等，激起了他们澎湃汹涌的诗情，于是就写诗相互咏叹唱和。十二月初到达江陵，留彼过年。
在江陵释站里，他们将一路上所作的诗赋汇编成册，命名为《南行前集》，共100篇。苏轼在《南行前集》序言中说：“己亥之岁，侍行适楚。舟中无事，博弈饮酒，非所以为闺门之欢。山川之秀美，风俗之朴陋，贤人君子之遗迹，与凡耳目之所接者，杂然有触于中而发于咏叹。盖家君之作与弟辙之文皆在，凡一百篇。”严格地说，这时的苏诗还处于起步阶段，没有形成自己独特的风格，但苏轼在序言中所写的创作理论却受到后人推崇。其中说：“夫文之为文者，非能为之为工，乃不能为之为工也。山川之有云雾，草木之有华实，充满勃郁而见于外，夫虽欲无有，其可得耶！”意思是说作家必须深人生活，有感而发，才能写出好的作品。苏轼这一理论贯穿了他整个一生的创作。《南行前集》早已失传，但其中所收诗赋大部分保存下来了。其中：苏辙诗23首，赋2篇；苏轼诗40首。
嘉州是现在的乐山县，在崛江和青衣江的汇合处。唐代曾就乐山山势雕塑了一尊高70余米、气魄雄宏的高大佛像，这就是有名的“乐山大佛”。他们从嘉州登船后，船便从佛像脚下飞驰而过。苏辙《初发嘉州》一诗写道：“飞舟过山足，佛脚见江浒。舟人尽敛容，竟欲揖其拇。”苏轼也留下了《初发嘉州》诗一首。诗中表现了他对未来的乐观心情和对家乡山水的热爱：“故乡飘已远，往意浩无边。锦水细不见，蛮江清可怜。奔腾过佛脚，旷荡造平原。”苏洵也以兴奋的心情，写了《初发嘉州》一诗：“家托舟航千里远，心期京国十年还。乌牛山下水如箭，忽失峨眉枕席间。”
这次去京城，盼了多年的仕宦生涯在向父子三人招手，苏洵的昂奋情绪是自不待言的。同时，为了使两个儿子增加阅历、陶冶情操，于途中所经过的名胜古迹处，总要停船同二子去游览一番，并吟诗作赋以抒情怀。途经丰都县时，受到了知县李长官的盛情招待。李长官说县城不远处有座仙都山，山上有只白鹿，传说此鹿是仙君司掌客之憧仆变成，有客来游即高声鸣叫，从来没有落空过；此鹿甚老，猛兽猎人始终没有害死它；昨天晚上我听到鹿鸣，就知将有贵客来到，所以特地在江边等候。苏洵听后很奇怪，挥笔写下了《题仙都山鹿》：
客来未到何从见？昨夜数声高出云。应是先君老憧仆，当时掌客意犹勤。
途经巫山县东神女庙时，苏洵同二子停舟去游览。苏洵说这神女庙供奉的是西王母之女瑶姬，她因助禹驱鬼神，斩石疏波，有功于世，后人为之立神女庙。苏洵趁着游兴，写下《神女庙》：
巫阳仙子云为裾，高情杳渺与世睐。微有薄酒安足献？愿采山下霜中蔬。仙坛古洞何清虚，中有琼楼白玉除。江山洗荡谁来过？闻道琴高驾鲤鱼。
这首诗构思奇巧，表现了作者对未来美好前景的向往。诗的最后一句借《刘向列仙传》中所说的战国赵人琴高学长生术、人琢水中取龙子，乘赤鲤而出的传说，表达了希望父子三人进京后能顺利人仕的愿望。船过武宁县时，苏洵很想去游观许精阳得道之所—木杨观。据《太平广记》载，许精阳在晋永嘉年间为蜀之族阳令，得异人术，周游江湖，悉斩蛟蜃，除民害；精修山中，在136岁时举家飞升。苏洵想游览是一回事，船夫不告诉他又是另一回事，所以过了武宁县后，有人才告诉他已过了许精阳得道之所，其棺椁至今还在山上。苏洵在遗憾之余，写《过木柄观》一首：
闻道精阳令，当时此学仙。炼形初似鹤。蜕质竟如蝉。葬上稽棺石，云生书影筵。舟中望山上，惟见柏森然。
苏洵爱好古玩，在进京的途中没有把家中“买于溪史凭貂裘”的木假山带在身边，使他觉得很寂寞。这年冬十一月舟行峡中登岸作短暂停留时，老家在丹棱的杨纬托人请苏洵为其父作了墓志铭。作为润笔的礼物，苏洵得到了杨纬赠送的木假山，于是欣喜若狂，以感激的心情写诗《寄杨纬》：
家居对山木，谓是忘言伴。去乡不能致，回顾颇自短。谁知有杨子，磊落收百段。拣赠最奇峰，慰我苦长叹。连城尽如削，邃洞幽可叹。回合抱空虚，天地耸其半。舟行因乐载，陆掣敢辞懒？飘飘乎千里，有客来就看。自言此地无，爱惜苦欲换。低头笑不答，解缆风帆满。京洛有幽居，吾将隐而玩。
这座木假山苏洵带到了京城，伴他度过了晚年时光。但“有幽居”之言是苏洵逆想之辞，因为第二年苏轼写给杨济甫的信中说：“见在西冈赁一宅子居住。”
十二月初，苏洵全家人到达荆州治所江陵，就在这里住了下来，准备过毕年再改陆路赴京。荆州王太守热情接待了苏洵父子三人。为表示感激之情，苏洵写了《王荆州画像赞》：
太山崇崇，东海滔滔，蟠为山东。公惟齐人，齐方千里，而吾独见公。公在荆州，或象其仪，白发红颜。谓公方壮，公生辛丑，天子之老。谁谓公老，其威桓桓，镇天子之南邦。
王太守是山东人，豪爽而俊逸。苏洵能写此赞，说明俩人都是胸襟开阔、学识过人的人。
正月五日，苏洵父子们弃舟从陆路进京，一路上仍然游山玩水，踏访先贤们留下的遗迹。昆阳城是有名的古战场，王莽与刘秀曾在此争雄。据史载：王莽称帝时刘秀起兵占据昆阳，王莽遣其司徒王寻、司空王邑领兵42万，赶到昆阳与刘秀决战，一路上族旗瑙重千里不绝，气势十分浩大。刘秀亲自带领三千敢死队从城西水上冲击王莽的中坚军队，使王寻、王邑阵营大乱。城中鼓噪而出，中外合势，震呼动天地。王莽兵大败，相互践踏，伏尸百余里；又遇河水猛涨之期，士卒溺死以万数，水为之不流。苏洵俯视这个古战场，感慨万千，提笔写成《昆阳城》一诗，发出了“御之失道谁使然？长使哀魂啼夜雨”的悲愤之语，对边境战事不断，国内盗贼纵横的现状深感忧虑。
就苏轼来说，三峡壮丽、奇险的景色给了他创作的灵感，便接连写了《人峡》、《白帝庙》，《濒堆赋》等诗赋。这些作品联想丰富，气势宏大，富有哲理，苏诗的风格特色已初露端倪。如写巫山神女：“俯首见斜矍，拖霞弄修被。”写江水：“万派泻东南，合水来如电”，“飞泉飘乱雪，怪石走惊骏。”苏轼的诗飞动流转，善用比喻，《江上看山》便具体地体显了出来：
船上看山如走马，倏忽过去数百峰；前山搓牙忽变态，后岭杂杳如惊奔。仰看微径斜缭绕，上有行人高缥缈。舟中举手欲与言，孤帆南去如飞鸟。
船行如飞，眼中处以动态的群山形态瞬息万变，山峦起伏如马群奔跑，舟中人想与山上行人告别，可舟去如飞鸟难以实现。诗句中流淌出一幅具有何等流动美的图画呀！
一路上，苏轼的心情是敏感而多变的。这次出川去实现他的政治抱负，情绪高昂而跃跃欲试。但社会矛盾尖锐，国家治理不善，国弱民穷的状况越来越严重，这些又使他忧愁不安。所以作品的色调时而高昂，时而低沉，前进中有犹豫和徘徊。他在《人峡》中写道：
独爱孤栖鹘，高超百尺岗。横飞应自得，远扬似无贪。振翩游霄汉，无心顾雀鹤。
在这首诗中他多么羡慕在蓝天白云间飞翔的大鹰。他也深感步入仕途可能于世无补反而会拘束自己的性情，又在这首诗中说：“尘劳世方病，局束我何堪。”
苏氏父子在江陵过罢年，从荆州改陆路北上，于二月中旬到达京师，在宜秋门附近买了一所宅院把全家安顿下来。他们又把由江陵到京师途中所有的诗汇编为《南行后集》。
苏轼弃舟登陆以后，心情豁然开朗，在《荆州十日》中写道：
柳门京国道，驱马及春阳。野火烧故草，春风动绿芒。北行连许邓，南去极衡湘。楚境横天下，怀王信弱王。
这首诗透露出积极用世思想，有“春风得意马蹄疾”的自信与豪气。
苏轼一路上关注着人民的生活，在《黄牛庙》中由黄牛耕地之苦联想到人间的痛苦与不平：
江边石壁高无路，上有黄牛不服箱。庙前行客拜且舞，击鼓吹箫屠白羊。山下耕牛苦晓确，两角磨崖四蹄湿。青当半束长苦饥，仰看黄牛安可及。
在上者“不服箱”而行客舞拜献礼；山下耕牛不仅耕作劳苦，且草不果腹“长苦饥”。以象征对比的手法形象地反映了阶级对立的现实，表达了他对贫苦农民的深切同情。
苏轼同时也对英雄圣贤的崇拜发生了某些疑虑。苏轼曾说过：“厌乱人方思圣贤。”由于国事日衰，苏轼早年在凭吊古人遗迹时，常感慨地发出怀思古圣贤豪杰的念头，同时也引发了他内心对现实的烦恼和惆怅。他在《屈原塔》中，对忠心爱国而惨遭流放被迫自杀于泪罗江的诗人屈原，表示了同情与怨愤，当他看到“楚人悲屈原，千载意未歇，精灵飘何处，父老空硬咽”的现实，心内悲愤不已。“葛中羽扇挥三军”的儒将诸葛亮，他当年为蜀汉事业鞠躬尽瘁死而后已，但他现在又在哪里呢？苏轼不禁叹道：“古人不见悲世俗，回首苍山空白云。”（《犍为王氏书楼》）
