宋军平荆、湖之后不久，即攻下了南汉的郴州（今属湖南），威震南方。当时南唐、吴越等国皆表示臣服，宋太祖也劝南汉臣服，交出被南汉所夺占的楚国14州，但南汉主刘鋹不从。宋太祖从郴州俘获的南汉内侍那里得知，建都广州（今属广东）的南汉，因久无战事，士兵不认识旗鼓，人主不知道存亡，加上南汉主刘鋹荒淫无道，国内宦官当权，通过横征暴敛、严刑峻法来维持统治，所以政治极度黑暗混乱，人心愤怨。但此时宋太祖正集中兵力灭后蜀，无暇他顺。待到乾德三年（965年）宋灭后蜀之后，宋太祖又将注意力放到北方发生内乱的北汉身上，但在两次大规模攻击未能得胜时，便再调头南下，按既定的先南后北之统一战略，决定乘南唐、吴越被慑服之际先灭了南汉。
开宝二年（969年）六月，宋太祖命荆湖转运使王明调集物资，作好南进准备。开宝三年（970年）九月，宋太祖任命潭州防御使潘美为贺州道行营兵马都部署，朗州团练使尹崇珂为副都部署，道州刺史王继勋为行营马军都监，率潭、朗等10州兵马自郴州向西，直插入南汉中部地区。
二十九日，宋军攻克富川（今广西钟山），歼灭南汉军万余人，继又占领白霞（今广西钟山西），进围贺州（今广西贺县东南）。南汉宦官职掌兵权，防务懈怠，突闻贺州被围，大为惊恐。十月初，南汉主刘鋹急派大将伍彦柔率舟师万余人，出西江，沿贺水（今贺江）北上救援。二十日，潘美侦知南汉援军将至，令全军佯退二十里，设伏于南乡（今贺县南）。翌日晨，南汉援军方离船登岸，猝遭宋军袭击，死亡过半，伍彦柔被俘杀。宋军复围贺州，随军转运使王明率百余辎重兵及数千名丁夫，挖土填堑助战，贺州守军遂降。
贺州之战后，潘美想诱南汉军主力北上，寻机歼之，便扬言要顺贺水东下进攻兴王府（今广东广州），以调动南汉军西上，乘虚东夺位于溱、溪两水汇流处的粤北重镇韶州（今广东韶关）。南汉主刘鋹果然十分惊恐，起用宿将潘崇彻为马步军都统，统兵三万（一说五万）进驻贺江（今广东封开东北），以阻截宋军南下。潘美为解除侧翼威胁，先攻取昭州（今广西平乐西）、桂州（今广西桂林），转而向东攻占连州（今广东连县）。此时潘崇彻拥兵自保，观望不战。十二月，潘美遂率宋军直逼韶州。刘鋹为保韶州，急遣南汉都统李承渥领兵十余万列阵于莲花峰（今广东曲江南），集合军中象兵布于阵前，每头大象驮戴十余名武士，各执兵器，向宋军推进。潘美严阵以待，命宋军以拒马（可移动障碍物）设障，集中强弓劲弩猛射象阵，大象中箭惊跃，向后狂奔，骑手皆坠落，南汉军阵势大乱。宋军乘势冲杀，大败南汉军主力，斩杀数万人，攻占韶州。开宝四年（971年）正月，宋军连克雄州（今广东南雄）、英州（今广东英德），扼守贺江的南汉大将潘崇彻见大势已去，不战降宋。
前方败报频传，南汉主刘鋹却对左右侍臣说：“这些州本就是湖南之地，宋兵得此即已满足，不会再南来。”但出乎其意料，宋军接连攻拔韶州、英州等地，南汉的北大门洞开。南汉主刘鋹无计可施，只得勉强收拢自前线溃败下来的士卒，加上其他部队，凑了六万兵马，再令大将郭崇岳、植廷晓统率进至距离兴王府才百余里的马迳（今广州北马鞍山）筑垒，以阻击宋军。潘美率宋军乘胜沿北江南下，经泷头（今广东英德南）、栅口，于二十七日进至马迳，攻占广州之西的双女山，逼近南汉军阵地。潘美数遣游骑挑战，郭崇岳避不出战。南汉主刘鋹见形势危殆，就将妃嫔和金货宝物分装十余艘海船，准备逃到海岛上去避难，却被宦官将船盗去。刘鋹只得命其弟刘保兴率兵增援郭崇岳，抵御宋军。二月四日，南汉大将植廷晓率所部兵马据水列阵，潘美指挥宋军涉水进攻，植廷晓败死；宋军遂连夜对南汉军用竹编成的栅垒实施火攻，大破南汉军，南汉大将郭崇岳死于乱战，刘保兴逃回兴王府。
当夜，陷入绝境的南汉主刘鋹下令焚烧府库宫殿。次日，宋军兵临城下，刘鋹被迫出城投降。经过5个多月的艰苦征战，宋军终于如愿以偿地灭掉了南汉割据政权，占领了整个岭南地区。
是年四月，潘美遣人将刘鋹等南汉君臣押去京城开封。五月一日，宋太祖在用布帛系刘鋹之颈去太庙举行献俘仪式后，于皇宫明德门前历数南汉君臣之罪，斩南汉执政大臣龚澄枢等人，而赦免刘鋹。不久又授予刘鋹千牛卫大将军，封恩赦侯。
有一天，宋太祖去讲武殿设宴请群臣，刘鋹先到，宋太祖随手就将一杯酒赏赐给他。由于刘鋹在南汉时，往往用毒酒毒死看不顺眼的大臣，所以现在看到天子独赐自己饮酒，不禁大为惊恐，跪下哭道：“臣继承父、祖之基业，抗拒朝廷，劳动王师远征讨罪，其罪固当一死，陛下不杀臣，令见天下太平，为大梁（指开封）一布衣。愿苟延旦夕之命，以成全陛下不杀之恩，臣未敢馈其酒。”宋太祖待明白原因后笑道：“朕推赤心以待人，怎会有此事？”便让侍从将酒杯拿来，一饮而尽，再斟酒赐刘鋹，刘鋹大窘，顿首谢罪。
宋太宗赵光义即位后，刘鋹被改封为卫国公。太平兴国四年（979年），宋军北征北汉，宋太宗在长春殿设宴饯行，刘鋹与其他降王等陪席。刘鋹便对宋太宗说道：“朝廷威灵远及海外，四方降王今日尽在座中，旦夕太原刘氏又至，臣因率先来朝，愿得以执鞭为降王之长。”宋太宗大笑，赏赐给他很多财物。刘鋹就是依靠这种所谓的诙谐，不断取欢于天子，而得以善终。太平兴国五年（980年）一月，刘鋹去世，被赠官太师、南越王，与被宋太宗用毒药毒死的南唐国主李煜相比，刘鋹可算是十分幸运的了。
