但匈奴是个最强大的敌人，它从三方面包围汉朝，敌强我弱。武帝多年征讨，才灭掉匈奴猖狂的气焰。这场汉匈之战是元光六年（公元前129年）拉开序幕的，这一年，匈奴侵入上谷县，试探汉朝的虚实。武帝派出卫青等四位将军，每位带领一万骑兵，分成四路迎击匈奴。卫青带领的一路骑兵打了胜仗，一直追击匈奴到龙城。匈奴由此战知道汉军已不是昔日的汉军，不可轻视了。
初战胜利后，汉军于元朔二年（公元前127年），又取得辉煌的胜利。这年开春，匈奴入侵上谷、渔阳，杀害和掳走官吏、民众千余人。武帝派遣卫青出击匈奴，旗开得胜，斩获无数，仅生俘的敌兵，就有数千，战利品中，牛羊就有百余万。将匈奴的白羊王、娄烦王从肥美的河南地驱逐出去，秦朝的故地都收回了。于是设置朔方郡，征发十余万人筑朔方城，将秦朝在当地修筑的要塞全部恢复，花费的金钱至少有数千万。这年夏天，为了加强边境的防守，迁徙十余万民众到朔方居住。
元朔五年（公元前124年），因匈奴右贤王数次侵扰朔方，武帝派遣卫青带领三万骑兵为前锋，护卫四位将军带领的重兵出击匈奴，又派遣二将带领人马作后援，总兵力达到十余万。一场血战之后，汉军获全胜。俘虏匈奴小王十余人，其他男女一万五千人，获得各类牲畜一千万头，汉武帝亲自到前线慰问军队，就在军中庆功会上拜卫青为大将军。
元朔六年（公元前123年），二月，大将军卫青统率六位将军的联队，分六路出击匈奴，斩首千余级而还。四月，卫青又统率六位将军的联队出击匈奴，俘获或斩首数万人。骠姚校尉霍去病立功最多，他的队伍俘获或斩首匈奴小王、相国、当户和骑士二千余人。
元狩二年（公元前121年），三月，骠骑将军霍去病带领万余骑兵出击匈奴，深入千余里，杀死两个小王，俘虏王子、相国、都尉等多人，俘获或斩首的匈奴共计8900人。夏天，霍去病又与三位将军的联队共数万骑，分三路出击匈奴，霍去病的小队深入二千余里，俘虏小王十余人，相国、都尉以及普通匈奴兵投降的有二千五百人，斩首三万二百级。
元狩四年（公元前119年），春天，武帝派出大军攻击匈奴。卫青、霍去病每人带五万骑兵，从不同的道路，寻找匈奴决战。卫青深入千余里，渡过大漠，斩首一万五千级，到寘颜山赵信城才回军。霍去病深入二千余里，渡过大漠，俘虏小王三人，将军、相国等八十余人，斩首七万四百四十三级，封狼居胥山，登临瀚海。汉朝为了记功奖励，特地设置大司马的官位，卫青为大司马大将军，霍去病为大司马骠骑将军。从此以后，匈奴远徙，漠南无王庭。
除了和匈奴浴血苦战外，对不服从的属国，武帝也随时发兵攻击。如建元六年（公元前135年），闽越国攻击南越国，武帝派兵击之。又如元鼎六年（公元前111年），武帝派兵十余万击破了南越宰相吕嘉的反叛力量，灭掉了南越国。此外，鉴于西羌常勾结匈奴攻打中国，这一年武帝也发兵十万攻击西羌，大破之，平定了今青海地区。
由于武帝大力开拓边疆，帝国的版图大幅扩展，特别是，他派张骞穿过河西走廊，寻找通西域的道路。这是一次伟大的探险。元朔三年（公元前126年），张骞回国，带回关于西域各国的情报，汉朝与匈奴开始争夺西域霸权；元鼎六年（公元前111年），汉朝在原来被匈奴占领的河西走廊地区设置武威、酒泉、张掖、敦煌等郡县。太初元年（公元前104年），汉朝征发数万人攻击大宛。太初三年（公元前102年），大宛投降。太初四年（公元前101年），汉朝派兵擒获楼兰王，不久释放回国，令其为汉帝国夹击匈奴，这样，汉朝的势力进入今新疆自治区的范围，汉朝的兵丁在轮台、渠犁等地屯田。
对远方的邻国，汉武帝也注意联络它们，争取与其通往来或争取归附。如元光五年（公元前130年），派唐蒙为使者游说夜郎国归附汉朝，为了开发闭塞的夜郎（今贵州地区），征发数万人修建通往那儿的道路。此后西南夷诸小国开始归附。又派司马相如作为和平使者说服邛、笮、冉、斯榆等国归附汉朝，在这些地方设置十余县，划归蜀郡管理。但西南夷小国时附时叛。元鼎六年（公元前111年），西南夷的且兰国背叛，杀汉朝的使节，武帝征调巴蜀的罪人攻击且兰国和邛国，杀其君主，设置更强有力的地方政府，安定了今贵州、四川、云南等省的偏远地区。元封二年（公元前109年），在汉朝使者的劝说下，今云南地区的滇王降汉，汉朝在那儿设置益州郡。然后，武帝多次派人经过云南出使印度，但没有成功。元封六年（公元前105年）秋，汉朝以江都王刘建的女儿嫁乌孙，西域诸国大多派遣使者来到汉朝首都访问。
但汉武帝又是一个极其专横独断、令人恐怖的君主。身边的大臣、贵族、豪强的身家性命都掌握在他一人手中，他翻手为云，覆手为雨，往往因一点小过，就杀害大臣、亲信和僚属。特别是他的晚年，杀害近臣的事情更加频繁，如征和二年（公元前91年），正月，因巫蛊一案，将丞相公孙贺灭族；四月，诸邑、阳石两公主以及卫青的儿子长平侯都因巫蛊案被杀。七月，皇后卫氏及皇太子刘据都因巫蛊案自杀。汉武帝还任用酷吏，制定严刑峻法，如酷吏张汤于元光五年（公元前130年）制作见知法——凡知人犯法而不举者，谓之故纵，与犯法者同罪。元狩六年（公元前117年），大农令颜异因腹诽罪，被处死，从此开始，有腹诽法，只要内心对朝廷不满也可能被杀。
对远离首都、割据一方、尾大不掉的诸侯，汉武帝也有办法：他采用主父偃的计策，分封诸侯王的子弟为侯，以分散其势力。他对待反叛的诸侯决不手软：如元狩元年（公元前122年），淮南王刘安、衡山王刘赐谋反，事情泄露自杀，他大力诛杀其余党，为这二王的谋反案，列侯、二千石、豪杰牵连被杀的有数万人。第二年（公元前121年），江都王刘建又谋反，被发觉，自杀。
汉武帝好大喜功，如到处巡游、祭祀，以致封禅、求神仙，规模浩大，侵扰百姓，有些地方官无法接待，急得自杀。又大兴土木，如元鼎二年，建柏梁台，以铜作承露盘，高二十丈，大七围。但他也大兴水利，为民造福。如元光六年（公元前129年），命令水利工程师徐伯表监督数万民工开凿渭渠，渠道从长安开始，一直到黄河为止，全长三百余里，以利于将关东的粟米运到长安来。历时三年，才开通此渠。元鼎四年（公元前113年）前后，在朔方、西河、酒泉、汝南、九江、泰山等地大兴水利，在关中也开凿龙首、灵轵、成国及湋渠等渠道，以利航运和灌溉，大渠的灌溉面积达万余顷，小渠不可胜计。元鼎六年（公元前111年），又在战国时代开凿的郑国渠旁边开凿六条辅渠道。元封二年（公元前109年），武帝亲临现场堵塞好为害二十余年的黄河瓠子口大决口。
但威震四裔、气吞山河的汉武帝为了实现自己的成仙梦，却常常被一些方士玩弄。例如：方士李少君是个不修边幅的人，蓬头垢面，胡子毛蓬蓬的。谁也不知道他的年龄和出身经历，他时而自称七十岁，时而又称年逾百岁，时而又说忘记了自己度过了多少岁月。他第一次觐见汉武帝时，恰好汉武帝得到了一件古铜器。李少君只看了一眼，便说：“齐桓公十年时，这件铜器陈列在柏寝台。”后来查验铜器上的铭文，果真是齐桓公时的器物。汉武帝惊得目瞪口呆，以为李少君就是神仙，已经几百岁了。但没有多久，李少君就得病死了，事实说明他说自己能长生是假话。
汉武帝宠爱的李夫人死了，武帝常常怀念，有一个齐地人名叫少翁的说有办法让汉武帝和李夫人的魂魄会面（此事前已提及），某天晚上，他在皇宫内一间宽敞的房间里设置了两道帷帐，其中一道帷帐里还备有酒肉。他把武帝带进备有酒肉的帷帐里，然后在乐人演奏的乐曲声中，武帝开始喝酒。不一会儿，对面的帷帐突然抖动了一下，一个模模糊糊的身影出现了。仔细观看，是一个美人的身影，一举一动都很像李夫人。美人步履轻盈地走到帷帐里面的几案旁边，缓缓地坐下。武帝眼看美人近在咫尺，按捺不住了，要扯开帷帐和李夫人相会，可少翁连忙摆摆手，压低声音说：“陛下，万万不可惊动神灵……”但武帝还是拉开了帷帐，可帷帐外面，除了灯烛的光芒在摇晃，什么都没有，那美人早已不见了踪影……
今人分析，这是中国最早的皮影戏。可武帝却真以为是李夫人的魂魄降临。据说，他曾富有感情地写诗道：“是邪，非邪？立而望之，偏何姗姗其来迟……”据传他又舞动双袖，吟诵起来：“美连娟以修嫮（音互，hu，美好的意思）兮，命樔（音交，jiao，断绝的意思）绝而不长，饰新宫以延贮（等待的意思）兮，泯不归乎故乡。惨郁郁其芜秽兮，隐处幽而怀伤，释舆马于山椒兮，奄脩夜之不阳……”从这首据传是武帝吟诵的诗，可知他是一个富有感情的人，但他的感情被方士利用了，这些方士靠骗术起家，玩点小把戏，就可博得封官和赏赐。
汉武帝是公元前141年登基的，时当西汉景帝后元三年。他是汉朝的第五位皇帝。第二年，他首创年号，把这一年定为“建元元年”。“建元”这个名词作为中国帝王的第一个年号，似乎和嬴政自号“始皇”有异曲同工之妙。汉武帝刘彻和秦王政相似之处甚多，他两个都登上了人位之极，可还不满足，闹腾个没完，到死方了。在取名号方面，他们也要在历史纪录上拔个头筹。在司马迁的笔下，他们两个真像一对兄弟。
