商朝(前16世纪-前11世纪)的开国君主汤曾经短期定都在安徽北部的亳州，当时安徽大部份居民并非华夏族，而是后来融入汉族的东夷。
战国末期，前278年，楚国的郢都（今湖北荆州）被秦国攻占，于是迁都寿春(今安徽寿县)。前224年，楚国大将项燕被秦国的王翦60万大军击败，前223年，寿春陷落，楚国灭亡。前221年，秦国完成征服六国、统一天下的计划。安徽大部分地区属于九江郡（寿县），北端属于泗水郡和砀郡。秦末楚汉相争，项羽在今安徽固镇县的垓下之战中败给刘邦，自刎于乌江（安徽和县）。刘邦建立汉朝。
汉武帝时东瓯国举国迁到庐江郡（今庐江、舒城一带）。汉朝末年，寿春成为军阀袁术的基地。袁术后来自称皇帝，但不久病死，寿春归属军阀曹操（亳州人，三国中魏国的实际开创者）。
五胡十六国期间，从4世纪开始的几百年间，几支北方游牧民族在中国北方相继建立政权，南方则一直保持着汉人的王朝。安徽北部成为南北方对峙的前线，战火不断。383年在北方的前秦和南方的东晋之间展开的淝水之战就是其中比较重要的一次战役。
隋朝(581年~618年)统一了中原。经过短暂的混战，唐朝(618年~907年)建立政权，并保持了一个多世纪的和平和统一。安史之乱中，安徽北部淮河地区遭受战火蹂躏。唐末875年王仙芝、黄巢起义，从河南经安徽和县渡长江入皖南，到福建、广东，后经安徽攻长安，天下大乱，藩镇割据，不久唐朝灭亡。
北宋后期，北方的金朝崛起。1127年以后，安徽北部的淮河再次成为南北对峙的前沿：北方的金和南方的南宋。1161年金朝海陵王完颜亮出兵伐宋，在今安徽马鞍山采石大战失败。1234年，金亡于蒙古帝国。1276年，蒙古人攻占南宋京城杭州。安徽全境归元朝。
1368年，洪武皇帝（朱元璋）在南京建立明朝，把蒙古人赶到塞外。明朝时期称直接隶属于首都（京师）的地区为直隶。明朝洪武初年建都南京应天府，以应天府、苏州府、凤阳府等14个府级单位（注：明朝时期的直隶州与府平级，有别于低一级的散州）为直隶，相当于今江苏、安徽、上海两省一市。明朝永乐初年迁都顺天府(今北京市)后，又称直隶于北京的地区为北直隶，简称北直，相当于今北京、天津两市、河北省大部和河南、山东的小部地区；直隶于南京的地区被称为南直隶，简称南直。自宣德三年（1428年）以后，全国统分为两京、13布政使司。两京是京师（即北直隶）和南京（即南直隶）。
备注：明朝有两个首都：北京和南京。朱元璋定都南京，朱棣迁都北京，但朱棣迁都时，并未取消南京的首都地位，而首都辖区为朝廷直辖，故称直隶，明朝就有两个直隶地区，分别为南直隶和北直隶。至于南京六部，那是齐备的，六部都有，是明朝政府的一个备份。这样，万一猝然变生，北京朝廷覆灭，则南京朝廷就可以马上行驶政府职能了。说南京无吏部，这是不对的。比如，大家都熟悉的王阳明的父亲王华，就曾经担任过南京吏部尚书。正在加载皖南事变1645年，满清的八旗兵攻占天京（南京），将南直隶改为江南省；1667年，又将江南省分为江苏省和安徽省。安徽省会设在安庆，驻有安徽巡抚以及安徽按察使。管理安徽民政的江南左布政使则长期寄驻江宁府（南京），直到1760年(乾隆二十五年)，也一并迁来安庆。至此，安徽省界基本稳定下来。
晚清时期，太平天国定都南京，安徽南部是其主要粮食和军事基地，在曾国藩的湘军和陈玉成的太平军惨烈的反复拉锯战过程中，安徽南部的绝大部分人口死亡，经济文化遭到毁灭性的打击，今天当地人口主要是战后从河南、湖北迁来，文化习俗改变很大，并从此退出富裕地区的行列。
中华民国成立之后，1912年津浦铁路通车，蚌埠兴起。1926年国民革命军北伐占领安徽。1937年全面抗战爆发。安徽成了日本人、汪精卫政权、****和中国共产党的新四军势力交错的地方。1940年在安徽发生国共冲突的皖南事变。抗战期间，省会一度迁到立煌县，即今天的金寨县。1946年日本投降后，民国政府把安徽省会从安庆迁往合肥。1948年到1949年，安徽是国共内战期间淮海战役的主战场。
1949年中华人民共和国成立后，安徽一度以长江为界分为皖北和皖南2个行政公署（省级），1952年合并。省界有小幅的调整：徽州的婺源县划归江西，盱眙县和泗洪县划归江苏，作为交换，江苏徐州的萧县和砀山县划给了安徽。
在1959－1961年的三年困难时期，安徽省的非正常死亡人口达到500~600万人，[3]占灾前人口3446万人的18。37%，其比例居中国各省的第一位。当时的省委书记曾希圣因此被调职。
1978年，中国开始改革开放，安徽的农村和城市改革也逐步开始。在农村流通体制改革进行，农村市场逐步放开；农村产业结构得到调整，“科技兴农”方针被提出，乡镇企业也得到迅速发展。在城市，经济体制改革兴起。
1978年11月24日，安徽凤阳小岗村农民秘密将土地公开，创造性地实行分田包产到户、自负盈亏，使得农民有了生产自主权，生产积极性大大提高。结果是，1979年粮食比上年增长6倍，相当于1966年到1970年的5年粮食总和，农业获得大丰收。与此同时，安徽省肥西县、来安县也开始试验包产到户。
1980年，全省开始推行企业经营责任制，并改革工资制度和奖金制度，以按劳分配为主，企业“吃大锅饭”的状况得到初步改善。
1982年1月，****中央总结经验，发出了《全国农村工作会议纪要》，肯定了安徽的做法，家庭联产承包责任制在全国迅速推开。安徽农民为中国的改革开放作出了历史性贡献。
****十四大提出建立社会主义市场经济体制后，安徽经济开始迅速发展，人民生活水平逐年提高。
