牛顿知道，在任何镜面上的反射不会产生彩色条纹，于是他决定不搞折射望远镜，而根据反射原理制造一架反射望远镜。实际上，牛顿并不是产生这个想法的第一个人。在几年以前，苏格兰人格里高利就装置过制造反射望远镜，但他没有亲自动手制做，而且他也不知道这种反射望远镜的主要优点——没有彩色条纹干扰。
在自己的寓所里，牛顿动手为他的反射望远镜琢磨一个金属的凹面镜。经过许多天的努力，他才磨成了理想中的如调羹那样向内凹的曲面镜。制造这个镜面的材料是牛顿自己用铜、锡和砷混炼而成的合金。他热情地工作着，但最后制成的第一台反射望远镜尺寸却很小，只有6英寸长，镜口的直径只有1英寸，然而它却能放大物像40倍，它的放大能力可与一架6英尺长的折射望远镜相媲美。
牛顿在制造反射望远镜时遇到了一个新问题，那就是目镜的位置应该在何处。格里高利曾建议用两块面对面的凹面镜组装成反射望远镜。这样，从被观测物发出的光线就会由第一块凹镜反射到另一块凹面镜前的焦点上。但除非观测者的头伸进望远镜的镜筒内，否则是无法看到物体的影像的。按格里高利的意见，可使第二块镜子再次反射光线，并在第一块凹镜上开一个洞，使被反射的光线通过此洞到达焦点上。将目镜安置于此，观测者便能看到影像了。
牛顿认为，这种设想既笨拙而又难于制造，所以他想出了另一个办法：在镜筒旁边钻一个洞，并在镜筒内焦聚处装一个平面镜，使它的位置与入射光线成45度角，从而把影像反射出来。于是观测者就能在镜旁光线射出处的目镜去作观测，牛顿是使用这种装置的第一个人。
牛顿制造的反射望远镜虽然还比较粗糙，然而设计思想却是崭新的。在制成望远镜的当天夜晚——一个没有月亮的晴朗夜晚，牛顿就用它去观测天象，结果使他无比激动：他在小小的目镜里看见了耀眼的木星与它的四颗卫星。经过多次观测，他更看见了金星的盈亏现象。尤其令他高兴的是，所有的影像都是清晰明亮的，一点没有受到彩色条纹的干扰。
这台反射望远镜是牛顿在1668年制造成功的。后来在1671年，他又造了一台。反射望远镜的发明，使牛顿开始闻名全欧洲。英国皇家学会也于1672年1月选举牛顿为该会会员。此时，牛顿还不满30岁，就已成了知名人士；然而，这在他科学研究的漫长旅程里，仅仅是个开始。
一个月后，牛顿将自己的第一篇正式科学论文《关于光和色的新理论》，提交给皇家学会讨论审查。这篇论文总结了他以往在光学方面的实验和理论，突出了他所发现的光谱现象。这对以后的科学领域产生了巨大的影响，对于物理学、天文学、化学的发展起到了积极地推动作用。正是因为牛顿在光谱学上的开拓性工作，为从19世纪后期到现代的原子物理学家认识物质的结构奠定了坚实的基础。
牛顿不仅制造了反射望远镜，而且改进了显微镜，并且提出运用单色光进行观测，这种技术已经被广泛运用到现代的实验室中。
牛顿还对薄膜的透明物质上的颜色（如云母片或肥皂泡上的颜色）作了极为重要的理论研究。他把略微弯曲的凸透镜放在平玻璃板上，发现以这两块玻璃的接触点为圆心的多重同心圆的色圈出现在眼前。这种现象科学上称之为“牛顿环”，它对现代实验室的研究工作仍有着重要的意义。而牛顿用来计算这些光环的方法，至今仍然为科学家们所沿用。
这类现象促使了牛顿对光的本质进行了深入的研究。他提出了光的本质是微粒的见解。关于光的本质是什么这个问题，在牛顿之前，笛卡尔也主张微粒说（但也只是提出了假说，并非以实验为根据），而与牛顿同时代的英国科学家胡克，以及荷兰科学家惠更斯则主张波动说。“微粒说”与“波动说”长时间争论不休。以后的物理学家们又提出了更为完善的“电磁说”与“量子说”。以现代科学的眼光来评价，微粒说确实不很完善；但与现代用量子论解释光的本质，也有着相似之处——都认为光的结构基本上是原子的。同时，牛顿也从来没有自认自己的“微粒说”就是完全正确的，他始终认为，由于实验做得还不够充分，所以自己只不过是对光的本质提出了一些问题，他说过：“我将留给那些认为值得努力去进一步探求的人们自己去思考。”
1704年，牛顿把自己研究了30多年的光学写成了一本关于光学的巨著《光学或光的反射、折射、弯曲与颜色的论述》。这本书共分三章。第一章，首先列举“公理”与“定义”，然后讨论了一般的折射与反射，太阳光谱与反射望远镜；第二章，研究了薄膜的颜色，自然界里物体的颜色，光的性质；第三章，介绍了衍射现象，论述了晶体内的双折射，解答了一些一般的自然科学常识问题。
在这本书中，牛顿不仅总结了自己的研究体会，而且讨论到偏振光、电现象等远远超出他所处时代的科学现象；他已经预见到了未来世纪的科学家们以电力解释原子作用的正确途径。所以，一位著名的英国学者说过：“单凭他在光学上的成就，牛顿就已经可以成为科学上的头等人物。”
（六）深入研究万有引力
1677年，牛顿的导师和最真挚的朋友——巴罗去世了，这给牛顿带来了巨大的悲痛。
不久，牛顿在继续进行光学研究的同时，又开始进一步研究物体间引力和行星运动规律的问题。1679年，他和当时皇家学会的秘书胡克进行了这方面的讨论。牛顿曾向胡克提出了一个问题请他共同思考：如何证明地球是绕自己的轴进行着不停地自转？这个问题不一般的地方在于以前从没有人提供过地球活动的直接证据——人们只是通过观察太阳与星星位置的变动来提出间接的证据。
牛顿当然知道，当地球自转时，所有的东西都和它一起转——人、房屋、树木、海洋等等。但是如何才能把这种认识与地面上的静止状态统一起来呢？比方说向空中抛起一个球，如果它的运动方向垂直于地面，那么被抛起的球会重新落到抛物者的手中吗？如果谁垂直向上跳起，会落在原地吗？答案都是肯定的——球落在抛出者手中，跳跃者落回起跳地。之所以这样，是因为有地球吸引力的缘故。由于地面上的万物同在一个体系里运转，因而它们好像是不动的。
但是，对于距离地面相当高的地方，即距地心相当远的物体，情况又会怎样呢？牛顿设想，在一根垂直向上延伸好几公里高的旗杆，在杆顶放一块石头，那么经过一段时间后，这块石头所经过的圆弧肯定大于在杆下的人所经过的圆弧。所以说，旗杆上的石头运动速度要比地面上人的运动速度快。这与车轮在转动时，轮面上各点比车轴中心各点转得快是同样的道理。
仍将牛顿这样的理解用于这根旗杆上去，假定那块石头从旗杆顶端下落至地面，那它会落在什么地方呢？可以肯定，它将不会落在旗杆的底部。牛顿认为，它“不会垂直地下落……而要超出一部分地面，会朝东一点，它的下落线应呈螺旋形状……”在给胡克的信中，牛顿对于他认为之所以会出现这种情况解释道：石头在下落之前，它的圆周速度要比直接在它底下的物体要快；因为已知地球是自西向东转动的，那么，这块石头的落地点将在旗杆与地球中心连接线以东的某一点上。
胡克收到牛顿的信后，对这个实验马上着了迷。他在皇家学会的例会上，宣读了牛顿的这封信。会员们马上委托胡克亲自做这个实验。做实验时，胡克仔细地研究了这个问题，得到的结论是认为牛顿并不完全对。胡克的解释是：假如在赤道上做这样的实验，那牛顿的推理将是正确的；但如果在北半球的一点之上，譬如说在伦敦，那实际情况又应是怎样呢？在这种情况下，石头的落地点不但向东偏，而且还会南偏。也就是应坠落在旗杆的东南方向某一点。胡克还认为，石头的下坠线不是如牛顿所说的是螺旋形，而是呈椭圆上一段弧的形状下落。
虽然牛顿在信中已和胡克说好，如果他们中间对问题的思考有不同意见，也将保留在两个范围中间，不对外公开。但胡克却不想放弃这次胜过牛顿的好机会。在学会的下一次例会上，胡克便向会员指出了牛顿在理解上的错误。经过实验证明，胡克所说的落体下落方向是偏向东南的，下落线呈椭圆弧状。
牛顿当然不满胡克的违约，同时也对自己在思考问题时的不周全感到懊悔。在自己的回忆录中，牛顿提到了这件事，“由于胡克改正了我提出的螺旋线的错误，使我在以后的研究里特别注意椭圆轨道；更重要的是，他对我的这次教训，把我从别的研究里拖了出来，再次注意引力与行星运行轨道的研究。”
是的，胡克得到了暂时的胜利。但这件事却引起牛顿作出了一系列独立的、新的思考。
经过不懈地努力，并参考最新的研究成果。1682年，牛顿根据自己总结的万有引力定律进行仔细地推算后，找到了行星围绕太阳运动轨道的方程式。这个方程式表明，行星的轨道应该是椭圆，这一理论上的证明正与70年前开普勒的实际观测结果相符合。如果将这一方程式公诸于世，那马上会轰动整个科学界；然而，在找到问题的答案之后，牛顿还是按自己的老习惯，把这些能震动世界的笔记塞进抽屉里；他既没有通知皇家学会，也没有对别人谈起。随即，他又把精力转到了其它研究之上，把这件事给忘了。
可是，当时还有其他三个人也正在努力，希望解决这个问题。这三个人是——著名的建筑师、数学家雷恩爵士；天文学家兼物理学家哈雷（就是他后来推算出哈雷彗星的轨道和周期）；还有胡克。在这时，哈雷和胡克已经在实际研究中认识到了“引力按距离的平方或反比”这一规律；哈雷此时想知道，在这种引力的作用下，行星应该在什么样的轨道上运动的问题。于是他就请来了和自己在同一城市的雷恩与胡克，与他们一起讨论这个问题。
雷恩虽然也有敏锐的数学头脑，但他承认自己的能力还不足以解答这个问题，只能作一些初步的研究。但求胜心极强的胡克却抱着骑墙的态度说，天体运动的规律这一问题他早就进行过深入地探索，并已经做了理论上的研究和论证。但是他并不想马上发表，还想做进一步的研究，等别人没有解决时他再宣布，从而使别人明白他研究的价值。
冬去春来，春去夏来，半年多过去了，但胡克仍然没有兑现他的夸口。到了1694年8月，哈雷无法再等下去了，他决定去找英国另一位有能力解答此问题的人——伊萨克·牛顿。此时的牛顿，早已是剑桥大学的教授并誉满英国科学界了。于是，哈雷从伦敦赶赴剑桥，开门见山地向牛顿问道：“牛顿先生，当一颗行星受到与距离平方或反比递减的引力吸引，那它的运行轨道应该是什么样的呢？”牛顿毫不迟疑地回答：“椭圆。”哈雷接着问道：“那您是如何得知的呢？”“因为我已经计算过了。”牛顿又回答道。
哈雷听后，愣住了，随即他请求牛顿立刻把计算稿给他看。当然，哈雷想要的计算稿就是那些已被牛顿搁在一边的笔记，但牛顿早已经记不清到底放在哪里了。在找了半天还没找到后，牛顿向这位年轻的来访者表示了歉意，尽管哈雷比自己小14岁，名声也不如自己；他还表示将把论证重新计算一遍，随后寄给在伦敦的哈雷。三个月后，牛顿履行了自己的诺言，把他重新计算出来的结果寄到了哈雷手中。哈雷进行了详细研读之后，被牛顿的才能所彻底征服了，他认为这是天才的杰作。为了科学的发展，他非常希望牛顿能将这项成果以及其他的研究成果公布于世。
不久，当哈雷再度前往剑桥拜会牛顿时，使他更加惊奇的是，牛顿竟取出了厚厚的一叠手稿，题目是《物体运动论》。哈雷边浏览边称赞。这里面不但详细地解说并论证了行星运动的轨道是椭圆形的，同时还将这些论据推广到太阳系中的其他天体。而且行星运动轨道问题的解决，恰恰证明了牛顿创立的万有引力定律的正确性。比如地球围绕太阳转时，它的运动可以描绘成具有一个焦点的椭圆轨迹，而这个焦点正是位于引力的中心——太阳中心。
