十四至十六世紀在歐洲歷史上是從中世紀向近代過渡的時期，史稱文藝復興時期。中世紀束縛人們思想的宗教觀、神學和經院哲學逐步被摧毀，出現了復興古代科學和藝術的文化運動。在自然科學方面，如哥倫布地理上的大發現、哥白尼的日心說、伽利略在數學物理上的創造發明等革命性事件相繼發生。
　　
　　這一時期，在數學中首先發展起來的是透視法。藝術家們把描述現實世界作為繪畫的目標，研究如何把三維的現實世界繪制在二維的畫布上。他們研究繪畫的數學理論，建立了早期的數學透視法思想，這些工作成為十八世紀射影幾何的起點。其中最著名的代表人物有：意大利的達芬奇(LeonardodaVinci)、阿爾貝蒂(LeoneBattistaAlberti)、弗朗西斯卡(PierodellaFrancesca)、德國的丟勒(AlbrechtDurer)等。
　　
　　文藝復興時期更出版了一批普及的算術書，內容多是用于商業、稅收測量等方面的實用算術。印度─阿拉伯數碼的使用使算術運算日趨標準化。L·帕奇歐里(Pacioli)的《算術、幾何及比例性質之摘要》(Summadearithmetica，geometrica，proportionietproportionalita，1494)是一本內容全面的數學書；J·維德曼(Widman)的《商業速算法》(1489)中首次使用符號「+」和「-」表示加法和減法；A·里澤(Riese)于1522年出版的算術書多次再版，有廣泛的影響；斯蒂文(SimonStevin)的《論十進》(1585)系統闡述了十進分數的理論。
　　
　　代數學在文藝復興時期獲得了重要發展。最杰出的成果是意大利學者所建立的三、四次方程的解法。卡爾達諾在他的著作《大術》(Arsmagna，1545)中發表了三次方程的求根公式，但這一公式的發現實應歸功于另一學者塔爾塔利亞(Tartaglia)。四次方程的解法由卡爾達諾的學生費拉里(Ferrari)發現，在《大術》中也有記載。稍后，邦貝利(Bombelli)在他的著作中闡述了三次方程不可約的情形，并使用了虛數，還改進了當時流行的代數符號。
　　
　　符號代數學的最終確立是由16世紀最著名的法國數學家韋達(Viete)完成的。他在前人工作的基礎上，于1591年出版了名著《分析方法入門》(Inartemanalyticamisagoge)，對代數學加以系統的整理，并第一次自覺地使用字母來表示未知數和已知數，使代數學的形式更抽象，應用更廣泛。韋達在他的另一部著作《論方程的識別與訂正》(Deaequationumrecognitioneetemendatione，1615)中，改進了三、四次方程的解法，還對n=2、3的情形，建立了方程根與系數之間的關系，現代稱之為韋達定理。
　　
　　在文藝復興時期，三角學也獲得了較大的發展。德國數學家雷格蒙塔努斯(Regiomontanus)的《論各種三角形》(Detriangulisomnimodis)是歐洲第一部獨立于天文學的三角學著作。書中對平面三角和球面三角進行了系統的闡述，還有很精密的三角函數表。哥白尼的學生雷蒂庫斯(GeorgeJoachimRhaeticus)
　　
　　文藝復興時期在文學、繪畫、建筑、天文學各領域都取得了巨大的成就。數學方面則主要是在中世紀大翻譯運動的基礎上，吸收希臘和阿拉伯的數學成果，從而建立了數學與科學技術的密切聯系，為下兩個世紀數學的大發展作了準備。