中國科技大學于1958年建校時就設置了計算機專業，老一輩計算機科學家夏培肅先生等親自執教，創辦之初，與中科院計算所合作自主設計并研制成功了我國第1臺通用計算機--107機并于1960年安裝于中國科大、1975年研制成功小型機KD-3，1983年與中科院計算所聯合研制成功了功能分布式陣列處理機系統GF10系列，1983年研制成功了微型機KD-4和KD-5并于次年轉讓給湖北無線電二廠投入生產。1982年成立了計算機科學技術系,與中科院計算所聯合培養了國內首批博士。1990年獲得計算機軟件博士學位點；1995年成立了我國的第1個國家高性能計算中心；2000年獲計算機科學與技術一級學科博士學位授予權，并建立博士后流動站，該學科是中國科學院博士生重點培養基地；2007年我系計算機軟件與理論專業經教育部評審為國家重點學科。2009年3月計算機科學與技術學院正式成立。本著"全院辦校,所系結合"的辦校方針,我院和中國科學院計算所、軟件所、沈陽自動化所對口結合。

中國科學技術大學計算機科學與技術一級學科具有碩士、博士學位授予權，博士后流動站，本學科具有增設二級學科的自主權。目前本學科所轄的計算機軟件與理論、計算機系統結構、計算機應用技術、信息安全四個二級學科均具有碩士、博士學位授予權，其中計算機軟件與理論為國家重點學科,系統結構為省重點學科。本學科還具有軟件工程和計算機技術兩個工程碩士學位授予權。依托計算機科學與技術一級學科，我校成為教育部和國家計委批準的首批建立國家示范軟件學院的單位之一。本學科點的支撐實驗室有國家高性能計算中心（合肥）、安徽省高性能計算重點實驗室、安徽省計算與通訊軟件重點實驗室、多媒體計算與通信教育部-微軟重點實驗室、中國科大超級運算中心和信息科學實驗中心。

目前計算機科學與技術學院擁有教職工90多人，已形成了以陳國良院士為核心、由65人組成的以中青年學術骨干為主體的學術梯隊，教授23人，副教授27人，有博士學位的年輕學者43人，擁有杰出青年基金獲得者、長江學者特聘教授、新世紀人才等學術骨干，其中高性能計算的研究隊伍入選國家教育部創新團隊。在校本科生600余人，碩士生近400人，博士生150余人。