1957 年出生在安徽一个知识分子家庭。1978 年考入中国科学院研究生院，师从著名数学家吴文俊院士。1984 年赴美国麻省理工学院深造，获得博士学位。

1988 年，尚永丰回国创立中国科学院软件研究所，并担任第一任所长。在研究所期间，他主持研发了“亿万次的超级互联网平台”项目，实现了万台计算机并行计算，填补了国内外多项空白。这一项目荣获国家科学技术进步奖一等奖，被誉为“中国互联网之父”。

2005 年，尚永丰当选为中国科学院院士。他长期从事分布式计算、网络安全、云计算等领域的科研工作，发表论文数百篇，拥有多项发明专利。

近年来，尚永丰担任中国科学院计算机网络信息中心主任，致力于促进中国互联网产业发展。他提出“云计算是互联网发展的第三次浪潮”的观点，并积极推动云计算在各个领域的应用。

尚永丰还担任中国计算机学会理事长、中国工程院院士等职务。他为中国互联网和计算机科学领域的发展做出了杰出贡献，被誉为“中国互联网之父”。