谢万年轻时才器出众,虽然器量不及谢安,但因擅长展现自我,故此颇有声誉。他在二十岁时,被征辟为司徒掾,后改授右西属,但却推辞不肯接受。 永和元年(345年),会稽王司马昱被拜为抚军大将军、录尚书六条事,因素闻谢万之名,遂任命其为从事中郎。谢万头戴白纶巾,身披鹤氅裘,足穿木屐,一副名士做派,与司马昱长谈竟日。后又出任吴兴郡太守。
升平二年(358年),豫州刺史谢奕病逝。谢万升任西中郎将、豫州刺史、假节、监司豫冀并四州诸军事,领淮南太守。王羲之认为谢万没有将帅之才,致信劝说桓温,建议不要让其外镇。桓温没有采纳。王羲之又致信谢万,劝他要与士卒同甘共苦,可惜谢万也没有听从。升平三年(359年),谢万与北中郎将郗昙兵分两路,北伐前燕。他命征虏将军刘建修治马头城池,自己率军入涡颍,打算支援洛阳。这时,郗昙因病退回彭城。谢万却以为郗昙是因前燕兵强而退,于是仓促退兵。士卒自行溃败,豫州治下许昌、颍川、谯郡、沛郡等郡县尽皆陷落。谢万单骑狼狈逃还,被废为庶人。
升平五年(361年),朝廷起复谢万为散骑常侍,但谢万恰于此时病逝,便将散骑常侍作为其赠官。谢万死时,年仅四十二岁。