上野駅公園口から左手に東京文化会館、右手に国立西洋美術館を見ながらまっすぐ噴水前広場に向かい、少し右手奥に進むと、柔らかい赤茶色のもモダニズム建築が現れる。あたたかみのある建物のアーチをくぐるように美術館の入口方面に進むと、広々とした地階の空間へと導かれる。

東京都美術館は、北九州の石炭商 佐藤慶太郎から約100万円（現在の貨幣価値にしての32億円相当）の建設資金の寄付を受け、1926年（大正15年）に日本で最初の公立美術館「東京府美術館」として生まれた。ヨーロッパの神殿を思わせる列柱を仰ぎ見る大階段を配した、建築家 岡田信一郎による開館当時の建物は、そのクラシカルな風貌と相まって、「美術の殿堂」と称された。

日本の三大美術団体展の「院展（日本美術院）」「二科展（二科会）」「文展（現在の日展）」（文部省美術展覧会）の展覧会の開催会場として利用され、さまざまな公募団体展や美術大学の卒業制作展など、政府による官展から在野の美術団体を問わず芸術家の発表の場となり、ここに作品が飾られることは、芸術家として認められたことを示す晴れ舞台となった。

現在の建物は、1975年（昭和50年）9月に竣工、建築家 ル・コルビュジエに学び、戦後日本の建築業界をリードした、モダニズム建築の旗手 前川國男によるものである。2010年（平成 22 年）から2012年（平成 24 年）にかけて、設備の全面更新に加え、ユニバーサルデザインの整備、来館者の鑑賞空間の質的向上や利用者の利便性向上などを図るために、全面改修工事を行った。

現在は、国内外の名品を楽しめる特別展や公募展、自主企画展など、多くの展覧会を開催するほか、アート・コミュニケーション事業など、「アートへの入口」としてさまざまな事業を展開。館内にカフェや２つのレストラン、ミュージアムショップ、美術情報室などを併設しており、アメニティ設備も充実している。