青云中學創辦于1957年，其前身為民辦青云中學，由閘北區第12屆人代會第12代表小組、黃浦區五金機械工會和閘北區工商聯聯合籌建，工商界人士盧子如、戴秉彝和愛國華僑沈瑛等捐款成立。1958年民辦南山中學并入；1961年至1962年學校曾更名為閘北區財貿中學；1979年實踐中學并入，轉為公辦學校； 1985年上海市第六十中學初中部并入，學校定位為初級中學；2008年上海市第十七中學并入，學校遷址止園路389號。 

從1985年開始，學校以外語教學為龍頭實施教學改革，先后成為上海市第一、第二期課改實驗校，形成外語、科技和德育等教育教學特色。外語教學注重學生能力培養，并率先在全市提出“學以致用”的教改理念，形成了“課堂教學、活動教學，環境教學”一體化教學體系及“多信息、高密度、快節奏、勤反饋”的課堂教學特色，教學質量在市、區名列前茅。英語教改中，涌現了童美芳、蔣青等諸多優秀教師，外語組先后被評為“上海市勞模集體“、”上海市巾幗文明崗“等榮譽稱號，2011年被授予“全國中小學外語教研工作示范學校“稱號。

德育工作以行為規范養成教育為抓手，以班、隊活動為載體，用“時尚演繹傳統“的方式進行生動活潑的愛國主義教育和生命教育，培養學生良好的情操和創新思維。學校先后被評為“上海市德育工作先進集體”、“上海市首批行為規范示范校”等榮譽稱號，涌現出全國紅旗大隊、紅旗中隊等多個先進集體，學校大隊部被命名為“上海市首批少先隊工作示范校”。 

作為上海市課改基地校，學校教研氣氛濃厚，學校為每名教師的專業發展提供良好的平臺，形成新教師→合格教師→特長教師→學科名師的不斷遞進的教師培養目標。近年來，涌現出全國模范教師、全國十佳輔導員、上海市首屆師德標兵、上海市特級教師、上海市十佳班主任、上海市優秀雙語教師、全國外語園丁獎獲得者等諸多優秀教師。多門學科教師在市、區乃至全國教學評比中屢創佳績。

學校現為上海市素質教育實驗基地校、上海市一期二期基地校、上海市外語教學研究基地、上海市雙語教學實驗學校、全國外國語實驗學校、中國創造教育實驗基地等，連續14年被評為上海市文明單位。