国际米兰成立于1908年3月9日。当时，“米兰板球与足球俱乐部”（现AC米兰俱乐部的前身）内的意大利及瑞士球员对球队过分英国化和一些势利行为极其不满，愤然离队并自行组建了国际米兰足球俱乐部。两年后，国际米兰即获得俱乐部历史上首个甲级联赛冠军。
1928年，执政意大利的法西斯势力强迫国际米兰更名为"A.S. Ambrosiana"。1940年，国际米兰的旗帜，也是意大利第一位世界级球星朱塞佩.梅阿查在法西斯的强迫下转会AC米兰。直到1945年二战结束，国际米兰才得以改回自己原来的名字，并迎回梅阿查。
20世纪60年代被称作“大国际米兰”（La Grande Inter）时代，其间国际米兰于1964年在奥地利的维也纳以3-1击败皇家马德里，首次获得欧洲俱乐部冠军杯，并于第二年成功卫冕。在整个60年代，国际米兰共获得三次意甲冠军、两次欧洲冠军杯冠军、两次洲际杯冠军。这个时代与两个名字紧紧联系在一起：主席：安杰洛.莫拉蒂，主教练：赫拉尼奥·赫雷拉。
1978年6月11日，国际米兰在夺取意大利杯冠军后访问中国，成为第一支访问中国大陆的职业球队，并和中国足球建立了深刻的联系。1999年，国际米兰青岛足球学校成立，这是中国唯一与世界著名足球俱乐部直接合作建立的足球学校，也是国际米兰在世界范围内所建足球学校中规模最大 、训练条件最好的一所。
1988-1989赛季，国际米兰26胜6平2负积分58分夺冠，这是意大利甲级联赛两分制时代的纪录。
从1989年开始，国际米兰陷入低谷，十五间年与国内赛事冠军无缘。这段黑暗的时期仅三次获得欧洲联盟杯（1991年、1994年和1998年）略可安慰。
2004年，吉亚辛托.法切蒂就任俱乐部主席，罗伯托.曼奇尼出任主教练，国际米兰开始复苏。在曼奇尼执教的四年里，国际米兰夺得三次意甲冠军，两次意大利杯冠军，两次意大利超级杯冠军。
2006-07赛季，国际米兰创下了十七场连胜的意甲联赛连胜纪录，这也是欧洲顶级联赛范围内的连胜纪录。
2009-10赛季，国际米兰在主教练何塞.穆里尼奥的带领下，三线并进。在国内赛场上，承受住了罗马的强势挑战，先后夺得意大利杯与意甲联赛冠军。2010年5月22日，欧冠决赛，凭借迭戈.米利托的两粒进球，国际米兰完胜拜仁慕尼黑，捧起阔别45年之久的欧洲冠军杯，成就了三冠王伟业！这是意大利第一个三冠王