张晋与蔡少芬相识于微时，一个刚从武行转做演员，一个来内地拍雷剧。让两人结缘的是2003年的电视剧《水月洞天》，确定关系是在《灵镜传奇》....
“第一次我紧张得没敢说出口，发了短信给她，但被无情地拒绝了。好在之后她还和我保持朋友关系，也会经常打电话约吃饭。第二次我看到她和其他男性关系好而吃醋，对她说话大声，她很生气，但我也借此再次向她表明心意。第三次是蔡少芬看到我照顾朋友的女友而吃醋，这说明她终于开始在意我，于是我抓紧机会，顺利让她成为我的女友。”
其实当时在《水月洞天》剧组里，除了张晋蔡少芬这对外，另一位主演杨俊毅也在跟陈法蓉谈恋爱，只不过前一对07年底公布婚讯，后一对却黯然分手。这是题外话了。
实际上，张晋和蔡少芬的感情也并非一帆风顺。张晋曾忆起有次蔡少芬在新疆拍剧，她很想张晋前往探班，但他最终也没有去，“那时我的工作不太顺利，心情很差；其次，没有工作即是没有收入，所以根本连买机票钱都没有。”
但两人还是坚持携手走了四年，并最终步入婚姻殿堂。当时蔡少芬给媒体亲笔写了封公开信，把男友张晋夸上了天：
“你们一定好想知谁是我老公吧！他与我相知相交四年半，他英俊有型，他是极品……他叫“张晋！你们又一定好想知我喜欢他什么吧！我爱他文武双全、对天主全心全意、对朋友忠诚、“对工作认真……”
而外界对这段恋情却并不看好，当时港媒写“蔡少芬倒贴豪宅嫁穷苦武师”“张晋是吃软饭的、借蔡少芬上位”。甚至有媒体去采访张晋远在重庆江北的父母，气得二老不惜暴露家中房产为儿子平反。还有媒体因张晋父亲说周润发拍《卧虎藏龙》时曾拜张晋为师，而去询问发哥是否属实。好在发哥不仅承认，还激赞张晋：“当年觉得他功夫底子好，所以我主动叫他教我。这个年轻人很勤力很乖，很有上进心，我很喜欢他。听到他和蔡少芬结婚，很替他们开心，希望他们有美满幸福生活，白头到老。”
如今回忆婚后定居香港那几年所受的非议，张晋坦言心里的确会不好受，很不知所措，“毕竟自己不是那样的人嘛，他们觉得一无是处，什么难听的话都有。如果我真是一个好吃懒做，借蔡少芬炒作的人，说就说呗。但是我不是，会觉得有点委屈。”
但他更心疼蔡少芬，“在你们看来，可能我很难，但她面对这样的我的时候她不难吗？有时候我都觉得没什么，我都已经接受了那种很难听的话，她还是很愤怒。我受再多苦没事儿，但让她受苦，我就会心疼。到后来被说的太多，我俩都坦然接受这个现实，觉得图拍得还可以就行，文字都不看。有时候她还跟香港媒体开玩笑，‘哎，你们哪一家的，我不管你们怎么写，拍帅一点啊。回答什么？回答了有用吗？你们都乱写的。’”
谁能想到，不到七年，这个“穷武师”就拿到了金像奖。
而这个契机就是《一代宗师》。据说“马三”的角色最早曾考虑过安志杰。但最终王家卫选中了袁和平推荐来的张晋。
这是连张晋自己都没想到的，“没有人觉得我能演马三那样的角色，所以造型刚出来时，我自己都吓一跳，以前许多导演对我说：‘你就是一张娃娃脸，适合演别人弟弟’。王家卫看到了我身上不一样的地方。”
不得不感叹王家卫眼神之毒。如今想来，从刚入行时的懵懂，到多年不得志，再到与比自己名气大的女人结婚生子饱受外界非议，张晋或许是咬着后槽牙，一步步走到现在的。这些生活经历，多少与电影里马三的境遇暗合，虽然《一代宗师》里更多表现的是马三背叛师门的结果，但想来他也只是个一心学武想成就大名大业的人。这就像当年诈捐门后名气一落千丈的章子怡，也在隐忍，憋着口气演宫二。只是王家卫导演把这种内心的磨难都通过电影呈现了出来。
张晋从小学武，他是重庆人，家里还有个哥哥，也是很小就被父母送到武校，张晋说那时父母觉得小孩子学武虽苦，但如果进入省队，就有城市户口，是个不错的出路。可张晋的想法不止于此。他想当演员，想成为武打明星。
1998年，张晋的一个师兄在演艺圈做武术指导，让张晋跟他一起出来拍戏。于是在武术队待了快20年的张晋放弃了可以留下当教练的机会，开始追梦。