呂範年輕時隻是一名汝南郡的縣吏，但是儀表過人。城裏有劉姓人家，家境富裕而且女兒非常美麗，呂範前往求親，劉氏的母親嫌棄呂範，不願意答應婚事，但是劉氏卻說：“您認爲呂子衡會是個長久貧困的人嗎？”其意是指，呂範的“容觀姿貌”乃是貴人之相，于是決定下嫁于他
後來，呂範避難至壽春，結識了當時在袁術手下效力的孫策，孫策認爲呂範與衆不同，以禮相待。于是呂範将自己的百餘名門客交由孫策指令，自此跟從孫策。當時孫策的母親吳夫人身處江都，孫策派遣呂範迎吳夫人回曲阿，讓母親暫栖于舅氏吳景之處。徐州牧陶謙認定呂範是袁術一方的内應，下令各縣通緝呂範。呂範知情後，親自招募能手，引領門人偷偷将吳夫人接走，再迅即回到孫策之處，成功完成使命。
當時孫策還未建立功業，手下就隻有呂範和族人孫河經常跟随左右，二人常爲孫策四處奔走，不避危難。渡江取夫人，就是其中一例。正因如此親密的關系，孫策亦視呂範爲至親，每每請其赴宴，便與吳夫人一起飲食，并不緊執君臣之禮。
呂範之後跟随孫策攻破廬江郡，随軍東渡長江，向江東地區進軍。呂範率軍在橫江、當利一帶擊敗揚州刺史劉繇的部将張英、于麋等人，南下攻陷至丹楊、湖孰，受領湖孰相。孫策攻克秣陵、曲阿後，收編了原下邳國相笮融及劉繇餘部，增派給呂範兵士二千及馬五十匹。此後，呂範出任宛陵縣令，擊敗丹陽賊寇。回到吳郡後，升任都督。
其時下邳陳瑀自号吳郡太守，據地自守，屯于海西，并與當地豪強嚴白虎勾結。于是孫策親自帶兵征讨嚴白虎，另遣呂範與徐逸攻打陳瑀，呂範軍隊大敗敵軍，并且斬下大将陳牧的首級，陳瑀敗投袁紹。此後呂範跟随孫策攻打在陵陽的祖郎、駐守勇裏的太史慈，先後平定七個縣，拜爲征虜中郎将，又出征江夏郡。回軍後，平定了鄱陽地區。
後來，魏将曹休、張遼、臧霸率軍進攻東吳，呂範率領徐盛、全琮、孫韶等将領，以水軍在洞口縣一帶拒敵。其時呂範受封前将軍、假節，并改封南昌侯。可是當時前線遭逢大風，呂範等所部水軍在當天夜裏漂到了長江北岸，遭到張遼、王淩等人的攻擊。呂範所部的船隻相繼傾覆，士卒紛紛臨陣戰死、堕水受溺，死者數以千計。呂範無奈，隻得撤軍還守。回師之後，呂範仍被任命爲揚州牧。
建安五年（200年），孫策病逝，呂範回到吳郡奔喪。此後孫策的弟弟孫權接掌東吳勢力，繼承軍隊，再征江夏，呂範奉命與重臣張昭留守根據地吳郡。
在建安十三年（208年）的赤壁之戰中，呂範跟随周瑜破敵有功，戰後官拜裨将軍，領彭澤郡太守，受彭澤、柴桑、曆陽三地奉邑。
之後，劉備親自來到建業，與孫氏結爲姻親，呂範曾建議軟禁劉備，然而其計最終沒有實行。此後，呂範遷任平南将軍，屯軍于柴桑。
建安二十四年（219年），當孫權正要背盟偷襲劉備駐守荊州的大将關羽前，曾到過呂範的家跟他說：“如果當初聽從你的建議，今天就不必勞師動衆了。如今我将逆流攻讨關羽，你要幫我守衛好建業。”結果孫權成功讨破關羽，之後回師，遷都武昌。呂範拜爲建威将軍，封宛陵侯，領丹楊太守，治理舊都建業，并監督扶州以南直至南海地區一帶的軍隊，食邑溧陽、懷安、甯國。
呂範好威儀，諸士族子弟如陸遜、全琮等人，都對他恭敬有禮，不敢有輕佻的行爲。呂範的居所及身上的服飾，在當時很奢侈，但他勤勞做事奉守法度，所以孫權喜愛他的忠勤，并不責怪其揮霍。
有人在孫權面前離間說呂範與大将賀齊的裝飾美好绮麗，與王者之服相似，孫權說：“當年管仲有越過禮儀的過錯，而齊桓公寬容的對待，無損于霸業。如今子衡、公苗（賀齊字），并沒有夷吾（管仲名）的過失，隻是裝備的器械精良，舟車隊列嚴整罷了，這隻是用作改變軍容，對統治有什麽損害呢？”那個人于是不敢再說了。
黃武七年（228年），呂範被孫權授爲大司馬。印绶尚未下發，呂範便已經因病逝世。孫權聞訊後，爲其素服舉哀，并遣使者追贈大司馬印绶。
黃龍元年（229年），孫權還都建業，途徑呂範墳墓，仍忍不住悲呼：“子衡！”并爲之淚流不止。回都之後，更下令以太牢之禮（古時天子祭祀社稷天地所用的大禮）祭祀呂範。
呂範死後，由次子呂據（其長子早逝）襲爵。
呂據曾經多次征讨山越，各處深險僻峻之地，隻要他去攻打都能取勝。黃龍三年（231年），呂據跟随太常潘濬讨伐五谿（古代少數民族），再次立有戰功。赤烏四年（241年），車騎将軍朱然進攻樊城，呂據與朱異攻破樊城的外圍，回師後被任命爲偏将軍，入朝補任馬閑右部督，升任越騎校尉。
太元元年（251年），因大風使長江水漲泛濫，漸漸淹到城門，孫權派人觀察水情，隻見惟有呂據派人備置大船防備魏國進犯。孫權對他進行嘉獎，任命他爲蕩魏将軍。
孫權重病卧床時，任命呂據爲太子右部督。太元二年（252年），孫權去世，太子孫亮即位，任命呂據爲右将軍。建興元年（252年），魏國出兵攻打東興，呂據率軍奔赴東興抗擊魏軍，再立戰功。建興二年（253年），孫峻殺死諸葛恪，升任呂據爲骠騎将軍，兼管西宮事務。五鳳二年（255年），呂據爲假節，與孫峻等進攻魏國的壽春，回軍途中遭遇魏将曹珍，在高亭将其擊敗。
太平元年（256年），呂據率軍攻打魏國，還未到淮河，就聽說孫峻已死，孫峻的堂弟孫綝接替其職位，專擅朝政，呂據大怒，立刻率軍返回，意圖廢除孫綝。孫綝得到消息後，派中書捧着皇帝诏書，命令文欽、劉纂、唐咨等人攻取呂據，又派堂兄孫憲率領“都下兵”在江都迎擊呂據。呂據手下的人勸他投降魏國，呂據說：“我恥爲叛臣。”于是自殺。孫綝誅滅了他的三族。
吳景帝孫休即位，呂據等人得到平反，并被加以改葬和祭奠。