朱元璋见他出言不俗，当下兴趣大起，问道：“你能跟我过江打仗吗？”
常遇春昂然说：“将军指到哪里，我愿打到哪里，渡江之日，愿为先锋！”
真是壮哉！
这不是一般的人！
朱元璋就此断定常遇春不是寻常之辈，把他收留在身边。
常遇春从此弃盗为良，成为起义军的先锋。
至正十五年，公元1355年六月，常遇春投奔朱元璋不久，朱元璋即率军渡江南下，在采石矶战役中，面对着元朝水军元帅蛮子海牙的严密防守，常遇春乘一小船在激流中冒着乱箭挥戈勇进，纵身登岸，冲入敌阵，左右冲突如入无人之境。
朱元璋即挥军登岸，元军纷纷溃退，缘江堡垒纷纷归附。
朱元璋乘胜率军攻占太平。
次年三月，又攻占集庆，改为应天府。
集庆及其周围地区的占领，使朱元璋获得一块财富之区，为在江南的继续开拓和壮大奠定了基础。
而常遇春在战斗中，锋芒初露，立了头功。
朱元璋开始信任常遇春，把他从先锋的位置，升至元帅。
元至正十九年，公元1359年七月，朱元璋攻取金华后，派遣大将军常遇春进兵攻取衢州。
常遇春率领马、步、水三军到达衢州城下时，但见城垣壁垒森严，固若金汤。
常遇春当下率部在城下树栅栏，建奉天旗，从陆上、水上将衢州六座城门团团围住。
他又造吕公车、仙人桥、长木梯、懒 龙爪等攻城军械，“拥至城下，高与云齐，欲阶以登城”，他又在大西门城下“穴地道攻之”。
伯颜不花的斤面对常遇春部猛烈进攻，凭借坚固的城垣，“以束苇灌油烧吕公车，驾千斤秤钩懒龙爪，用长斧砍木梯，筑夹城防穴道”，双方交战激烈，常遇春久攻不克。
在这种情况下，常遇春以奇兵出其不意地突入，毁其所架之炮，然后，发动急攻！
元军终于支持不住，遣使密约投降。
衢州路院判张斌夜出小西门，迎常遇春大军入城。
就这样，元军甲士万人，迅速崩溃，常遇春攻下了衢州。
他在戎马倥偬之间，还吟赋《龙游道中》一诗以纪行：“策蹇龙游道，西风妒旅袍。红添秋树血，绿长旱池毛。比屋豪华歇，平原杀气高。越山青入眼，回首鬓须搔。”
字里行间，流露出英雄豪气！
字里行间，展现了他的出众文采！
常遇春攻取衢州城后，立“金斗翼元帅府”，设元帅和枢密分院判官，元朝在衢统治势力遂荡然无存。
之后，常遇春率军队进驻九华山，适逢天旱无雨，士兵饮水困难。
于是，他亲自带领将士在九华山下寻水，忽然在五溪桥南边挖出了六股泉水，解决了军队饮水的困难。
这六股泉水，后来成了六泉口，一直遗惠百姓。
常遇春埋伏在六泉口，等来了他下一个对手——陈友谅！
陈友谅攻打池州城，徐达率领守军开城出击。
而常遇春的伏兵袭击陈友谅兵马的后面，从而大破陈友谅军，斩首万余，擒捉三千，使得陈友谅败走江州。