在权欲和野心的驱使之下，最终，不甘寂寞的辅公祏，还是无法抵挡住诱惑，走上了一条起兵反唐的不归路，于武德六年（623年）八月，僭号称帝，公开与唐王朝决裂。辅公祏自立为帝，这是在向李唐王朝发出宣战的信号，表示自己要与唐王朝平起平坐，准备在江淮建立割据政权，不想再当李唐的附庸了。
显然，辅公祏此举，是典型的冥顽不灵，逆历史潮流。要知道，唐王朝的终极目标，是要一统天下，任何人都不能阻挡。况且，沈法兴、李子通相继覆灭，杜伏威入朝，江淮并入大唐版图，已是板上钉钉之事。以辅公祏一己单薄之力，怎能抵挡住大唐的百战之师，无疑是自取灭亡，不自量力。
对于辅公祏的公开叛唐之举，唐高祖李渊自然不能无动于衷，决定采用军事征讨的手段，解决江淮问题，一举灭掉辅公祏这个南方最后的宿敌。于是，唐高祖当即作出部署，迅速调遣军队。
辅公祏称帝自立的当年当月，武德六年（623年）八月二十二日，唐高祖李渊下诏，兵分四路，以赵郡王李孝恭为主帅，李靖、李世勣、黄君汉等名将辅助，共同率军，讨伐辅公祏。这样的将帅阵容，云集了李唐王朝数一数二的开国名将，除了王世充、窦建德、刘黑闼有这个“待遇”外，估计就是辅公祏了。
由此可见，这一次，唐高祖李渊是下定决心，彻底消灭辅公祏反唐势力，实现唐王朝对江淮地区有效的管理与统一，从而统一江南，饮马长江。由此可见，此番出兵，唐廷是胜券在握，相信一定能马到成功。
面对唐王朝的四路大军，辅公祏不想坐以待毙，任人宰割。当然，他比任何人都清楚，凭借自己手中的兵力，若要与唐军对抗，胜算几乎渺茫。但是，辅公祏毕竟是一位乱世枭雄，见的大场面多了，仍然想赌上一把，和唐军拼一拼。因此，辅公祏打算，先下手为强，趁着四路唐军到来之前，主动出击，抢占先机。
什么叫先下手为强呢？辅公祏的计划，在唐军主力赶来之前，自己率军四面出击，进攻被唐军控制的城池、军镇，抢占一些地盘，作为与唐军对战的根据地；即使最后战败，也可以退守割据一方。
很快，辅公祏就开始有所行动了。武德六年（623年）九月，辅公祏派遣手下将领徐绍宗、陈政通，领兵分别进攻海州、寿阳。没过多久，辅公祏麾下大将张善安，暗施毒计，杀害了唐朝黄州总管周法明。
前说过，辅公祏称帝后，为了增强自身的军事实力，积极寻找外援。就这样，辅公祏锁定了当地的一位割据豪强——张善安。于是，称帝后的辅公祏，主动与张善安连兵，并任命其为西南道大行台，二人结成了同盟。不久，这个张善安，便暗施冷箭，杀害了唐军的一位大将——黄州总管周法明。
武德六年（623年）十一月，唐朝黄州总管周法明，率军进攻辅公祏所部。面对唐军的攻击，辅公祏派遣手下大将张善安，前去抵挡唐军。于是，张善安领兵屯扎夏口，与周法明互相对峙。
当时，唐将周法明率领军队，驻兵于荆口镇，准备发起反击。思来想去，张善安想了一个阴招，打算策划一场刺杀，趁唐军不备，行刺主将周法明。很快，张善安挑选出了数名刺客，让他们乔装成渔民，乘坐小船，混入唐军舰队之中，寻找目标，进行刺杀。
那个时候，周法明正在战舰的甲板上饮酒，毫无防备，不知道张善安会搞暗杀。所以，唐军上下浑然不知。张善安派出的刺客，慢慢靠近唐军战船，突然跃上甲板。周法明猝不及防，不幸遇刺身亡，刺客却逃之夭夭：
黄州总管周法明将兵击辅公祏，张善安据夏口，拒之。法明屯荆口镇，壬午，法明登战舰饮酒，善安遣刺客数人诈乘鱼鲽而至，见者不以为虞，遂杀法明而去。 （《资治通鉴》）
然而，所谓一报还一报。张善安用卑鄙下流的手段，暗杀了唐军大将周法明。不久，相同的命运，也降临到了张善安的身上。原来，唐军安抚使李大亮，略施小计，诱降张善安，将其一举生擒，并击败其部众。唐军击败张善安部，对于辅公祏来说，是一个致命的打击，等于是折断了辅公祏的一条臂膀。
武德六年（623年）十二月，唐将李大亮率军进击洪州，攻打张善安。双方隔水列阵，可以互相喊话。这个时候，李大亮开始和张善安打起了攻心战，瓦解他的心理防线。因此，李大亮向对面的张善安传话，让他认清形势，谕以祸福。果然，攻心战起作用了，张善安的内心，开始出现动摇。
张善安也不傻，唐朝和辅公祏，谁的胳膊够粗，拳头够硬，一目了然。辅公祏和唐朝对抗，简直就是找死。张善安觉得，还是给自己留条后路吧，没有必要给辅公祏殉葬。紧接着，张善安作出回应：
善安初无反心，正为将士所误；欲降又恐不免。 （《资治通鉴》）
看到张善安作出回应，李大亮觉得目的达到了。当务之急，是要稳住张善安，让他放松警惕。于是，李大亮假意作出承诺：“张总管有降心，则与我一家耳。”只要张总管你肯归降大唐，从此以后，咱俩就是一家人。
得到了李大亮的承诺，张善安放下心来。随后，为了打消张善安的顾虑，李大亮独自单骑渡河，来到张善安的军营。见到了张善安的面后，李大亮握着他的手，嘘寒问暖，表现出一副关心的样子。
本来，对于是否投降唐军，张善安还心存顾忌，担心唐朝会秋后算账。现在，见到李大亮敢于单骑过河，与自己会面，足见唐军的“诚意”。因此，张善安十分高兴，决定向唐军投降。
不久，张善安带着数十名骑兵，与李大亮一道前往唐营。等进入大营军门的时候，李大亮让那几十名骑兵在营门外等候，自己则拉着张善安进入营帐，一张天罗地网，正向张善安撒来。
入营后，李大亮开始和张善安聊天，闲话家常，表现得非常随意。但是，时间一久，张善安发现有些不太对劲了。虽然，李大亮表面上在和自己攀谈，却只字未提受降事宜。张善安越发感觉情况不妙，便想离开唐军大营。于是，张善安站起身来，准备告辞离去。可是，为时已晚。
这时，张善安深入唐营，已经是李大亮的瓮中之鳖，哪能让他轻易跑掉。看到张善安要走，李大亮突然一声令下，事先埋伏好的唐军武士，一拥而上，将张善安拿下。跟随张善安一同来到唐营的数十名骑兵，此时被挡在大营门外，得知里面情况有变，急忙吓得扭头就走，返回本部大营。
当得知张善安被擒的消息后，张善安的部众，一个个都无比愤怒，认为唐军出尔反尔，明明答应了接受投降，现在却无故扣下张总管。由此可见，唐军毫无诚意。经过商量，张善安麾下的将领们，当即整合兵马，悉数来攻，向唐军大营步步紧逼。面对张善安部众的大举来犯，李大亮不慌不忙，再次使出了离间计，派人告诉那些敌兵、敌将：
吾不留总管。总管赤心归国，谓我曰：“若还营，恐将士或有异同，为其所制。”故自留不去耳，卿辈何怒于我！ （《资治通鉴》）
李大亮故意编织谎言，告诉张善安的部众，我并没有扣押你们张总管，是他自己诚心归附大唐，自动留在我营中。并且，他还对我说，他担心回营之后，将士们会有异动，对自己不利。所以，是张善安自己赖在唐营不走，你们为什么反而怪我！李大亮轻描淡写的几句话，就把锅甩给了张善安。
听了这么一番挑拨离间的话，张善安的部下，竟然信以为真。这些地方军阀的部队，大部分都是行伍出身，头脑比较简单，更无法考证此话的真实性。再联想起张善安近来种种的反常表现，众将士觉得，张善安很有可能将大家出卖了，纷纷破口大骂：“张总管卖我以自媚于人。”
既然张善安如此不地道，大家伙又何必继续为他卖命。紧接着，张善安的部众，瞬间一哄而散，四散溃逃。见到敌军作鸟兽散，李大亮认为，机会难得，下令唐军大举追击，虏获甚众，击败了张善安所部。
作战获胜之后，李大亮将张善安押送至长安，交由唐高祖李渊处置。这个时候，出于求生的渴望，张善安发扬了巧舌如簧的“优良传统”，在唐高祖面前狡辩，声称自己“不与辅公祏交通”，与辅公祏没有一毛钱关系。
估计，唐高祖可能觉得，张善安就是一个小喽啰，杀了他，也起不到多大的作用，太掉身价。因此，唐高祖故意揣着明白装糊涂，赦免了张善安的死罪。但是后来，唐军平定辅公祏，搜出了张善安与辅公祏往来的信，发现他一直与辅公祏联系紧密。所以，张善安在劫难逃，被论罪处死。
原本，辅公祏派遣张善安领兵前往，意欲挡住唐军的进攻。万万没有想到，唐将李大亮略施小计，便诱捕了敌将张善安，击败其部众。张善安兵败被擒，等于斩断了辅公祏的一条臂膀，失去了一个强大助力，沉重打击了他的军事实力。辅公祏刚刚起兵反唐，出师不利，使得全军士气低落无比。
在唐军主力到达江淮之前，辅公祏一直在与唐朝的地方守军，小打小闹。并且，还收效甚微，损兵折将。辅公祏连唐军的地方部队都对付不了，更别说是那四路唐军主力了。不久之后，赵郡王李孝恭指挥的四路唐军，赶到江淮战场，迅速对辅公祏的江淮军发起进攻，辅公祏的厄运来了。
武德七年（62年）正月，李孝恭率领所部唐军主力，直扑枞阳，展开了对辅公祏守军的进攻。当时，驻守枞阳的是辅公祏麾下的一员别将，姓名不详。结果，李孝恭统领唐军，不费吹灰之力，击破此地的辅公祏守军，顺利攻取枞阳。仗还没有正式开打，辅公祏就被唐军来了个迎头痛击。
仅仅不到一个月，武德七年（62年）二月，辅公祏派出军队，围攻猷州，企图挽回正面战场的损失。辅公祏大军围城，猷州刺史左难当婴城固守，抵御敌军进攻。关键时刻，先前设计智擒张善安的唐军安抚使李大亮，引兵突然从辅公祏部的侧翼出击。可想而知，江淮敌军没有防备，又被打了个大败。
江淮军战败，赵郡王李孝恭抓住时机，举兵攻打鹊头镇，气势如虹，一举将其攻克。辅公祏连续遭遇失利，兵马节节败退。与此同时，唐军则趁热打铁，展开了大规模的追击、反攻作战。
譬如，武德七年（62年）二月十二日，唐军的行军副总管权诞，率军于猷州大破辅公祏余部，攻拔枚洄四镇；三月十六日，赵郡王李孝恭率领唐军，大败辅公祏于芜湖，攻取梁山三镇；三月二十一日，唐将任瑰攻克扬子城，广陵城主龙龛举城投降；三月二十八日，李孝恭引兵袭破丹阳。
短短一个多月的时间，唐军在赵郡王李孝恭的率领下，一路顺势而下，所向披靡，屡屡击败辅公祏的江淮军，攻关夺寨，斩将搴旗。唐军将士势如破竹，接连收复了芜湖、丹阳等军事重镇。可以说，辅公祏下辖的大部分地盘，皆被唐军攻占。也就是说，辅公祏能控制的地盘，其实所剩无几。
照这个态势发展下去，辅公祏的覆灭，只是迟早的事情。所以，辅公祏觉得，不能再这样被动挨打下去，打算奋力一搏。即使辅公祏清楚，最后的结局必败无疑，也要让唐军付出极为惨重的代价。因此，辅公祏的计划，扬长避短，集中手中优势兵力，攻击唐军相对薄弱的一处，与其决战。
于是，辅公祏首先出动了三万水师兵力，屯驻于博望山一带，由其麾下将领冯慧亮、陈当世二人率领。同时，辅公祏又布置了两万步骑兵，命将军陈正通、徐绍宗统领，陈兵于青林山；并且，辅公祏专门下令，全军水师布于江面之上，以铁索相连，阻断江上交通；另外，大肆修筑月城，延绵十余里，又在江面以西设置营垒。这些军事工事，连成一片，以此与唐军对抗：