正因为皇帝对宇文述格外照顾，这次远征，竟特批他携带家眷同行。还安慰他说：虽说自古妇女不能跟随在军中，但古人的故事中也有项羽营中带着虞姬的先例。听到皇帝这番话，宇文述心中顿时一沉，大军征战，竟以项羽虞姬的典故来比喻，此兆大凶！
三月，隋军前锋已到辽水岸边，辽河水竟然比往年提前解冻，滚滚湍流挡在隋军面前。杨广毫不气馁，下令工部尚书宇文恺在辽河上修建3座浮桥。隋军临辽水排列阵势，准备强渡。辽水东岸，高丽军也早已做好准备，背靠辽东坚城建立起防线，严阵以待。高丽军队的装备亦相当精良。多持铁矛、长刀，善用强弓铁镞。骑兵也有盔甲马铠，被称为铁骑。士兵都穿着为登山特制的铁钉履，军官则还有更华丽的鎏金盔甲和铜钉鞋。
此时高丽军正等着隋军半渡而击之。由于高丽军的袭扰，浮桥难以修到对岸，距东岸竟还有一丈多长的距离。没有桥就不能渡河吗？大隋军队从不缺少热血勇士。左屯卫大将军麦铁杖自告奋勇担任前锋，率军渡河。麦铁杖豪迈的对军医说：大丈夫的性命自有归宿，岂能病病歪歪，躺着死在儿女怀里呢！
麦铁杖强壮骁勇，可与奔马赛跑。他年轻时好交游，重信义，曾经占山为王当过强盗，被官军俘获就投身官军，屡立战功。当年陈国境内叛乱，杨素为行军总管前去讨伐。麦铁杖头戴蒿草，半夜游过长江去刺探敌情，结果被叛军抓获，派兵士30人看守他。麦铁杖伺机夺取了一个兵士的大刀，一鼓作气把看守他的兵士全部杀死，割下他们的鼻子，渡江返回。杨素看到血淋淋的30个鼻子，对其神勇大为惊叹，上书奏请朝廷授予他仪同三司。
开战之前，麦铁杖已报必死的决心，遗言给三个儿子说：我身受国恩，今日便为国赴死，我死得其所，你们自会富贵。言罢，率虎贲郎将钱士雄、孟叉等将官，领数千兵士向对岸发起了猛攻，浮桥连不到对岸，麦铁杖就带着士兵们跳入水中渡河。对岸的高丽兵居高临下，箭射枪挑，凶猛的阻击隋军，隋军仰攻无法登岸，死伤惨重。麦铁杖仅领少数士兵冲上了对岸，与高丽兵奋力厮杀，无奈后继无援，高丽兵层层叠叠的围攻上来，麦铁杖与钱、孟等将官寡不敌众，皆力战而死。
先锋部队伤亡殆尽，鲜血染红了辽水，隋军首战告败。杨广为奖励麦铁杖的英勇，下诏追赠麦铁杖为宿公，并让他的长子麦孟才承袭了爵位。
首战不利，败在无桥。杨广又命令另一位能工巧匠少府监何稠再造浮桥。何稠也隋代一位才华出众的装置大师。他曾为杨广造过一种御女车，车身小巧，只容一人，车下备有各种机关，随意上下，可使，不废费力气，自能控送。更有一种妙处，就是无论何等节烈女子，一经上车，手足俱被钩住，不能动弹，只好任人摆弄。杨广甚是欣喜，赏赐给何稠千金。
何稠造车厉害，造桥也不负皇帝所望，两日之内，长桥造成，对岸的高丽兵大为惊惧。帝国大军开始源源不断的通过浮桥，与高丽军在东岸展开了血战。高丽军向来善于坚守而怯于野战，短兵相接不是凶猛的隋军的对手，一场鏖战，隋军大胜，杀死高丽军数以万，为麦铁杖将军报了仇，各军乘胜进击，包围高丽国东部首府辽东城。杨广闻捷报大喜，赋诗一首：
辽东海北翦长鲸，风云万里清。方当销锋散马牛，旋师宴镐京。前歌后舞振军威，饮至解戎衣。判不徒行万里去，空道五原归。秉旄仗节定辽东，俘馘变夷风。清歌凯捷九都水，归宴洛阳宫。策功行赏不淹留，全军藉智谋。讵似南宫复道上，先封雍齿侯。
辽东城原名襄平城，曾是战国时期燕国的军事要塞，属燕长城东部堡垒的一部分。高丽军民又进行了多年重建，现在的辽东城城墙高大，规模宏伟，易守难攻。辽东城三面临水，仅南面便于进攻，三万高丽军依城据守。隋军日夜攻打，但城防坚固，一时难以攻下。
六月十一日，杨广也度过辽水，来到辽东城前线查看战情，见辽东城久攻不下，大为不满，怒斥诸将军：你们自以为官居高位，又依恃着家世显赫，想要暗中怠慢欺骗朕吗？在京师的时候，你们都不愿意让朕亲征，恐怕我看见你们营私舞弊。今天我来到这里，正是要观察你们的所作所为。你们怕死，不肯尽力，以为我就不能杀你们吗？诸将都心惊胆战，无言以对。
杨广在辽东城西几里外的地方，让何稠建造了一座城，亲自坐镇督战。一座周长4000米，高13米的城堡一夜建成，高丽人望见，皆惊叹以为神迹。可惜神迹吓不死高丽军兵，即使有杨广督战，辽东城还是攻不下来。辽河东岸高丽城堡众多，杨广同时下令四下分兵攻打其他诸城，也是一无所获，战争陷入僵持状态。
仗打到这个份上，非是隋军不能战，而实在打得束手束脚，有苦难言。大军刚出发的时候，杨广就亲自告诫诸将：我军攻打高丽是为了吊民伐罪，并非为了获取功名。你们若不理解朕的意图，想建立军功以邀封