阿骨打回到部落没多久，适逢部落联盟长乌雅束去世，在众人的推举下，阿骨打成了新一代的部落联盟长。
经过阿骨打之前三四代联盟长的苦心经营，生女真各部已经初步完成了内部的一统，人口有五六十万之众，广泛地分布于辽国的东北边陲的广大地区，显然已经成为辽国的腹心之患。天祚帝君臣已经注意到了这一点，所以急于除掉阿骨打，三番两次想让阿骨打到上京来接受册封，以借机除掉阿骨打。
留给阿骨打的时间不多了，他准备先听一听大伙的意见。阿骨打（汉名“完颜旻”）有一个三十多岁的堂侄名叫粘罕（另作“粘没喝”），汉名作“完颜宗翰”，此人最是雄武多智略，阿骨打一向非常器重他，在会议时粘罕便建言道：“撑船时迎着风向走，到大土坡上运送石头，这样的举动就是离祸患不远了！如今我们不如乘辽国不备，把分散各地的勇士们集合起来，等待机会以建立咱们自己的国家！”
经过阿骨打同手下的一班兄弟、子侄、部属的商议（其中的核心人物被称作“郎君”，包括粘罕、阿忽、兀室等几个心腹重臣），他们最终断然决定“先下手为强”：与其坐等辽国集中力量来消灭自己，倒不如先打辽国一个措手不及。
这年秋天，一班辽国的官员又来到女真各部勒索供物，还公然索要女真姑娘陪睡，一时间民情汹汹。阿骨打觉得民气可用，于是鼓动大家起而诛杀这帮辽国蛀虫，结果在不到一天时间里，附近的女真各部就杀掉了数百员辽国的官吏和兵丁。
众人很快就齐集到阿骨打身边，清点人数后得可用之兵为二千五百人，为了适应将来连续作战的需要，阿骨打按照三百户为谋克、十谋克为猛安的定制将这匹人马及其家属编组起来，这就是未来金国实行的“猛安谋克”制度的雏形。
在祭告天地、执梃誓师时，意气风发的阿骨打向大家申明道：“你等同心协力，奋勇杀敌者必有厚赏，奴婢若有功者，可以成为平民；平民有功者，可以授官；原有官职者，则可按照功劳大小来晋升。若是来日我阿骨打违背誓言，自己就身死梃下，家属亦不得赦免！”
女真部朝气蓬勃且英勇善战，打了辽国一个措手不及，很快就占领了宁江州。在此后的出河店一役时，三千七百人的女真军大胆迎战万余人的辽国精锐，结果在突然袭来的大风帮助下，一举重创了阵脚大乱的辽军，得以缴获了大批军需物资。此战令阿骨打部威名大振，其他女真部望风来投，部伍很快就增加到了一万人。
部伍人马已经满万，这对女真人及阿骨打是一个很大的鼓舞，为此众人向阿骨打建议道：“如今我女真人已经满万，再不惧被契丹人分而治之了，为凝聚人心及统一号令，进而扫灭辽国，您当称帝建国！”
阿骨打接受了建议，最终于起兵次年的正月初一日在阿什河畔登基，正式称帝建国，国号“大金”。女真的发祥地是出产黄金的地方，而黄金又有一种特别的寓意，为此阿骨打在诏书中向臣民解释国号时称：“辽朝以镔铁为号，取其坚也。钢铁虽坚，终亦变坏，惟金不变不坏。”
闻听女真人称帝建国的消息后，天祚帝震怒不已，在朝会上他叫嚣道：“女真的那帮蛮夷贼子已僭越称帝，绝不可姑息放任，而今春季已至，也到了我们捺钵混同江的日子，因此寡人决心这次要御驾亲征，待凯旋而归时，你我君臣在混同江一醉方休！”
为了一举扫灭女真人，辽国集中了全国的十几万精锐，对外则宣称“七十万大军”，这几乎是辽国目前的近半家底了。天祚帝平素非常喜欢打猎，因此马技甚高，在行军时他还特意以一身戎装行走在部队里，以便为将士们打气。
辽军来势汹汹，阿骨打不得不再次召开御前会议向大家征求意见，为此他通报道：“如今我军最多可以集中两万人马，而辽军至少是我们的六七倍，辽军远来，锐气正盛，若是我军与其硬碰硬，恐怕占不到什么便宜，不知诸位郎君有何高见？”
实际上此时金国的制度不同于辽与宋，皇帝还不能大权独揽，像一些郎君们的权势还是很重的，在大事上他们也必须参与谋划，进而发挥影响。为此众人在阿骨打话音刚落后，便非常自然地七嘴八舌说开了，其中阿骨打的弟弟吴乞买（汉名“完颜晟”）说道：“皇兄不须多虑，经过前几战足可断定契丹人已是外强中干，辽立国二百年，辽国君主、权贵只知四处游赏渔猎，斗志全无，再来二十万人又有何惧？只要我等抱定必死之志，奋力一搏，不愁破不了敌！”
“辽军大举远来，利于速战速决，而不利于久拖，一旦旷日持久，千里馈粮，辽军必定补给匮乏，到时不战自乱！若是我部可以拖上半年，定可取胜！”粘罕站出来说道。
这时阿骨打的二儿子、汉名叫做“完颜宗望”的斡离不站了出来，斡离不已经二十多岁，虽然他看上去不算勇武，可一向足智多谋且屡立功勋，是阿骨打所依仗的左膀右臂，只听斡离不慷慨地说道：“我军人数虽少，但也是新胜之师，士气正盛，何况又是主地作战，较敌方熟悉周遭地理！辽军大举远来，难以力敌，不如且战且退，诱敌深入，待其阵形紊乱时，我军再一举击之，到时定可击破辽军！若此役得以全胜，则辽国已不足惧，为此当周密部署，众将皆须立军令状，