张学良遵父命入东三省新办陆军讲武堂学习炮科。毕业后随父南征北战，立下赫赫战功，成为当时能征惯战的年轻将军，人称“少帅”。
1921年秋，张学良由张作相和日本顾问本庄繁（日本政界元老重臣，资深外交家，中国通，时任张作霖顾问）陪同，前往日本参观秋操。尽管受到日本官方的热情接待，但张学良对日本印象不好。日本总想以势压人，向他炫耀武力。张学良不但不怕，反而很反感。当日方问他有何感想时，他说：“你们日本能做到的，我们中国也能做到；你们日本做不到的，我们中国也能做到！”
在回国途中，本庄繁问张学良：“中国留学生差不多都是留英的亲英，留美的亲美，为什么留日的反而反日呢？”张学良答：“就是因为日本人不拿中国当国家看，不拿中国人当人看。”即此，张学良领悟到，日本人的民族优越感，实为中日问题不能和平解决的原因之一。
访日归来，张学良参加了第一次直奉战争，鉴于这次战争的惨败，他建议张作霖整军经武，在奉天成立东三省陆军整理处，并任参谋长兼任东三省航空处总办和东三省陆军讲武堂监督，直接走上整理陆军、创办空军的第一线。奉军（后改名为东北军）的现代化水平大大提高。
张学良建议其父采取上述富国强兵之措，目的只有一个，与强邻日本抗衡。但父命难违，他还是追随张作霖参加了军阀混战。但是张学良在参加军阀混战中仍支持国内的爱国运动，产生了反对军阀混战的思想，成为世人心中最年轻的爱国将领。
1923年，爆发了取消“二十一条”、收回旅大，反对日本帝国主义的爱国运动。张学良立即捐赠一百元给“三二惨案”受伤学生作医药费，并致信称：“欧美各国军警对于学生的示威运动，止（只）有在旁维持秩序，没有听说军警和学生冲突的。军警不尽保卫人民，除暴安良，抵御国家外患的责任，但向手无寸铁的学生们施加威力，这真是最可痛心的事。……青年学生们手无寸铁的奋斗，是我最佩服最同情的。没有这种奋斗的精神，不能保持中华民国在世界上应占的地位。不能使国民保永久的安宁。”等等。以此为起点，张学良对历次爱国运动，不但没有采取过如历届中国反动政府的镇压行动，而且都是采取同情、支持的态度。他曾对自己的秘书黎天才说：“无论任何党派在东北活动，我决不杀害一个青年，因为我们没有把国家搞好，才产生了青年的要求。”
1925年爆发了全国范围内反对日、英帝国主义的五卅运动，时任东北奉军军长的张学良，在与记者谈沪案之意见时说：“爱国之心，余自问与各界无异，但处此时局艰难之际，眼光当放远，步骤当严整。国人向痛诟军阀黩武，学良亦军阀一，且自承认为坏军阀，然私意实酷爱和平。去岁奉直之战，实不得已，至今念及尸横遍野，犹有余痛。”并致电上海爱国学生：“报载上海学生因援助失业工人，为英租界巡捕开枪轰击，死伤多名。展诵之余，曷胜悲悼。痛我莘莘学子，竟被摧残，莽莽神州，天道何在？积弱之国，现象如斯。凡我国人，宜知奋勉。兹本人类爱群之心，仅以薪俸所入，捐助2000元，即日由中国银行汇上。藉慰死伤。”
1927年1月3日，汉口民众集会庆祝国民政府北迁和北伐胜利，游行队伍在江汉关前遭英国水兵刺杀。6日，英国水兵又在九江向码头罢工工人寻衅，杀伤多人。时称“汉浔惨案”。正与北伐军干戈相向的张学良，于1月12日，在北京与英国某要人谈“汉浔惨案”时却说：“中国南北之事，不过因国人对内政见未能一致因起战端。古诗有言：‘兄弟阋于墙，外御其侮’，对外卫国，决不能因对内不一致而发生影响。此次英人以武力对待中国民众，则凡中国人，不分南北，皆有捍卫国家之义务，责无旁贷。”是年春，他在写给留学日本的弟弟张学铭的信中称：“此前虽奉父命出师河南作战，但念是同种，自相残杀，心中又怏怏焉。如有对外征战，则兄马革裹尸，死无恨也。”
同年3月21日，上海工人在中共领导下，举行第三次武装起义，占领上海。正在郑州督战的张学良与奉军将领韩麟春自河南前线联名发出对时局通电。表示：期在地方共得安局，人民悉循正规，并望追随国内贤豪，统筹全局，共图国事，息争御外，共挽颓流。
同月24日，当北伐军打败直鲁联军，占领南京时，帝国主义竟疯狂炮轰南京，造成军民重大伤亡。张学良得讯后，立即发表谈话，再次呼吁各方息争御侮，决不能因一党一派之利害，危及国家。
张学良在河南作战时，看到沿途乞丐成群，饿殍遍野，心中之痛，难以言状。撤退时，他已作临行之处置，派田维勤维持郑县一带治安，以待国民军之到来。他亲笔写长信，交当时的陇海路督办章祜转交来到的国民军高级将领。信中大意是：“我未破坏黄河铁桥，因系中国最大建筑之一，如果破坏，一时不易修复，不忍伤国家元气，非我撤退仓促不及破坏也。我军在郑县仍储存有给养甚夥（多）非我忘记焚毁，频年战争，豫民流离可惨，何必火以灾黎渴望之食粮，我们同系中国人，假如贵军如不急需，请你们把他（它）散给灾民，这算补一补咱们的罪孽。我有些重伤患官兵，不便移动，请贵官本人道的观念，请求加以医救，不胜感激。恐我们总会见面的一日，到那时再谢吧。”
张深感内战之不幸，对此，他有以下之阐述：
“（一）无目的的互相残杀，忽而为敌，忽而为友。双方所牺牲者，多为英俊有为之士，自相残伤，实深痛苦。”
（二）帝国主义，虎视眈眈，挑衅待机，谋夺权利。我曾为南京、济南事件，公开发表言论，希望全国放弃阋墙之争，一致团结对外。
（三）因军事之破坏，殊少建设，大伤国家元气。人民流离失所，老弱转于沟壑，满目疮痍，深思反问，此是何人之过？时而疚心如焚！
（四）死伤官兵，虽有抚恤，皆无完整妥善的处理。尤以失败的军队，伤患官兵时流为街头乞讨，虽系敌人，但皆属同胞，同系中国军人，触目伤情，不能自抑。更进一思维，此种无谓死伤英勇壮士，是何为乎？
（五）物力人力，如能精诚团结，一致对外，使那些英勇军人，为国牺牲，忠魂可慰，而况外患频仍，我们何苦自相削弱，为仇者所快乎？息争御侮、爱国爱民之心，难能可贵啊！
基于上述种种，张学良下定决心，不再从事内战，不顾一切，继续说服其父，息争御侮，撤兵关外，修养生息，保境安民，致力于团结统一，建设地方，促进民生，发奋图强，为中国的和平统一，抵御外侮创造条件。
