在忽必烈统治中原以前，蒙古帝国的前四汗，成吉思汗、窝阔台、贵由和蒙哥都对马蹄所不及的海国日本未曾留意过。直到1265年，高丽人赵彝向忽必烈报告说： 日本与本国邻近，汉唐以来都通使中国，可令高丽向导与之通使。 忽必烈才注意到日本的存在。
1266年8月，忽必烈派遣兵部侍郎黑的、礼部侍郎殷弘来到已经臣服蒙古的高丽，要求高丽协助蒙古晓谕日本，使其臣服。国书的内容大致如下：
大蒙古国皇帝奉书日本国王：朕惟自古小国之君，境土相接，尚务讲信修睦。况我祖宗，受天明命，奄有区夏，遐方异域，畏威怀德者，不可悉数。朕即位之初， 以高丽无辜之民久瘁锋镝，即令罢兵还其疆域，反其旄倪。高丽君臣，感戴来朝，义虽君臣，欢若父子。计王之君臣亦已知之。高丽，朕之东藩也。日本密迩高丽， 开国以来，亦时通中国，至于朕躬，而无一乘之使以通和好。尚恐王国知之未审，故特遣使持书，布告朕志，冀自今以往，通问结好，以相亲睦。且圣人以四海为 家，不相通好，岂一家之理哉。以至用兵，夫孰所好，王其图之。
由此可见，忽必烈的这封国书实际上是一封通牒。
尽 管在13世纪，高丽沿海受到日本海盗的侵扰，但毫无疑问，高丽人希望避免战争。在这种情况下，高丽人处于两难境地，他们采用了折中的谋略。他们护送蒙古使 者到达巨济岛以后，高丽宰相李藏耍了一些手腕。他知道蒙古人从来没有横渡过日本海峡，于是他以 风涛险阻 为借口，再三劝阻蒙古人返回。尽管蒙古人也看出 这是一个骗局，但高丽人在表面上信守了承诺，在礼仪上也面面俱到，最关键的是如果得不到高丽人的帮助，蒙古人无法出海。没有办法，这次晓谕的计划只能取 消。
晓谕的失败使忽必烈勃然大怒。他对高丽王进行了严厉申斥，严令高丽立即与日本交涉，使日本臣服进贡。在这种情况下高丽王室无可奈 何，只好在1267年9月1日再度派使者前往日本劝降，结果在日本太宰府滞留长达五个月，最后被遣还。1268年，忽必烈又令高丽王派大臣陪送黑的等赴 日，使者抵日本对马岛，日本人拒而不纳，只捕得日本岛民塔二郎、弥二郎回朝复命。忽必烈对这两个日本人说： 今天朕要你们的国主来我元朝朝贺，并不是要逼 迫你们，只是我想要垂名后世而已。 在后来的一段日子里，忽必烈让这两个日本人游览了燕京。1269年6月，命高丽派使臣金有成送他们返回了日本，并传递 了用中书省名义写给日本国的信。日本收到忽必烈的国信后，日相营原九成起草了复牒，可却被镰仓幕府否决，未能交付给来使。在这以后，蒙古、高丽的使者来往 于日本海，从1269年到1272年前后又进行了五次交涉，均被日本拒绝。
日本的镰仓幕府对蒙古的态度如此强硬是有着多方面原因的。 首先日本当时正处于变革时期，社会动荡，为了维护镰仓幕府的统治，镰仓幕府的统治者北条时宗就不能在对外政策上表现出软弱，使国内的反对派对自己的地位构 成威胁，否则他的统治就可能在顷刻间瓦解。另外，忽必烈本人的傲慢态度也不能让拥有无边的大海 这一天然屏障的大和民族屈服。毕竟当时的日本人对中国的 这个新兴政权并不了解，更何况忽必烈根本就没把这个海上的岛国放在眼里，在谕诏上口口声称日本天皇为 小国之君 。在这几次交涉中，日本对元朝使者的态度 一般是扣留或驱逐，因此可以看出尽管抵抗的态度非常明显，但镰仓幕府还不想走到最后一步 兵戎相见的地步。
1274年，和南宋的襄 樊战役已经结束，蒙古人有了足够的精力去对付不听话的日本了。这一年的11月，蒙古与高丽的联军共2.8万人，乘坐900艘海船从高丽合浦出发，向日本发 动了第一次远征。应该说这次的远征，是元朝征服日本的最佳时机，因为镰仓幕府并没有预见到元人的突然进攻，他们没有足够的防备。史实也说明了这一点。元朝 的远征军很快就渡过了对马岛西海域，在对马岛登陆。这里的日本幕府守军很少，但很顽强。日本守护代宗助国勇敢地率领着80名骑兵迎战元军，最后全部战死。 跟着远征军又在一岐岛登陆，只一天便攻陷岛城。幕府守备部队崩溃，守护平景隆自杀。随即联军很快就逼近了肥前松浦郡，幕府在这里的军队也很快就被打败了。
直到这个时候，幕府方面才得到元军大举入侵的战报。日本人很快做出了反应，他们在镇西奉行少二资能和大友赖泰的指挥下，向元军可能登陆的沿海地带集结。 10月19日，元军到达博多湾。第二天在今津、博多一带登陆。元军与日本武士在这里展开了激烈战斗。这是一场血战，战斗一直持续到日落。元军副将刘复亭在 战斗中负伤。日本武士所付出的代价则更高，伤亡惨重，博多、箱崎各地均已沦陷。逐队赶来参战的九州各武士团也被元军逐一击溃，被迫向大宰府水城方向退却。
而就在这一时候，元军内部的蒙古与高丽两方的将领发生了分歧。高丽名将金方庆主张一鼓作气解决九州岛的战役，然后静待己方的援军。而蒙军将领忻都与洪荣 丘被日本武士那种顽强的战斗意志所震撼，他们考虑到士卒疲劳，将帅负伤。为防止日本武士夜袭，最终决定先撤回海船暂歇。现在回顾这段历史，如果当时采用了 金方庆的主张，日本的命运就要发生变化了。
当天夜里，博多湾风高浪急，联军海船多触礁沉没，将士之中落水溺死者无数，军心极度动摇。在这样的状况下，继续作战已完全没有可能，于是残军撤退，第一次远征以失败而告终。此役发生在日本龟山天皇文永十一年，日本史上称为 文永之役 。
如果说元军第一次远征的失败是一种巧合的话。那么第二次远征的失败就要在军事准备与指挥两方面，做相当的自我检讨了。
1279年，南宋灭亡。元朝开始了第二次远征的准备工作。从物质方面的准备来说，这次远征无可挑剔。这次，元人不只在高丽建造战舰，还同时由南宋的降将 范文虎指挥，在江南一带也开始大批建造海船。经过了相当长时间的准备，1281年远征开始。忽必烈的计划是，元将忻都、洪荣丘和高丽将领金方庆率领4万远 征军组成东路军，依旧从高丽合浦出发。另一路由阿剌罕、范文虎率领10万南宋的新附军，自浙江宁波出发。两军于一岐岛会合，共同攻击日本。为了保证远征军 持续作战的能力，忽必烈指示远征军携带锄头、铁锹等农具以备登陆后就地屯垦之用。
