1368年，朱元璋在南京称帝。在尚未完全统一的情况下，明朝即开始大规模的外交活动，1369年，朱元璋派遣使节持诏书分赴东亚海域各国，同时把日本、高丽、占城、琉球等十五国列为“不征之国”。新生的大明王朝对外传递的和平友好姿态很快获得了积极反响，占城、爪哇、渤泥、高丽、琉球、三佛齐、暹罗等二十几个国家和地区纷纷前来入贡，加入以大明王朝为主导的册封朝贡体系。
唯一例外的是日本。出于对国内外安全大局和传统友谊的考量，立国之初朱元璋就高度重视与日本的关系，并为此倾注了大量心血，可惜事与愿违，在他有生之年并没能亲见其成。
而朱元璋过世后不久，中日关系就出现了转机。十五世纪初，日本多次主动遣使奉表来朝，中日关系迅速升温，终于水到渠成。然而这前后二三十年间，日本对明朝的态度前倨后恭，经历了戏剧性的变化。
明朝建国后，国内外环境十分严峻，除了北方还存在元朝残余势力的威胁外，周边国家因曾受元朝武力征讨而心有余悸，对刚成立的明朝充满警觉，而中日关系尤其紧张。
此前百年间，中日基本处于敌对状态。在灭了南宋之后，忽必烈先后于1274年和1281年两次对日本海上用兵，使自隋唐以来一直密切友好的两国关系由此交恶，日本对中国的态度由先前的敬仰崇拜转为敌视。蒙古入侵也间接引发了日本国内的危机，随着镰仓幕府灭亡，大量武士沦为浪人，其中一大部分成为倭寇，勾结中国海盗和不法商人流窜到东南沿海劫掠作乱，成为明代东南海上一大祸害。朱元璋即位后迫切与日本恢复邦交，一大原因也是希望两国携手消除“倭乱”，维护东亚海域的和平与稳定。
洪武二年(1369年)，朱元璋派杨载携诏书出使日本，通告洪武登基的消息，同时谴责倭寇骚扰我东南沿海，命日方严加取缔并早来称臣朝贡，否则将出师讨伐云云，口气相当强硬。由于对当时日本国情缺乏了解，此次遣使遭遇重大挫折。
杨载一行按照传统的赴日航线，从宁波出发后在日本九州上岸，本应送到京都天皇朝廷的诏书，却落入九州怀良亲王手中。此时，正值日本南北朝时期。九州是南朝的势力范围，由后醍醐天皇之子征西大将军怀良亲王掌控。由于长期战乱，日本对中国发生的政权更替同样不明所以。朱元璋充满威胁意味的诏谕唤起了日本人的同仇敌忾，以为又是一次“元寇袭来”的前奏。执掌九州十年之久军势方炽的怀良亲王对朱元璋的诏谕嗤之以鼻，囚禁了杨载、吴文华等使臣，斩杀了5名随员。
首次外交受挫，并没有使朱元璋放弃进一步的努力。洪武三年(1370年)，他再次遣使日本。此行明朝做了较为扎实的准备，特地选派山东莱州同知赵秩出任使节——因山东沿海是倭乱重灾区，以赵秩为正使可以胜任对日交涉禁倭事宜，而且诏谕上也多了委婉之语。这次出使相对顺利，怀良亲王对明朝的态度有所转变，其后派遣僧人祖来赴明奉表称臣，进贡马匹和方物，并送还被倭寇掳掠的浙江沿海百姓70人。
日本来朝，使朱元璋大为欣慰，但邦交并没有由此确立，因为明使没有见到正牌的“日本国王”，两次三番打交道的怀良亲王只是地方首脑，并不能代表日本朝廷。而正在经受南北战乱的日本也根本无力制止愈演愈烈的倭寇活动，这也令明朝大失所望。此后双方为打开外交僵局做了种种尝试，但最终都没有实质性的突破。
1387年10月，宁波卫所指挥林贤被捕，经审查他与六年前因谋反案被诛杀的胡惟庸有交集，连带牵扯出前日本使者瑶藏主有资助胡、林谋反的嫌疑，这使朱元璋对日本更加嫌恶，断然中止一切往来，并全力实行海禁。原本举步维艰的中日关系雪上加霜。
