但是，一个国家要能行使它的统治权，先决问题是这个国家的统一。不幸在这时期，日本国内却陷于南北分裂的对峙局面，政治上的代表人物，在北朝是征夷将军源义满，在南朝是征西将军怀良亲王，北朝虽愿和中国通商，解决它财政上的困难，南朝却以倭寇为利，且以政治地位的关系，也不肯让北朝和明有任何外交关系。以此，明廷虽经几度的努力，终归无效，结果仍不得不采取下策，行闭关自守之计。
第一次的倭寇交涉完全是恐吓性质，洪武二年三月明廷派吴用、颜宗鲁、杨载、吴文华使日，到征西府责以倭寇责任诏书云：
……间者山东来奏，倭兵数寇海边，生离人妻子，损害物命，故修书特报正统之事，兼谕越海之由。诏书到日，如臣奉表来庭，不臣则修兵自固，永安境土，以永天休。如必为寇盗，朕当命舟师扬帆诸岛，捕绝其徒，直抵其国缚其王，岂不代天伐不仁者哉！惟王图之。（何乔远《闽书》卷一四六《岛夷志》；王士骐《皇明驭倭录》卷一）
怀良的答覆是杀明使五人，拘留杨载、吴文华两人三个月方才放回。（《修史为征》卷一《大明皇帝书》）
三年三月又作第二次交涉，以莱州府同知赵秩往谕，委婉劝导中含有恐吓的意味，诏书说：
……蠢尔倭夷，出没海滨为寇，已尝遣人往问，久而不答，朕疑王使之故扰我民，今中国奠安，猛将无用武之地，智士无所施其谋，二十年鏖战精锐，饱食终日，投食超距，方将整饬巨舟，致罪于尔邦，俄闻被寇者来归，始知前日之寇，非王之意，乃命有司暂停造舟之役。
呜呼！朕为中国主，此皆天造地设，华夷之分。朕若效前王恃甲兵之众，谋士之多，远涉江海，以祸远夷安靖之民，非上帝之所托，亦人事之不然。或乃外夷小邦故逆天道，不自安分，时来寇扰，此必神人共怒，天理难容，征讨之师，控弦以待；果能革心顺命，共保承平，不亦美乎！……（王士骐《皇明驭倭录》卷一）
一面又派前曾使日之杨载送还捕获之日本海贼僧侣十五人，想用示惠的手腕，使日本自动地禁捕倭寇（《修史为征》卷一《大明皇帝书》）。这一次的交涉，总算博得相当的成功。洪武四年十月怀良遣其臣僧祖来进表笺，贡方物，并僧九人来朝。又送至明州、台州被掳男女七十余口（《皇明驭倭录》卷一；《明史·日本传》）。
日使祖来到南京后，明廷向之经过几度的咨询，才恍然知日本国内分裂情形，怀良并非日本国王，以前几次的交涉，不幸都找错了对手。（瑞溪周凤《善邻国宝记》上）
明廷于是改变方针，想和北朝直接交涉。洪武五年五月特派僧仲献祖阐、无逸克勤为使，以日僧椿庭海寿、权中巽为通事，使者一行八人，送祖来回国（《皇明驭倭录》卷一；《明史·日本传》）。先是建德二年（洪武四年）肥后守菊池武光奉怀良亲王起兵谋复筑紫，与今川贞世（了俊）战于镇西，败绩，贞世寻为镇西探题，势力方盛（《日本外史》卷七，《足利氏》上）。怀良由博多移于肥后之菊池（《阿苏文书》）。明使一登岸，新设的北朝守土官见其与祖来同来，以为是征夷府向中国乞师回来的使节，因加以拘辱（宋濂《翰苑续集》卷七《送无逸勤公出使还乡省亲序》）。不久即遣送至京，滞留二月，始就归途（《花营三代记》）。途经征西府，怀良愤其秘密入京，及颁示大统历有使奉正朔之意，复加拘辱（木宫秦彦《中日交通史·征西府与明朝之交涉》；《明史·日本传》）。七年五月始还南京（《明史·日本传》）。
这一次对北朝交涉的结果，北朝因连年征战，帑藏奇绌，正盼能和中国通商，解决财政上的困难，所以明使一至京，便完全容纳禁倭之请，一面因征西府梗中日商道，派兵来攻（《日本外史》卷五《楠木氏》附《北昌氏》）。一面派僧宣闻溪（㧾州太守圆宣）净业喜春备方物来贡，又送还所掳中国及高句丽民百五十人。这是征夷府第一次遣明的使节，不幸因无正式国书，征南之举又失败，道路不通，被明廷疑为商人假冒，以拒绝接待（《明史·日本传》；《大明会典》卷一〇五《主客清吏司》）。
同年大隅守护之岛津氏久和征西府之菊池武政都遣使来贡，冀图通商，明廷以其非代表国家，且不奉正朔，均却之。又以频入寇掠，命中书移牒责之（《皇明驭倭录》卷一；《明史·日本传》）。
洪武八年七月征西府遣僧延用文圭（归廷用，圭廷用）奉表贡马及方物，表词倔强负固（《皇明驭倭录》卷一）。此时明廷对日方有进一步之了解，他们知道日本南朝在利用倭寇，万不肯加以禁止，自闭财源。北朝虽极盼通商，并愿禁倭，但为南朝所阻，无力制止，其他派使入贡者又全是不能代表政府的大名藩士和唯利是图的商人。外交解决的途径至此全穷，在事实上不能不放弃中策，予日本以经济上的封锁，一面严修海防为自卫之计了。