Hubungan rumpun Japonik dengan rumpun bahasa lainnya dianggap kontroversial. Ada banyak hipotesis, tetapi tidak ada yang diterima secara luas. Japonik adalah rumpun bahasa yang berdiri sendiri[16] dan rekonstruksi bentuk purbanya mengisyaratkan kesamaan kuat dengan bahasa-bahasa Asia Tenggara.[17]
Diskusi ilmiah tentang asal-usul rumpun bahasa Japonik masih menghasilkan banyak pertanyaan.[18] Hubungan paling jelas tampaknya adalah dengantoponim dari selatanKorea, yang mungkin berasal dari bahasa Gaya (Kara), sebuah bahasa isolat purba, atau bahasa lainnya yang belum pernah diketahui.[19] Alexander Vovin (2008, 2013)[20][21] menemukan banyak toponim yang diduga berasal dari bahasa-bahasa Japonik diSemenanjung Korea, terutama diSilla danPaekche. Masyarakat agrikultural berbahasa Japonik mungkin pernah tinggal di bagian tengah dan selatan Semenanjung Korea, sebelum ditaklukkan oleh penutur bahasa Koreanik dari utara. Kelompok penakluk ini kemungkinan berasal dari tengah dan selatanManchuria, yang akrab dengan perang berkuda ala Asia Tengah. Sejak ke-6 atau ke-7, bahasa-bahasa Japonik menjadi terpinggirkan diSilla (bagian tenggaraKorea Selatan) (Vovin 2013:227-228). Beberapa penutur bahasa Japonik ini beremigrasi ke kepulauan Jepang, sementara yang lain membaur ke dalam masyarakat Korea.
Vovin tidak menganggap bahwa rumpun Japonik memiliki hubungan dengan Koreanik; ia percaya bahwa penutur Japonik digantikan seluruhnya oleh penutur Koreanik di Asia daratan. Vovin (2014)[22] berpendapat bahwa penutur bahasa Japonik awalnya berdiam diTiongkok Selatan sebelum bermigrasi ke Jepang melalui Semenanjung Korea, sementara bahasa-bahasa Koreanik, yang menunjukkan berbagai kesamaan tipologis denganrumpun bahasa Paleosiberia berasal dariSiberia (Vovin 2015)./> (Vovin 2015).[23] Selain itu, Vovin (1998)[24] juga menganggap bahwa bahasa Japonik digunakan olehkebudayaan Kofun dan bukanYayoi. Orang-orang Yayoi diduga menggunakan bahasaAustroasia atauTai-Kadai, berdasarkan rekonstruksi istilah Japonik *(z/h)ina-Ci 'padi (tanaman)', *koma-Ci 'gabah', dan *pwo 'pelepah/kulit biji-bijan' yang menurut Vovin berasal dari istilah pertanian Yayoi.
Vovin (2013) juga mencatat bahwa nama lama untukPulau Jeju adalahtammura, yang dapat dianalisis sebagai bahasa Jepangtani mura たにむら (谷村 'pemukiman lembah') atautami mura たみむら (民村 'pemukiman orang-orang'). Dengan demikian, Vovin menyimpulkan bahwa penutur Japonik pernah ada di Pulau Jeju sebelum digantikan oleh penutur Koreanic yang datang sekitar sebelum abad ke-15, yaitu pada saat negara Tamna di Jeju dikuasai olehDinasti Joseon.
Peneliti lain, seperti Paul K. Benedict, menyatakan bahwabahasa Jepang berhubungan denganbahasa Austronesia, sesuai dengan teori rumpun bahasa Austro-Tai-Jepang yang diajuakannya. Namun, pengelompokan Austro-Tai-Jepang ini tidak diterima secara luas oleh ahli bahasa. Meskipun Vovin (2014)[22] tidak mempertimbangkan adanya hubungan genetik (hubungan bahasa yang bisa diusut hingga ke leluhur bersama) antara bahasa Japonik danTai-Kadai, ia menduga bahwa penutur Japonik purba pernah melakukan kontak intensif dengan penutur Tai-Kadai, sesuai hipotesisnya tentang asal rumpun Japonik di Tiongkok Selatan.
Ada bukti tipologis yang mengisyaratkan bahwa Proto-Japonik bersifat monosilabis, memiliki pola kalimat SPO dan merupakan sebuahbahasa isolatif, kesemuanya merupakan fitur yang umum dalam rumpun Tai-Kadai.[25]
Teori lain dikemukakan oleh ahli bahasa berkebangsaan Jepang Īno Mutsumi. Setelah menganalisis hasil rekonstruksibahasa-bahasa Sino-Tibet, ia berpendapat bahwa bahasa Jepang berhubungan dengan bahasa Sino-Tibet, terutamabahasa Myanmar. Karena memiliki tata bahasa serupa (SOV, sintaksis), kosakata dasar non-pinjaman dan fakta bahwa bentuk purba Sino-Tibet adalah non-tonal seperti di sebagian kecil dari bahasa Sino-Tibet hari ini, ia mengusulkan bahwa bahasa Jepang berasal dari rumpun Sinitik.[26][27]
Analisis tahun 2015 yang dilakukan menggunakan Automated Similarity Judgment Program mengelompokkan bahasa-bahasa Japonik denganAinu dan kemudian denganbahasa-bahasa Austroasia.[28] Namun, kesamaan antara Ainu dan Japonik lebih karena kontak ekstensif antara keduanya. Konstruksi gramatikal analitis yang dikembangkan oleh bahasa Ainu mungkin saja disebabkan kontak dengan bahasa Jepang dan bahasa-bahasa Japonic lainnya, yang memiliki pengaruh besar pada bahasa Ainu dengan sejumlah besar kata-kata dipinjamkan ke dalam bahasa Ainu, dan dalam skala lebih kecil, dari bahasa Ainu ke bahasa-bahasa Japonik.[29] Belum dibuktikan adanya hubungan silsilah antara Ainu dengan semua rumpun bahasa lainnya. Oleh sebab itu, Ainu dianggap sebagaibahasa isolat.