A „shiba inu” (柴犬) két japán szó összefésülése: „shiba” (柴) és „inu” (犬).
A „shiba” a japán hegyekben előforduló kis bökönyfajtára utal, sugallva valami kicsit, kompakt vagy rustikális dolgot. Az „inu” egyszerűen „kutya” jelentésű.
Együtt a „Shiba Inu” kb. „bökönykutya” vagy „kis rustikus kutya” jelentésű, tükrözve a fajta eredetét Japán vidékén.