일본 전통음악에 익숙하지 않은 사람에게는 일본 전통의상을 입고 샤미센이나 샤쿠하치를 연주하고 있으면 어느 음악이나 똑같이 들릴지도 모른다. 그러나, 일본의 전통음악은 자그마치 50에서 80이 넘는 분야로 나눠져 있다.

그 중에서 악기만으로 연주하는 것은 극히 적고, 대부분이 노래와 반주가 함께 어우러진 형태로 이루어져 있다. 그리고 노래는 모두 단선율(독창 또는 제창으로 이루어진 노래)이고 반주를 하는 악기도 한 가지만으로 이루어진 것이 대부분이다.

음악의 장르는 노래의 발성법이나 사용되는 악기, 그리고 음색이 동일한지 어떤지를 기준으로 나누고 있다. 예를 들어 기다유부시(義太夫節), 토키와즈부시(常盤津節), 나가우타(長唄) 등은 모두 노래와 샤미센의 반주로 이루어져 있다. 노래와 악기의 음색이 조금이라도 다르면 다른 장르로 간주된다. 말하자면 각 분야마다 노래와 악기의 음색이 정해 있는 것이다.

하지만, 노래든 악기든 음색의 차이가 미묘해, 전문가가 아니면 구별할 수 없는 경우가 많다. 그럼에도 불구하고, 일본의 전통음악은 그런 미묘한 차이를 중시하여 각각 다른 장르의 음악이 혼동되거나 융합이 일어나지 않도록 구분되어 왔다. 이것이 일본 음악이 세분화된 원인의 하나라고 할 수 있다. 일본음악이 미묘한 음색의 차이를 소중히 해온 것은 악기의 형태나 연주에도 반영되고 있다. 전세계 각국의 악기처럼 일본의 악기도 크게 세가지 즉, 현악기, 관악기, 타악기로 구별할 수 있다.

일본의 대표적인 타악기의 하나로 코즈츠미(小鼓)가 있다. 일본에는 2개의 채로 두드리는 타이코(太鼓)가 주류지만, 코즈츠미는 손가락으로 치는 북이다. 미묘한 음색을 유지하기 위해, 연주중에 소리를 들으면서 가죽을 매고 있는 끈의 팽팽한 정도를 조절하거나, 가죽에 입김을 불어 습도를 조절하는 경우도 있다.

관악기의 하나인 시노부에(篠笛)는 가부키에서 노래의 반주를 할 때, 음역에 따라 12개의 시노부에를 동시에 사용하고, 지방축제에 사용할 때도 적어도 ２, ３개를 동시에 사용하고 있다. 이와 같이, 일본의 전통음악에서는 필요한 음색을 내기 위해 치밀하게 배려하고 있다.