일제 강점기 말기에 만들어진 최대 규모의 친일음악단체다. 1941년 1월 11일 발기인회를 열고 그 해 3월 25일 창립했다. 여러 음악 분야를 망라한 대규모 음악단체로 음악을 통해 일제의 황국신민화 정책을 효과적으로 수행하기 위해 조선총독부가 조종해 발족했다.

회장은 조선총독부 학무국 국장이 맡았으며, 계정식(桂貞植) 김원복(金元福) 김재훈(金載勳) 함화진(咸和鎭) 현제명(玄濟明) 등과 일본인 13명이 이사로, 김세형(金世炯) 이애내(李愛內) 이종태(李鍾泰) 임동혁(林東爀) 홍난파(洪蘭坡) 등과 일본인 16명이 평의원으로 각각 참여했다. 조직은 방악부, 조선음악부, 양악부, 교육음악부 등으로 나눠졌다.

결성 당시에는 악단을 통한 조선음악계의 신체제 운동을 목표로 삼았으나 내선일체의 정서 강화, 일본음악 보급, 일본음악 건설 등으로 목표가 확대됐다. 이 같은 목표에 따라 조선음악협회는 태평양전쟁 종전 직전까지 일본 국민가요 보급, 연주를 통한 음악보국 운동, 전함 및 비행기 헌납 음악회 개최 등의 행위를 했다.

구체적으로는 음악 보국주간 설정 및 보국음악회 개최, 창립 기념 보국대회 개최, 지나사변 5주년 기념음악회 개최, 전의 앙양 국민대합창음악회 개최, 태평양전쟁 필승 결의 선양대회 개최, 징병 실시 감사 축하행사 개최, 조선음악대연주회 개최, 학도위안음악회 개최 등의 활동을 하고 국민가창운동을 전개했으며 문화단체 결의선양대회에 참가했다. 또 항공기 헌납 음악회를 후원하고 종전 한달 전에는 본토결전부민대회라는 관제 행사에서 취주악과 합창을 맡는 등 종전으로 해체될 때까지 약 4년 반 동안 음악을 통한 친일 활동에 앞장섰다. 때에 따라서는 경성후생악단, 대화악단 등 다른 친일 음악단체와도 보조를 맞추었다.