《삼국사기》에 가야금은 가야국의 가실왕이 당나라의 악기를 보고 만들었다고 하나 가실왕 이전인 신라 자비왕(재위 458~479) 때 백결선생이 금을 쳤다는 기록이 있고, 《삼국유사》에는 신라 내해왕(재위 196~230) 때 물계자가 금을 쳤다는 기록도 있다. 이밖에 최근 경주시 황남동 능원 경내 폐고분에서 발굴된 토기 장경호의 목부분에 새겨진 가야금의 주악도를 신라 미추왕릉의 것으로 추정한다면, 가야금의 연대는 3 세기 초로 소급된다. 이상과 같은 문헌과 토기로 보아 가야금은 3 세기경 가실왕이 중국의 쟁을 본떠서 제작한 것으로 보인다.

552년 가야국이 어지러워지자 악사 우륵은 가야금을 들고 신라 진흥왕에게 투항하였다. 이때 진흥왕은 그를 받아들여 국원(현재:충주)에 자리잡게 하고, 대내마인 법지와 계고, 대사인 만덕을 제자로 삼게 하여 그 업을 전수하게 하였다. 그후 가야금은 노래와 춤의 반주악기로 사용되었으며, 고구려·백제의 것과는 다른 가야금이 사용된 독특한 신라음악을 낳게 하였다.

통일신라시대 이후 가야금은 삼현삼죽(가야금·거문고·향비파·대금·중금·소금)의 관현합주로 확대되었고, 그 전통은 조선 성종 때까지 이어졌다. 오늘날 연주되고 있는 줄풍류를 비롯하여 가곡반주 등의 악기인 거문고·대금·피리·해금·장구와는 조선 후기부터 함께 편성되었다. 그리고 충청도와 경기도 남부지역에서 연주되던 시나위와 이 시나위에 판소리가락을 도입하여 만든 산조음악도 이때부터 연주되기 시작하였다.

 

가야금에는 정악을 연주하기 위한 정악가야금(법금)과 민속악 및 산조를 연주하기 위한 산조가야금이 있다. 법금은 신라 때부터 있어 온 원형의 것이며 산조가야금은 산조와 민속악의 연주를 위하여 조선 후기에 개량된 가야금이다. 이 두 종류의 가야금은 구조에 있어서는 거의 같으나 크기·음역·음색 및 연주하는 법은 서로 다르다.

가야금의 연주자세는 책상다리를 하고 앉아서 용두를 오른쪽 무릎 위에 올려놓고, 양이두는 왼쪽 무릎 약 30° 정도로 비스듬히 놓는다. 오른손은 용두에 올려놓고 현침 너머의 줄을 뜯거나 퉁겨서 소리를 내며, 왼손으로는 안족에서 양이두 쪽으로 약 10~15cm 떨어져 오른손이 내준 소리를 장식하는 농현(줄을 흔들어 줌)·퇴성(소리를 흘려 내려 줌)·전성(줄을 굴러 줌)을 한다.

조율은 안족의 움직임으로 비교적 간단하게 이루어지는데 정악가야금에는 평조 ·계면조 ·우조의 3가지 조율법이 있고, 산조가야금에는 산조 한 가지의 조율법이 있다. 산조에는 절대음고가 없으므로 연주자에 따라서 음높이가 다를 수도 있다.  

거문고에 비해서 음색이 섬세하며 부드럽고 여성적인 특징이 있다.현재,fusion음악으로써 가장 많이 활용되고 있는 전통악기이다.