Pirmo reizi vēstures avotos Valka/Valga minēta Rīgas parādu grāmatā 1286. gadā Livonijas ordeņa dokumentos sakarā ar landtāgu rīkošanu. Pilsētu tajā laikā sauca par WALK. Nelielajā apdzīvotajā vietā Livonijas sirdī viduslaiku Vecās Livonijas landtāgs tika rīkots 36 reizes. 1584. gada 11. jūnijā Polijas karalis Stefans Batorijs pasniedza Livonijas hercogistes pilsētai dibināšanas rakstu un piešķīra pilsētas tiesības. Šī diena skaitās kā Valkas/Valgas dzimšanas diena.
Pēc Lielā Ziemeļu kara pilsēta tika pakļauta Krievijas impērijai. Karš pilsētu stipri izpostīja. Pagāja vesela paaudze, lai pilsētas iedzīvotāju skaits sasniegtu 400 cilvēkus. 1783. gadā ķeizariene Katrīna II parakstīja ukazu, uz kura pamata tika izveidots Valkas apriņķis (Walckshe Kreis), kas ietilpa Livonijas guberņā. Apriņķis sastāvēja no 11 muižām, no kurām deviņi atradās pašreizējās Latvijas teritorijā. Valka kļuva par guberņas pilsētu jeb par apriņķa centru. Guberņas pilsētā bija jābūt trim tai raksturīgām ēkām – baznīcai, apriņķa iestāžu ēkai un apriņķa skolai („kreisskola”) – ko arī uzsāka celt. TagadējāsValgas centrā visas trīs ēkas līdz šim ir saglabājušās, kas Igaunijas kontekstā ir diezgan neparasti.
19. gadsimta beigās un 20. gadsimta sākumā pilsētas attīstību stipri veicināja dzelzceļa būvēšana. Dzelzceļš kļuva par nozīmīgu transporta artērijustarp divām guberņas pilsētām – Rīgu un Tallinu – un Valga bija viens no svarīgākajiem mezgla punktiem šajā līnijā. “Daudz tirgotāju no citām pilsētām vēlas pārcelties šeit dzīvot. Tas tā ir, jo Valgas pilsēta četru dzelzceļu atzaru krustpunktā stāvēs,“– tā rakstīja laikraksts ”Postimees” 1887. gadā, kad pirmais vilciens atbrauca uz Valku/Valgu. Tieši pateicoties dzelzceļam mazā Valka/Valga Igaunijas kontekstākļuva par lielo pilsētu. Pirms dzelzceļa būvēšanas 19. gadsimta vidū Valkā dzīvoja 4200 cilvēku, 1897. gadā aptuveni 11 000 un uz Pirmā Pasaules kara beigām jau 20 000 iedzīvotāju. Tajā laikā ValgaIgaunijāskaitījās kā visātrāk augošā pilsēta.
Latvijai un Igaunijai atkarību iegūstot, Valkas piederība kļuva par galveno strīdus ābolu starp divām valstīm. Līdz 1920. gadam Ērģemes (Härgmäe) un Valkas apkārtnē nepastāvēja konkrētās valsts robežas. Tā kā pilsētas iedzīvotāji pēc tautības sadalījās daudzmaz uz pusi – latvieši un igauņi –, likās pat, ka labu risinājumu nav. Strīdu sāka risināt starptautiskā komisija britu pulkveža Stīvena Džordza Talenta (Stephen Georg Tallents) vadībā. Talents pieņēma Zālamana lēmumu dalīt pilsētu starp divām valstīm pa Varžupītes (Konnaoja) asiun tā 1920. gadā arī dzima dvīņu pilsēta Valka/Valga.
1940. gada lūzumu izraisoši notikumi pilsētā atnesa padomju varu un 1941. gada jūnijā sākās masveida deportācijas gan Latvijā, gan Igaunijā. 1944. gadā Valka/Valga atbrīvojās no karalaika Vācu okupācijas, ko aizvietoja padomju okupācija. Pēc Otrā Pasaules kara Valka/Valga bija rūpniecības pilsēta, kur atradās arī lielā padomju armijas militārābāze. Kaut gan fiziskās robežas tajā laikā starp divām pilsētām nebija, abas pilsētas turpināja attīstīties savā ritmā.
Pēc Latvijas un Igaunijas neatkarības atgūšanas Padomju Savienības gados ierasto brīvo pārvietošanos starp divām pilsētām un robežas šķēršošanu, aizvietoja formālās un apgrūtinošās procedūras. Par laimi tas laiks neilga īpaši ilgi, jo 2007. gadā abas valstis pievienojās Šengenas zonai un brīvā pārvietošanās starp divām pilsētām tika atjaunota.