W centralnym miejscu wsi, na rozciągniętym wzdłuż potoku placu, tzw. nawsiu, stoi kościół pw. Wszystkich Świętych. Ustalenie dokładnej daty budowy świątyni nie jest możliwe. Według niektórych badaczy kościół został ufundowany przez Kokosza Berzewiczego przed 1326 rokiem, inni natomiast twierdzą, że świątynia pochodzi z początku XV wieku. Z późniejszych dokumentów wiemy natomiast, że w 1431 roku kościół opanowali Husyci. W tym czasie taboryci (odłam husytyzmu) najechali i pustoszyli Spisz, obozując w pobliżu zamku w Niedzicy. Około 1600 roku w kacwińskiej świątyni, nad którą patronat sprawowali kolejni właściciele zamku w Niedzicy, wprowadzono obrządek luterański (za sprawą rodziny Horwathów z Palocsy). Taki stan rzeczy utrzymywał się tu do 1632 roku. Przez kolejne stulecia, aż do 1921 roku jurysdykcję kościelną nad parafią w Kacwinie sprawowała prepozytura spiska. Kiedy sytuacja terytorialna uległa zmianie i w wyniku decyzji Rady Ambasadorów podjętej 28 lipca 1920 roku na nowo wytyczono granice, przyłączając do Polski 14 spiskich wsi, parafia w Kacwinie znalazła się pod opieką ordynariusza krakowskiego. W skład archidiecezji krakowskiej weszła w 1926 roku i należy do niej (z przerwą podczas II wojny światowej) do dziś. Na obecny wygląd budowli wpłynęły liczne pożary, a także prace remontowe zlecane przez kolejnych proboszczy. W 1677 roku świątynia uległa pożarowi. Wówczas spłonęła też plebania, a wraz nią dokumentacja parafii. W latach 1678‒1679 odbudowano strop i dach kościoła, a w 1712 w miejsce drewnianej zakrystii kościół zyskał murowaną, dobudowano także kaplicę św. Anny oraz kruchtę. Po kolejnym pożarze z 1757 roku odbudowano wieżę, która otrzymała wówczas nowy hełm i latarnię. W 1814 roku kościół otoczono kamiennym murem, w obrębie którego do dziś zachowało się kilka nagrobków z przykościelnego cmentarza. We wnętrzu kościoła pw. Wszystkich Świętych możemy zobaczyć zabytkowe wyposażenie, w tym drewniany barokowy ołtarz główny z centralnie umieszczonym obrazem z przedstawieniem świętych adorujących Trójcę Świętą. Dwa pozostałe rokokowe ołtarze boczne dedykowane są Matce Bożej Bolesnej (po prawej) oraz Matce Bożej w otoczeniu św. Alojzego Gonzagi (po lewej). W prezbiterium zachowały się pozostałości pierwotnej polichromii, natomiast sklepienie kościoła pokryte jest malowidłami wykonanymi w 1944 roku przez Mikołaja Stelmacha z Rużomberku.