Есть специальный инструмент в магазинах специализированных продается. На его рабочей поверхности имеются алмазные вкрапления получается как диск по камню.
А можно просто ножом пройтись по шву и чтобы убрать мелочь с боков шва можно взять наждачку сложить ее пополам и вставив ее перпендикулярно в шов плитки прочистить. Затем промыть швы водой. Можно промыть и грунтовкой, это даже лучше будет, единственное ее сразу надо удалять с поверхности самой плитки. Все можно заново фуговать.
Но писать, не швы расшивать, сразу скажу процесс очень нудный и кропотливый.
