Всё зависит от того, сколько времени герметик находится на стене?
Если он попал при нанесении и вы оперативно его заметили, то лучше всего взять жёсткий лист бумаги, примерно такой жёсткости, как обложка журнала или как фотография. Аккуратно снизу подцепить силикон и снять его со стены, есть вероятность того, что стена (в зависимости от материала) ещё не успела впитать в себя герметик.
Если же силиконовый герметик по стене размазан, но он ещё свежий, удалять лучше тонким шпателем снизу вверх, а потом затереть растворителем, тут уже смотрите что под руку попадёт, специально же не будешь в магазин бегать, подойдёт и WD-40, и бензин.
Только вот пятно останется по любому.
Если же герметик попал на стену в ближайшие сутки, то механическое удаление может повредить поверхность стены, тогда надо использовать активные химические препараты.
Лучше всего с герметиком справится соляная кислота или другие сильные кислоты, но они опасны в обращении и не всегда можно оперативно достать.
Зато есть средство именно для этих целей, так и называется "очиститель для силикона", в продаже много разных производителей, вот один из них:
Но эти средства не только разводы оставят, но и могут испортить поверхность.
Теперь о герметике, который застыл давно, тут всё зависит от качества герметика, есть такие, которые даже нейтральны или очень стойкие к кислотам, такой герметик можно снять лишь механическим путём.