A opção --force para a acção install apenas sobrescreve quaisquer ficheiros existentes no disco se os pacotes que está a tentar instalar já existirem. Não remove ficheiros do disco como a opção uninstall action faz.
faria o brew uninstall imagemagick primeiro antes de fazer um install. Com o brew acho que a abordagem mais simples é muitas vezes a melhor: Quero reinstalar algo, depois devo removê-lo primeiro com uninstall e colocá-lo de volta com install. O sandboxing caseiro faz um trabalho muito bom para fazer desinstalações limpas do vosso sistema.
Se quisesse desinstalá-lo à mão, bastava procurar em /usr/local/bin por quaisquer ficheiros que se liguem a ../Cellar/imagemagick e apagar esses symlinks. Depois apagar /usr/local/bin/imagemagick& e desaparece. Poderá ficar com alguns pacotes de dependência que também precisam de ser removidos, mas o pacote imagemagick do núcleo terá sido apagado. Para ver do que o imagemagick depende se quiser fazer mais limpezas:
$ brew info imagemagick
imagemagick 6.7.1-1
http://www.imagemagick.org
Depends on: jpeg, libtiff, little-cms, jasper
Not installed
Some tools will complain unless the ghostscript fonts are installed to:
/usr/local/share/ghostscript/fonts
http://github.com/mxcl/homebrew/commits/master/Library/Formula/imagemagick.rb