Pode consultar online o manual da sua placa mãe ou utilizar uma ferramenta de informação do sistema. A partir de Priform e Aida32/64 que era anteriormente Everest. Estes programas irão dizer-lhe que tamanho, velocidade/frequência e especificação de RAM tem.
Máquinas recentes terão tipicamente RAM DDR2 ou DDR3, e podem vir em vários formatos, tamanhos e factores de forma (RAM para Portáteis e micro máquinas é um tamanho de placa mais pequeno). Da Wikipedia: Top: DDR2 com espalhador de calor. Médio: DDR2 sem dissipador de calor, DDR2 portátil, DDR2 inferior (OLD) Desktop DDR, PC-100
Ao comprar RAM precisa, como já foi dito, de olhar para a Capacidade (1, 2, 4, 8GB) número de módulos no kit (1, 2, etc) e os temporizadores.
A minha motherboard no meu desktop em casa é uma Asus M5A9 R2.0. O manual que veio com ela (mais a folha de especificações no site, e a caixa) mostrava as capacidades das placas. Pode suportar até 32GB de RAM, consistindo em módulos RAM DDR3 de 4x8GB.
RAM tem latência com a qual tem de se preocupar também. O DDR3 vem com DDR3-1066 DDR3-1333, DDR3-1600, DDR3-1800, DDR3-1866, DDR3-2000, DDR3-2133, DDR3-2200, DDR3-2250, DDR3-2333, DDR3-2400, DDR3-2600, DDR3-2666 e DDR3-2800, enquanto DDR2 tem DDR2-1066, DDR2-400, DDR2-533, DDR2-667 e DDR2-800. Quanto mais alto o número, mais rápida é a RAM. A RAM mais rápida também tende a ser mais cara. Na maioria dos casos, não me preocupo muito com isso, compre o mesmo que já tem.
RAM para servidores faz praticamente o mesmo, embora tenha uma funcionalidade chamada ECC que é Error Checking Code que verifica os dados para garantir a integridade dos dados. Mais uma vez, isto só é usado em servidores e não precisa de comprar RAM ECC para uma placa de desktop.
É importante notar que não se pode deitar fora qualquer mistura de tamanhos e especificações de RAM ou slots. O meu já mencionado M5A9 tem 4 ranhuras, denominadas 1, 2, 3, e 4 (apenas para explicação). Máquinas com dual-channel RAM slots (como a minha) precisam de ser instaladas em pares para um melhor desempenho, por isso se eu tivesse um módulo RAM, ele entraria no slot 1. Como tenho dois módulos, ele vai em 1 e 3 e se eu tivesse 4 módulos os outros dois módulos iriam em 2 e 4. Placa mãe com dois canais, com indicação de cores dos slots.
Em relação à capacidade, não sei se é melhor ter 1x4GB ou 2x2GB, ou 2x8 ou 4x4GB. Suspeito que possa ser “mais é melhor” permitindo que a RAM funcione alternadamente.
Uma última coisa, especialmente quando está a construir a sua própria máquina, certifique-se que a sua RAM não é demasiado grande. A minha RAM está nos slots 2 e 4 porque os dissipadores de calor na minha RAM Corsair fazem com que seja demasiado pequena para caber debaixo do dissipador de calor do meu CPU, o que significa que terei de comprar módulos mais pequenos mas com especificações idênticas se quiser comprar mais.
PCPartPicker é muito bom para comparar especificações e preços de RAM.