Por algum motivo, os botões de formatação, quando você está compondo uma mensagem, não funcionam com o Firefox 1.x e o Opera, mas funcionam OK com o IE e o Firefox 2.0.
Eu estava arrancando os cabelos com o fórum até descobrir que o problema era no browser.
Versão do Firefox testada: 1.5.0.6.
Versão do Opera: 9.02
No Firefox 1.x, Você pode contornar isso usando a extensão IETAB e configurando-a para que todas as páginas começando com
http://ryan.com.br/smf abram numa IETAB