Будет актуально для людей, ставящих форум на свой сервер, так как у хостеров php уже скомпилено как надо. У них жопытабольше :)
Итак, имеем установленный IPB, включаем в настройках капчу через GD2 и на странице регистрации вместо капчи надпись "Включите эту картинку". Супер информативно, надо сказать. При этом php точно был скомпилен с --with-gd.
Путем выдирания кода, отвечающего за рисование капчи я определил, что скрипт падает при вызове несуществующей функции ImageJPEG. В phpinfo строки с JPG в разделе GD тоже нету. При компиляции PHP видать было лениво слазить за libjpg в /usr/local/lib
Решение проблемы состоит в перекомпиляции php с указанием пути к libjpg:
./configure --with-apxs2=/usr/local/apache2/bin/apxs --with-mysql --enable-safe-mode --with-gd --with-jpeg-dir=/usr/local/lib
Не забываем рестартнуть апач.