Если собираешь не из src.rpm, то сдлелай
# make distcleanОн кеширует данные и может не реагировать на новые параметры.
Какие пакеты из MySQL ты поставил?
По тому пути который ты указываешь в --with-mysql=/xxx должны находится библиотеки libmysqlclient.so, libmysqlclient.so.10 и т.п.
Проверь есть ли они там.
Не пожалей 25МБ иди сюда http://dev.mysql.com/downloads/mysql/4.1.html
Найди раздел Linux x86 RPM downloads
И скачай следующие пакеты
Server (4.1.11-0) - собственно сервер 14.8M
Client programs (4.1.11-0) -командная строка и т.п. По желанию, но лучше скачать 5.3M
Libraries and header files (4.1.11-0) - заголовочные файлы и библиотеки. 2.7M
Dynamic client libraries (including 3.23.x libraries) 4.1.11-0 - сами библиотеки 1.5M
Итого: 14.8 + 5.3 + 2.7 + 1.5 ~ 25 MB
На будущее проблем будет меньше.