> Хм...? А они точно это делают? Когда я смотрел на DHT торента,
> там был SHA1 (== ширина 160 битов везде) и никакого ed25519.
> А клиенты выбирали например рандомный DHT ID и его тоже публиковали
> (чтобы остальные могли их постепенно в таблицы добавить).
> С тех пор какие-то расширения наверное были, но 160-битная версия точно живет.

Подпись проверяют точно. Это второй вариант. Я особо не вчитывался - по-моему это прописано в каком-то BEP. Меня больше интересовало, что такое реализовано в libtorrent ;) SHA1 тоже присутствует. Как я понимаю, в качестве него берётся хэш торрент-файла, а значение - ip адрес. Т.е. таким образом получают пиров для торрента. Ну и во второй версии libtorrent вроде бы уже кроме 160 бит и SHA256 в качестве альтернативы есть.  

> HEX это всего лишь человекочитаемое представление "произвольных байтов". Там ключ структурно
> как u8[32] и каждый байт это 8 бит, от 0 до
> 255. Проблема в том что не любое из этого можно напечатать.
> Скажем 0x0a это перевод строки. Но мы то хотим его как
> байт ключа отдать, без интерпретации при копировании и проч. Поэтому и
> кодируют в hex или иногда Base64 (base58, ... ).

Да, я в курсе. Просто в libtorrent на входе в соответствующую функцию требуется string. И даже если вы в неё скопируете, скажем, int (через memcpy), то в DHT оно не попадёт. Почему - не знаю, я в исходники libtorrent не лазил особо.