>Почитай http://tldp.org/HOWTO/Serial-HOWTO.html там всё написано.
>программа использущая порт создаёт файл /var/lock/LCK..name где name - имя порта ttyS0
>или что там у тебя. В файле PID твоей программы. Так
>все другие программы знают кто использует этот порт.

Не совсем понял, /var/lock/LCK..name - именно с двумя точками?
Нет ли какого-нибудь системного/библиотечного вызова, который атомарно проверяет наличие файла, если его нет, создает, а если есть, то считывает из него pid, проверяет, живой ли процесс с данным pid'ом, если не живой, то создает новый с pid'ом текущего процесса?

И еще, насколько этот механизм блокировки поддерживается в разном софте? Следует ли кто-нибудь данным правилам?

Сделал как умные люди советовали, через блокировку в /var/lock.
Возник такой вопрос - лок файл создается с парвами --------- (т.е. ничего нельзя с ним делать). Голову сломал, не пойму, где косяк. Код такой:

bool tryMakeNewExclusiveLock( const char* lockFileName)
   {
    PID_T pid = getpid();
    char strPid[64];
    char strTick[64];
    sprintf(strPid, "%u", pid);
    sprintf(strTick, "%u", (unsigned)cliGetTickCount());

    char* uniqName = (char*)_alloca( strlen(lockFileName) + strlen(strPid) + strlen(strTick) + 16 );
    strcpy( uniqName, lockFileName );
    strcat( uniqName, "." );
    strcat( uniqName, strPid );
    strcat( uniqName, "." );
    strcat( uniqName, strTick );

    mode_t prevMask = umask(0777);
    //std::cout<<"prevMask: "<<prevMask<<"\n";
    //std::cout<<"newMask : "<<umask(0777)<<"\n";

    mode_t creatMode = S_IRWXU|S_IRWXG|S_IRWXO;
    int newLockFile = ::open( uniqName, O_CREAT|O_RDWR, creatMode );
    if (newLockFile==-1)
       {
        return false; // failed to lock
       }
    //std::cout<<"newLockFile: "<<newLockFile<<"\n";
    size_t bytesToWrite = strlen(strPid);
    if (::write(newLockFile, strPid, bytesToWrite )==-1)
       {
        //std::cout<<"Write error: "<<errno<<" "<<strerror(errno)<<"\n";
        //std::cout<<"newLockFile: "<<newLockFile<<"\n";
        ::close(newLockFile);
        ::unlink(uniqName);
        ::umask(prevMask);
        return false;
       }
    ::close(newLockFile);

    bool res = false;
    if (::link(uniqName, lockFileName)==-1)
       {
        struct stat s;
        ::stat(uniqName, &s);
        if (s.st_nlink>=2) res = true;      
       }
    else
       {
        res = true;
       }
    
    ::unlink(uniqName);
    ::umask(prevMask);
    return res;
   }

>lsof, fuser.

Интересно, спасибо, но сорцы не осилил. И переносимость не очень ясна.