Nun, um auf den ersten Teil deiner Frage zu antworten: Die Antwort steht in dem Zitat. "if the target thread was canceled, then PTHREAD_CANCELED is placed in *retval". In dem Fall gilt also *retval == PTHREAD_CANCELED. Ansonsten hat sich der Thread regulär beendet und du kannst über retval den Rückgabewert auslesen. Wie die Doku zu pthread_exit() verrät, musst du diese Funktion übrigens nicht explizit aufrufen. Ein "return foo;" führt implizit zu einem entsprechenden Aufruf von pthread_exit().

Grüße,
Markus