Die Initialisierung des TIM1 bis TIM5 und TIM8 als Endcoder ( Endcoder-Mode ) ist relativ einfach. Im Kap. 14.3.12 Manual Rev. 11 steht da alles beschrieben.

Hier ein Bsp. für TIM3:

#define ENCODER_TIMER TIM3
#define C_QA GPIO_Pin_6 //- Input Encoder A
#define C_QB GPIO_Pin_7 //- Input Encoder B

void EncoderTimerInit( void )
{
TIM_TimeBaseInitTypeDef TIM_TimeBaseStructure;
TIM_ICInitTypeDef TIM_ICInitStructure;

/* Timer configuration in Encoder mode */
TIM_DeInit(ENCODER_TIMER);
TIM_TimeBaseStructInit(&TIM_TimeBaseStructure);

TIM_TimeBaseStructure.TIM_Prescaler = 0x0; // No prescaling
TIM_TimeBaseStructure.TIM_Period = 0xFFFF; //

TIM_TimeBaseStructure.TIM_ClockDivision = TIM_CKD_DIV1;
TIM_TimeBaseStructure.TIM_CounterMode = TIM_CounterMode_Up;
TIM_TimeBaseInit(ENCODER_TIMER, &TIM_TimeBaseStructure);

TIM_ICStructInit(&TIM_ICInitStructure);
TIM_ICInitStructure.TIM_ICFilter = ICx_FILTER;
TIM_ICInit(ENCODER_TIMER, &TIM_ICInitStructure);

//-
TIM_EncoderInterfaceConfig(ENCODER_TIMER, TIM_EncoderMode_TI12,
TIM_ICPolarity_Falling, TIM_ICPolarity_Rising);


// Clear all pending interrupts
// TIM_ClearFlag(ENCODER_TIMER, TIM_FLAG_Update);
// TIM_ITConfig(ENCODER_TIMER, TIM_IT_Update, ENABLE);

TIM_Cmd(ENCODER_TIMER, ENABLE);

}

void init_gpio( void )
{
GPIO_InitTypeDef GPIO_InitStructure;
//- andere Portpins für TIM3 ( GPIO 6 und GPIO 7 )
GPIO_PinRemapConfig(GPIO_FullRemap_TIM3, ENABLE);

GPIO_InitStructure.GPIO_Pin = C_QA | C_QB;
GPIO_InitStructure.GPIO_Mode = GPIO_Mode_IN_FLOATING;
GPIO_Init(GPIOC, &GPIO_InitStructure);

}

void main( void )
{
u16 wCounter =0;

init_gpio( );
EncoderTimerInit();

//- Bsp. für das lesen des Encoder-Counter
wCounter = ENCODER_TIMER->CNT;


// etc.

}

Das sollte so funktionieren. Musst Du halt noch entsprechend erweitern oder abändern ( Timer und Ports z.B. )

Gruss
Steffen