1
0
Fork 0
forked from len0rd/rockbox

Further speedup for ARMv6 by better pipelining in scalarproduct().

git-svn-id: svn://svn.rockbox.org/rockbox/trunk@18697 a1c6a512-1295-4272-9138-f99709370657
This commit is contained in:
Jens Arnold 2008-10-03 12:30:18 +00:00
parent 7fc446263f
commit d456460707

View file

@ -217,54 +217,80 @@ static inline int32_t scalarproduct(int16_t* v1, int16_t* v2)
"beq 20f \n" "beq 20f \n"
"10: \n" "10: \n"
"ldrh r4, [%[v2]], #2 \n" "ldrh r2, [%[v2]], #2 \n"
"mov r4, r4, lsl #16 \n" "ldr r0, [%[v1]], #4 \n"
"ldr r3, [%[v2]], #4 \n"
"mov r2, r2, lsl #16 \n"
"1: \n" "1: \n"
"ldmia %[v1]!, {r0-r3} \n" "ldr r1, [%[v1]], #4 \n"
"ldmia %[v2]!, {r5-r8} \n" "smlabt %[res], r0, r2, %[res] \n"
"ldr r4, [%[v2]], #4 \n"
"smlatb %[res], r0, r3, %[res] \n"
"ldr r0, [%[v1]], #4 \n"
"smlabt %[res], r1, r3, %[res] \n"
"ldr r5, [%[v2]], #4 \n"
"smlatb %[res], r1, r4, %[res] \n"
"ldr r1, [%[v1]], #4 \n"
"smlabt %[res], r0, r4, %[res] \n" "smlabt %[res], r0, r4, %[res] \n"
"ldr r6, [%[v2]], #4 \n"
"smlatb %[res], r0, r5, %[res] \n" "smlatb %[res], r0, r5, %[res] \n"
"ldr r0, [%[v1]], #4 \n"
"smlabt %[res], r1, r5, %[res] \n" "smlabt %[res], r1, r5, %[res] \n"
"ldr r3, [%[v2]], #4 \n"
"smlatb %[res], r1, r6, %[res] \n" "smlatb %[res], r1, r6, %[res] \n"
"smlabt %[res], r2, r6, %[res] \n" "mov r2, r6 \n"
"smlatb %[res], r2, r7, %[res] \n" "ldr r1, [%[v1]], #4 \n"
"smlabt %[res], r3, r7, %[res] \n" "smlabt %[res], r0, r2, %[res] \n"
"smlatb %[res], r3, r8, %[res] \n" "ldr r4, [%[v2]], #4 \n"
"mov r4, r8 \n" "smlatb %[res], r0, r3, %[res] \n"
"ldmia %[v1]!, {r0-r3} \n" "ldr r0, [%[v1]], #4 \n"
"ldmia %[v2]!, {r5-r8} \n" "smlabt %[res], r1, r3, %[res] \n"
"ldr r5, [%[v2]], #4 \n"
"smlatb %[res], r1, r4, %[res] \n"
"ldr r1, [%[v1]], #4 \n"
"smlabt %[res], r0, r4, %[res] \n" "smlabt %[res], r0, r4, %[res] \n"
"ldr r6, [%[v2]], #4 \n"
"smlatb %[res], r0, r5, %[res] \n" "smlatb %[res], r0, r5, %[res] \n"
"smlabt %[res], r1, r5, %[res] \n"
"smlatb %[res], r1, r6, %[res] \n"
"smlabt %[res], r2, r6, %[res] \n"
"smlatb %[res], r2, r7, %[res] \n"
"smlabt %[res], r3, r7, %[res] \n"
"smlatb %[res], r3, r8, %[res] \n"
#if ORDER > 16 #if ORDER > 16
"mov r4, r8 \n"
"subs %[cnt], %[cnt], #1 \n" "subs %[cnt], %[cnt], #1 \n"
"ldrne r0, [%[v1]], #4 \n"
"smlabt %[res], r1, r5, %[res] \n"
"ldrne r3, [%[v2]], #4 \n"
"smlatb %[res], r1, r6, %[res] \n"
"mov r2, r6 \n"
"bne 1b \n" "bne 1b \n"
#else
"smlabt %[res], r1, r5, %[res] \n"
"smlatb %[res], r1, r6, %[res] \n"
#endif #endif
"b 99f \n" "b 99f \n"
"20: \n" "20: \n"
"ldmia %[v1]!, {r0-r1} \n"
"ldmia %[v2]!, {r4-r5} \n"
"1: \n" "1: \n"
"ldmia %[v1]!, {r0-r3} \n" "ldmia %[v1]!, {r2-r3} \n"
"ldmia %[v2]!, {r4-r7} \n"
"smlad %[res], r0, r4, %[res] \n" "smlad %[res], r0, r4, %[res] \n"
"ldmia %[v2]!, {r6-r7} \n"
"smlad %[res], r1, r5, %[res] \n" "smlad %[res], r1, r5, %[res] \n"
"ldmia %[v1]!, {r0-r1} \n"
"smlad %[res], r2, r6, %[res] \n" "smlad %[res], r2, r6, %[res] \n"
"ldmia %[v2]!, {r4-r5} \n"
"smlad %[res], r3, r7, %[res] \n" "smlad %[res], r3, r7, %[res] \n"
"ldmia %[v1]!, {r0-r3} \n" "ldmia %[v1]!, {r2-r3} \n"
"ldmia %[v2]!, {r4-r7} \n"
"smlad %[res], r0, r4, %[res] \n" "smlad %[res], r0, r4, %[res] \n"
"ldmia %[v2]!, {r6-r7} \n"
"smlad %[res], r1, r5, %[res] \n" "smlad %[res], r1, r5, %[res] \n"
"smlad %[res], r2, r6, %[res] \n"
"smlad %[res], r3, r7, %[res] \n"
#if ORDER > 16 #if ORDER > 16
"subs %[cnt], %[cnt], #1 \n" "subs %[cnt], %[cnt], #1 \n"
"bne 1b \n" "ldmneia %[v1]!, {r0-r1} \n"
"smlad %[res], r2, r6, %[res] \n"
"ldmneia %[v2]!, {r4-r5} \n"
"smlad %[res], r3, r7, %[res] \n"
"bne 1b \n"
#else
"smlad %[res], r2, r6, %[res] \n"
"smlad %[res], r3, r7, %[res] \n"
#endif #endif
"99: \n" "99: \n"
@ -277,8 +303,8 @@ static inline int32_t scalarproduct(int16_t* v1, int16_t* v2)
[res]"+r"(res) [res]"+r"(res)
: /* inputs */ : /* inputs */
: /* clobbers */ : /* clobbers */
"r0", "r1", "r2", "r3", "r4", "r0", "r1", "r2", "r3",
"r5", "r6", "r7", "r8" "r4", "r5", "r6", "r7"
); );
return res; return res;
} }