> Но перед каждым вызовом подфункции придётся этот регистр сохранять в стеке а
> потом - восстанавливать, иначе вызываемая функция может этот регистр перезатереть. Либо,
> если соглашение о вызове другое, сохранять в стеке модифицируемые регистры придётся
> самой вызываемой функции. Но в любом случае это запись в стек.

Не совсем так - если рассматривать самый простой случай (один поток, без прерываний), компилятор просто передаст регистр(ы) в качестве аргумента вызываемой функции и постарается использовать еще не задействованные регистры. Тут их количество и сыграет решающую роль.

> inline-функции это действительно оптимизируют, но... неужели inline-функции (в том числе
> те, что компилятор сам заинлайнил) действительно дают настолько большой эффект?

На микроконтроллерах inline - просто сказка, без него о нормальной скорости можно забыть.

На pc - эффект может быть разный, смотря что именно удалось встроить/развернуть. Например сборка pango с -march=native -mmmx -msse -msse2 -msse3 -msse4a -O3 -mfpmath=sse дает двукратный приросты в gtkperf на тесте текста. Что там точно происходит я не изучал. А так в среднем прирост 5-10%. Но тут конечно больше автовекторизация дает эффект.