FNH563C74Q, проблема в том, что корень IK-цепочки крутится совершенно свободно даже если его ограничить в Bone->Inverse Kinematics. Все младшие звенья IK-цепочки следуют ограничениям и ты можешь в этом убедиться, укоротив или удлинив IK-цепочку.
Можно сделать такой "финт ушами": скопировать эти две кости IK цепочки в параллельную цепочку, разделив управляющую и деформирующую цепочки. Т.е. IK цепочка теперь не деформирует меш, а деформирующие кости копируют с IK-костей поворот через Copy Rotation Constraint, но кроме того ограничены через Limit Rotation Constraint. Но не скажу что это здорово.

Если честно, никогда не задумывался об этой особенности IK и не испытывал всвязи с этой особенностью проблем. Дело в том, что если применять IK к рукам или ногам, то корнем цепочки будет тазобедренный или плечевой сустав, который очень свободно крутится и тут скорее аниматор сам разберётся, до какого угла его нормально поворачивать. Ну а поворот в колене/локте ограничить уже работает.
Может стоит задать вопрос разработчикам почему IK Solver игнорирует ограничения на поворот у корневой кости цепочки.
Added after 29 minutes 14 seconds:P.S. ИМХО ты слишком много внимания уделяешь ограничениям. Вот ты точно знаешь, что тебе надо, допустим 20 градусов ограничение, а не 21, 22, 25? Почему не оставить это на усмотрение аниматора? Вдруг ему надо будет чуть сильнее чем ты разрешаешь и неважно что что-то при этом чуть испортится или будет немного неанатомично? Может наоборот нужна выраженно неестественная поза?
По мне надо просто дать удобные "ручки" с минимальным набором ограничений (вроде нога в колене только по одной оси поворачивается и т.п.). IK для головы выглядит неудобным. А удобным выглядит завести отдельную кость в основании шеи и объявить её ручкой. Копировать с неё вращение на голову на 100% а на кости шеи дробно, там 50% если кость шеи одна, 33% и 66% если две.
Для удобства аниматора назначить на ручку shape и рисовать его не в основании шеи а на месте деформирующей кости головы. Чтобы как-будто аниматор за голову берёт и крутит. Для полноты эффекта иметь ориентацию ручки и кости головы одинаковой через копирование в СК World или Pose на 100%.
Это я в
CG Cookie FlexRig подсмотрел, вроде не дураки делали

Его тяжело изучать правда с его-то заморочками адаптации под разных персонажей. Он так-то открытый, но почему-то непонятно как скачать и ссылка на Blendswap ведёт вникуда. Но если интересно - то вот его кто-то выложил
в баг-репортах Blender.