в принципе "...кто поправляет при моих ошибках" сказать можно, но это действительно неправильно, хотя мысль все, конечно, поймут. Здесь можно добавить слово "меня" - получится "...кто поправляет МЕНЯ при моих ошибках", а еще лучше "...кто поправляет МЕНЯ при ошибках" - в таком виде получается 100% верный вариант.
И еще, как и было тобой точно подмечено, такую конструкцию обычно употребляют тогда, когда речь идет не о грамматических ошибках, а об ошибках "морального" что-ли плана, т.е. ошибочные, неправильные поступки, поведение и т.п.