Воспитанник математического факультета Московского университета, а позже – Академии генерального штаба. За выдающиеся успехи на ее геодезическом отделении Поленов был записан на золотую доску.
После ее окончания, в 1858 г. Поленов был прикомандирован к Пулковской обсерватории, но через год вышел в отставку. Его наблюдения и исследования виз области астрономии легли в основу работы «О протяжении сфероидов и определение сжатия земли по наблюдениям качания маятника». Вскоре он занял должность заведующего Нижнетагильского заводского училища, где преподавал математику. С 1862 по 1864 гг. Поленов – управитель Висимо-Шайтанского завода.
В 1864 –1902 гг. Поленов был управителем Нижнесалдинского завода. Там он усовершенствовал рельсопрокатное производство и ввел прокатку стальных рельсов, применив прибор под название «фотометр» со стеариновой свечой для определения температуры при обрезке рельсов в горячем состоянии. Именно при Поленове производство железнодорожных рельсов достигло самого высокого качества – они служили около 25 лет. Он ввел закалку рельсов, что в то время считалось невозможным.
В 1876 г. он построил первую в России бессемеровскую сталелитейную фабрику. Вот как писал об этом знаменитый металлург В. Е. Грум-Гржимайло: «способ бессемерования, созданный в Нижнесалдинском заводе К. П. Поленовым, не был как-либо первоначально задуман; напротив, только неудачи и трудности, которые были встречены во время установки в Нижнесалдинском заводе прямого способа бессемерования, обратили внимание К. П. Поленова на весьма важный элемент в этом процессе, который совершенно игнорируется до сих пор многими знатоками бессемерования и который лег в основание названного способа в Нижнесалдинском заводе. Я говорю о значении первоначальной температуры чугуна, до поступления его в реторту».
В 1880 г. вместо прямого бессемерования Поленов ввел на Нижнесалдинском заводе новый русский метод бессемерования мелкокремнистых чугунов с предварительно нагревом из в отражательной печи перед продувкой в конвекторе. К стали добавлялся скрап в зависимости от содержание кремния в чугуне. Этот метод остался в истории под названием «русский процесс бессемерования».
Поленову принадлежат и другие изобретения. В 1876 г. им был создан электрический музыкальный инструмент «мелодром» и первый электрический фонарь, освещавший контору Нижнесалдинского завода. Он также создал проекционный фонарь, благодаря чему «получил возможность пользоваться непрозрачными картинами совершенно одинаково с прозрачными».
В 1874 г. Поленов стал членом УОЛЕ.