1999年，于小伟考入中心戏剧学院。2000年，参演徐帆主演的电视剧《永远有多远》，这是他的首部电视作品。
2003年4月，参演陆毅、林心如主演的电视剧《男才女貌》，饰演高富帅“刘浩东”。2005年，在顾长卫导演的影戏《孔雀》中饰演张静初的暗恋对象、解放军伞兵；参演蒋雯丽，那英，罗海琼主演的都市恋爱片《好想好想谈恋爱》；12月，在陈凯歌导演的东方奇幻史诗影戏《无极》中饰演也力一角。
2008年3月，参演的范冰冰、霍建华、刘雪华主演的电视剧《胭脂雪》播出，出演软弱在感情上阁下扭捏的辜少棠，被香港媒体评为2008年度香港最具人气的大陆男演员。
2012年3月，与韩雪、丁子峻主演电视剧《恰恰爱上你》，饰演林重光；6月，于小伟与邬君梅、罗家英等主演惊悚片《查无这人》，荣获第四届英国万象国际华语影戏节“优异新人演员奖”。
2013年5月，与萨日娜、闫学晶领衔主演的电视剧《闯关东前传》播出，饰演管家大哥管粮；5月29日，与佟大为、于明加、丁嘉丽、周晓欧等联合主演的回响反映当代门第观念下婚恋冲突的电视剧《门第》在安徽卫视、河南卫视、深圳卫视、四川卫视黄金档播出，于小伟在剧中饰演玩世不恭、冷酷孤独、利欲熏心的“冰脸贵令郎”罗胜利。
2014年3月，主演《食来孕转》播出，于小伟与刘涛在剧平别离饰演杜一鸣和沈谷雨