金士杰原本是位兽医，毕业于屏东农专畜牧科，曾在牧场养猪一年半。
27岁时怀揣着年少时“说个故事或者写个故事”的梦想，只身来到台北。
1980年编导了话剧《荷珠新配》，开启了台湾现代剧场的序幕，在国外学习默剧，并指导许多年轻演员表演课程。
1986年，出演了赖声川执导的话剧版《暗恋桃花源》，扮演年迈卧床的江滨柳；随后，拍摄了杨德昌执导的剧情片《恐怖分子》。1989年，在赖声川执导的相声剧《这一夜，谁来说相声》中出演白坛。
1991年，客串了严浩执导的改编自钟阿城、张系国的同名小说，讲述了一代棋王故事的电影《棋王》。
1992年，与林青霞、李立群共同主演了由赖声川编导的舞台剧改编而成的电影《暗恋桃花源》；然后，参演了由许鞍华执导的系列电视剧《狮子山下》。
1994年，出演了赖声川执导的为表演工作坊成立十周年的电影纪念作《红色的天空》，饰LichunLee。2001年，与万芳、夏靖庭合作了爱情话剧作品《收信快乐》，并担任此剧当中的导演与艺术顾问。
2009年，与陈柏霖、童瑶共同主演了改编自日本青春爱情小说的电影《台北飘雪》，出演老中医马爷爷一角。
2011年，为3D动画电影《功夫熊猫2》中的功夫大师配音；随后，拍摄了公视HD单元剧《十七号出入口》，饰演老兵“赵学平”。
2013年1月，参演郭大雷执导的惊悚悬疑题材电影《小心没有影子的人》；6月，凭借浪漫武侠电影《绣春刀》魏忠贤一角，提名了51届金马奖最佳男配；6月27日，与范冰冰共同主演了法国导演查理德莫执导的宫廷文艺片《画框女人》，饰大太监陈德甫。2014年8月，参与了徐浩峰执导的民国武侠电影《师父》的拍摄，诠释了津门武行正宗的领头老大津门武馆馆主郑山傲一角；9月，拍摄国内首部应急题材轻喜剧《青年旅舍》，在剧中饰演房东张教授。
2015年2月，搭档舒淇、彭于晏，在落落执导的浪漫爱情电影《剩者为王》中出演高级知识分子，盛如曦的父亲；5月，客串了陈思成执导的动作喜剧电影《唐人街探案》，出演唐人街教父级人物闫先生；7月，主演了何一铮执导的新媒体话题电影《老兵》，饰演一位生活在红色旅游风景区的国民党老兵何卫国；12月，先和杨幂、霍建华领衔主演，韩国导演尹鸿承执导幻动作电影《致命倒数》；随后，拍摄了国内首部美式烧脑恐怖电影《恶灵之门》，在剧中扮演了擅长以灵符驱邪除魔，苗世宗祠馆的馆长苗康。
2016年2月，金士杰做客《丁乃竺会客厅》；3月客串出演了由郭大雷执导动作喜剧电影《东北往事之破马张飞》，演绎一位老谋深算的“黑帮教父”；4月，凭借武侠电影《师父》馆主一角，获得第六届北京国际电影节最佳男配角奖；5月，客串了蔡岳勋执导的以都市小巷里深夜才营业的食堂为舞台的都市情感剧《深夜食堂》，饰演食客；6月，拍摄了由靳东、白百何主演的都市行业励志情感剧《外科风云》，出演仁合医院的老院长修敏齐；7月，为创意灵感源于《庄子.逍遥游》改编的奇幻动画电影《大鱼海棠》当中的掌管所有死去人类灵魂的灵婆配音；10月，加盟了由韩寒执导，邓超、赵丽颖、董子健联合主演的电影《乘风破浪》。
2017年1月，与卜学亮共同主演了改编自美国小说《相约星期二》的《最后14堂星期二的课》话剧；6月，拍摄都市时尚爱情喜剧《幽兰湖之御厨驾到》；6月，主演了孙周执导的反映现实的喜剧电影《时代狂人》；同月，参演电视剧《楚乔传》播出；8月，与张震、张译、杨幂等主演电影《绣春刀·修罗战场》，饰演魏忠贤。
2018年10月31日，由杨阳执导的古装玄幻剧《将夜》在腾讯视频播出，金士杰在剧中饰演宁缺的符道师父颜瑟。
2019年，出演由高群书执导的警匪动作片《三叉戟》；2020年1月7日，主演的电影《三叉戟》正式杀青。
金士杰原籍安徽合肥，国民党中央评议委员金维系之孙。
2009年3月16日在亚都丽致饭店办婚宴，57岁的他娶了他的学生涂谷苹。
2014年08月21日，接受了“淋冰水”捐助ALS病人的慈善活动，呼吁社会上能够有更多的人关注并帮助“渐冻人”群体。
荣誉奖项
