辛彦之是陇西狄道人。 祖父辛世叙，西魏凉州刺史。 父亲辛灵辅，北周渭州刺史。 辛彦之九岁时父亲去世，他不与不三不四的人交往，广泛涉猎经史之书，与天水的牛弘志同道合，爱好学习。 后进入关内，在京兆定居。 周太祖器重他，召引他做中外府礼曹，赏赐给他衣马珠玉。 当时国家初创，各种制度、礼仪还没有健全，而朝中大臣大多是行武出身，修定礼仪典章，只有辛彦之而已。 太祖不久拜辛彦之为中书侍郎。 周闵帝即位后，辛彦之与少宗伯卢辩专管礼仪制度。 周明帝、  周武  (《隋书白话文》人物)帝年间(557～578)，辛彦之历任典祀、太祝、乐部、御正四曹大夫，封开府仪同三司。 辛彦之奉命迎接突阙皇后回朝后，皇上赠给他二百匹马，封为龙门县公，食邑千户。 不久，晋爵为五原郡公，增加食邑一千户。 周宣帝即位后，授彦之为少宗伯。 隋高祖即位后，升辛彦之为太常少卿，改封任城郡公，进位上开府。 不久调任国子祭酒。 一年多后，高祖拜辛彦之为礼部尚书，和秘书监牛弘作《新礼》一书。 吴兴人沈重有博学之名，高祖曾令辛彦之与沈重辩论学问，沈重辩不过他，于是退席谢罪说：“辛君的学识就像金城汤池，我无法攻破它。”高祖大喜，后拜辛彦之为隋州刺史。 当时各州的长官大都向朝廷上贡珍宝玩物，只有辛彦之上贡的都是祭礼之物。 高祖非常喜欢，对朝臣说：“人怎么能没有学问，辛彦之的上贡方式，很有古人的遗风。”辛彦之调任潞州刺史，他前后任职之处，都有仁政之名。 辛彦之信仰佛教，在城内修佛寺两所，都高十五层。 开皇十一年(592)，潞州人张元突然死去，几天后却意外地活了。 张元说他云游天上，看见一所新建的房子，建制相当华丽。 张元问是怎么回事，人们说，这是潞州刺史辛彦之有功德，建造这所殿堂迎接他。 辛彦之听了并不高兴。 这一年他死在任上。 谥为“宣”。 辛彦之撰写的《坟典》一部，《六官》一部，《祝文》一部，《礼要》一部，《新礼》一部，《五经异义》一部，都流传于世。 他有个儿子叫辛仲龛，官至猗氏县令。