德宗末年，京兆尹李实有权势，建议德宗的事几天内就能办成，当有人向李实推荐韦纯时，李实答：“我常听闻他贤，他和我的住所同里。我常想见他，如果有机会，我会向皇帝推荐他。”推荐者将此事告诉韦纯，但韦纯虽然没有表面拒绝，却几年都不去见李实，也就一直没有升迁。

德宗崩，由重病的儿子唐顺宗继位，顺宗登基了几个月就禅让给儿子唐宪宗。因宪宗名李纯，韦纯自称以字行，改用表字贯之，以避讳。宪宗为帝后不久，他被任为监察御史，他上表称此职应由弟弟韦??担任。结果，他被任为右补阙，韦??被任为监察御史，时人不以为这是他的私心。宰相杜佑之子杜从郁被任为左补阙，韦贯之和翰林学士崔群认为这不妥。最初，杜从郁的官职被降为左拾遗，但仍是谏官。韦、崔进一步阐明立场，谏官是当宰相行政不妥时报请皇帝纠正的，他们认为让杜从郁议论其父的行政是不妥的，杜从郁因此被改任为秘书丞。

后来，韦贯之和中书舍人张弘靖主考制策，选拔了十八人，后来都以文才闻名。转礼部员外郎。任上，本是商人的少府监新罗人金忠义给两个儿子求官。韦贯之拒绝了，指出按规定，工商业者之子不能当官，金忠义游说很多权臣为他说话，但韦贯之坚持，还将此事上表皇帝，金忠义之子最终未获官职。韦贯之还言辞恳切地弹劾金忠义为官的资格，使得金忠义被罢免，改吏部员外郎。

宪宗策试贤良方正直言极谏举人，韦贯之和户部侍郎杨于陵、左司郎中郑敬、都官郎中李益为考策官。伊阙尉牛僧孺、陆浑尉皇甫湜、前进士李宗闵三人批评时政，韦贯之选他们为上等。但宰相李吉甫被他们的批评激怒，视之为对他的人身攻击，哭着对宪宗说给韦贯之和杨于陵覆策的翰林学士裴垍、王涯有利害冲突，皇甫湜又是王涯的外甥。因李吉甫弹劾，裴垍、王涯、杨于陵和韦贯之都被贬，韦贯之先被贬为果州刺史，数日后再贬巴州刺史。但很快被召回长安为都官郎中、知制诰。

裴垍为宰相时，曾经三次奏事，宪宗不从，但在韦贯之指点下，裴垍所言被宪宗听取，于是裴垍说：“君以后当居此位。”他和给事中段平仲、兵部侍郎许孟容、户部侍郎李绛一起参与了李吉甫主张的一场大规模俸禄复查。在两年任期内，所选拔的人都重实干多于浮华，因此试图影响考试结果的人减少了，他曾从容上奏说：“礼部侍郎重于宰相。”宪宗说：“侍郎是宰相所任的，怎能重呢？”答：“但是侍郎是为陛下选拔宰相的人，能不重吗？”宪宗称赞其言。转尚书右丞，谢恩之日，面赐金紫。时有僧人登门，说：“君将要拜相了。”韦贯之命左右将他请出，说：“这是妄人。

韦贯之被授同中书门下平章事，为实质宰相，迁中书侍郎。当朝廷军队正和控制彰义的军阀吴元济交锋时，负责战事的韦贯之同僚宰相武元衡被暗杀。当时，杀害武元衡的刺客被认为是吴元济盟友成德节度使王承宗所派。宪宗同时对王承宗宣战，韦贯之反对，认为同时进行两场战事会带来另一波类似，导致德宗被迫逃离京城的朱泚之乱的叛乱，不如先平定吴元济再对付王承宗，但宪宗不听。

后来，宪宗虽然很认可韦贯之的说法，但诏书已下，朝廷以宣武节度使韩弘为都统，又命河阳节度使乌重胤、忠武节度使李光颜合兵而进。韦贯之认为不应该设置统督，这会让将领持重，但未被听取，四年后吴元济才依韦贯之之策被平定，王承宗果然如韦贯之所料臣服。不久，迁中书侍郎，同僚推荐张仲素、段文昌为学士，韦贯之认为他们行止不正，不宜在内庭，拒绝了。

当时，左补阙张宿有口辩，得宠于宪宗，宪宗命他出使平卢节度使李师道，宰相裴度想为他请求越级的银绯章服，韦贯之拒绝，认为张宿奸佞，因此被张宿怨恨。韦贯之性格高傲，不和他认为出身低的人交往，和裴度在御前论兵时，他也惹怒了宪宗。张宿弹劾他结党，被罢相为吏部侍郎。翰林学士、左拾遗郭求为他申辩，结果被罢免学士，韦贯之又被贬出京城为湖南观察使。弟弟虢州刺史韦??也被贬，韦顗、李正辞、薛公干、李宣、韦处厚、崔韶都因和韦贯之相善被贬出京城为州刺史。韦顗、李正辞、韦处厚都是清正之人，却因此被贬，朝内外开始大恨张宿。

韦贯之任湖南观察使后，一次因作战，国库不足，宪宗命盐铁副使程异出使诸道督课财赋，程异每到一个方镇，都说服当地官员额外收税并上缴。韦贯之却说不忍给百姓加赋，上缴的数额不满足程异的要求，便上缴镇里所有的收入，因而被罢为太子詹事，在东都洛阳就职。唐宪宗崩，李恒继位，即唐穆宗，穆宗任韦贯之为河南尹，召拜工部尚书。韦贯之还未及离开洛阳就去世了，诏赠尚书右仆射，谥号为贞，后改谥为文。