人都称赞他品行好。
蔡邕少年时即博学多闻，师从太傅胡广。喜欢文学、数术、天文，还擅长音乐。汉桓帝时，中常侍徐璜、左悺等五侯，擅权不法，听说蔡邕的琴鼓得好，于是告诉桓帝，命令陈留太守督促他启程。蔡邕不得已，走到偃师，假称生病，返回家中。[6]蔡邕在家中闲居，不与那些当世的贤达来往。受东方朔《客难》及扬雄、班固、崔骃设疑自通的启发，于是汲取百家之言，肯定其中正确的而纠正不对的，创作了《释诲》来警惕和自勉。
建宁三年（170年）至建宁四年（171年）间，蔡邕被先后担任司空、司徒的桥玄征召为掾属，受到桥玄的厚待。后出任平阿县县长，又被召拜为郎中，在东观校书。后升任议郎。
当初，朝廷认为州郡会相互勾结结伙营私，于是下令互为婚姻的家庭和两州人士，不得互相担任监察官吏。后来又有三互法，规定互为婚姻家庭和两州人士不得交互为官，禁忌更加严密。选用官吏，非常不容易。天下十三州，有十一州的人都不能担任幽、冀两州的官职，致使二州的官职缺职很久都无人接任。蔡邕上疏建议灵帝废除近禁，不要拘于时间与三互法，只要合适的就可以任用。但灵帝没有理会。