在小说《三国演义》中，荀彧初登场于第十回“勤王室马腾举义　报父仇曹操兴师”一回中。其时曹操在兖州招贤纳士，荀彧共其侄荀攸共往相投，成为曹操旗下的重要谋士。曹操初与荀彧交谈，便已惊叹荀彧是“吾之子房”。荀彧又向曹操举荐程昱，为曹操另添一名重要谋士。

第十一回曹操兴兵讨陶谦于徐州，荀彧与程昱留守根据地兖州，遇上吕布偷袭，二人设计死守鄄城、东阿等三城，力保不失。徐州之役后，荀彧献策吸纳汝南一带的黄巾势力，建立青州兵集团，令曹操得以滋养势力。后来又劝曹操乘献帝出走的时候勤王迎帝，一方面让曹操得以挟君以令天下，另一方面也令汉室得以保存。

第十四回，荀彧晋升侍中尚书令。后献“二虎竞食之计”挑拨刘备与吕布，令二人心怀诡谲，不能通力合作。

曹操征张绣时，荀彧留守许都。此后参与讨伐吕布、袁绍等战事。

第二十三回曹操于祢衡前赞扬“荀彧、荀攸、郭嘉、程昱，机深智远，虽萧何、陈平不及也”，但祢衡却反讽荀彧共能“吊丧问疾”。

荀彧深谋有智，擅长评价人物，曾与孔融争辩，一席话将袁绍手下谋士将领的缺点一一道出。荀彧亦善占卜术数，第二十四回曹操征刘备于小沛时，大风吹折军旗，荀彧便算出刘备军必定派人劫寨。官渡之战时，荀彧再次为曹操留守许都，提供粮草支援。后来曹操南征荆州、江东，亦留荀彧守许都。

第六十一回，曹操野心渐露，与手下董昭等互谋自尊为魏公，加九锡。荀彧不以为然，以大义阻谏曹操，不被接纳，更触动曹操的加害之心。后来曹操南征，令荀彧同行，荀彧知曹操意图加害，故托病止步于寿春。谁知曹操送来饮食一盒，内无一物，暗示要荀彧自行了断。荀彧理解其意，亦知在数难逃，决定服毒自杀，终年五十岁。