CPU 由運算器和控制器組成。
運算器主要完成各種算術運算和邏輯運算，例如算術邏輯單元（ALU）可進行加、減、乘、除四則運算，與、或、非、異或等邏輯操作，以及移位、比較和傳送等操作。此外，運算器還可能包括一些寄存器，如累加器、中間寄存器等，用于暫存運算數(shù)據(jù)和中間結(jié)果。
控制器是指揮中心，負責協(xié)調(diào)并控制計算機各部件執(zhí)行程序的指令序列，對指令進行分析和控制。它包含程序計數(shù)器（PC），用于指示下一條要執(zhí)行的指令地址；指令寄存器（IR），用來存放當前正在執(zhí)行的指令；指令譯碼器（ID），對指令寄存器中的操作碼進行分析解釋，產(chǎn)生相應的控制信號；還包括脈沖源及啟停線路、時序控制信號形成部件等，以保證指令按順序執(zhí)行，并根據(jù)指令要求產(chǎn)生相應的時序控制信號。
運算器和控制器相互協(xié)作，共同完成對指令的控制執(zhí)行功能。寄存器可用于存放運算的中間結(jié)果和數(shù)據(jù)，它可以是運算器或控制器的一部分，也可以單獨存在。CPU 中的這些部件相互配合，使得計算機能夠快速、準確地執(zhí)行各種指令，進行數(shù)據(jù)處理和計算。