每种型号的计算机都有自己的指令系统，也叫机器语言，每条指令都对应一串二进制代码。机器语言是计算机唯一能够识别并直接执行的语言，所以与其他程序设计语言相比，其执行效率较高。用机器语言编写的程序叫机器语言程序，由于机器语言中每条指令都是一串二进制代码，因此可读性差、不易记忆；编写程序既难又烦琐、容易出错；程序的调试和修改难度也很大，总之，机器语言不易掌握和使用。此外，因为机器语言直接依赖于机器，所以在某种类型计算机上编写的机器语言程序不能在另一种计算机上使用，也就是说可移植性差。
20世纪50年代初，出现了汇编语言。汇编语言不再使用难以记忆的二进制代码编程，而是使用比较容易识别、记忆的助记符号，所以汇编语言又叫符号语言。汇编语言只是将一条机器语言用符号表示而已，也是面向机器的一种低级语言，或者说，汇编语言是符号化了的机器语言。
用汇编语言编写出来的程序称为汇编语言源程序，计算机不能直接识别、执行它。必须先把汇编语言源程序翻译成机器语言程序（称目标程序），然后才能执行。这个翻译过程是由事先存放在机器里的“汇编程序”完成的，叫做汇编过程。