高速缓冲存储器的基本设计思想是利用小容量、高速设备来存放必要的数据和指令，使其可以立即被CPU使用，而无需从较慢设备中读入。它具有低功耗、小型化、灵活性、可靠性、高速度等优点，可以大大提高系统的存取效率。