原子力顯微鏡的基本原理是利用針尖與樣品表面原子間的微弱作用力來作為反饋信號。將一個對微弱力具有超高敏感性的微小懸臂的一端固定，另一端上含有一個微小的針尖。進行測試時，針尖通過與待測樣品的表面進行輕輕的碰觸，原子與待測樣品表面的原子之間存在微弱的相互作用力，在掃描時通過維持這種相互作用力的恒定，帶有針尖的微懸臂將對應于針尖與樣品表面原子間作用力的等位面而在垂直于樣品的表面方向上進行起伏運動。通過光學檢測或者隧道電流檢測的方法，可觀測到掃描各點位置的變化，從而可以準確獲得樣品的表面形貌等信息。
 

　　原子力顯微鏡的系統可分成三個部分：力檢測部分、位置檢測部分、反饋系統。
 

　　力檢測部分：所要檢測的力是原子與原子之間的范德華力。使用微小懸臂(cantilever)來檢測原子之間力的變化量。微懸臂通常由一個一般100500μm長和大約500nm5μm厚的硅片或氮化硅片制成。微懸臂頂端有一個尖銳針尖，用來檢測樣品與針尖間的相互作用力。
 

　　位置檢測部分：以激光檢測原子力顯微鏡(Atomic Force Microscope Employing Laser Beam Deflection for Force Detection，Laser-AFM)為例，二極管激光器發出的激光束經過光學系統聚焦在微懸臂背面，并從微懸臂背面反射到由光電二極管構成的光斑位置檢測器。在樣品掃描時，由于樣品表面的原子與微懸臂探針原子間的相互作用力，微懸臂將隨樣品表面形貌而彎曲起伏，反射光束也將隨之偏移。通過光電二極管檢測光斑位置的變化，就能獲得被測樣品表面形貌的信息。
 

　　反饋系統：通過電子學反饋系統使彎曲量保持一定，即控制掃描管Z軸使作用于針尖與樣品間的力保持一定。