機器人感知系統把機器人各種內部狀態信息和環境信息從信號轉變為機器人自身或者機器人之間能夠理解和應用的數據、信息，除了需要感知與自身工作狀態相關的機械量，如位移、速度、加速度、力和力矩外，視覺感知技術是工業機器人感知的一個重要方面。

　　視覺伺服系統將視覺信息作為反饋信號，用于控制調整機器人的位置和姿態。這方面的應用主要體現在半導體和電子行業。機器視覺系統還在質量檢測、識別工件、食品分揀、包裝的各個方面得到了廣泛應用。

　　通常，機器人視覺伺服控制是基于位置的視覺伺服或者基于圖像的視覺伺服，它們分別又稱為三維視覺伺服和二維視覺伺服，這兩種方法各有其優點和適用性，同時也存在一些缺陷。

　　基于位置的視覺伺服系統，利用攝像機的參數來建立圖像信息與機器人末端執行器的位置/姿態信息之間的映射關系，實現機器人末端執行器位置的閉環控制。末端執行器位置與姿態誤差由實時拍攝圖像中提取的末端執行器位置信息與定位目標的幾何模型來估算，然后基于位置與姿態誤差，得到各關節的新位姿參數。基于位置的視覺伺服要求末端執行器應始終可以在視覺場景中被觀測到，并計算出其三維位置姿態信息。消除圖像中的干擾和噪聲是保證位置與姿態誤差計算準確的關鍵。

　　二維視覺伺服通過攝像機拍攝的圖像與給定的圖像(不是三維幾何信息)進行特征比較，得出誤差信號。然后，通過關節控制器和視覺控制器和機器人當前的作業狀態進行修正，使機器人完成伺服控制。相比三維視覺伺服，二維視覺伺服對攝像機及機器人的標定誤差具有較強的魯棒性，但是在視覺伺服控制器的設計時，不可避免地會遇到圖像雅克比矩陣的奇異性以及局部極小等問題。

　　針對三維和二維視覺伺服方法的局限性，有人提出了2.5維視覺伺服方法。它將攝像機平動位移與旋轉的閉環控制解耦，基于圖像特征點，重構物體三維空間中的方位及成像深度比率，平動部分用圖像平面上的特征點坐標表示。這種方法能成功地把圖像信號和基于圖像提取的位姿信號進行有機結合，并綜合他們產生的誤差信號進行反饋，很大程度上解決了魯棒性、奇異性、局部極小等問題。但是，這種方法仍存在一些問題需要解決，如怎樣確保伺服過程中參考物體始終位于攝像機視野之內，以及分解單應性矩陣時存在解不唯一等問題。

　　在建立視覺控制器模型時，需要找到一種合適的模型來描述機器人的末端執行器和攝像機的映射關系。圖像雅克比矩陣的方法是機器人視覺伺服研究領域中廣泛使用的一類方法。圖像的雅克比矩陣是時變的，所以，需要在線計算或估計。