司南的工作原理是利用地球的地磁效应。地球是一个大磁体，其地磁南极在地理北极附近，地磁北极在地理南极附近。司南的本质是天然磁石，磁石的两端固定的指的就是南北极的磁场。
在制作过程中，将磁石的南极（S极）磨成长柄，放在青铜制成的光滑如镜的底盘上，再铸上方向性的刻纹。当磁勺在底盘上停止转动时，勺柄指的方向就是正南，勺口指的方向就是正北。
此外，司南车也是中国古代用来指示方向的一种装置，其工作原理是靠人力来带动两轮的指南车行走，从而带动车内的木制齿轮转动，来传递转向时两个车轮的差动，再来带动车上的指向木人与车转向的方向相反角度相同，使车上的木人指示方向，不论车子转向何方，木人的手始终指向指南车出发时设置木人指示的方向。