硬骨鱼和软骨鱼在形态结构上的主要差别如下：
1. 骨骼：硬骨鱼的骨骼已经骨化为硬骨质，鳞片为骨质板状，头骨还有接缝。而软骨鱼的骨头完全由软骨组成，虽然会钙化，但并没有真骨组织。这类鱼的外骨骼不发达，有的甚至退化，身体表面为盾鳞。
2. 尾鳍：硬骨鱼的尾鳍为正尾型，上下是对称的，内部的尾椎末端向上翘起。而软骨鱼的尾鳍为歪尾型，有的甚至呈鞭状。
3. 鳃和鳔：硬骨鱼的鳃间隔退化了，同时具有鳃盖骨，大部分有鱼鳔，可以调节身体比重，从而更好的上浮和下沉。而软骨鱼的鳃裂会单独外露，没有鱼鳔，但其肝部肥大，可以调节身体比重。
4. 原始栖息地：软骨鱼类的原始栖息地是在海洋，少数进入淡水再次适应；硬骨鱼类的原始栖息地是淡水，后来才想海洋发展。
5. 演化过程：两者来自同一个祖先叫做古盾皮鱼，属于两个平行分支的类群。在演化过程中，由于第2次基因组倍增事件，使得原本祖先体内丰富的Scpp基因在软骨鱼类的基因组中丢失，只保留在了硬骨鱼类体内。这个基因是与鱼类的骨骼发育和鳞片形成有关。