光学显微镜的分辨率和性能可以统称为调制传递函数（MTF），这是在显微镜对在特定的分辨率从试样转移对比的中间像平面的能力的测量的量来表征。 调制传递函数的计算是常常通过光学厂家利用掺入分辨率和对比度数据到单个规范的机构。
调制传递函数是用于表征不仅传统的光学系统是有用的，但也光子系统，例如模拟和数字视频相机，图像增强器，并且胶片扫描仪。 这个概念是在电气工程利用，涉及输出信号的调制程度与信号频率的函数标准约定的。 在光学显微镜，信号频率可以等同于在试样观察到的周期性，从金属线光栅蒸发到在一硅藻细胞到在活组织培养细胞中观察到的亚细胞粒子在显微镜载玻片或重复的结构。
每一个样品单元间隔的间隔的数目被称为空间频率 ，这通常是在检体中发现的周期性间隔( 空间周期 )的定量表示。 为空间频率的一个常见的参考单元是每毫米的线对的数目。 作为一个例子，一个连续系列具有空间周期测量每对1微米的黑白线对将重复每毫米1000倍，因此具有每毫米1000线的相应的空间频率。
另一个重要的概念是光学传递函数 (OTF)，它表示的图像的对比度比率时作为空间频率的函数作图，以标本对比度，考虑到实际的和理想的图象占据的位置之间的相移。 概括地说，光学传递函数可以描述为：
OTF = MTF • eiφ(f)
在该假想项表示相位传递函数 (PTF)，或者作为空间频率的函数的相位位置改变。 因此，光学传递函数是空间频率相关的复杂变量，其模量是调制传递函数，并且其相位被相位传递函数描述。 如果相位传递函数与频率的直线，它代表着图像作为将与像差被观察如几何失真的简单横向位移。 然而，如果相位传递函数是非线性的，它可以产生不利的图像质量的影响。 在引人注物镜例子中，180度的相位偏移产生的图像的对比度，其中，亮和暗图案反转的反转。
完美的光学系统，将具有在所有的空间频率统一的调制传递函数，而同时具有零相转移因素。 在的情况下用显微镜(或其他光学系统)所产生的图像是正弦并且没有显著相移，该光学传递函数的弹性模量恢复到调制传递函数。
在的情况下，在样本为光栅由交替相等宽度(方波)的黑线和白线，涉及的标本对比度转移到图像的百分比的曲线图被称为对比度传递函数 (CTF)的一个链路。 大多数样品显示具有方波的形式不同的空间频率，而不是不同尖锐轮廓正弦变化的强度的组合物。 在这种情况下，与输出作为输入强度与信号(空间)的频率的一个分数的曲线图是类似的调制传递函数。 作为空间频率的方法非常大的值，则方波响应类似于正弦曲线的，产生一个实际上是相同的对比度传递函数的图形和调制传递函数。
在图1，一种周期性的线光栅由交替的白色和黑色的矩形条示出增加了对在一个衍射限制的光学显微镜的图像对比度的空间频率的效果(表示100%的对比度)呈现在两个空间频率上的左该图的右手侧。 在显微镜产生的得到的图像显示在每个物镜的右侧，并显示为正弦强度已经降低对比度，这是在图像下面的图表中的对象对比度的相对百分比来作图。 的对比度代表定期白色和黑色重复棒，而相比之下百分之零点是由融入相同强度的灰色背景灰色条体现。 对比度值达到零之后，图像变得灰色的均匀阴影，并保持这样的所有较高的空间频率。
当输入为高对比度的方波，如在图1所示的周期光栅的物镜，的对比度传递由对比度传递函数确定。 大部分的在显微镜下观察标本，然而，不显示这样的常规周期和由“方波”是正弦到在亚微米级不同程度的。 在这种情况下，调制传递函数用于计算从试样的对比度传递由显微镜产生的图像。
输出信号的调制，光波的成形试样的图像的强度，对应于在显微镜图像对比度的形成。 因此，可以从由存在于一个样本，从图像中的正弦强度，作为空间频率的函数而变化导致周期线或间隔产生的对比度可以得到的MTF对于特定的光学显微镜的测定。 如果具有1微米(交替吸收和透明线对之间的距离)的一个空间周期的检体是在高数值孔径(1.40)具有匹配的物镜/聚光镜对使用浸油成像，各个线对将被明确地在解决显微镜。图像不会是线对模式的忠实再现，而是会具有中等程度的暗光棒(图1)之间的对比。 降低线对之间的距离为0.5微米的空间周期(空间频率等于每毫米2000线)将进一步减少在终图像中的对比度，但增加了空间周期为2微米(空间频率等于每毫米500线)将产生的图像对比度的相应增加。
当空间频率接近每毫米(等于0.2微米空间周期)5000线，采用的500纳米照射波长在高数值孔径(1.4)达到用光学显微镜的分辨率的极限。 在这一点上，对比度将是几乎检测和图像会出现灰色的中性色调。 在真实的标本，在显微镜观察对比度的量取决于尺寸，亮度，图像的颜色，但人眼不再在对比度检测低于约百分之三到五周期性对紧密间隔的条纹和可能达不到分辨率的0.2微米的限制。
当在光学显微镜观察的试样，所得的图像将被稍微降低由于畸变和衍射现象，除了在光学分钟组装和对准误差。 在图像中，明亮的高光将不会出现，因为他们在试样做亮，暗或阴影区会不会黑如那些在原来的模式变化。 标本对比度或调制可以被定义为：
调制 (M) = (I(大值) - I(小值))/(I(大值) + I(小))
其中I（大值）是由一重复结构和I（小值）显示的大强度是在同一个样品中发现的小强度。 按照惯例，在调制传递函数是在零空间频率归一化到统一。 调制是在图像中比在试样通常较少，通常有相对于所述试样中的图像的微小相位位移。 通过比较具有不同的空间频率的几个试样，可以判断，这两个图像调制和相移将作为空间频率的函数而变化。 根据定义，调制传递函数(MTF)由方程描述：
MTF =图像调制/物镜调制
这个量，如以上所讨论，是正弦对象的图像中观察到的作为空间频率的函数的对比度改变的表达。 此外，还有的是，在水平和垂直坐标既依赖于空间频率的正弦曲线的位置或相移。 一个很好的例子发生在光栅扫描过程中产生导致在水平和垂直的调制传递函数之间的变化稍有不同的反应视频显微镜。
从理想的成像系统的相位响应展示于空间频率的线性关系，具有位置偏移独立于频率的，并在零空间频率归一化到零。 在理想的系统中，所有正弦图像的部件用相同的位移量，从而在没有图像质量的劣化的图像的净位置偏移。 当相位响应从理想的线性特性偏离，那么一些组件将被转移到比其他导致图像劣化更大程度。 这是在电子视频系统，这通常具有小于理想相位特性，可导致图像质量的显着的损失尤为关键。 幸运的是，具有一个圆孔和一个中心光轴(如高性能显微镜)一个理想的无象差光学系统将产生具有用于在所有方向上都空间频率的零值的相位传递函数。 在这种情况下，只发生相移为离轴光线和仅调制传递函数需要考虑。
完美无像差的光学系统被称为衍射受限 ，因为光的衍射在瞳孔的影响限制的空间频率响应，并建立分辨率的极限。 示于图2是与通过可见光和非相干照明成像与具有圆形光瞳几种不同的衍射限制的显微镜物镜的重复试样的调制传递函数的曲线图。 在这种情况下，物镜质量影响调制响应作为空间频率的函数。 更高质量物镜(图2中的红线)表现出比这些低质量(黄线)的更高的性能，并且能够以较高的空间频率，更有效地传递对比度。 由黄色曲线表示的物镜具有低空间频率的性能，但落在较大的频率短的高数值孔径物镜的。 下方的曲线是相对于特征大小与相对于该瑞利准则和麻雀极限空间频率的表示。 还提出是一系列表示检体(对象)，在一个典型的显微镜的正弦波的频率增加所产生的所得图像正弦波。
当有存在的光学系统无显著像差，调制传递函数是相关的衍射图案，它是系统的数值孔径和照明的波长的函数的大小。 就数量而言，对于具有均匀照射圆孔的光学系统的调制传递函数可表示为：
MTF = 2（φ - cosφsinφ）/π
公式
φ = cos-1(λυ/2NA)
在这些等式中，υ为在每毫米周期的频率，λ是照明的波长，NA是数值孔径。 在低空间频率，图像对比度是的，但降到零作为空间频率超过某一点(在图2绘制为振幅的减少在图像中产生的)增加。 截止（F（c））的是在该对比度达到零，并且可以通过以下等式来表示该空间频率：
F（C）= 2NA /λ
有趣的是，要注意，这个公式表达(在空间频率而言)，该分辨率与两个数值孔径和更短的波长增加的事实。
调制传递函数还涉及点扩散函数，它是从由显微镜物镜投射到中间像平面的检体的光的点源(通常称作艾里斑)的图像。 光学像差与数值孔径的变化会影响在图象平面观察的光强度的分布，并因此影响点扩散函数的形状。 还注意，通过在一个衍射限制显微镜检体中产生的点扩散函数的总和包括在图像平面中产生的衍射图案。
可以通过显微镜物镜被成像的空间频率正比于数值孔径和基于点扩散函数的分布的大小。 具有低数值孔径的物镜产生点扩散函数具有在像面比由具有更高数值孔径的物镜形成的较宽的强度分布。 在分辨率的极限，相邻的艾里斑或点扩散函数开始重叠，模糊各个强度区分的能力。 窄强度分布(以更高的数值孔径)可以更紧密地相互接近并仍然由显微镜来解决。 这意味着，一个狭窄的点扩散函数对应于一个高空间频率。 事实上，光学传递函数，对于一个光学系统的空间频率响应的量度，是点扩展函数的数学傅立叶变换。
在图3中示出的调制传递函数和用于衍射限制的光学显微镜的点扩展函数之间的关系。如上所述，限制截止频率（f（c））的调制传递函数的是成正比的物镜数值孔径和反比于照明波长。 周围的点扩散函数(或艾里斑)的中心强度峰值的个暗同心环的半径是由式表示：
R =0.61λ/ NA
其更通常被称为瑞利准则，或在显微镜的分辨率极限。 因为r是成反比的数值孔径和成正比的照射波长，它遵循r和f（c）是也成反比，傅里叶变换(的函数的宽度的基本特性是成反比的宽度其转变)。
在显微镜的个人物镜显示依赖于数值孔径，物镜的设计，照明波长和对比度生成的模式的特定调制传递函数(或光学传递函数)。 当聚光镜的数值孔径大于物镜的等于或更大时，空间截止频率的值与减小物镜的数值孔径减小(如图4(a))。 持物镜的数值孔径值恒定并改变在逐渐降低的临界值聚光镜数值孔径的结果与减少聚光镜的数值孔径(如图4(b))。
的对比度增强技术，如在显示曲线，从这些使用物镜的充分的数值孔径(图5)在明照明观察显着不同的*的调制传递函数相衬和微分干涉对比(DIC)结果利用。 例如，由相位环在相差显微镜产生的窄照明产生的调制传递函数曲线上方和明曲线之下振荡，在由DIC物镜产生的曲线与试样周期和的剪切方向之间的角度变化沃拉斯顿或诺马斯基棱镜。 在图5中还示出通过一个单边带边缘增强显微镜，其在高空间频率产生的优良对比度的图像(由Gordon W.埃利斯博士开发)所产生的曲线。
在实践中，一个显微镜物镜或其它透镜系统的性能通过跟踪大量的由点源中均匀分布的阵列上物镜的渐晕入射光瞳射出的光线常常被确定。 通过出射光瞳并且被分发的图像平面上之后，将射线交点被用于在图像平面绘制的光点的光点图 。 在大多数情况下，几百光线被用来构造一个点图，其可以考虑到光学像差如果光线的间距是这样的调整。 然后将所得的点图被视为一个点扩散函数，并且由傅里叶变换变换成调制传递函数相对于空间频率的曲线图。
调制传递函数的直接测量是通过利用由高对比度周期线光栅的具有一系列间隔，通常包括从一个或几个毫米至0.1微米的特定的测试图案的物镜进行的，如在图8中，这些物镜允许示出的显微镜物镜的衍射图案的评价，在国内外享有焦点，在各种对比增强模式。 检测器阵列被用来通过的点扩散函数求和来测量的光的在图像平面上的分布，和一个付里叶变换加到数据，以确定调制传递函数的算法。
在图6的(a)提交的物镜是一种用于测试宏成像系统的水平调制传递函数诸如望远镜，望远镜，视频系统，相机或数字视频记录器而设计。 它是由具有每毫米0.2和80线对之间的空间频率范围内具有灰度的光密度为0.2和1.2之间以及在正弦波的一个80%的调制变化正弦图案。 这种类型的物镜在一个宽的频率范围内进行中继的图像质量信息，并包含用于表示正弦频率的对比度级别上物镜的引用。 在视频显微镜，正弦物镜微观检验物镜是不容易获得，所以耦合到显微镜的视频检测器的对比度传递函数往往是确定的，而不是调制传递函数。
在具有圆形孔(如光学显微镜)的系统中，调制和/或对比度传递函数通常被计算或测量与星和条形目标类似于图6中示出的一个图(b)。 这种类型的物镜有径向和切向模式是彼此正交的，并且还用于检测聚焦错误和像差诸如散光有用。 基本物镜星的设计变化包含成对线和点，允许在国内外享有很高的重点物镜衍射图样的决心，是在明进行了测量，反射对比，或落射荧光照明模式非常有用。楔形和棒的间隔时间范围从0.1微米到几十微米的空间频率在0.2和25之间的线对每毫米。 径向调制传递物镜是理想的，使用照相胶片或模拟传感器高分辨率测量，但是从利用了与所述成像装置的像素的行和列几何一致的物镜分析CCD探测器益处的水平和垂直像素化的性质。
从具有高数值孔径复消色差物镜在透射光模式操作测定的星靶制成的典型强度的扫描示于图7(a)中。 强度值的平均值超过平行于靶格子线的尺寸。 当这些类型的数据被收集在不同的数值孔径的各种物镜和绘制为对比度%对空间频率，在图7(b)中获得的示出相似的曲线图。 对比度传递趋近于非常低的空间频率100%的(宽间距期)和逐渐随空间频率下降。 作为空间频率达到阿贝极限(成像波长两倍的物镜的数值孔径分频)，对比度值通常太低，以检测线光栅个别间隔。
在一些情况下，在光学显微镜的调制传递函数实际上可以小于零。 当性能由于退化到的散焦，像差，和/或制造误差这出现在其它功能系统。 通常，作为在显微镜是通过聚焦于具有高空间频率特性的试样点横移调制传递函数将上方和下方零振荡。 当传递函数下降到低于零，形象经历了反相在黑暗的功能变得明亮，反之亦然。
这种现象在图8(a)所示，用于从硅藻细胞的曲面成像周期旋钮。 作为显微镜焦点改变时，旋钮经受的对比反转，产生在相对调制连锁反应(比较旋钮(1)至(5)在图8的(a))。 提高散焦的程度将产生与调制传递函数曲线图观察，以影响图像在越来越大的特征的对比度反转振荡的相应增加。 作为样品平面是散焦，对比度为具有高空间频率和更慢于那些低频率微观特征迅速下降。 它经常是有用在特定的空间频率来测量的对比度，然后按照对比度作为距离对图像平面的任一侧的功能。 该分析有时称为贯通聚焦传递函数和是焦点深度为特定物镜的量度。
空间频率和用于硅藻调制传递函数之间的关系在图8中(b)所示。 该图表示了一系列的地方测得的MTF是针对空间频率(每单位距离的正弦特征数)作图不同焦点的水平。 其中减少空间频率落入MTF的负值与在固定的空间频率的散焦相对调制值的下降是在图中显而易见的，以及在聚焦水平4和5的对比反转。 曲线数1表示在焦点硅藻细胞和曲线2至5本与散焦的连续增加的水平的结果。 虚线对应于图8所示的旋钮的近似空间频率(1)。 对比度是至少其中虚线相交曲线4和反转，其中曲线上的y轴5骤降零以下。
所有的光学系统及支撑组件，包括显微镜，数字和模拟视频系统，视频捕获板，电缆，电脑显示器，摄影胶片的乳剂，和人眼各有特点调制传递函数。 在模拟和数字电子成像检测器的情况下，相互关系的空间分辨率和频率响应之间上面讨论是有效的。 在这种情况下，然而，该点扩散函数是由时间响应于很短的电脉冲所取代，和所述光学传递函数是由所述成像系统的响应于该正弦电信号相对于幅度和相位替换。 电子系统缺乏光学系统的对称性，它引入非线性相位影响到函数。 不管这些差别，底层概念是电子和光学系统之间的类似，并且这允许耦合到数字(或类似物)成像设备的光学显微镜的共同框架内进行分析。
包含级联一系列部件(显微镜，数字摄像机，视频捕获板，计算机显示器等)的光学系统的调制传递函数乘以各组分的单独的MTF的计算。 通过进行的联合系统调制传递函数的仔细分析，可以得到关于系统的性能预测。 以相同的方式，该系统的相位响应可通过增加各个组件(相转移函数求和而调制传递函数相乘注)的相位传递函数来获得。 一起，调制和相位传递函数定义系统的光学传递函数。 重要的是要指出的是，对比传递函数不具有相同的数学性质的调制传递函数和不能由单个组分的CTF乘以简单地获得是很重要的。
在一个级联一系列协同工作以产生图像的设备，对比度在某些频率区域在每个步骤丢失，通常在空间频率范围的较。 在这方面，每个检测器或图像处理功能也可以用于切断或增强调制传递函数在特定频率。 在每个阶段，通过图像传输和处理引入的噪声也是空间频率的函数。 因此，微调以获得的图像对比度的响应和系统性能不仅取决于图象信息所需的类型，而且噪音水平的图像中的频率依赖性依赖性。 另外，由于检测器的调制传递函数是波长依赖性的，它必须被照明的仔细限定的条件下确定的。
调制传递函数尚未建立在光学显微镜通常使用的(例如偏振光)几个对比增强模式，它们等待图像形成和相应的测试图案(或样品)的更高度完善的理论来确定，通过实验，在MTF值。
