本文论述了利用Excel电子表格对校准和测量能力（CMC）评估及表示的方法和过程。借助Excel软件,对不同被校准值的不确定度分量进行分析,并利用Excel绘制被测量与其对应测量不确定度拟合曲线。合理选择CMC评估中测量范围分段和CMC的合理表述。

由于JJG 82—2010《公法线千分尺》中没有机械公法线千分尺示值误差测量不确定度的分析,所给的不确定度分析也没有线性拟合,故文章通过分析机械公法线千分尺各段示值误差的测量不确定度,利用回归方程,对该测量不确定度进行了线性拟合,给出了整个测量范围内测量不确定度的函数式,便于使用者应用。

为了解决温度测量中的非线性和响应速度问题。研究了基于单片机89V51RD2计数原理测量荧光寿命的测温装置。研究发现,由于荧光比激发光滞后一个荧光寿命时间,把产生荧光的激发信号和监测到的荧光信号进行异或运算,用单片机测量出异或电路置1的时间,这个时间就是荧光寿命,再根据荧光寿命和温度的对应关系式可计算出被测量温度。分析表明,在0-100℃范围内,基于单片机的荧光寿命法温度测量仪的分辨率为0.01℃,测量精度为±0.05℃,响应时间为0.01 s,解决了温度测量中的非线性和响应速度的问题。

为减少不同被测液体凹型液面对毛细管粘度计液位检测和计时精度的影响,提出了一种以光电传感器为液位检测部件的毛细管粘度计自适应液位检测方法：首先以毛细管粘度计非计时刻度线区的液位检测信息为先验知识,采用罗曼诺夫斯基准则,自动搜索并确定非计时刻度线区向计时刻度线区过渡的特征点,并通过模糊判决自动调整液位检测电压的采样间隔;然后以此特征点为拟合起点,利用最小二乘法对毛细管粘度计计时刻度线区的液位检测数据进行线性拟合,获得计时起点或计时终点,实现粘度计自适应液位检测和自动计时。实验表明,采用这种自适应液位检测方法的毛细管粘度计操作简单、方便,获得的运动粘度标准差小于手动计时方式,运动粘度的重复性优于手动计时方式。

文章通过对流量数据处理，介绍了用Excel2003简单、快速、准确地进行线性拟合、二次拟合和三次拟合。

本文针对仪器测量范围以及显示的需要，提出了一种log10X的快速计算方法，并详细的讲述了算法原理以及实现的具体步骤，最后还使用DSP实现了该快速算法。此算法大大提高了计算效率，对需要快速计算对数的仪器有着重大意义。

为快速补偿称重系统普遍存在的非线性误差，研究了最小二乘拟合的“正交基＋递归求解”方式，提出了“幂函数基＋直接求解”的改进方法，阐述了改进的最小二乘法在称重系统的重量和温度补偿中的应用。研究结果显示，系统运算量简化了90％以上，系统误差和随机误差也显著减小，有助于高速高精度称重系统的实现。

六自由度机械臂在实际工业生产中拥有广泛的应用,其中一个重要方向为基于视觉的零件分拣。为实现分拣,首先要进行机器视觉标定,通常需要繁琐的标定步骤,并调整机器人坐标系。为降低标定难度,提高标定效率,基于OpenCV算法库,介绍了一种快速的标定方法。该标定方法只需简单的标定板,配合霍夫变换和线性回归拟合,可获得准确的标定结果。通过测量标定结果精度以及实际抓取验证,该方法能够满足零件分拣作业需要,在工业生产中具有一定应用价值。

选用调频连续波（FMCW）雷达传感器IVS-179,设计了一种以TMS320F28335作为DSP核心芯片的雷达水位计。设计了水位计硬件电路并重点介绍了波形发生器及信号处理模块中可编程滤波放大电路的实现,采用温度传感器矫正测量距离、串口通讯传递数据。叙述了水位计软件运行的具体工作流程,采用WIN_FFT_CZT算法测量差频信号频率,并根据线性拟合法确定了温度矫正参数。制作了水位计样机,在实验室中测量显示单次测量时间约为68.5ms,测量精度约为4mm,满足对水位的实时测量及精度要求。

针对闸阀密封面局部密封比压大于材料许用比压的现象,对阀座密封面宽度进行优化设计以保证闸阀的密封性。优化前阀座密封面宽度为5 mm,在[4,6. 5]宽度范围内,对以0. 5 mm为步长的6组模型进行数值模拟仿真,并对结果进行数值拟合,获得临界密封面宽度值,最后进行仿真试验验证。结果表明:6组模型密封比压值成线性关系,通过线性拟合得出材料许用比压150 MPa对应的临界密封面宽度为5. 6 mm,数值试验验证此时密封比压为151. 69 MPa,相对误差为1. 13%。