5.3 快门瞬间的光电洪流:毫秒级的计算摄影接力

举起手机对准窗外的晚霞,轻点屏幕上那个白色圆圈。“咔嚓”一声,照片几乎立刻出现在相册角落。这个动作在你看来只用了一瞬间,手机内部却完成了一场分工很细的接力:光子被转换成电子,电子被量化成数字,数字被高速搬运、清洗、对齐、融合,最后压缩写入闪存。整条链路要在毫秒到几百毫秒的尺度内跑完,任何一棒掉速,你就会感到“拍照卡顿”或“照片糊了”。

本节沿着数据流动的方向,把这场接力拆成六棒逐一说明。

5.3.1 第一棒:光电二极管累积光生电子

镜头把光线汇聚到图像传感器表面。传感器上排列着数以千万计的像素,每个像素的核心是一枚光电二极管(Photodiode)。可以把它想象成一只接雨的小桶:曝光期间,落进来的光子打出电子,电子被收集在桶里,光越强,桶里的电子越多。

在常见的曝光时长里,大约是几十分之一秒,一个像素可以累积数十万个光生电子。电子的数量就是这个像素记录下的“亮度原始信息”。不过此时它还只是一份模拟电荷,处理器没法直接使用。

5.3.2 第二棒:片上 ADC 量化为 14-bit RAW

电荷先被转成电压,再交给集成在传感器芯片上的模数转换器(ADC,Analog-to-Digital Converter),由它把连续变化的电压“切片”成整数。常见的精度是 14-bit,也就是每个像素的亮度被划分为 2¹⁴ = 16384 个等级。

这样得到的结果叫 RAW 数据:一张由灰度数值组成的矩阵,每个格子只记录亮度,不包含完整颜色。传感器表面覆盖着红、绿、蓝交替排列的滤色片,每个像素只“看见”一种颜色,颜色要到后面的环节才能还原。

打个比方:RAW 就像一份没有整理过的原始调查问卷,信息最全,但还没人统计和解读。

5.3.3 第三棒:MIPI CSI-2 高速通道与零快门时延

数千万像素、每个 14 位,单帧数据量就以数十兆字节计,而相机在取景时还在连续出帧。这些数据要从摄像头模组送到主板上的 SoC,走的是 MIPI CSI-2(移动产业处理器接口联盟制定的摄像头串行接口第二版)。它采用差分信号:用两根线传输一对相反的电压,接收端只看两者之差,外部干扰会同时作用在两根线上而被抵消,所以能在细软的排线上稳定跑高速。常见的速率是每条通道(lane)2.5Gbps 以上,多条通道并行,就像多车道高速公路。

数据到达后,被直接写进 LPDDR(低功耗双倍数据率内存)中的一块环形缓冲区。写入由 DMA(Direct Memory Access,直接内存访问)完成,不必劳烦 CPU 逐字搬运。“环形”是指缓冲区首尾相接,新帧不断覆盖最旧的帧。

这样安排的目的是零快门时延(ZSL,Zero Shutter Lag)。你打开相机时,传感器其实已经在持续拍摄并存入缓冲区;按下快门的那一刻,系统直接取出“刚才那几帧”,而不是从按键时刻才开始曝光。你感觉照片“抓住了瞬间”,原因在此。

5.3.4 第四棒:硬件 ISP 的基础清洗

取出的 RAW 帧先交给 ISP(Image Signal Processor,图像信号处理器)。它是 SoC 里专门为图像设计的固定电路,按流水线方式做三件基础工作:

  1. 坏点修正:传感器上难免有个别像素永远偏亮或偏暗,ISP 用周围像素的数值替代它们;
  2. 阴影补偿:镜头边缘进光少,画面四角容易发暗,ISP 按预先标定的曲线把边缘提亮;
  3. 去马赛克(Demosaic):根据相邻像素的红、绿、蓝读数,推算出每个像素完整的三种颜色。

这些步骤规则固定、计算量大,用专用硬件处理比通用 CPU 快得多,也省电得多。这正是第三章所说“专芯专用”的体现。

5.3.5 第五棒:NPU 多帧融合与神经网络降噪

手机传感器面积小,单帧容易噪点多、亮暗细节难以兼顾。计算摄影的思路是:一帧不够,就用多帧拼。此时 NPU(Neural Processing Unit,神经网络处理器)登场,承担两项工作。

  • RAW 域光流对齐:多帧之间手会抖、人会动。“光流”是估算画面中每一块区域在帧与帧之间移动方向和距离的方法,算清楚之后,把各帧“挪”到同一位置再叠加。
  • 动态融合:对运动物体所在区域降低叠加权重或只取一帧,避免出现半透明重影,也就是运动鬼影。

叠加之后,再用深度神经网络降噪:模型从大量样本中学会区分“真实纹理”和“随机噪点”,比传统滤波更能保留发丝、树叶等细节。之所以在 RAW 域就做融合,是因为此时数据还未经过有损处理,保留的信息最多。

5.3.6 第六棒:色调映射与写入闪存

融合后的图像亮度范围很宽,而屏幕和常见图片格式能显示的范围有限。色调映射(Tone Mapping)负责“压缩动态范围”:暗部适当提亮、亮部适当压低,让天空和室内都看得清。随后图像被编码压缩,写入 UFS 4.0(通用闪存存储第四代)闪存。UFS 支持读写同时进行,写入快,连拍时就不容易卡住。

5.3.7 接力全景

棒次执行者输入 → 输出关键作用
1光电二极管光子 → 电子(数十万/像素)感光
2片上 ADC电压 → 14-bit RAW数字化
3MIPI CSI-2 + DMA传感器 → LPDDR 环形缓冲高速搬运、ZSL
4ISPRAW → 清洗后的彩色数据坏点、阴影、去马赛克
5NPU多帧 → 单帧融合降噪去鬼影、保细节
6编码 + UFS 4.0图像 → 闪存文件色调映射、存储

5.3.8 小结

一次快门,跨越了光学、半导体、高速接口、内存架构、专用电路和神经网络六个领域。照片好不好看,不只取决于镜头和传感器,也取决于这条流水线中最慢的那一环。下一节讨论的是相反的场景:屏幕熄灭之后,这些模块如何安静下来,只用微安级电流维持“随时待命”。