为什么有些相机一个就够了,有些相机两个就够了?
高端智能手机的亮点越来越少,雷图图已经无法展现手机的优势。于是更霸气的双摄像头出现了。这里说的双摄像头,并不是像以前的智能手机那样,一个摄像头在前面,一个摄像头在后面,而是一双眼睛配两个后置摄像头来模拟人的眼睛,从而实现更多的拍照功能,更好的拍照效果。
一般来说,目前智能手机的相机接口是MIPI(移动工业处理器接口)接口。过去,手机平台上只有两个MIPI接口,一个用于前置摄像头,另一个用于后置摄像头。要成为双摄像头,该平台需要支持至少三个MIPI接口。其实在之前的高端平台,为了达到更高的像素,双ISP(Image?信号?处理,图像信号处理器),比如为了支持16M的摄像头,会使用两个8M能力的ISP。这种平台很可能只有2个MIPI,但这并不能阻止工程师去做前置单摄像头+后置双摄像头。
双摄像头应用
这就是问题所在。双摄像头能做什么?
1,双摄像头可以测量距离,可以用于距离相关的应用。
人眼很容易定位物体的距离,但是当人闭上其中一只眼睛时,定位能力就会下降很多。双摄像头是模拟人眼的应用。简单来说,测量距离就是通过算法计算出被摄物体与左/右摄像头之间的角度θ1和θ2,加上一个固定的Y值(即两个摄像头的中心距离),这样就非常容易计算出Z值(即物体与摄像头之间的距离)。
不过,这也很容易计算。如果两个摄像头的中心距过小,可计算物距会很近。如果要计算更长的距离,就必须加宽左右摄像机之间的距离。
如上图所示,因为可以通过双摄像头的算法判断物体的距离,所以通过这个特性很容易做出一些特效,比如:
背景模糊
单反相机最突出的特点之一就是大光圈。由于双摄像头可以测量不同被摄物体的距离,瞄准需要大光圈的物体,模糊其他不同距离的物体,因此可以轻松实现大光圈的效果。
)
b、背景替换
因为可以测量距离,可以提取被摄物体中的主体,可以改变背景,所以可以比PS更简单的进行抠图。
c、背景特效
因为距离是可以测量的,主题和背景是可以分开的,所以对背景做什么都很容易,这里就不做过多描述了。
d、测量距离
这张图清楚地标识了不同物体的距离,这个距离信息用不同的颜色来标识。当AP获得不同物体的距离信息时,就可以实现上述功能。
2,双摄像头可以做光学变焦。
光学变焦主要是指左右摄像头使用不同的FOV(视角),使两个摄像头的视野不同。当用户需要广角照片时,他们使用视角为85度的左摄像头来获得广角效果。当用户需要长焦照片时,使用视角为45度的合适相机来获得长焦效果。
为了使左右摄像头拍摄的物体高度重叠,光学变焦的双摄像头模块作为距离应用的摄像头模块不能太远,但左右摄像头需要尽量靠近放置。
如果两个相机的FOV不同,一个大,一个小,然后通过算法实现两个光学镜头之间的效果,就可以轻松实现光学变焦。
如果不使用双摄像头,放大图片后文字会不清晰。
如果使用双摄像头,放大图片后文字依然清晰。
这张图是广角图和长焦图的组合,通过算法计算出中间姿态的照片,这样细节不失真。
3、暗光效果增强
一般来说,暗光增强是在两个相机中完成的:一个带RGBG的标准相机和一个去掉RGBG滤镜的黑白相机。RGBG用于获取物体的颜色,而黑白相机用于获取更好的进光量,以判断被摄物体的光强。然后融合两幅图像,以获得更好的暗光增强。
目前,有两种融合方法:
以黑白图片为主体,将彩色图片获得的每个像素的颜色粘贴在黑白图片上,将两张图片融合。
以彩色图片为主体,将黑白图片得到的每幅图像的光强补偿到彩色图片上,将两幅图片进行融合。
至于哪种方式更适合整合,不同的人可能会有不同的看法,这里就不讨论了。
同样,对于暗光增强,为了让左右摄像头拍摄的物体高度重叠,也要求这种双摄像头模组尽量靠近。
需要注意的是,华为P9实际上选择了这种模式的模块。
当然,也有业内人士表示,目前这种算法效果并不明显。暗光补偿确实对用户有帮助,尤其是在夜间拍摄时。但也有客户认为索尼和三星的双PD技术很好,更愿意使用双PD摄像头进行暗光补偿。
双摄像头还是双PD暗光补偿效果好,可以对比一下华为P9和三星的Galaxy S7 edge,就有答案了。
这个一般用彩色+黑白相机。画面的亮度强度是由黑白相机获得的,以补偿画面的暗光。
4.3D拍摄和3D建模
3D拍摄和3D建模的算法其实和距离应用差不多,只是精度要求更高,有时候甚至需要使用红外测距来更准确的判断距离。
说到双摄像头的算法,就不得不提ISP(Image?信号?处理图像信号处理器),ISP的主要功能是对前端图像传感器输出的信号进行后处理,主要功能有线性校正、去噪、去坏点、插值、白平衡、自动曝光控制等。只有依靠ISP才能在不同的光学条件下很好的还原场景细节,而ISP技术很大程度上决定了手机的成像质量。
在功能电脑时代,ISP都是建立在摄像头上的,不同像素的摄像头搭配不同性能的ISP。随着手机摄像头像素越来越大,对ISP性能的要求也越来越高。如果将ISP集成到相机传感器中,相机模块会过大,甚至会影响拍照效果。所以在智能手机时代,ISP一般都在主芯片SoC上。有些品牌客户为了达到更好的效果,甚至不惜代价增加一个ISP,以达到更好更专业的照片效果。
好的相机算法需要好的ISP。ISP和算法相辅相成,缺一不可。而双摄像头对ISP性能要求更高。首先,为了让左右摄像头的信号同时得到处理,单个ISP已经不能满足双摄像头的需求。这就需要双ISP来实现这个功能。
以暗光增强为例,彩色/黑白图像分别进入各自的ISP通道和校准通道,然后进行两幅图像的匹配(比如提取两幅图像中相同的部分,去掉只有一个摄像头拍摄的部分),再对相关图像进行遮挡、检测、补偿等算法处理。最后,融合两幅图像以增强颜色。当然,实际上ISP用算法做的事情比这张图写的要多。
当然这里面也有一个小插曲。毕竟有两个ISP,两个ISP存在一些处理速度和处理能力不同的问题。为了保证两个ISP可以同时采样,就需要双摄像头拍摄的画面是同时拍摄的。解决方案之一是让传感器有一个同步信号引脚。两个摄像头的同步信号是对接的,每次读取一张图片,都会给图片打上时间戳。ISP通过时间戳保证左右摄像头拍摄的照片是同时拍摄的,最后融合。
不同于一般3D电影的拍摄。手机上的两个摄像头在图像拍摄过程中无法产生足够的视觉差异,因为两个摄像头之间的距离与人眼的距离不同。而且为了让人更明显的获得3D视觉效果。所以增强往往需要算法。
因为距离可以测量,后续的双摄像头不仅可以实现3D摄影,还可以进行3D建模。这个时候我觉得双摄像头的重要性就更加重要了。
其他效果也得到了增强,如HDR和分辨率的提高。这些功能其实单摄像头就能实现,但双摄像头能让效果更好,我就不一一列举了。
总结:
目前这些功能都是双摄手机最常见的功能。背景虚化/替换,暗光效果给用户带来更多的照片效果;光学变焦让我们感受到变焦功能的相机功能;但个人认为,未来最令人兴奋的还是3D功能。
今年VR这么火,VR的素材从哪里来?还是得靠双摄像头算法的优化。如果3D拍照和建模的算法成熟,双摄像头会更受欢迎。
双摄像头生态链
前面我们讲了双摄像头的应用和原理。现在我们来关注一下双摄像头的产业链。
1,双摄像头算法供应商
因为算法需要和ISP合作,所以算法和ISP是相辅相成的。想把算法做好,必须有好的ISP。
作为主要的平台供应商,高通/联发科有自己的ISP,所以也开发了自己的双摄像头算法。至于它的算法,还有待市场的检验。
作为传感器供应商,索尼、三星和OV也在积极开发双摄像头算法,暂时还没有见到量产产品。但是,在功能机时代,没有ISP。这些相机传感器供应商在做2M/5M的时候,都要匹配自己的ISP,所以他们都有自己开发ISP的经验。所以双摄算法的开发是比较有经验的。
苹果去年收购了Linx,它也有多摄像头的专利和算法。是否会用在自家的双摄机型上,还要看今年的iPhone7。理论上Linx有足够的算法,苹果不会去大厂买双摄像头的IP授权。
除了这些平台,传感器供应商和品牌的智能手机都会开发自己的双摄像头算法,我们将逐一列出其他供应商:
华晶,1996成立于台湾省,主要研发自主ISP芯片。一些高端手机、相机、汽车都使用其ISP的外壳。双摄像头手机也有自己的ISP。距离应用,光学变焦,暗光补偿都有所建树。
一家以色列公司。算法的优势主要在于光学变焦和暗光补偿。在深度领域,也有一些研究。从媒体宣传来看,hTC已经采用了它的算法。
虹软成立于1994,总部位于美国,在上海、杭州和南京都设有技术中心。虹软的强项是光学变焦和暗光补偿。上一篇文章的第二张光学变焦图和暗光补图来自Irisoft。
上海兴芯威是一家成立于2011的公司,主要从事图像处理器的研发。目前,其产品主要用于车辆市场。作为少数几个开发独立ISP的公司,他们也在开发双摄像头算法和ISP。双摄市场后,X-Chip将是一匹潜力巨大的黑马。
双摄像头刚出来,所以各家在算法上各有优劣。但从目前已经推出的双摄像头手机的效果来看,各家的算法都有待改进。各种算法能力上去之后,势必会让双摄像头成为手机的标配。
2.双摄像头传感器供应商
因为两个相机拍照时需要同步时间戳,这就要求相机传感器有同步信号。目前,提供这种同步信号的传感器供应商有索尼、三星、OV和格科威。所以双摄像头传感器主要用这些产品。
3.双摄像头模块供应商
目前可以做双摄像头的模组厂有很多,包括光宝、虞舜、新力、纳木加、O-Film、三星机电、秋体等。然而,有量产经验的主要是广宝、虞舜和新力。华为的机型主要使用光宝和虞舜的模块。而O-Film和三星机电,依靠其强大的工厂能力,现在正在双摄像头模组领域大踏步前进。Namuga与各算法公司保持着良好的沟通关系,是三星手机的供应商,正在双摄像头模组领域逐步发力。
但是,不同的功能需要不同的模块。让我们继续以上面提到的四个函数为例:
距离应用,一般的做法,就是相机的大小,常见的相机规格如13M+2M,13M+5M。
通过这两种方式,可以更好的计算出物体到镜头的距离。
光学变焦双摄像头模块,最重要的是两个摄像头需要有不同的FOV,类似下图:
不同的FOV,不同的焦点,然后通过算法,可以实现光学变焦功能。
一般暗光增强是用RGB全彩相机和单色黑白相机拍摄的,如下图所示:
算法方面,进光量主要由右边的黑白摄像头读取,以补偿左边RGB摄像头的色彩。
3D拍摄和建模,这种方式有点类似于距离相关模块。只是3D对距离的精度要求更高。这种情况下,更需要把两个摄像头的距离放远一点,有的甚至利用红外辅助定位来实现测距,最终实现3D拍摄和建模的作用。
制造双相机模块的困难;
一般双摄像头有两种:* *基板或者* * *支架。如下图所示:
在* * *基板的情况下,两个摄像传感器*** * *放置在同一基板上,然后从该基板引出一个FPC。如果使用* * *支架,如上图所示,传感器由支架固定,每个传感器都有自己的基板和FPC。
* * *底板的优点:两个传感器可以坐在同一个平板上,耐摔。
* * *基板的缺点:产量低,导致价格高。
* * *支架优点:产量高,价格好。
* * *支架的缺点:由于是两个独立的传感器模块,需要AA校准才能使它们在同一平面上,难度大,抗摔性差。
总之,两种方法各有利弊。目前只有华为采用* * *基板方式。但无论哪种方式,目前的收益率都很差,所以成本还是很高的。
双摄像头的未来
如果改进算法,提高模组良率,双摄像头还是有很多优点值得做的。
但是由于不同的功能对模块放置的要求不同,双摄像头目前可能并不能满足大家对摄像头的要求。
Google在推出Project Tango的时候,巧妙地提出了一个三摄像头的概念:需要测距和3D建模的时候,可以使用两个距离较远的摄像头;如果做光学变焦和暗光补偿,可以用两个近距镜头。甚至这种深度感可以和红外线结合起来更精确地测量距离。
无论如何,随着双摄像头算法的演进和VR需求的增加,摄像头扮演着越来越重要的角色。双摄像头的手机,甚至是前置双摄像头和后置三摄像头,在未来一年内很可能会越来越普遍。