在过去几年里,我做过的最有趣的项目之一是一个关于图像处理的项目。目标是开发一种能够识别可口可乐“罐”的系统(请注意,我强调的是“罐”这个词,你会在一分钟内看到原因)。您可以看到下面的一个示例,其中可以在绿色矩形中识别,带有缩放和旋转。

项目的一些限制:

背景可能非常嘈杂。罐可以有任何刻度或旋转,甚至可以有方向(在合理的范围内)。图像可能具有一定程度的模糊性(轮廓可能不完全笔直)。图像中可能有可口可乐瓶子,算法应该只检测到罐子!图像的亮度可能会有很大的变化(所以你不能“太依赖”颜色检测)。罐子可以部分隐藏在侧面或中间,也可能部分隐藏在瓶子后面。图像中可能根本就没有罐头,在这种情况下,你必须什么都找不到,然后写一条消息这样说。

所以你可能会遇到这样棘手的事情(在这种情况下,我的算法完全失败了):

我不久前做过这个项目,做得很开心,我有一个不错的实现。以下是关于我的实现的一些细节:

语言:使用OpenCV库在C++中完成。

预处理:对于图像预处理,即将图像转换为更原始的形式以提供给算法,我使用了两种方法:

将颜色域从RGB更改为HSV,并基于“红色”色调进行过滤,饱和度高于一定阈值以避免类似橙色的颜色,低值过滤以避免暗色调。最终的结果是一个黑白二值图像,其中所有的白色像素都将表示符合此阈值的像素。显然,图像中仍然有很多垃圾,但这减少了您必须处理的维度的数量。使用中值滤波(取所有邻居的中值像素值并用该值替换像素)进行噪声滤波,以减少噪声。使用Canny边缘检测滤波器在两个前一步骤后获得所有项目的轮廓。

算法:我为这项任务选择的算法本身取自这本关于特征提取的很棒的书,称为广义霍夫变换(与常规霍夫变换截然不同)。它基本上说了几件事:

你可以在不知道其解析方程的情况下描述空间中的物体(这里就是这种情况)。它可以抵抗图像变形,例如缩放和旋转,因为它基本上会测试图像的缩放因子和旋转因子的每一种组合。它使用算法将“学习”的基础模型(模板)。轮廓图像中剩余的每个像素将根据从模型中获得的信息,投票给另一个像素,该像素可能是对象的中心(按重力计算)。

最后,你会得到一张选票的热图,例如,在这里,罐子轮廓的所有像素都会投票给它的引力中心,所以你会在与中心相对应的同一个像素中获得很多选票,并且会在热图中看到一个峰值,如下所示:

一旦你做到了这一点,一个简单的基于阈值的启发式方法可以为你提供中心像素的位置,你可以从中导出缩放和旋转,然后围绕它绘制你的小矩形(最终的缩放和旋转因子显然是相对于你的原始模板的)。至少在理论上。。。

结果:现在,虽然这种方法在基本案例中有效,但在某些领域严重缺乏:

它非常慢!我没有充分强调这一点。几乎需要整整一天的时间来处理30张测试图像,显然是因为我的旋转和平移比例非常高,因为有些罐子非常小。当瓶子出现在图像中时,它完全丢失了,出于某种原因,几乎总是找到瓶子而不是罐子(可能是因为瓶子更大,因此像素更多,因此投票更多)模糊图像也不好,因为投票结果以像素形式出现在中心周围的随机位置,从而以非常嘈杂的热图结束。在平移和旋转方面实现了差异,但在方向上没有,这意味着没有直接面对摄像机目标的罐子无法被识别。

你能帮我改进我的特定算法吗,专门使用OpenCV特性,来解决上面提到的四个特定问题吗?

我希望有些人也能从中学到一些东西,毕竟我认为不仅仅是提问的人应该学习


当前回答

如果你不局限于一个不受你限制的相机,也许你可以改用像Xbox Kinect这样的距离传感器。使用此功能,您可以对图像执行基于深度和颜色的匹配分割。这允许更快地分离图像中的对象。然后,您可以使用ICP匹配或类似技术来匹配罐子的形状,而不仅仅是它的轮廓或颜色,如果它是圆柱形的,如果您之前对目标进行过3D扫描,这可能是任何方向的有效选项。这些技术通常很快,特别是用于解决速度问题的特定目的时。

我还建议,不一定是为了准确性或速度,而是为了好玩,你可以在色调分割图像上使用经过训练的神经网络来识别罐子的形状。这些速度非常快,通常可以达到80/90%的准确率。培训需要一个很长的过程,因为您必须手动识别每个图像中的罐。

其他回答

我会检测红色矩形:RGB->HSV,过滤红色->二值图像,关闭(展开然后侵蚀,在matlab中称为imclose)

然后从大到小看矩形。在已知位置/比例中具有较小矩形的矩形都可以删除(假设瓶子比例恒定,较小的矩形将是瓶盖)。

这会给你留下红色的矩形,然后你需要以某种方式检测标识,以确定它们是红色的矩形还是可乐罐。像OCR,但有一个已知的标志?

我真的很喜欢达伦·库克和斯塔克对这个问题的回答。我当时正在对这些问题发表评论,但我认为我的方法太过简单,不能离开这里。

简而言之,您已经确定了一种算法,以确定可口可乐标志是否存在于空间中的特定位置。现在,您正在尝试确定一个适合于区分可口可乐罐和其他物体的启发式方法,包括:瓶子、广告牌、广告和可口可乐用具,所有这些都与这个标志性标志相关。在你的问题陈述中,你没有提到很多这些额外的案例,但我觉得它们对你的算法的成功至关重要。

这里的秘密是确定一个罐包含哪些视觉特征,或者通过负空间,确定其他可乐产品存在哪些不存在于罐中的特征。为此,当前的顶级答案勾勒出了一个选择“可以”的基本方法,如果且仅当“瓶子”未被识别时,可以通过瓶盖、液体或其他类似的视觉启发法进行识别。

问题是这种故障。例如,一个瓶子可能是空的,没有盖子,导致假阳性。或者,它可能是一个部分瓶子,额外的特征被破坏,再次导致错误检测。不用说,这并不优雅,也不符合我们的目的。

为此,罐的最正确选择标准如下:

你在问题中勾勒出的物体轮廓形状是否正确?如果是,则为+1。如果我们假设存在自然光或人造光,我们是否检测到瓶子的铬轮廓,表明这是否由铝制成?如果是,则为+1。我们确定物体的镜面反射财产相对于我们的光源是正确的吗(光源检测的说明性视频链接)?如果是,则为+1。我们能否确定将对象标识为罐头的任何其他财产,包括但不限于徽标的拓扑图像倾斜、对象的方向、对象的并置(例如,在平面上,如桌子或其他罐头的上下文中)以及拉片的存在?如果是,则每个值+1。

您的分类可能如下所示:

对于每一场候选比赛,如果检测到可口可乐标志的存在,则绘制灰色边界。对于超过+2的每一场比赛,画一个红色边框。

这在视觉上向用户突出显示了检测到的内容,强调了可能被正确检测为破损罐的弱阳性。

每种属性的检测都具有非常不同的时间和空间复杂性,对于每种方法http://dsp.stackexchange.com对于为您的目的确定最正确和最有效的算法来说是非常合理的。我在这里的目的是,纯粹而简单地强调,通过使候选检测空间的一小部分无效来检测某个东西是否是罐头,并不是解决这个问题的最稳健或有效的解决方案,理想情况下,您应该采取相应的措施。

嘿,恭喜黑客新闻发布!总的来说,这是一个非常棒的问题,值得宣传

我回答这个问题晚了几年。在过去的5年里,CNN将最先进的技术推向了极限,我现在不会使用OpenCV来完成这项任务了!(我知道你在这个问题中特别想要OpenCv功能)我觉得与OpenCv功能相比,更快的RCNN、YOLO、SSD等对象检测算法将以显著的优势解决这个问题。如果我现在(6年后)解决这个问题,我肯定会使用更快的RCNN。

我首先要寻找的是颜色-像红色,当在图像中进行红眼检测时-有一个特定的颜色范围需要检测,考虑到周围区域,例如如果图像中确实可见,与另一只眼睛的距离。

1:第一个特点是颜色,红色非常占优势。在检测到可口可乐红之后,有几个项目值得关注1A:这个红色区域有多大(它有足够的数量来确定一个真正的罐子是否正确-10个像素可能不够),1B:它包含标签的颜色吗?“可口可乐”或波浪。1B1:是否有足够的理由认为它是一个标签。

第1项是一种捷径-如果图像中不存在,请继续。

因此,如果是这样的话,我可以利用我的图像片段,开始稍微缩小问题区域——基本上看周围区域/边缘。。。

2:给定上述图像区域ID为1-验证所讨论项目的周围点[边缘]。A: 有什么看起来像是罐顶或罐底的银吗?B: 瓶子可能看起来是透明的,但玻璃桌也可能是透明的-玻璃桌/架子或透明区域也是如此-如果是这样的话,可能会有多个出口。瓶子可能有一个红色的盖子,它可能没有,但它应该有瓶盖/螺纹螺钉的形状,或者盖子。C: 即使这失败了A和B,它仍然可以是部分的。。当它是部分的时,这会更复杂,因为部分瓶/部分罐看起来可能相同,所以需要对红色区域边缘到边缘的测量进行更多的处理。。小瓶子的大小可能差不多。。

3:经过上述分析后,也就是我会看字母和波浪标志的时候-因为我可以定位搜索单词中的一些字母,因为你可能没有所有的文字,因为没有所有的罐子,波浪将在某些点与文本对齐(距离方向),这样我就可以搜索概率,并知道在距离x处波浪的那个点应该存在哪些字母。

深度学习

收集至少几百张包含可乐罐的图像,将其周围的边界框标注为阳性类,包括可乐瓶和其他可乐产品,将其标记为阴性类以及随机对象。

除非您收集了一个非常大的数据集,否则请对小数据集使用深度学习功能。理想情况下,使用支持向量机(SVM)与深度神经网络的组合。

一旦您将图像输入到先前训练的深度学习模型(例如GoogleNet),而不是使用神经网络的决策(最终)层来进行分类,则使用先前层的数据作为特征来训练分类器。

OpenCV和Google Net:http://docs.opencv.org/trunk/d5/de7/tutorial_dnn_googlenet.html

OpenCV和SVM:http://docs.opencv.org/2.4/doc/tutorials/ml/introduction_to_svm/introduction_to_svm.html