分割一切还不够，还要视频跟踪一切，《清明上河图》也能轻松拿下 来源：机器之心近日，南方科技大学郑锋团队提出了「跟踪一切」（Track Anything Model ，TAM）的交互工具，其在视频中实现高性能的交互式跟踪和分割。Track Anything 是基于 SAM 的二次创作模型，适用于视频领域任意目标的跟踪任务，可以通过简单的鼠标点击实现对任意视频任意目标的像素级跟踪，实现了目标跟踪的交互性、灵活性、可用性。 论文地址：https://arxiv.org/pdf/2304.11968.pdf项目地址：https://github.com/gaomingqi/Track-AnythingDemo 地址：https://huggingface.co/spaces/watchtowerss/Track-Anything Track Anything：交互式跟踪任意视频任意目标Track Anything 效果到底如何呢？我们先从几个示例来说明。首先是多目标跟踪与分割。《清明上河图》大家早已耳闻，画中人物众多、形态各异，其间还穿插各种动作等等。想要跟踪里面的目标难度还是比较大的。下面视频显示 Track Anything很好的跟踪了物体： 接下来考察 Track Anything 在快速运动场景下的跟踪能力。众所周知，打篮球需要动作敏捷、健步如飞…… 用 AI 技术跟踪一位篮球运动员并不容易，加之运动员动作幅度大、相互之间出现遮挡等，都加大了跟踪难度，出现错误跟踪、漏跟踪情况。但从下面展示的效果来看，即便是在瞬息万变的篮球比赛，Track Anything 跟踪效果都做的非常好：接下来，我们在看一个示例。从下面视频中可以看到，一位身姿矫健的男生灵活的跨越众多障碍，即便人的运动速度再快、动作再复杂等，Track Anything 都能很好的处理：由于 Track Anything 跟踪效果非常好，受到广大网友的好评。就像下面这位网友所说的：「这项研究给人一种强烈的终结者的感觉。SAM 在分割图像方面很在行，但在视频方面却不出色，而TMA仅通过少量人工输入，就能很好的实现对视频中物体的跟踪与分割。」 技术介绍 郑锋团队通过以使用者为中介的 SAM 与 VOS 模型的交互式组合，提出了 Track Anything 工具，它拥有强大的视频目标跟踪能力，并提供用户友好的操作界面，只需要简单的点击操作，就可以任意地跟踪用户感兴趣的一个或多个目标区域，还可以根据用户需求灵活调整目标对象，并自带用户纠错和视频编辑功能。其技术流程如下：1 基于 SAM，用户通过正负样本点的选取，确定目标对象在视频中某一帧的空间区域。2 使用用户确定的区域作为模板初始化跟踪模型。跟踪过程中，通过建立每个视频帧与模板区域之间的密集关联，实现将用户选取信息向整个视频的传递过程，从而实现目标跟踪。3 跟踪过程中，用户可以随时暂停，同样通过正负样本选取的方式，实现对其他目标的追踪，或修正当前目标追踪的结果。4 基于跟踪结果，用户可以使用目标擦除或视频修复功能，实现在视频中对特定区域的编辑。 总之，通过 Track Anything，使用者可以轻松地完成视频中单个或多个目标的精确标注，视频特定区域提取及编辑，以及长时 / 转场视频中的目标跟踪。相关功能陆续上线中，欢迎大家试用！ 郑锋团队不仅在视频领域研发了Track-Anything，还在图像和语言领域还推出了Caption-Anything系统。它是一个多功能的图像处理工具，结合了Segment Anything、Visual Captioning和ChatGPT在图像和语言领域的能力。项目地址：https://github.com/ttengwang/Caption-Anything/。 推荐阅读 西电IEEE Fellow团队出品！最新《Transformer视觉表征学习全面综述》润了！大龄码农从北京到荷兰的躺平生活（文末有福利哟！）如何做好科研？这份《科研阅读、写作与报告》PPT，手把手教你做科研奖金675万！3位科学家，斩获“中国诺贝尔奖”！又一名视觉大牛从大厂离开！阿里达摩院 XR 实验室负责人谭平离职 最新 2022「深度学习视觉注意力 」研究概述，包括50种注意力机制和方法！【重磅】斯坦福李飞飞《注意力与Transformer》总结，84页ppt开放下载！2021李宏毅老师最新40节机器学习课程！附课件+视频资料 欢迎大家加入DLer-计算机视觉技术交流群！ 大家好，群里会第一时间发布计算机视觉方向的前沿论文解读和交流分享，主要方向有：图像分类、Transformer、目标检测、目标跟踪、点云与语义分割、GAN、超分辨率、人脸检测与识别、动作行为与时空运动、模型压缩和量化剪枝、迁移学习、人体姿态估计等内容。 进群请备注：研究方向+学校/公司+昵称（如图像分类+上交+小明） ??长按识别，邀请您进群！