Qt编写视频监控系统70-0SD标签和图形信息（支持写入到文件）

阿里云国内75折 回扣 微信号：monov8
阿里云国际，腾讯云国际，低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号：monov8 飞机：@monov6

一、前言

作为一个完整的视频监控系统用户还需要自定义一些OSD标签信息显示在对应通道上面而且不止一个OSD标签信息位置可以在四个角或者指定坐标显示。最开始本系统设计的时候由于本人擅长的是painter绘制所以直接采用的painter绘制贴在视频控件上顶层放了个cover窗体覆盖在上面后面发现这种机制并不能将OSD标签信息存储到视频文件而且弊端多不是源头绘制的相当于和视频源无关当切换等比例缩放等图片效果时仅仅是在cover窗体上能看到所以设置的标签位置看起来怪怪的当然这种机制也是有部分场景需要的所以在重新设计标签和图形绘制功能的时候这块功能也需要保留。

如何能够从源头实现OSD标签和图形信息则必须用到滤镜这个东西在ffmpeg中对应的是avfilter模块也可以说是特效库可以实现各种特效比如色调/模糊/水平翻转/裁剪/加方框/叠加文字等功能这些特效是直接应用在源头视频数据帧avframe上的意味着保存视频文件的代码根本不用修改直接就可以把这些特效存储到文件所以在一些智能算法厂家中识别到的人员信息以及方框都会通过两种策略发送出来一种是源头滤镜加工好同时还会以文本信息加在视频流中让用户自己解析绘制这样就涵盖到了所有的情形。

ffmpeg滤镜的基本步骤

  • avfilter_get_by_name 获取要使用的滤镜
  • avfilter_inout_alloc 创建输入输出滤镜参数
  • avfilter_graph_alloc 创建滤镜容器
  • avfilter_graph_create_filter 创建输入输出滤镜
  • av_opt_set_int_list 设置输出滤镜格式
  • outputs->name/outputs->filter_ctx… 设置滤镜的参数
  • avfilter_graph_parse_ptr 初始化滤镜
  • avfilter_graph_config 应用滤镜配置
  • avfilter_free 释放滤镜对象
  • avfilter_graph_free 释放滤镜容器

貌似滤镜一旦设置好以后就不允许通过参数修改比如设置了一个文字水印 drawtext=text=‘hello’:fontsize=30:fontcolor=#ffffff:x=10:y=10 想要修改这个内容滤镜相关类没有提供对应的函数需要先把之前的滤镜资源释放然后重新创建相当于这个过程来一遍那是不是又会担心效率问题而且矩形区域很多的时候都是经常切换滤镜的性能上多多少少会占用一些CPU但是应用起来还是非常快的几乎看不到切换的停顿或者空白效果。详细的滤镜参数参考官方说明 https://ffmpeg.org/ffmpeg-filters.html 。

还有个注意点就是如果是中文的文字水印必须指定字体文件让ffmepg能够找到对应字体文件一般建议将字体文件放到可执行文件同一目录下linux上需要对应的ffmpeg库编译的时候指定freetype否则不能用drawtext文字水印。还有个注意点就是发现硬解码后NV12格式的frame无法正常应用滤镜不知道各位有没有什么好的办法除了又转换成yuv420p以外转换又要耗费cpu失去了硬解码降低cpu占用的初衷。

二、效果图

图示中随机生成的文字和矩形水印
在这里插入图片描述

三、体验地址

  1. 体验地址https://pan.baidu.com/s/1d7TH_GEYl5nOecuNlWJJ7g 提取码01jf 文件名bin_video_system。
  2. 国内站点https://gitee.com/feiyangqingyun
  3. 国际站点https://github.com/feiyangqingyun
  4. 个人主页https://blog.csdn.net/feiyangqingyun
  5. 知乎主页https://www.zhihu.com/people/feiyangqingyun/
  6. 在线文档https://feiyangqingyun.gitee.io/qwidgetdemo/video_system/

四、相关代码

#include "ffmpegfilter.h"
#include "ffmpeghelper.h"
#include "filterhelper.h"

QString FFmpegFilter::getFilter(const FilterData &filterData)
{
    //滤镜内容字符串集合
    QStringList listFilter;
    bool hardware = (filterData.formatIn == AV_PIX_FMT_NV12);
    if (filterData.rotate != 0) {
        QString filter = FilterHelper::getFilter(filterData.rotate, hardware);
        listFilter << filter;
    }

    //加入标签信息
    foreach (OsdInfo osd, filterData.listOsd) {
        QString filter = FilterHelper::getFilter(osd, hardware);
        if (!filter.isEmpty()) {
            listFilter << filter;
        }
    }

    //加入图形信息
    foreach (GraphInfo graph, filterData.listGraph) {
        QString filter = FilterHelper::getFilter(graph, hardware);
        if (!filter.isEmpty()) {
            listFilter << filter;
        }
    }

    //加入其他滤镜
    QString filter = FilterHelper::getFilter();
    if (!filter.isEmpty()) {
        listFilter << filter;
    }

    return listFilter.join(",");
}

int FFmpegFilter::initFilter(AbstractVideoThread *thread, AVStream *stream, AVCodecContext *avctx, FilterData &filterData)
{
    int result = -1;
    if (!filterData.enable) {
        return result;
    }

    //貌似硬解码不支持滤镜
    if (filterData.formatIn == AV_PIX_FMT_NV12) {
        return result;
    }

    //先释放相关资源
    freeFilter(filterData);

    //获取滤镜字符串
    QString filters = getFilter(filterData);
    if (filters.isEmpty()) {
        return result;
    }

    //输入帧序列的参数信息
    QStringList listArg;
    listArg << QString("video_size=%1x%2").arg(avctx->width).arg(avctx->height);
    listArg << QString("pix_fmt=%1").arg(avctx->pix_fmt);
    listArg << QString("time_base=%1/%2").arg(stream->time_base.num).arg(stream->time_base.den);
    listArg << QString("pixel_aspect=%1/%2").arg(avctx->sample_aspect_ratio.num).arg(avctx->sample_aspect_ratio.den);
    QString args = listArg.join(":");

    //输入帧格式
    enum AVPixelFormat pix_fmts[] = {filterData.formatIn, AV_PIX_FMT_NONE};

    //获取要使用的滤镜
    const AVFilter *filterSrc = avfilter_get_by_name("buffer");
    const AVFilter *filterSink = avfilter_get_by_name("buffersink");

    //创建输入输出滤镜参数
    AVFilterInOut *inputs = avfilter_inout_alloc();
    AVFilterInOut *outputs = avfilter_inout_alloc();

    //创建滤镜容器
    filterData.filterGraph = avfilter_graph_alloc();
    if (!inputs || !outputs || !filterData.filterGraph) {
        result = AVERROR(ENOMEM);
        goto end;
    }

    //创建输入滤镜
    result = avfilter_graph_create_filter(&filterData.filterSrcCtx, filterSrc, "in", args.toUtf8().constData(), NULL, filterData.filterGraph);
    if (result < 0) {
        thread->debug("滤镜处理", QString("创建输入滤镜失败: %1").arg(FFmpegHelper::getError(result)), "");
        goto end;
    }

    //创建输出滤镜
    result = avfilter_graph_create_filter(&filterData.filterSinkCtx, filterSink, "out", NULL, NULL, filterData.filterGraph);
    if (result < 0) {
        thread->debug("滤镜处理", QString("创建输出滤镜失败: %1").arg(FFmpegHelper::getError(result)), "");
        goto end;
    }

    //设置输出滤镜格式
    result = av_opt_set_int_list(filterData.filterSinkCtx, "pix_fmts", pix_fmts, filterData.formatOut, AV_OPT_SEARCH_CHILDREN);
    if (result < 0) {
        thread->debug("滤镜处理", QString("设置输出滤镜格式: %1").arg(FFmpegHelper::getError(result)), "");
        goto end;
    }

    //设置滤镜的参数
    outputs->name = av_strdup("in");
    outputs->filter_ctx = filterData.filterSrcCtx;
    outputs->pad_idx = 0;
    outputs->next = NULL;

    inputs->name = av_strdup("out");
    inputs->filter_ctx = filterData.filterSinkCtx;
    inputs->pad_idx = 0;
    inputs->next = NULL;

    //初始化滤镜
    result = avfilter_graph_parse_ptr(filterData.filterGraph, filters.toUtf8().constData(), &inputs, &outputs, NULL);
    if (result < 0) {
        thread->debug("滤镜处理", QString("初始化滤镜失败: %1").arg(FFmpegHelper::getError(result)), "");
        goto end;
    }

    //应用滤镜配置
    result = avfilter_graph_config(filterData.filterGraph, NULL);
    if (result < 0) {
        thread->debug("滤镜处理", QString("应用滤镜配置失败: %1").arg(FFmpegHelper::getError(result)), "");
        goto end;
    }

end:
    //释放对应的输入输出
    avfilter_inout_free(&inputs);
    avfilter_inout_free(&outputs);
    filterData.isOk = (result >= 0);
    return result;
}

void FFmpegFilter::freeFilter(FilterData &filterData)
{
    if (filterData.isOk) {
        filterData.enable = true;
        filterData.init = true;
        filterData.isOk = false;

        avfilter_free(filterData.filterSrcCtx);
        avfilter_free(filterData.filterSinkCtx);
        avfilter_graph_free(&filterData.filterGraph);
        filterData.filterSrcCtx = NULL;
        filterData.filterSinkCtx = NULL;
        filterData.filterGraph = NULL;
    }
}

五、功能特点

一、软件模块

  1. 视频监控模块各种停靠小窗体子模块包括设备列表、图文警情、窗口信息、云台控制、预置位、巡航设置、设备控制、悬浮地图、网页浏览等。
  2. 视频回放模块包括本地回放、远程回放、设备播放、图片回放、视频上传等。
  3. 电子地图模块包括图片地图、在线地图、离线地图、路径规划等。
  4. 日志查询模块包括本地日志、设备日志等。
  5. 系统设置模块包括系统设置基本设置、视频参数、数据库设置、地图配置、串口配置等、录像机管理、摄像机管理、轮询配置、录像计划、用户管理等。

二、基础功能

  1. 支持各种视频流rtsp、rtmp、http等、视频文件mp4、rmvb、avi等、本地USB摄像机播放。
  2. 支持多画面切换包括1、4、6、8、9、13、16、25、36、64画面切换。
  3. 支持全屏切换多种切换方式包括鼠标右键菜单、工具栏按钮、快捷键alt+enter全屏esc退出全屏。
  4. 支持视频轮询包括1、4、9、16画面轮询可设置轮询分组轮询预案、轮询间隔、码流类型等。
  5. 支持onvif协议包括设备搜索、云台控制、预置位、设备控制图片参数、校对时间、系统重启抓拍图片等。
  6. 支持权限管理不同的用户可以对应不同的模块权限比如删除日志、关闭系统等。
  7. 数据库支持多种包括sqlite、mysql、sqlserver、postgresql、oracle、人大金仓等。
  8. 本地USB摄像机支持设置分辨率、帧率等参数。
  9. 所有停靠模块都自动生成对应的菜单用来控制显示和隐藏在标题栏右键可以弹出。
  10. 支持显示所有模块、隐藏所有模块、复位普通布局、复位全屏布局。
  11. 双击设备弹出实时预览视频支持图片地图、在线地图、离线地图等。
  12. 摄像机节点拖曳到对应窗体播放视频同时支持拖曳本地文件直接播放。
  13. 删除视频支持鼠标右键删除、悬浮条关闭删除、拖曳到视频监控面板外删除等多种方式。
  14. 图片地图上设备按钮可自由拖动自动保存位置信息。百度地图上可以鼠标单击获取经纬度信息用来更新设备位置。
  15. 视频监控面板窗体中任意通道支持拖曳交换瞬间响应。
  16. 封装了百度地图视图切换运动轨迹设备点位鼠标按下获取经纬度等。
  17. 双击节点、拖曳节点、拖曳窗体交换位置等操作均自动更新保存最后的播放地址下次软件打开自动应用。
  18. 右下角音量条控件失去焦点自动隐藏音量条带静音图标。
  19. 支持视频截图可指定单个或者对所有通道截图底部小工具栏也有截图按钮。
  20. 支持超时自动隐藏鼠标指针、自动全屏机制。
  21. 支持onvif云台控制可上下左右移动云台摄像机包括复位和焦距调整等。
  22. 支持onvif预置位可以添加、删除、修改预置位可以调用起始位。
  23. 支持onvif图像参数设置包括明亮度、对比度、饱和度、尖锐度等。
  24. 支持onvif其他操作包括抓图、网络设置、校时、重启、事件订阅等。
  25. 支持任意onvif摄像机包括但不限于海康、大华、宇视、天地伟业、华为等。
  26. 可保存视频可选定时存储或者单文件存储可选存储间隔时间。
  27. 可设置视频流通信方式tcp+udp可设置视频解码是速度优先、质量优先、均衡等。
  28. 可设置软件中文名称、英文名称、LOGO图标等。
  29. 存储的视频文件支持导出到指定目录支持批量上传到服务器。
  30. 完善的录像计划设置支持每个通道7乘24小时每半小时设置是否存储录像。

三、特色功能

  1. 主界面采用停靠窗体模式各种组件以小模块的形式加入可自定义任意模块加入。
  2. 停靠模块可拖动任意位置嵌入和悬浮支持最大化全屏支持多屏幕。
  3. 双重布局文件存储机制正常模式、全屏模式都对应不同的布局方案自动切换和保存比如全屏模式可以突出几个模块透明显示在指定位置更具科幻感现代化。
  4. 原创onvif协议机制采用底层协议解析udp广播搜索+http请求执行命令更轻量易懂易学习拓展不依赖任何第三方组件比如gsoap。
  5. 原创数据导入、导出、打印机制跨平台不依赖任何组件瞬间导出数据。
  6. 内置多个原创组件宇宙超值超级牛逼包括数据导入导出组件导出到xls、pdf、打印、数据库组件数据库管理线程、自动清理数据线程、万能分页、数据请求等、地图组件、视频监控组件、文件多线程收发组件、onvif通信组件、通用浏览器内核组件等。
  7. 自定义信息框+错误框+询问框+右下角提示框包含多种格式等。
  8. 精美换肤高达17套皮肤样式随意更换所有样式全部统一包括菜单等。
  9. 视频控件悬浮条可以自行增加多个按钮监控界面底部小工具栏也可自行增加按钮。
  10. 双击摄像机节点自动播放视频双击节点自动依次添加视频会自动跳到下一个双击父节点自动添加该节点下的所有视频。可选主码流、子码流。
  11. 录像机管理、摄像机管理可添加删除修改导入导出打印信息立即应用新的设备信息生成树状列表不需重启。
  12. 可选多种内核自由切换ffmpeg、vlc、mpv等均可在pro中设置。推荐用ffmpeg跨平台最多默认提供好了linux和mac平台上编译好的库。
  13. 支持硬解码可设置硬解码类型qsv、dxva2、d3d11va等。
  14. 默认采用opengl绘制视频超低的CPU资源占用支持yuyv和nv12两种格式绘制很牛逼。
  15. 高度可定制化用户可以很方便的在此基础上衍生自己的功能比如增加自定义模块增加运行模式、机器人监控、无人机监控、挖掘机监控等。
  16. 支持xp、win7、win10、win11、linux、mac、各种国产系统UOS、中标麒麟、银河麒麟等、嵌入式linux等系统。
  17. 注释完整项目结构清晰超级详细完整的使用开发手册精确到每个代码文件的功能说明不断持续迭代版本。
阿里云国内75折 回扣 微信号：monov8
阿里云国际，腾讯云国际，低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号：monov8 飞机：@monov6
返回列表

上一篇：Rabbitmq业务难点

下一篇：【随笔】我迟到的2022年度总结：突破零粉丝，1个月涨粉1000+，2023年目标3万+

“Qt编写视频监控系统70-0SD标签和图形信息（支持写入到文件）” 的相关文章

C C++实现两矩阵相乘--模拟法1年前 (2023-02-02)
【Unity3D插件】Build Report Tool插件，Build报告，优化包体，查看资源占用1年前 (2023-02-02)
SDP零信任网络安全架构1年前 (2023-02-02)
EasyUI DataGrid关于如何实现动态列数据绑定1年前 (2023-02-02)
学习笔记——Mybatis逆向工程MBG；MyBatis逆向工程MBG使用步骤1年前 (2023-02-02)
C#调用js库的方法1年前 (2023-02-02)
计算机网络原理（谢希仁第八版）第四章课后习题答案_计算机网络第八版谢希仁课后答案1年前 (2023-02-02)
Vue复刻华为官网 (二)_华为官网源代码1年前 (2023-02-02)
阿里高级技术专家方法论：如何写复杂业务代码？1年前 (2023-02-02)
Codeforces Round #847 (Div. 3) ABCDE1年前 (2023-02-02)

阿里云国际版