<返回更多

5G时代-WebRTC音视频高级开发

2020-07-26    
加入收藏

目录

1,自定义摄像头分辨率

2,码率限制

3,调整编码器顺序

4,Mesh模型多方通话

5,Janus框架分析

6,Janus Web源码分析

7,Janus Android源码分析

8,基于Janus实现会议系统

自定义摄像头分辨率

一、videocapture类的介绍

1、Class for video capturing from video files, image sequences or cameras.

2、The class provides C++ API for capturing video from cameras or for reading video files and image sequences.

二、参数设置函数 set() 函数的使用

1、代码

//

#include "cartoon.h"

 

int main()

{

VideoCapture capture(0);

if (!capture.isOpened()) { //判断能够打开摄像头

cout<<"can not open the camera"<<endl;

cin.get();

exit(1);

}

 

capture.set(CV_CAP_PROP_FRAME_WIDTH, 640);

capture.set(CV_CAP_PROP_FRAME_HEIGHT, 480);

 

int count=0;

 

while (1) {

Mat frame;

capture>>frame; //载入图像

 

if (frame.empty()) { //判断图像是否载入

cout<<"can not load the frame"<<endl;

} else {

count++;

if (count == 1) {

cout<<frame.cols<<" "<<frame.rows<<endl;

}

 

imshow("camera", frame);

char c=waitKey(30); //延时30毫秒

if (c == 27) //按ESC键退出

break;

}

}

}

//

码率控制算法

码率控制算法根据视频应用要求与目的的不同可分为以下两种,

第一种

是恒定比特率 CBR(constant bitrate)的码率控制算法, CBR 的输入不仅要有视频源, 还要另外设置一个目标比特率。它能够动态地调节量化参数,主要依据是不同视频的内容复杂度差异、网络带宽的不同和解码缓冲区的大小等, 使得在给定的码率限制下, 图像的质量最佳。编码过程中, CBR 的码率围绕着目标码率基本不变。

第二种

是可变比特率 VBR( variable bitrate) 的码率控制算法, VBR 的输入当然也要包括视频源, 此外还要设置量化参数 QP。输出的比特率会在一定范围内变化, 原因有很多, 比如实际视频序列中的图像内容复杂度的差异, 又比如运动的快慢不同等, 所以在传输信道有波动的条件下常常使用 VBR 算法。

调整编码器顺序

一、视频编码格式初始配置

webrtcmediaengineinternalencoderfactory.cc

按照Push顺序,优先选取第一个编解码格式。

二、视频分辨率初始配置

webrtcpcvideocapturertracksource.cc

选取的原则是,在kVideoFormats里面找参数与kDefaultFormat默认值最接近的一组参数,作为本端的编码能力。

三、视频码率默认值

webrtcmediaenginewebrtcvideoengine.cc

EncoderStreamFactory::CreateEncoderStreams

四、默认QP、帧率最大值配置

webrtcmediaenginewebrtcvideoengine.cc

static const int kDefaultQpMax = 56;

const int kDefaultVideoMaxFramerate = 60;

五、使能SRTP

webrtcsrcwebrtcapipeerconnectioninterface.h

disable_encryption = true 取消SRTP

disable_encryption = false 开启SRTP

配置密钥:

bool Conductor::CreatePeerConnection(bool dtls)配置是否生成密钥。

六、生效新的帧率码率流程

在webrtc里面函数实现如下:

->VideoStreamEncoder::EncodeVideoFrame->VideoSender::AddVideoFrame----

在这个函数中读取全局变量encoder_params_,判断是否需要调整视频参数。->VideoSender::SetEncoderParameters

->VCMGenericEncoder::SetEncoderParameters

->H264EncoderImpl::SetRateAllocation---传递新的帧率码率到编码器。

七、H264打包模式

codec.cc VideoCodec::SetDefaultParameters

Janus框架分析

模块结构

本文介绍的Janus版本为0.6.0。

5G时代-WebRTC音视频高级开发

 

上图是Janus主要的模块结构,有一些通用工具模块这里没有列出。

媒体模块

Janus不是简单转发WebRTC的媒体流,还有一定的控制能力,因此需要支持WebRTC的媒体能力,其媒体功能包含以下基本模块:

ICE:打洞,负责与Peer的连通,Janus可以部署在NAT后面,使用了libnice;

DTLS:UDP版的TLS,就是加密的UDP,WebRTC用来传递SRTP的密钥,使用了OpenSSL/BoringSSL;

RTP/RTCP:提供RTP/RTCP封/解包的接口,需要发送一些WebRTC支持的RTCP包,例如FIR、PLI、RR等;

SRTP:加密的RTP,开启后WebRTC传输的RTP负载都是加密的;

SDP:提供SDP封/解包的接口,用于协商媒体的协议,可以用SDP对WebRTC的一些功能进行设定;

SCTP:WebRTC的数据通道使用的协议,就是加上了流控的UDP,可以传输任意数据。

信令模块

除了媒体协议,Janus还要提供信令交互的协议,传统的信令协议有SIP、XMPP等,Janus上的信令应用协议可以定制,底层主要的传输协议有

HTTP(s);

WebSocket(s);

MQTT;

NanoMsg;

RabbitMQ。

其中WebSocket使用了libwebsockets,HTTP使用了libmicrohttpd。

Janus Web源码分析

5G时代-WebRTC音视频高级开发

 

总结;需要资料的可以关注+私信‘资料’可以送大家 一起学习

对于自然界中的音频信号,如果转换成数字信号,进行音频编码,那么只能无限接近,不可能百分百还原。所以说实际上任何信号转换成数字信号都会“有损”。但是在计算机应用中,能够达到最高保真水平的就是PCM编码。因此,PCM约定俗成了无损编码。我们而习惯性的把MP3列入有损音频编码范畴,是相对PCM编码的。强调编码的相对性的有损和无损

5G时代-WebRTC音视频高级开发

 

声明:本站部分内容来自互联网,如有版权侵犯或其他问题请与我们联系,我们将立即删除或处理。
▍相关推荐
更多资讯 >>>