Android原生编解码接口 MediaCodec 之——踩坑

Android原生编解码接口 MediaCodec 之——踩坑关键帧MediaCodec有两种方式触发输出关键帧,一是由配置时设置的KEY_FRAME_RATE和KEY_I_FRAME_INTERVAL参数自动触发,二是运行过程中通过setParameters手动触发输出关键帧。自动触发输出关键帧在MediaCodec硬编码中设置I(关键帧)时间间隔,在api中是这么设置的mediaFormat.setInteger(MediaF………

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全家桶1年46,售后保障稳定

关键帧

MediaCodec 有两种方式触发输出关键帧,一是由配置时设置的 KEY_FRAME_RATE KEY_I_FRAME_INTERVAL参数自动触发,二是运行过程中通过 setParameters 手动触发输出关键帧。

自动触发输出关键帧
在MediaCodec硬编码中设置I(关键帧)时间间隔,在 api 中是这么设置的

mediaFormat.setInteger(MediaFormat.KEY_I_FRAME_INTERVAL, 1);  //关键帧间隔时间 单位s

Jetbrains全家桶1年46,售后保障稳定

自动触发实际是按照帧数触发的,例如设置帧率为 20 fps,关键帧间隔为 1s ,那就会每 20桢输出一个关键帧,一旦实际帧率低于配置帧率,那就会导致关键帧间隔时间变长。由于 MediaCodec 启动后就不能修改配置帧率/关键帧间隔了,所以如果希望改变关键帧间隔帧数,就必须重启编码器。

手动触发输出关键帧:

if (System.currentTimeMillis() - timeStamp >= 1000) { 
   //1000毫秒后,设置参数
	timeStamp = System.currentTimeMillis();
	if (Build.VERSION.SDK_INT >= 23) { 
   
		Bundle params = new Bundle();
		params.putInt(MediaCodec.PARAMETER_KEY_REQUEST_SYNC_FRAME, 0);
		mMediaCodec.setParameters(params);
	}

关键帧踩坑

有时候你会发现自动触发关键帧方式失效了

  • 经排查发现真正的原因是在于视频的输入源,如果是通过Camera的PreviewCallback的方式来获取视频数据再喂给MediaCodec的方式是无法控制输出关键帧的数量的。

  • 发现当选择支持颜色格式为yuv420p的编码器时,KEY_I_FRAME_INTERVAL 设置无效;
    选择支持yuv420sp的编码器时,KEY_I_FRAME_INTERVAL 设置有效;

  • 想要控制输出输出关键帧数量就必须通过调用MediaCodec.createInputSurface()方法获取输入Surface,再通过Opengl渲染后喂给MediaCodec才能真正控制关键帧的数量。

//判断输出数据是否为关键帧的方法:
boolean keyFrame = (bufferInfo.flags & MediaCodec.BUFFER_FLAG_KEY_FRAME) != 0;

部分机型MediaCodec.configure直接crash

  • 未设置编码强制要求的一些配置 会抛出 IllegalStateException
    看这个例子stackoverflow

  • 如果初始化MediaFormat视频流的预设宽高高于当前手机支持的解码最大分辨率那么在调用MediaCodec.configure的时候就会crash。把MediaFormat.createVideoFormat时候的宽高设置小一点就ok了,那么就会有另外一个问题,就是如果我设置1080*720的后,视频流来了一个1920*1080的会不会有影响?如果当前设备的最大分辨率高于这个值,就算预设值不一样,也还是可以正常解码并显示1920*1080的画面。那么如果低于这个值呢?两种情况 绿屏MediaCodec.dequeueInputBuffer的值一直抛IllegalStateException

如何获取当前手机支持的解码最大分辨率
每个手机下都有这样一个文件,/system/etc/media_codecs.xml (your path)。或者 /system/vendor/etc/media_codecs.xml这是一个xml文件,可以直接看到MediaCodecs–>Decoders节点下的各个视频格式的支持情况,以**华为荣耀7x Android 8.0 **为例
这里写图片描述

获取解码视频的宽和高

//获得音视频的配置器MediaFormat
private static MediaFormat getFormat(String path,boolean isVideo) { 
   
	try { 
   
	     MediaExtractor mediaExtractor = new MediaExtractor();
	     mediaExtractor.setDataSource(path);
	     int trackCount = mediaExtractor.getTrackCount();
	     for (int i = 0; i < trackCount; i++) { 
   
	         MediaFormat trackFormat = mediaExtractor.getTrackFormat(i);
	         if (trackFormat.getString(MediaFormat.KEY_MIME).startsWith(isVideo ? "video/" :"audio/")) { 
   
	             return mediaExtractor.getTrackFormat(i);
	         }
	     }
	 } catch (IOException e) { 
   
	     e.printStackTrace();
	 }
	 return null;
}
//单独获取宽高
MediaFormat newFormat =  getFormat(path,true);
int videoWidth = newFormat.getInteger(MediaFormat.KEY_WIDTH);
int videoHeight = newFormat.getInteger(MediaFormat.KEY_HEIGHT);
//结合编码时获取宽高
MediaFormat newFormat = mMediaCodec.getOutputFormat();
int videoWidth = newFormat.getInteger(MediaFormat.KEY_WIDTH);
int videoHeight = newFormat.getInteger(MediaFormat.KEY_HEIGHT);

部分机型MediaCodec.dequeueOutputBuffer一直报IllegalStateException

部分机型会一直卡在MediaCodec.INFO_TRY_AGAIN_LATER中,有的原因也是因为这个
该机型硬解码最大配置分辨率低于当前视频流的分辨率

部分机型输出的数据太短,或者为0

取出 output buffer 后,要手动设置 position 和 limit(api19以下必须设置),有些设备的编码器不会设置这两个值,导致无法正确取出数据;取出 input buffer 后,要手动调用 clear。参见 bigflake FAQ #11

mMediaCodec.createInputSurface()创建失败或者取出的数据不理想

虽然 mMediaCodec.createInputSurface() 从 API 18 就已经引入,但用在某些 API 18 的机型上会导致编码器输出数据量特别小,画面是黑屏,所以 Surface 输入模式从 API 19 启用。
mMediaCodec.createInputSurface() 必须在mediaformat.configure(…)之后,在mediacodec.start() 之前调用。

关于BufferInfo中的presentationTimeUs设置

如果不正确设置presentationTimeUs,有的设备的编码器会丢掉输入桢,或者输出图像质量很差,参见bigflake FAQ #8;
MediaCodec 使用的是微秒,大多数java 使用毫秒和纳秒,单位要处理好

如果采用surface输入,想要丢帧要如何操作

??(何时开始编码条件) 满足该条件后开始编码。这就做到可控了。

if (mBufferInfo.size != 0 && ??(何时开始编码条件)) { 
   
	 outputBuffer.position(mBufferInfo.offset);
	 outputBuffer.limit(mBufferInfo.offset + mBufferInfo.size);
	 // mMuxer.writeSampleData(mTrackIndex, encodedData, bufferInfo);
} else { 
   
	outputBuffer.clear();
}
// 处理结束,释放输出缓存区资源
mMediaCodec.releaseOutputBuffer(outputBufferIndex,false);

输出数据和写入数据为MP4要在同一线程中,否则会出现偶发性的花屏,马赛克等

以下做法会出现花屏,马赛克

if (mBufferInfo.size != 0) { 
   
	 outputBuffer.position(mBufferInfo.offset);
	 outputBuffer.limit(mBufferInfo.offset + mBufferInfo.size);
	 //这边线程就懒得写成阻塞等待数据作用了,懒。知道这个情况就OK了
	 new Thread(new Runnable() { 
   
        @Override
        public void run() { 
   
             // mMuxer.writeSampleData(mTrackIndex, encodedData, bufferInfo);
        }
    }).start();
} 

关于 bitrate_mode 配置问题

MediaCodec中的bitrate mode,设置之前想确认下CBR是否支持,那么会调用isBitrateModeSupported()判断

// MediaCodecInfo.java
public boolean isBitrateModeSupported(int mode) { 
   
    for (Feature feat: bitrates) { 
   
        if (mode == feat.mValue) { 
   
            return (mBitControl & (1 << mode)) != 0;
        }
    }
    return false;
}

mode是否支持从bitrates判断

private static final Feature[] bitrates = new Feature[] { 
   
    new Feature("VBR", BITRATE_MODE_VBR, true),
    new Feature("CBR", BITRATE_MODE_CBR, false),
    new Feature("CQ",  BITRATE_MODE_CQ,  false)
};

大部分是不支持的,可以通过xml查看,位置:vendor/etc/media_codecs.xml

另外,在默认情况下,如果上层没有主动设置bitrate_mode的话,返回的是VBR。 也就是默认采用VBR 关于VBR CQ CBR区别,可查看Android原生编解码接口 MediaCodec 之——完全解析中的流控。

关于 level、profile设置

由于视频编码后显示的数据质量偏低,所以需要调整质量。这个时候需要在这个设置level、profile

  • Profile是对视频压缩特性的描述(CABAC呀、颜色采样数等等)。
  • Level是对视频本身特性的描述(码率、分辨率、fps)。

简单来说,Profile越高,就说明采用了越高级的压缩特性。
Level越高,视频的码率、分辨率、fps越高

// 不支持设置Profile和Level,而应该采用默认设置
mediaFormat.setInteger(MediaFormat.KEY_PROFILE, MediaCodecInfo.CodecProfileLevel.AVCProfileHigh); 
mediaFormat.setInteger("level", MediaCodecInfo.CodecProfileLevel.AVCLevel41); // Level 4.1

关于设置这两个参数,我发现某些设备上,设置了无效,还是默认值,经排查
是因为在android7.0以下,android 内部写死了参数,编码出来的只能是Baseline,除非系统改过这个BUG,否者设置无效,甚至会导致configure参数失败

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/206570.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号