Android开发经验谈Android开发Android技术知识

「Android音视频编码那点破事」第五章,使用MediaCod

2018-06-17  本文已影响32人  Alimin利民

  本章仅对部分代码进行讲解,以帮助读者更好的理解章节内容。
本系列文章涉及的项目HardwareVideoCodec已经开源到Github。目前已迭代多个稳定版本,欢迎查阅学习和使用,如有BUG或建议,欢迎Issue。


  在上一章我们讲到了MediaCodec的工作流程,以及如何利用MediaCodec进行H264编码。这一章的内容同样是MediaCodec,只不过是编码音频为AAC,整个流程大同小异。
  上一章我们利用MediaCodec编码视频时,使用了Surface,所以可以不直接操作输入缓冲区队列。但是编码音频的时候,由于无法使用Surface,所以需要直接操作输入缓冲区队列。
  这里我们需要通过AudioRecord采集PCM数据,然后把采集到的数据送进编码器进行编码。所以首先我们要初始化一个AudioRecord对象。
  要使用录音,需要申请录音权限。

<uses-permission android:name="android.permission.RECORD_AUDIO"/>

  然后初始化AudioRecorder对象,初始化完成后就可以开始录制音频了。当然,这些操作都需要在子线程中进行。最后通过循环不停的从AudioRecorder中读取PCM数据,并通过回调把PCM数据发送给MediaCodec进行编码。

    /**
     * 初始化AudioRecord对象
     */
    private fun config(){
        /**
         * 计算缓存PCM数据的Buffer最小大小
         * parameter.audio.sampleRateInHz = 16000
         * parameter.audio.pcm = AudioFormat.ENCODING_PCM_16BIT
         * parameter.audio.samplePerFrame = 1024
         * parameter.video.fps = 30
         *
         */
        val minBufferSize = AudioRecord.getMinBufferSize(parameter.audio.sampleRateInHz,
                AudioFormat.CHANNEL_IN_MONO, parameter.audio.pcm)
        /**
         * 计算buffer大小
         */
        bufferSize = parameter.audio.samplePerFrame * parameter.video.fps
        if (bufferSize < minBufferSize)
            bufferSize = (minBufferSize / parameter.audio.samplePerFrame + 1) * parameter.audio.samplePerFrame * 2

        debug_e("bufferSize: $bufferSize")
        /**
         * 新建储存PCM数据发Buffer
         */
        buffer = ByteArray(parameter.audio.samplePerFrame)
        /**
         * 新建AudioRecord对象
         */
        record = AudioRecord(MediaRecorder.AudioSource.MIC, parameter.audio.sampleRateInHz,
                AudioFormat.CHANNEL_IN_MONO, parameter.audio.pcm, bufferSize)
        /**
         * 开始录制音频
         */
        record?.startRecording()
    }
    private fun read() {
        /**
         * 读取PCM数据
         */
        val bufferReadResult = record!!.read(buffer, 0, parameter.audio.samplePerFrame)
        onPCMListener?.onPCMSample(buffer!!)
    }

    override fun run() {
        while (mStart) {
            read()
        }
    }

  在正确拿到PCM数据后,就可以用MediaCodec进行编码了。我们先创建一个编码器格式对象,用来配置MediaCodec。


    fun createAudioFormat(parameter: Parameter, ignoreDevice: Boolean = false): MediaFormat? {
        val mediaFormat = MediaFormat()
        /**
         * 编码格式AAC:parameter.audio.mime = "audio/mp4a-latm"
         * 声道数量:parameter.audio.channel = 1
         * 频率:parameter.audio.sampleRateInHz = 16000
         * 码率:parameter.audio.bitrate = 64000
         * Level:parameter.audio.profile = MediaCodecInfo.CodecProfileLevel.AACObjectLC
         */
        mediaFormat.setString(MediaFormat.KEY_MIME, parameter.audio.mime)
        mediaFormat.setInteger(MediaFormat.KEY_CHANNEL_COUNT, parameter.audio.channel)
        mediaFormat.setInteger(MediaFormat.KEY_SAMPLE_RATE, parameter.audio.sampleRateInHz)
        mediaFormat.setInteger(MediaFormat.KEY_BIT_RATE, parameter.audio.bitrate)
        mediaFormat.setInteger(MediaFormat.KEY_AAC_PROFILE, parameter.audio.profile)
        return mediaFormat
    }

  有了MediaFormat后,我们就可以开始创建编码器了。

    private fun initCodec() {
        val format = CodecHelper.createAudioFormat(parameter)
        try {
            codec = MediaCodec.createEncoderByType(format?.getString(MediaFormat.KEY_MIME))
            codec?.configure(format, null, null, MediaCodec.CONFIGURE_FLAG_ENCODE)
            codec?.start()
            audioWrapper = AudioRecordWrapper(parameter)
            audioWrapper?.setOnPCMListener(this)
        } catch (e: Exception) {
            debug_e("Can not create codec")
        } finally {
            if (null == codec)
                debug_e("Can not create codec")
        }
    }

  初始化之后通过OnPCMListener回调接收上文返回的PCM数据,并送入MediaCodec进行编码。最后通过循环从编码器输出缓冲区中拿出AAC数据。这里通过回调把AAC数据送进MediaMuxer进行音视频混合,最后生成mp4文件。

    /**
     * 把PCM数据送入编码器的输入缓存队列
     */
    private fun encode(buffer: ByteArray) {
        try {
            pTimer.record()
            /**
             * 获取输入缓存队列
             */
            inputBuffers = codec!!.inputBuffers
            /**
             * 输入输出缓存队列
             */
            outputBuffers = codec!!.outputBuffers
            /**
             * 从编码器中获取一个缓冲区的下标
             */
            val inputBufferIndex = codec!!.dequeueInputBuffer(WAIT_TIME)
            if (inputBufferIndex >= 0) {
                /**
                 * 通过下标获取缓冲区
                 */
                val inputBuffer = inputBuffers!![inputBufferIndex]
                inputBuffer.clear()
                /**
                 * 把PCM数据送入缓冲区
                 */
                inputBuffer.put(buffer)
                /**
                 * 把带有PCM的数据缓冲区送进编码器
                 */
                codec!!.queueInputBuffer(inputBufferIndex, 0, buffer.size, 0, 0)
            }
            /**
             * 从编码器中获取编码后的数据
             */
            dequeue()
        } catch (e: Exception) {
            e.printStackTrace()
        }
    }
    /**
     * 从编码器中获取编码后的数据
     */
    private fun dequeue(): Boolean {
        try {
            /**
             * 从输出缓冲区取出一个Buffer,返回一个状态
             * 这是一个同步操作,所以我们需要给定最大等待时间WAIT_TIME,一般设置为10000ms
             */
            val flag = codec!!.dequeueOutputBuffer(bufferInfo, WAIT_TIME)
            when (flag) {
                MediaCodec.INFO_TRY_AGAIN_LATER -> {//等待超时,需要再次等待,通常忽略
                    return false
                }
            /**
             * 输出格式改变,很重要
             * 这里必须把outputFormat设置给MediaMuxer,而不能不能用inputFormat代替,它们时不一样的,不然无法正确生成mp4文件
             */
                MediaCodec.INFO_OUTPUT_FORMAT_CHANGED -> {
                    debug_v("AUDIO INFO_OUTPUT_FORMAT_CHANGED")
                    onSampleListener?.onFormatChanged(codec!!.outputFormat)
                }
                else -> {
                    if (flag < 0) return@dequeue false//如果小于零,则跳过
                    val data = codec!!.outputBuffers[flag]//否则代表编码成功,可以从输出缓冲区队列取出数据
                    if (null != data) {
                        val endOfStream = bufferInfo.flags and MediaCodec.BUFFER_FLAG_END_OF_STREAM
                        if (endOfStream == 0) {//如果没有收到BUFFER_FLAG_END_OF_STREAM信号,则代表输出数据时有效的
                            bufferInfo.presentationTimeUs = pTimer.presentationTimeUs
                            //通过回调,把编码后的数据送进MediaMuxer
                            onSampleListener?.onSample(bufferInfo, data)
                        }
                        //缓冲区使用完后必须把它还给MediaCodec,以便再次使用,至此一个流程结束,再次循环
                        codec!!.releaseOutputBuffer(flag, false)
//                        if (endOfStream == MediaCodec.BUFFER_FLAG_END_OF_STREAM) {
//                            return true
//                        }
                        return true
                    }
                }
            }
        } catch (e: Exception) {
            e.printStackTrace()
        }
        return false
    }

  以上就是本章关于MediaCodec编码PCM的全部学习内容,比较简单,关于MediaCodec的使用在第四章已经有了很详细的讲解,使用MediaCodec编码音视频的流程都是一样的。如果理解还不够透彻,欢迎查阅学习第四章。如果有疑问或者错误,欢迎在评论区留言。


本章知识点:

  1. 使用MediaCodec进行AAC编码。

本章相关源码·HardwareVideoCodec项目

上一篇下一篇

猜你喜欢

热点阅读