iOS視頻編輯之添加音軌的方法
之前各種事情在身,發(fā)現(xiàn)好久沒更新文章了,臨近年末,就把最近做的視頻處理相關(guān)的內(nèi)容整理一下吧~
最近在做視頻編輯處理相關(guān)的開發(fā),其中之一就是音視頻合成,需求是用戶可以選擇將相冊中的視頻,然后將一段音樂片段加入其中,并可以實(shí)時(shí)調(diào)整視頻原聲以及添加的音樂音量,最后合成為一個(gè)視頻。
分析
首先對于視頻處理,萬能的ffmpeg肯定可以實(shí)現(xiàn),但依賴ffmpeg并用一段magic一樣的語句維護(hù)擴(kuò)展都十分有限,對ffmpeg結(jié)構(gòu)不熟悉的話大量c的api也會無從下手,適合熟悉ffmpeg并且對AVFoundation陌生者使用。
其次的最優(yōu)方案就是AVFoundation了,作為蘋果音視頻編輯的利器可謂十分強(qiáng)大,官方有一 demo利用AVAudioEngine來實(shí)現(xiàn)音頻的混音,甚至可以對pcm數(shù)據(jù)進(jìn)行編輯,但是缺點(diǎn)也很明顯:1 和視頻沒什么關(guān)系,還得啟一個(gè)AVAudioPlayerNode來播放(那還不如單獨(dú)用AVAudioPlayer得了) 2 并沒有對音頻如“美聲,變音”之類的需求。所以不作為考慮范圍,不過可以實(shí)現(xiàn)一些特殊音效還是很厲害的,感興趣可以下來官方demo-Using AVAudioEngine for Playback, Mixing and Recording (AVAEMixerSample) 看看。
我最后選用的方案就是AVAudioMix,熟悉AVPlayer以及AVPlayerItem的話可能會注意到AVAudioMix 是作為屬性存在于AVPlayerItem的分類中。
/*! @property audioMix @abstract Indicates the audio mix parameters to be applied during playback @discussion The inputParameters of the AVAudioMix must have trackIDs that correspond to a track of the receiver's asset. Otherwise they will be ignored. (See AVAudioMix.h for the declaration of AVAudioMixInputParameters and AVPlayerItem's asset property.) */ @property (nonatomic, copy, nullable) AVAudioMix *audioMix;
"Indicates the audio mix parameters to be applied during playback" 表明audioMix是可以在播放的時(shí)設(shè)置,需要注意的就是trackID需要對應(yīng)。
補(bǔ)充:可能有人覺得最簡單的是同時(shí)創(chuàng)建一個(gè)AVPlayer負(fù)責(zé)播放視頻,一個(gè)AVAudioPlayer播放音樂;當(dāng)然這種方法是可以實(shí)現(xiàn)基本需求,但完美出同步這倆個(gè)播放器的狀態(tài)會是一個(gè)問題,而且最終還是要經(jīng)歷混音寫文件過程,從邏輯上看十分糟糕。
播放實(shí)現(xiàn)
為了表述清晰下面省略AVPlayer等沒太大關(guān)系的代碼,同樣也可以下載我的 demo 來查看所有內(nèi)容。
流程如下:
1 創(chuàng)建視頻以及音頻的AVURLAsset
AVURLAsset *videoAsset = [AVURLAsset assetWithURL:[NSURL fileURLWithPath:[[NSBundle mainBundle] pathForResource:@"demo" ofType:@"mp4"]]]; AVURLAsset *musicAsset = [AVURLAsset assetWithURL:[NSURL fileURLWithPath:[[NSBundle mainBundle] pathForResource:@"music" ofType:@"mp3"]]];
2 聲明并實(shí)例化音視頻處理的核心類
@property (nonatomic, readwrite, strong) AVMutableComposition *composition; @property (nonatomic, readwrite, strong) AVMutableVideoComposition *videoComposition; @property (nonatomic, readwrite, strong) AVMutableAudioMix *audioMix; AVMutableComposition *composition = [AVMutableComposition composition]; AVMutableVideoComposition *videoComposition = [AVMutableVideoComposition videoComposition]; AVMutableAudioMix *audioMix = [AVMutableAudioMix audioMix];
3 創(chuàng)建1條視頻處理軌道以及2條音頻處理軌道(視頻原聲+添加的音樂這倆條音軌)
AVMutableCompositionTrack *compositionVideoTracks = [composition addMutableTrackWithMediaType:AVMediaTypeVideo preferredTrackID:kCMPersistentTrackID_Invalid]; AVMutableCompositionTrack *compositionAudioTracks[2]; compositionAudioTracks[0] = [composition addMutableTrackWithMediaType:AVMediaTypeAudio preferredTrackID:kCMPersistentTrackID_Invalid]; compositionAudioTracks[1] = [composition addMutableTrackWithMediaType:AVMediaTypeAudio preferredTrackID:kCMPersistentTrackID_Invalid];
4 根據(jù)之前創(chuàng)建好的視頻以及音頻資源(AVURLAsset)實(shí)例化一條視頻軌道以及2條音頻軌道
AVAssetTrack *videoTrack = [[asset tracksWithMediaType:AVMediaTypeVideo] objectAtIndex:0]; [compositionVideoTracks insertTimeRange:self.videoTimeRange ofTrack:videoTrack atTime:kCMTimeZero error:&error]; AVAssetTrack *audioTrack = [[asset tracksWithMediaType:AVMediaTypeAudio] objectAtIndex:0]; [_comTrack1 insertTimeRange:self.videoTimeRange ofTrack:audioTrack atTime:kCMTimeZero error:&error]; AVAssetTrack *musicTrack = [[self.musicAsset tracksWithMediaType:AVMediaTypeAudio] objectAtIndex:0]; [_comTrack2 insertTimeRange:self.videoTimeRange ofTrack:musicTrack atTime:kCMTimeZero error:&error];
5 配置AVMutableAudioMix參數(shù),注意這里的trackID一定得是上面創(chuàng)建的AVMutableCompositionTrack對應(yīng)的trackID,而不是AVAssetTrack中的trackID,之前使用AVAssetTrack出過很奇怪的問題,而后在StackOverFlow上找到了這個(gè)解決方案
NSMutableArray<AVAudioMixInputParameters *> *trackMixArray = [NSMutableArray<AVAudioMixInputParameters *> array]; { AVMutableAudioMixInputParameters *trackMix1 = [AVMutableAudioMixInputParameters audioMixInputParametersWithTrack:_comTrack1]; trackMix1.trackID = _comTrack1.trackID; [trackMix1 setVolume:_videoVolume atTime:kCMTimeZero]; [trackMixArray addObject:trackMix1]; AVMutableAudioMixInputParameters *trackMix2 = [AVMutableAudioMixInputParameters audioMixInputParametersWithTrack:_comTrack2]; trackMix2.trackID = _comTrack2.trackID; [trackMix2 setVolume:_musicVolume atTime:kCMTimeZero]; [trackMixArray addObject:trackMix2]; } audioMix.inputParameters = trackMixArray;
6 構(gòu)建AVPlayerItem, 設(shè)置asset以及最重要的audioMix,然后交給AVPlayer就可以同時(shí)播放視頻與音樂了!
- (AVPlayerItem *)playerItem { if (!_currentItem) { AVPlayerItem *playerItem = [AVPlayerItem playerItemWithAsset:self.composition]; playerItem.videoComposition = self.videoComposition; playerItem.audioMix = self.audioMix; _currentItem = playerItem; } return _currentItem; }
7 播放時(shí)調(diào)整音量,這里其實(shí)和第5步一樣,重新配置AVMutableAudioMix參數(shù)后賦值給AVPlayerItem,設(shè)置音樂音量同理
- (void)setVideoVolume:(CGFloat)volume { NSMutableArray *allAudioParams = [NSMutableArray array]; AVMutableAudioMixInputParameters *audioInputParams = [AVMutableAudioMixInputParameters audioMixInputParameters]; [audioInputParams setTrackID:_comTrack1.trackID]; _videoVolume = volume; [audioInputParams setVolume:_videoVolume atTime:kCMTimeZero]; [allAudioParams addObject:audioInputParams]; AVMutableAudioMixInputParameters *audioInputParams2 = [AVMutableAudioMixInputParameters audioMixInputParameters]; [audioInputParams2 setTrackID:_comTrack2.trackID]; [audioInputParams2 setVolume:_musicVolume atTime:kCMTimeZero]; [allAudioParams addObject:audioInputParams2]; AVMutableAudioMix *audioMix = [AVMutableAudioMix audioMix]; [audioMix setInputParameters:allAudioParams]; [_currentItem setAudioMix:audioMix]; }
導(dǎo)出實(shí)現(xiàn)
這里直接使用AVAssetExportSession來導(dǎo)出視頻,與設(shè)置AVPlayerItem的audioMix屬性相同,將audioMix設(shè)置給AVAssetExportSession實(shí)例即可導(dǎo)出混合的視頻了
NSURL *outputFileUrl = [NSURL fileURLWithPath:outputPath]; AVAssetExportSession *_assetExport =[[AVAssetExportSession alloc]initWithAsset:self.composition presetName:AVAssetExportPreset1280x720]; _assetExport.outputFileType = AVFileTypeMPEG4; _assetExport.audioMix = _currentItem.audioMix; _assetExport.outputURL = outputFileUrl; _assetExport.shouldOptimizeForNetworkUse = YES; [_assetExport exportAsynchronouslyWithCompletionHandler:^{ // }];
最后貼上Demo地址 https://github.com/lucifron1994/VideoMixAudioDemo
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
詳解適配iOS10 的相關(guān)權(quán)限設(shè)置
在最新版本的iOS10系統(tǒng)中,如果你的項(xiàng)目中訪問了隱私數(shù)據(jù),比如:相機(jī)、相冊、錄音、定位、聯(lián)系人等等。涉及到權(quán)限問題,本篇文章主要介紹了適配iOS10 的相關(guān)權(quán)限設(shè)置,有興趣的可以了解一下。2016-12-12ios學(xué)習(xí)筆記之基礎(chǔ)數(shù)據(jù)類型的轉(zhuǎn)換
在編碼過程中,數(shù)據(jù)的處理是必要的。眾多數(shù)據(jù)中,NSString、NSData、NSArray、 NSDictionary等數(shù)據(jù)類型是常用的,對付它們?nèi)菀祝窃诙鄠€(gè)數(shù)據(jù)類型之間轉(zhuǎn)換就需要技巧了。本文主要給大家介紹ios中基礎(chǔ)數(shù)據(jù)類型的轉(zhuǎn)換,有需要的下面來一起看看吧。2016-11-11iOS開發(fā)筆記之鍵盤、靜態(tài)庫、動畫和Crash定位
最近在學(xué)習(xí)iOS開發(fā),進(jìn)行了一些實(shí)戰(zhàn),所以下面這篇文章主要給大家介紹了關(guān)于iOS開發(fā)筆記之鍵盤、靜態(tài)庫、動畫和Crash定位的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),需要的朋友可以參考下2018-04-04