假设我们自定义一个OpenGL ES程序来处理图片，那么会有以下几个步骤：

1、初始化OpenGL ES环境，编译、链接顶点着色器和片元着色器；

2、缓存顶点、纹理坐标数据，传送图像数据到GPU；

3、绘制图元到特定的帧缓存；

4、在帧缓存取出绘制的图像。

GPUImageFilter 负责的是第一、二、三步。

GPUImageFramebuffer 负责是第四步。

一、GPUImageFilter解析

1

+ (const GLfloat *)textureCoordinatesForRotation:(GPUImageRotationMode)rotationMode;

1
2
3
4

if (usingNextFrameForImageCapture)
{
    [outputFramebuffer lock];
}

1
2
3

glVertexAttribPointer(filterPositionAttribute, 2, GL_FLOAT, 0, 0, vertices);
glVertexAttribPointer(filterTextureCoordinateAttribute, 2, GL_FLOAT, 0, 0, textureCoordinates);
glDrawArrays(GL_TRIANGLE_STRIP, 0, 4);

GL_TRIANGLE_STRIP 模式用于绘制三角形带。 这里有介绍

1
2
3
4

if (usingNextFrameForImageCapture)
{
    dispatch_semaphore_signal(imageCaptureSemaphore);
}

1
2
3
4

if (dispatch_semaphore_wait(imageCaptureSemaphore, convertedTimeout) != 0)
{
    return NULL;
}

二、GPUImageFramebuffer

管理纹理缓存格式、帧缓存的buffer。

1
2
3
4
5

- (void)activateFramebuffer;
{
    glBindFramebuffer(GL_FRAMEBUFFER, framebuffer);
    glViewport(0, 0, (int)_size.width, (int)_size.height);
}

1

[[GPUImageContext sharedFramebufferCache] returnFramebufferToCache:self];

扩展

GPUImage的四大输入基础类，都可以作为响应链的起点。这些基础类会把图像作为纹理，传给OpenGL ES处理，然后把纹理传递给响应链的下一个对象。
GPUImageVideoCamera 摄像头-视频流
GPUImageStillCamera 摄像头-照相
GPUImagePicture 图片
GPUImageMovie 视频
响应链，先要理解帧缓存的概念，这在 OpenGL ES教程-帧缓存 有提到过。

总结

用一句话来解释GPUImageFilter就是用来接收源图像，通过自定义的顶点、片元着色器来渲染新的图像，并在绘制完成后通知响应链的下一个对象。
GPUImageFramebuffer就是用来管理纹理缓存的格式与读写帧缓存的buffer。

GPUImageVideoCamera

GPUImageVideoCamera是GPUImageOutput的子类，提供来自摄像头的图像数据作为源数据，一般是响应链的源头。

1、视频图像采集 ：AVCaptureSession

GPUImage使用 AVFoundation框架 来获取视频。
AVCaptureSession类从AV输入设备的采集数据到制定的输出。
为了实现实时的图像捕获，要实现AVCaptureSession类，添加合适的输入（AVCaptureDeviceInput）和输出（比如 AVCaptureMovieFileOutput）
调用 startRunning 开始输入到输出的数据流，调用 stopRunning 停止数据流。
需要注意的是startRunning函数会花费一定的时间，所以不能在主线程（UI线程）调用，防止卡顿。
sessionPreset 属性可以自定义一些设置。
特殊的选项比如说高帧率，可以通过 AVCaptureDevice来设置。
AVCaptureSession使用的简单示例：

1
2
3
4

_captureSession = [[AVCaptureSession alloc] init];
    [_captureSession beginConfiguration];
// 中间可以实现关于session属性的设置
    [_captureSession commitConfiguration];

1
2
3

- (void)setSampleBufferDelegate:
(id<AVCaptureVideoDataOutputSampleBufferDelegate>)sampleBufferDelegate 
queue:(dispatch_queue_t)sampleBufferCallbackQueue;

1
2
3
4
5
6
7

if (dispatch_semaphore_wait(frameRenderingSemaphore, DISPATCH_TIME_NOW) != 0)
{
    return;
}
runAsynchronouslyOnVideoProcessingQueue(^{
      dispatch_semaphore_signal(frameRenderingSemaphore);
});

2、颜色空间：YUV

YUV是被欧洲电视系统所采用的一种颜色编码方法。
采用YUV色彩空间的重要性是它的 亮度信号Y 和 色度信号U、V 是分离的。如果只有Y信号分量而没有U、V分量，那么这样表示的图像就是黑白灰度图像。彩色电视采用YUV空间正是为了用亮度信号Y解决彩色电视机与黑白电视机的兼容问题，使黑白电视机也能接收彩色电视信号。

CbCr 则是在世界数字组织视频标准研制过程中作为ITU - R BT.601 建议的一部分，其实是YUV经过缩放和偏移的翻版。其中Y与YUV 中的Y含义一致,Cb,Cr 同样都指色彩，只是在表示方法上不同而已。在YUV 家族中，YCbCr 是在计算机系统中应用最多的成员，其应用领域很广泛，JPEG、MPEG均采用此格式。一般人们所讲的YUV大多是指YCbCr。YCbCr 有许多取样格式，如4∶4∶4,4∶2∶2,4∶1∶1 和4∶2∶0。
百度百科的介绍
YUV数据格式-图文详解
GPUImage中的YUV
GLProgram *yuvConversionProgram; 将YUV颜色空间转换成RGB颜色空间的GLSL。
CVPixelBufferGetPlaneCount() 返回缓冲区的平面数。
通过 CVOpenGLESTextureCacheCreateTextureFromImage() 创建两个纹理luminanceTextureRef（亮度纹理）和chrominanceTextureRef（色度纹理）。
convertYUVToRGBOutput() 把YUV颜色空间的纹理转换成RGB颜色空间的纹理
顶点着色器-通用 kGPUImageVertexShaderString
片元着色器：
1、 kGPUImageYUVFullRangeConversionForLAFragmentShaderString
2、 kGPUImageYUVVideoRangeConversionForLAFragmentShaderString
区别在不同的格式
video-range (luma=[16,235] chroma=[16,240])
full-range (luma=[0,255] chroma=[1,255])

3、纹理绘制

glActiveTextue 并不是激活纹理单元，而是选择当前活跃的纹理单元。每一个纹理单元都有GL_TEXTURE_1D, 2D, 3D 和 CUBE_MAP。

1
2
3

glActiveTexture(GL_TEXTURE1);




    

glGenTextures(1, &_texture);
glBindTexture(GL_TEXTURE_2D, _texture);

SO的详细介绍

GPUImageView

GPUImageView是响应链的终点，一般用于显示GPUImage的图像。

1、填充模式

GPUImageFillModeType fillMode 图像的填充模式。
sizeInPixels 像素区域大小。
recalculateViewGeometry() 重新计算图像顶点位置数据。
AVMakeRectWithAspectRatioInsideRect() 在保证宽高比不变的前提下，得到一个尽可能大的矩形。
如果是kGPUImageFillModeStretch
图像拉伸，直接使宽高等于1.0即可，原图像会直接铺满整个屏幕。

2、OpenGL ES绘制

- (void)newFrameReadyAtTime:(CMTime)frameTime atIndex:(NSInteger)textureIndex; 源图像已经准备好，开始绘制。
setDisplayFramebuffer() 会绑定GPUImageView的帧缓存，同时调试视口大小为view的大小。
glActiveTexture 上面已经介绍过，是选择一个纹理单元。先选择纹理单元4，然后把源图像数据绑定到GL_TEXTURE_2D的位置上。最后告诉片元着色器，纹理单元是4。

1
2
3

glActiveTexture(GL_TEXTURE4);
glBindTexture(GL_TEXTURE_2D, [inputFramebufferForDisplay texture]);
glUniform1i(displayInputTextureUniform, 4);

1
2

glVertexAttribPointer(displayPositionAttribute, 2, GL_FLOAT, 0, 0, imageVertices);
glVertexAttribPointer(displayTextureCoordinateAttribute, 2, GL_FLOAT, 0, 0, [GPUImageView textureCoordinatesForRotation:inputRotation]);

1
2

inputFramebufferForDisplay = newInputFramebuffer;
[inputFramebufferForDisplay lock];

琨君 的 基于GPUImage的实时美颜滤镜 对GPUImage实现美颜滤镜的原理和思路做了详细介绍。
本文以 琨君的代码 为demo，结合前两篇解析，探究美颜过程中的GPUImage实现。

GPUImage类介绍

1、GPUImageFilterGroup

GPUImageFilterGroup 是多个filter的集合， terminalFilter 为最终的filter， initialFilters 为filter数组。 GPUImageFilterGroup 本身不绘制图像，对 GPUImageFilterGroup 添加删除Target操作的操作都会转为 terminalFilter 的操作。

2、GPUImageTwoInputFilter

GPUImageTwoInputFilter 是 GPUImageFilter 的子类，对两个输入纹理进行通用的处理，需要继承它并准备自己的片元着色器。
两个输入纹理默认为 inputImageTexture 和 inputImageTexture2 。

1
2

- (void)renderToTextureWithVertices:(const GLfloat *)vertices
 textureCoordinates:(const GLfloat *)textureCoordinates;

1
2
3
4
5
6
7

glActiveTexture(GL_TEXTURE2);
glBindTexture(GL_TEXTURE_2D, [firstInputFramebuffer texture]);
glUniform1i(filterInputTextureUniform, 2);    

glActiveTexture(GL_TEXTURE3);
glBindTexture(GL_TEXTURE_2D, [secondInputFramebuffer texture]);
glUniform1i(filterInputTextureUniform2, 3);

1
2
3
4
5
6
7
8
9
10
11

- (NSInteger)nextAvailableTextureIndex;
{
    if (hasSetFirstTexture)
    {
        return 1;
    }
    else
    {
        return 0;
    }
}

3、GPUImageThreeInputFilter

GPUImageThreeInputFilter 的逻辑与 GPUImageTwoInputFilter 类似，增加了 thirdInputFramebuffer 作为第三个纹理 inputImageTexture3 的输入。

4、GPUImageBeautifyFilter

GPUImageBeautifyFilter 是 基于GPUImage的实时美颜滤镜 中的美颜滤镜，包括 GPUImageBilateralFilter 、 GPUImageCannyEdgeDetectionFilter 、 GPUImageCombinationFilter 、 GPUImageHSBFilter 。

绘制流程图

总结

GPUImageFilter
GPUImageFramebuffer
GPUImageVideoCamera
GPUImageView
GPUImageFilterGroup
GPUImageTwoInputFilter
GPUImageThreeInputFilter
这是学习这个demo需要了解的7个类。
在绘制流程图的过程中，对GPUImage的响应链有了更清晰的认识。

GPUImageContext

GPUImageContext是GPUImage对OpenGL ES上下文的封装，添加了GPUImage相关的上下文，比如说Program的使用缓存，处理队列，CV纹理缓存等。

1、属性介绍

contextQueue 统一处理队列
currentShaderProgram 正在使用的program
context OpenGL ES的上下文
coreVideoTextureCache CV纹理缓存
framebufferCache GPUImageBuffer缓存
shaderProgramCache Program的缓存
shaderProgramUsageHistory Program的使用历史

2、方法介绍

• useAsCurrentContext() 在useAsCurrentContext设置当前上下文的时候，会先判断上下文是否是当前context，不是再设置（为了避免上下文切换的性能消耗，即使设置的上下文是同一个上下文也会消耗性能）
• sizeThatFitsWithinATextureForSize() 会调整纹理大小，如果超过最大的纹理，会调整为不超过最大的纹理宽高。
• (GLProgram*)programForVertexShaderString:fragmentShaderString:;
  shaderProgramCache 是program的缓存，由顶点shader和片元shader字符串拼接起来做key。
• - (void)useSharegroup:(EAGLSharegroup *)sharegroup;
  EAGLSharegroup类管理一个或者多个EAGLContext的OpenGLES资源；这个是一个封闭的类，没有开发者API。负责管理纹理缓存、顶点缓存、帧缓存、颜色缓存。（textures, buffers, framebuffers, and render buffers）
• - (EAGLContext *)context; 返回OpenGL ES2.0的上下文，同时设置 glDisable(GL_DEPTH_TEST); ，图像处理管道默认不允许使用深度缓存。

GPUImageFramebufferCache

GPUImageFramebufferCache是GPUImageFrameBuffer的管理类

1、属性介绍

CacheframebufferCache 缓存字典
framebufferTypeCounts 缓存数量字典
activeImageCaptureList 正在读取Image数据的GPUImageFrameBuffer列表
framebufferCacheQueue 缓存队列

2、方法介绍

• - (NSString *)hashForSize: textureOptions:onlyTexture:;
  根据size、textureOptions和onlyTexture，创建缓存字符串。
  缓存字符串+当前缓存数量形成framebufferCache缓存的key。
  如果找不到framebufferCache对应的数量，会创建新的缓存。
• - (void)returnFramebufferToCache:; 回收缓存。根据size、textureOptions和onlyTexture，创建缓存字符串，缓存字符串+当前缓存数量形成framebufferCache缓存的key。（之所以会加上数量，是因为缓存字符串不唯一）
• - (void)addFramebufferToActiveImageCaptureList:;
- (void)removeFramebufferFromActiveImageCaptureList:
  这两个方法主要用于，当 newCGImageFromFramebufferContents() 读取帧缓存图像数据时，保持GPUImageFramebuffer的引用。并且读取完数据后，在 dataProviderUnlockCallback() 方法释放。

GPUImagePicture

GPUImagePicture是PGUImage的图像处理类，继承GPUImageOutput，一般作为响应链的源头。

1、属性介绍

pixelSizeOfImage 图像的像素大小。
hasProcessedImage 图像是否已处理。
imageUpdateSemaphore 图像处理的GCD信号量。

2、方法介绍

• - (id)initWithCGImage:smoothlyScaleOutput: 用源图像newImageSource和是否采用mipmaps来初始化GPUImagePicture。
  如果图像大小超过OpenGL ES最大纹理宽高，或者使用mipmaps，或者图像数据是浮点型、颜色空间不对等都会采用CoreGraphics重新绘制图像。
  然后通过glTexImage2D把图像数据发送给GPU，最后释放掉CPU的图像数据。
• - (BOOL)processImageWithCompletionHandler:; 通知targets处理图像，并在完成后调用complete代码块。在处理开始时，会标记hasProcessedImage为YES，并调用 dispatch_semaphore_wait() ，确定上次处理已经完成，否则取消这次处理。

• - (void)addTarget: atTextureLocation:; 添加target到响应链。如果hasProcessedImage为YES，表示图像已经处理完毕，直接设置targets的InputSize，并调用 newFrameReadyAtTime() 通知target。

  将GPUImageView设置为self.view，根据face.png，设置GPUImagePicture，然后添加GPUImageTiltShiftFilter到响应链，再把GPUImageView作为响应链的终点，最后调用processImage，开始处理图像。

  1 2 3 4 5 6 7 8 9 10

  GPUImageView *primaryView = [[GPUImageView alloc] initWithFrame:self.view.frame]; self.view = primaryView; UIImage *inputImage = [UIImage imageNamed:@"face.png"]; _sourcePicture = [[GPUImagePicture alloc] initWithImage:inputImage]; _sepiaFilter = [[GPUImageTiltShiftFilter alloc] init]; _sepiaFilter.blurRadiusInPixels = 40.0; [_sepiaFilter forceProcessingAtSize:primaryView.sizeInPixels]; [_sourcePicture addTarget:_sepiaFilter]; [_sepiaFilter addTarget:primaryView]; [_sourcePicture processImage];

  总结

  最近因为直播用户增长太快，忙着优化原来的逻辑，研读源代码的时间变少。
  同时为了写这篇文章，查了一些关于图像资料，末尾附上。
  下一篇文章可能会介绍今年大火的直播APP的一种速成方案，也可能会是GPUImageMovie的介绍。
  喜欢的点一下关注，不迷路。

  MIPMAP

  Mipmap纹理技术是目前解决纹理分辨率与视点距离关系的最有效途径,它会先将图片压缩成很多逐渐缩小的图片,例如一张64 64的图片,会产生64 64,32 32,16 16,8 8,4 4,2 2,1 1的7张图片,当屏幕上需要绘制像素点为20 20 时，程序只是利用 32 32 和 16 16 这两张图片来计算出即将显示为 20 20 大小的一个图片，这比单独利用 32*32 的那张原始片计算出来的图片效果要好得多，速度也更快.

  图像数据格式

  kCGImageAlphaLast：alpha 分量存储在每个像素中的低位，如RGBA。
  kCGImageAlphaFirst：alpha 分量存储在每个像素中的高位，如ARGB。
  kCGImageAlphaPremultipliedLast：alpha 分量存储在每个像素中的低位，同时颜色分量已经乘以了 alpha 值。
  kCGImageAlphaPremultipliedFirst：alpha 分量存储在每个像素中的高位，同时颜色分量已经乘以了 alpha 值。
  kCGImageAlphaNoneSkipLast：没有 alpha 分量。如果像素的总大小大于颜色空间中颜色分量数目所需要的空间，则低位将被忽略。
  kCGImageAlphaNoneSkipFirst：没有 alpha 分量。如果像素的总大小大于颜色空间中颜色分量数目所需要的空间，则高位将被忽略。

  图像颜色空间

  1. 1. 二、GPUImageFramebuffer
  2. 2. 扩展
  3. 3. 总结
  4. 4. GPUImageVideoCamera
     1. 4.1. 1、视频图像采集 ：AVCaptureSession
     2. 4.2. 2、颜色空间：YUV
  5. 5. 3、纹理绘制
  6. 6. GPUImageView
     1. 6.1. 1、填充模式
  7. 7. 2、OpenGL ES绘制
  8. 8. GPUImage类介绍
     1. 8.1. 1、GPUImageFilterGroup
     2. 8.2. 2、GPUImageTwoInputFilter
     3. 8.3. 3、GPUImageThreeInputFilter
     4. 8.4. 4、GPUImageBeautifyFilter
  9. 9. 绘制流程
  10. 10. 总结
  11. 11. GPUImageContext
      1. 11.1. 1、属性介绍
      2. 11.2. 2、方法介绍
  12. 12. GPUImageFramebufferCache
      1. 12.1. 1、属性介绍
      2. 12.2. 2、方法介绍
  13. 13. GPUImagePicture
      1. 13.1. 1、属性介绍
      2. 13.2. 2、方法介绍
  14. 14. 总结
  缺失模块。
  1、请确保node版本大于6.2
  2、在博客根目录（注意不是yilia根目录）执行以下命令：
  npm i hexo-generator-json-content --save
  
  3、在根目录_config.yml里添加配置： jsonContent: meta: false pages: false posts: title: true date: true path: true text: false raw: false content: false slug: false updated: false comments: false link: false permalink: false excerpt: false categories: false tags: true