本文基于 SDWebImage 5.5.2。重读的原因也是由于发现它的 API 在不断迭代,许多结构已经不同与早期版本,同时也是为了做一个记录。整体分析可以查看上一篇文章:浅析 SDWebImage 5.5.2

本篇主要关于其插件系统,如何简单的通过插件来支持多样化的图片格式、支持系统图片加载,富文本 URL 加载,以及第三方插件的集成,比如 LottieYYImageYYCacheFLAnimatedImage。目前支持的如下:

plugins

详细请看官方文档:Documen Address

Coder Plugins

我们先从 Coder 的 WebP 开始聊。上篇中只提过一嘴 Coder,这次会稍微具体展开介绍。WebP 图片格式是由狗爹提出的一种图片压缩格式。SD 在2013.10 SD 就已经支持的了 (Tag: 3.5) ,当时的做法是通过 CocoaPods 提供的 subspec 的方式来实现的,这个方式一直延续到了4.x 的最后一个版本,也就是在5.x 协议化后去掉的。原来是这么做的:

1s.subspec 'WebP' do |webp|
2    webp.source_files = 'SDWebImage/UIImage+WebP.{h,m}'
3    webp.xcconfig = { 'GCC_PREPROCESSOR_DEFINITIONS' => '$(inherited) SD_WEBP=1' }
4    webp.dependency 'SDWebImage/Core'
5    webp.dependency 'libwebp'
6end

大家如果对 subspec 不太熟悉,可以看 subspec 文档,你可以理解他是当前 Podspec 的一个子集,也可以定义自己的 source_files、dependency、resource_bundle 等,所支持的配置与 Podspec 差不多。

如果我们要开启 WebP 的话就是通过 pod 'SDWebImage/WebP' 或者 pod 'SDWebImage', subspecs: ['WebP'] 来设置。可以看到它时通过修改 xcodefig 中预编译宏 GCC_PREPROCESSOR_DEFINITIONSSD_WEBP=1 作为标记。然后内部通过 SD_WEBP 这个宏来达到条件编译的效果。

当我们仅需要支持一种图片格式时,是比较简单的,一旦有更多格式需要支持的话,用宏来控制就比较痛苦了:

  • 类似 SD_WEBP 的宏满天飞,维护性差;
  • 当需要支持新格式时,必须更改核心代码,稳定性差;
  • 没有全局标识指明当前操作的图片格式,API 模糊不清,便利性差;

至此,迎来了 5.x 的 SDImageCoder 协议。

整个 pod SDWebImageWebPCoder 就两文件,其中的 UIImage+WebP.h 还仅是对 +[SDImageWebPCoder decodedImageWithData] 的包装。而 WebPCoder 声明如下:

1@interface SDImageWebPCoder : NSObject <SDProgressiveImageCoder, SDAnimatedImageCoder>
2
3@property (nonatomic, class, readonly, nonnull) SDImageWebPCoder *sharedCoder;
4
5@end

够简单吧。不过,主要是看 SDImageCoderSDAnimatedImageCoder 协议:

 1@protocol SDImageCoder <NSObject>
 2
 3@required
 4#pragma mark - Decoding
 5- (BOOL)canDecodeFromData:(nullable NSData *)data;
 6/// 如果支持动图,可通过`+[SDImageCoderHelper animatedImageWithFrames:]` 来生成各帧的图片.
 7- (nullable UIImage *)decodedImageWithData:(nullable NSData *)data
 8                                   options:(nullable SDImageCoderOptions *)options;
 9
10#pragma mark - Encoding
11- (BOOL)canEncodeToFormat:(SDImageFormat)format NS_SWIFT_NAME(canEncode(to:));
12
13/// 如果支持动图,可通过 `+[SDImageCoderHelper framesFromAnimatedImage:]` 将各帧集合成动图.
14- (nullable NSData *)encodedDataWithImage:(nullable UIImage *)image
15                                   format:(SDImageFormat)format
16                                  options:(nullable SDImageCoderOptions *)options;
17
18@end
19
20
21@protocol SDAnimatedImageCoder <SDImageCoder, SDAnimatedImageProvider>
22
23@required
24- (nullable instancetype)initWithAnimatedImageData:(nullable NSData *)data options:(nullable SDImageCoderOptions *)options;
25
26@end

SDProgressiveImageCoder 协议就不列出来了,大同小异。So,内部实现就是围绕这几个方法来实现的。

ImageContentType

说实现之前,需要说明一个问题,如何通过 image data 分辨出图片格式 ? 我们需要回到 SD 的 NSData+ImageContentType.h 看看它所支持的图片格式:

 1typedef NSInteger SDImageFormat NS_TYPED_EXTENSIBLE_ENUM;
 2static const SDImageFormat SDImageFormatUndefined = -1;
 3static const SDImageFormat SDImageFormatJPEG      = 0;
 4static const SDImageFormat SDImageFormatPNG       = 1;
 5static const SDImageFormat SDImageFormatGIF       = 2;
 6static const SDImageFormat SDImageFormatTIFF      = 3;
 7static const SDImageFormat SDImageFormatWebP      = 4;
 8static const SDImageFormat SDImageFormatHEIC      = 5;
 9static const SDImageFormat SDImageFormatHEIF      = 6;
10static const SDImageFormat SDImageFormatPDF       = 7;
11static const SDImageFormat SDImageFormatSVG       = 8;

发现没,这里的枚举定义方式与我们熟知的 typedef NS_ENUM(NSInteger, xxx) {}; 不太一样。新东西 NS_TYPED_EXTENSIBLE_ENUM 可能你会比较陌生,不过,系统的 UILayoutPriority 也是可扩展枚举:

1typedef float UILayoutPriority NS_TYPED_EXTENSIBLE_ENUM;
2static const UILayoutPriority UILayoutPriorityRequired API_AVAILABLE(ios(6.0)) = 1000; 
3...

关于它的说明网上比较少,这里找到篇相关的文章:Why NS_TYPED_ENUM is the future

extensible enum 使用时很简单,而且它是 Swift 兼容的 API ,特点就是可扩展。它的想象力在哪里呢?当它和协议化后的类结合后,简直可以 一个打十个 。你可以不需要修改 SD 的核心代码,就能支持你想要的编码格式,真正的做到无入侵。是不是有一点点 Protocol-Oriented Programming 的感觉。

该文章中提到的另一个 NS_STRING_ENUM 在 SD 中也有用到:

1typedef NSString * SDImageCoderOption NS_STRING_ENUM;
2FOUNDATION_EXPORT SDImageCoderOption _Nonnull const SDImageCoderDecodeFirstFrameOnly;
3FOUNDATION_EXPORT SDImageCoderOption _Nonnull const SDImageCoderDecodeScaleFactor;
4...

回到我们的 NSData+ImageContentType.h ,有三个方法:

1@interface NSData (ImageContentType)
2/// 通过 data 获取 image format
3+ (SDImageFormat)sd_imageFormatForImageData:(nullable NSData *)data;
4/// 通过 image format 转换 UTType
5+ (nonnull CFStringRef)sd_UTTypeFromImageFormat:(SDImageFormat)format CF_RETURNS_NOT_RETAINED NS_SWIFT_NAME(sd_UTType(from:));
6/// 通过 UTType 转换为 image format
7+ (SDImageFormat)sd_imageFormatFromUTType:(nonnull CFStringRef)uttype;
8
9@end

稍微提一下这里的 UTType (Uniform Type Identifiers) 统一类型标识符是苹果在 Mac OS 10.4 提出的,它包括文本、图片、音频、视频格式等。这个网站有详细的列出了它支持的格式,以及 UTType的作用,也可参照 wiki。而目前 UTType 是没用支持 WebP 和 SVG 的,但是它是可以提供扩展的,本质上 UTType 就是一个纯文本的字符串而已。WebP 和 SVG 在 SD 中的定义如下:

1// Currently Image/IO does not support WebP
2#define kSDUTTypeWebP ((__bridge CFStringRef)@"public.webp")
3#define kSVGTagEnd @"</svg>"

可以回答前面的问题:如何通过 image data 分辨出图片格式 ? 就是:FILE SIGNATURES TABLE

In computing, a file signature is data used to identify or verify the contents of a file. In particular, it may refer to:

  • File magic number: bytes within a file used to identify the format of the file; generally a short sequence of bytes (most are 2-4 bytes long) placed at the beginning of the file; see list of file signatures
  • File checksum or more generally the result of a hash function over the file contents: data used to verify the integrity of the file contents, generally against transmission errors or malicious attacks. The signature can be included at the end of the file or in a separate file.

我们知道 Image 有两种描述方式:矢量图形或光栅图形(或称位图),屏幕显示的都是位图,包含大量像素点信息。而为了提高对图片的传输和存储效率,都会采用一定算法对像素信息进行压缩。上面列出的各种格式则是对不同压缩算法的表示。由于图片数据都是 binary files,因此,按十六进制描述 JPEG 文件 file header 的字节序为:FF D8 ,而 WebP 的则是 57 45

152 49 46 46 xx xx xx xx						RIFF ....   //xx xx xx xx 是表示文件大小
257 45 42 50	 									WEBP

这里需要介绍一下 WebP 构成:

WebP is an image format that uses either (i) the VP8 key frame encoding to compress image data in a lossy way, or (ii) the WebP lossless encoding (and possibly other encodings in the future). These encoding schemes should make it more efficient than currently used formats. It is optimized for fast image transfer over the network (e.g., for websites). The WebP format has feature parity (color profile, metadata, animation etc) with other formats as well. This document describes the structure of a WebP file.

WebP 是可以由多种编码压缩方式 (无损压缩、有损压缩VP8) + 颜色描述文件 (ICC) + 元数据 (metaData) + 多帧图片(动图) 组合的一种图片描述格式。同时 WebP 的这种描述格式是基于 RIFF File Format,RIFF (resource interchange file forma) 是一种资源交换文件格式,或者说通用的容器文件格式。更多信息这里就不展开了。

SDWebImageWebPCoder

先看一眼 WebPCoder 有那些主要私有变量:

 1@implementation SDImageWebPCoder {
 2    WebPIDecoder *_idec; // incremental decoding 增量解码器
 3    WebPDemuxer *_demux; // image data 分离器
 4    WebPData *_webpdata; // Copied for progressive animation demuxer
 5    NSData *_imageData;
 6    NSUInteger _loopCount; // 动画循环次数
 7    NSUInteger _frameCount; // 动画帧数
 8    NSArray<SDWebPCoderFrame *> *_frames; // 动画帧数据集合
 9    CGContextRef _canvas; // 图片画布
10    CGColorSpaceRef _colorSpace; // 图片 icc 彩色空间
11    BOOL _hasAlpha;
12    CGFloat _canvasWidth; // 图片画布宽度
13    CGFloat _canvasHeight; // 图片画布高度
14    NSUInteger _currentBlendIndex; //动画的当前混合帧率
15}

稍微说明一下 demux 这个词 (de multiplex 音视频中的概念) ,表示真心不懂。

以上数据均通过解析 WebP 数据获取,还有部分是通过 SDImageCoderOptions 获取的:

1BOOL decodeFirstFrame = [options[SDImageCoderDecodeFirstFrameOnly] boolValue];
2NSNumber *scaleFactor = options[SDImageCoderDecodeScaleFactor];
3NSValue *thumbnailSizeValue = options[SDImageCoderDecodeThumbnailPixelSize];
4NSNumber *preserveAspectRatioValue = options[SDImageCoderDecodePreserveAspectRatio];

DecodedImage

开始解码前先生成 WebPData、WebPDemuxer、WebPIterator、CGColorSpaceRef 以及从 coder options 获取配置信息,简化后如下:

 1WebPData webpData;
 2WebPDataInit(&webpData);
 3webpData.bytes = data.bytes;
 4webpData.size = data.length;
 5WebPDemuxer *demuxer = WebPDemux(&webpData);
 6
 7uint32_t flags = WebPDemuxGetI(demuxer, WEBP_FF_FORMAT_FLAGS);
 8BOOL hasAnimation = flags & ANIMATION_FLAG;
 9
10// 获取 coder options 配置 scale、thumnailSize、preserveAspectRatio、decodeFirstFrame
11// ...
12
13// for animated webp image
14WebPIterator iter;
15// libwebp's index start with 1
16if (!WebPDemuxGetFrame(demuxer, 1, &iter)) {
17    WebPDemuxReleaseIterator(&iter);
18    WebPDemuxDelete(demuxer);
19    return nil;
20}
21CGColorSpaceRef colorSpace = [self sd_createColorSpaceWithDemuxer:demuxer];

这里的 colorSpace 是通过读取 WebP 中的 ICC color profile 来生成的,如果没有则使用 [SDImageCoderHelper colorSpaceGetDeviceRGB];

在获取缩略图尺寸后会与 WebP 的图片 canvas size 对比,检查是否需要使用缩略图:

1int canvasWidth = WebPDemuxGetI(demuxer, WEBP_FF_CANVAS_WIDTH);
2int canvasHeight = WebPDemuxGetI(demuxer, WEBP_FF_CANVAS_HEIGHT);
3CGSize scaledSize = SDCalculateThumbnailSize(CGSizeMake(canvasWidth, canvasHeight), preserveAspectRatio, thumbnailSize);

AnimatedImage

SD 在 5.x 推出了 SDAnimatedImage(protocol too) 正是为动图设计的,而 WebP 是支持动图的,因此这里的解码会区分是否为动图。

如果是单张图片则使用 [self sd_createWebpImageWithData: colorSpace: scaledSize:] 生成 CGImageRef 最后生成 image 并设置 sd_imageFormat = SDImageFormatWebP

如果为动图,先初始化 CGBitmapInfo 来提供位图的布局信息:

1BOOL hasAlpha = config.input.has_alpha;
2CGBitmapInfo bitmapInfo = kCGBitmapByteOrder32Host;
3bitmapInfo |= hasAlpha ? kCGImageAlphaPremultipliedFirst : kCGImageAlphaNoneSkipFirst;

我们先说为什么是使用 kCGBitmapByteOrder32Host ,我们知道 iPhone 是小端序,应该使用 kCGBitmapByteOrder32Little 才对,不过 32Host 是系统提供的一个宏,帮我们屏蔽了大小端端问题,定义如下:

1#ifdef __BIG_ENDIAN__
2    #define kCGBitmapByteOrder16Host kCGBitmapByteOrder16Big
3    #define kCGBitmapByteOrder32Host kCGBitmapByteOrder32Big
4#else /* Little endian. */
5    #define kCGBitmapByteOrder16Host kCGBitmapByteOrder16Little
6    #define kCGBitmapByteOrder32Host kCGBitmapByteOrder32Little
7#endif

简单来说 Apple 的 GPU 仅支持 32 bit 的颜色格式,if not 则会消耗 CPU 进行颜色格式转换。具体可以看 WWDC 2014 Session 419

剩下一个 alpa 信息是由 CGImageAlphaInfo 来控制,其定义如下:

 1ypedef CF_ENUM(uint32_t, CGImageAlphaInfo) {
 2    kCGImageAlphaNone,               /* For example, RGB. */
 3    kCGImageAlphaPremultipliedLast,  /* For example, premultiplied RGBA */
 4    kCGImageAlphaPremultipliedFirst, /* For example, premultiplied ARGB */
 5    kCGImageAlphaLast,               /* For example, non-premultiplied RGBA */
 6    kCGImageAlphaFirst,              /* For example, non-premultiplied ARGB */
 7    kCGImageAlphaNoneSkipLast,       /* For example, RBGX. */
 8    kCGImageAlphaNoneSkipFirst,      /* For example, XRGB. */
 9    kCGImageAlphaOnly                /* No color data, alpha data only */
10};

这里 有一个解释关于 premutipled 的作用的说明,还蛮不错的。AlphaInfo 提供了三方面的信息:

  • 是否有 alpha 值;
  • 如有 alpha 值,alpha 所处位置 first or last,like RGBA or ARGB;
  • 如有 alpha 值,每个颜色的分量是否已乘上 alpha 值。好处是可以避免 3 次的乘法运算。

关于具体的使用这里有一个讨论 ,结论就是不包含 alpha 时用 kCGImageAlphaNoneSkipFirst ,否则使用 kCGImageAlphaPremultipliedFirst

紧接着就是生成 canvas 和 iterator 开始每一帧的绘制:

 1CGContextRef canvas = CGBitmapContextCreate(NULL, canvasWidth, canvasHeight, 8, 0, [SDImageCoderHelper colorSpaceGetDeviceRGB], bitmapInfo);
 2if (!canvas) {
 3    WebPDemuxDelete(demuxer);
 4    CGColorSpaceRelease(colorSpace);
 5    return nil;
 6}
 7NSMutableArray<SDImageFrame *> *frames = [NSMutableArray array];
 8
 9do {
10    @autoreleasepool {
11        CGImageRef imageRef = [self sd_drawnWebpImageWithCanvas:canvas iterator:iter colorSpace:colorSpace scaledSize:scaledSize];
12        if (!imageRef) {
13            continue;
14        }
15
16#if SD_UIKIT || SD_WATCH
17        UIImage *image = [[UIImage alloc] initWithCGImage:imageRef scale:scale orientation:UIImageOrientationUp];
18#else
19        UIImage *image = [[UIImage alloc] initWithCGImage:imageRef scale:scale orientation:kCGImagePropertyOrientationUp];
20#endif
21        CGImageRelease(imageRef);
22        
23        NSTimeInterval duration = [self sd_frameDurationWithIterator:iter];
24        SDImageFrame *frame = [SDImageFrame frameWithImage:image duration:duration];
25        [frames addObject:frame];
26    }
27    
28} while (WebPDemuxNextFrame(&iter));

最后释放对应 iterator、demuer、canvas、colorSpace,生成 animatedImage,decode 结束:

1UIImage *animatedImage = [SDImageCoderHelper animatedImageWithFrames:frames];
2animatedImage.sd_imageLoopCount = loopCount;
3animatedImage.sd_imageFormat = SDImageFormatWebP;

DrawnWebpImage

drawnWebImage 方法是用于生成动图的每一帧图片的,内部通过 CreateWebpImage 生成当前帧的 image 然后在 canvas 上进行混合操作(基于 canvas size),最后根据 scale size 进行一定比例缩放。blend 代码如下:

 1BOOL shouldBlend = iter.blend_method == WEBP_MUX_BLEND;
 2
 3// If not blend, cover the target image rect. (firstly clear then draw)
 4if (!shouldBlend) {
 5    CGContextClearRect(canvas, imageRect);
 6}
 7CGContextDrawImage(canvas, imageRect, imageRef);
 8CGImageRef newImageRef = CGBitmapContextCreateImage(canvas);
 9
10CGImageRelease(imageRef);
11
12if (iter.dispose_method == WEBP_MUX_DISPOSE_BACKGROUND) {
13    CGContextClearRect(canvas, imageRect);
14}

blend_method 是当前帧指定的混合方式,如果无需混合会清理当地画布再进图像转换。

1// Blend operation (animation only). Indicates how transparent pixels of the
2// current frame are blended with those of the previous canvas.
3typedef enum WebPMuxAnimBlend {
4  WEBP_MUX_BLEND,              // Blend.
5  WEBP_MUX_NO_BLEND            // Do not blend.
6} WebPMuxAnimBlend;

同时当前帧渲染结束还有一个 dispose_method 决定是否在下一帧渲染前清除当前 context:

1// Dispose method (animation only). Indicates how the area used by the current
2// frame is to be treated before rendering the next frame on the canvas.
3typedef enum WebPMuxAnimDispose {
4  WEBP_MUX_DISPOSE_NONE,       // Do not dispose.
5  WEBP_MUX_DISPOSE_BACKGROUND  // Dispose to background color.
6} WebPMuxAnimDispose;

CreateWebpImage

创建图片会初始化 WebPDecoderConfig 以及检查 webp 图片完整性:

1WebPDecoderConfig config;
2if (!WebPInitDecoderConfig(&config)) {
3    return nil;
4}
5// 检查 webp 图片完整性
6if (WebPGetFeatures(webpData.bytes, webpData.size, &config.input) != VP8_STATUS_OK) {
7    return nil;
8}

WebPDecoderConfig 声明如下:

1// Main object storing the configuration for advanced decoding.
2struct WebPDecoderConfig {
3  WebPBitstreamFeatures input;  // Immutable bitstream features (optional)
4  WebPDecBuffer output;         // Output buffer (can point to external mem)
5  WebPDecoderOptions options;   // Decoding options
6};

对 WebPBitstreamFeatures、WebPDecBuffer、WebPDecoderOptions 具体包含数据类型可查看:WebP Doc 。在 SD 中对 config 做了如下设置:

1config.options.use_threads = 1; // 开启多线程解码;
2config.output.colorspace = MODE_bgrA; // 颜色空间指定为 RGBA 顺序;
3// Use scaling for thumbnail
4if (scaledSize.width != 0 && scaledSize.height != 0) {
5    config.options.use_scaling = 1;
6    config.options.scaled_width = scaledSize.width;
7    config.options.scaled_height = scaledSize.height;
8}

这里的 MODE_bgrA 是属于 WEBP_CSP_MODE 对 colorspace 的定义,不熟悉的可以看苹果文档

配置完 decode Config,还有就是 CGBitmapInfo。 这个与 decode image 中的逻辑一样就不多说了,直接解码生成 CGImageRef:

 1// Decode the WebP image data into a RGBA value array
 2if (WebPDecode(webpData.bytes, webpData.size, &config) != VP8_STATUS_OK) {
 3    return nil;
 4}
 5// Construct a UIImage from the decoded RGBA value array
 6CGDataProviderRef provider =
 7CGDataProviderCreateWithData(NULL, config.output.u.RGBA.rgba, config.output.u.RGBA.size, FreeImageData);
 8size_t bitsPerComponent = 8;
 9size_t bitsPerPixel = 32;
10size_t bytesPerRow = config.output.u.RGBA.stride;
11size_t width = config.output.width;
12size_t height = config.output.height;
13CGColorRenderingIntent renderingIntent = kCGRenderingIntentDefault;
14CGImageRef imageRef = CGImageCreate(width, height, bitsPerComponent, bitsPerPixel, bytesPerRow, colorSpaceRef, bitmapInfo, provider, NULL, NO, renderingIntent);
15
16CGDataProviderRelease(provider);

这里在第一步创建 dataProvider 的时候就传入了 FreeImageData 作为 callback,保证结束后及时清理 data:

1static void FreeImageData(void *info, const void *data, size_t size) {
2    free((void *)data);
3}

这里的 info 信息其实是 CGDataProviderCreateWithData 调用时传入的 NULL 它也可以是任意类型。

至此,WebP decode 核心实现已经差不多了,剩下的 ProgressCoder 和 SDAnimatedImageCoder 中的 decode 逻辑也都大同小异。稍微不同的,在于 AnimatedImage 内部会将 WebPIterator 增量的帧迭代器中的各帧数据存储到 SDWebPCoderFrame 中,可以说 SDWebPCoderFrame 就是 WebPIterator 的翻版。

 1@interface SDWebPCoderFrame : NSObject
 2
 3@property (nonatomic, assign) NSUInteger index; // Frame index (zero based)
 4@property (nonatomic, assign) NSTimeInterval duration; // Frame duration in seconds
 5@property (nonatomic, assign) NSUInteger width; // Frame width
 6@property (nonatomic, assign) NSUInteger height; // Frame height
 7@property (nonatomic, assign) NSUInteger offsetX; // Frame origin.x in canvas (left-bottom based)
 8@property (nonatomic, assign) NSUInteger offsetY; // Frame origin.y in canvas (left-bottom based)
 9@property (nonatomic, assign) BOOL hasAlpha; // Whether frame contains alpha
10@property (nonatomic, assign) BOOL isFullSize; // Whether frame size is equal to canvas size
11@property (nonatomic, assign) BOOL shouldBlend; // Frame dispose method
12@property (nonatomic, assign) BOOL shouldDispose; // Frame blend operation
13@property (nonatomic, assign) NSUInteger blendFromIndex; // The nearest previous frame index which blend mode is WEBP_MUX_BLEND
14
15@end

WebPIterator 可参照 WebP 文档

EncodedImage

decode 逻辑与 encode 也基本是相反操作,细节先不表了。

总结

这篇,主要描述了 SD 的 Coder 插件是如何运行的,SD 当前所支持的 image 格式。以及如何为其添加新类型的图片格式并融入整个 SD 的处理流中。 重点介绍 WebP 解码的实现和相关 API,并未涉及太多 WebP 内部实现。