一、初识MultiDex

开发Android应用的小伙伴,在经历了众多版本迭代、PM不断加入新功能、尝试新技术引入类库之后,产物Apk急剧膨胀;*终会遇到那个传说中的Android64K方法数问题;具体表现:

Conversion to Dalvik format failed:Unable to execute dex: method ID not in [0, 0xffff]: 65536

编译打包失败,不能愉快的开发了。

超过*大方法数限制的问题,是由于Dex文件格式限制,一个Dex文件中method个数采用使用原生类型short来索引文件中的方法,4个字节共计*多表达65536个method,field/class的个数也均有此限制。生成Dex文件的过程,是将工程所需全部class文件合并且压缩到一个Dex文件期间,也就是Android打包的Dex过程中, 单个Dex文件可被引用的方法总数(自己开发的代码以及所引用的Android框架、类库的代码)被限制为65536;

但是这种小问题怎么能难倒程序猿哥哥呢,相信大家或多或少都听说过Multidex:Google官方对64K方法数问题的一种补救措施,通俗的讲就是:既然你的代码这么多,一个Dex装不下,那就给你多个Dex来装呗。Multidex在构建打包阶段将Class拆分到多个Dex,使之不超过单Dex*大方法数的限制;这样打包就不会失败了。

但是只解决分Dex打包的问题还不够,我们知道Dalvik虚拟机应用启动时默认只会装载classes.dex,那ClassLoader肯定是无法从别的Dex中查找Class的,从而程序运行过程中的各种ClassNotFoundException画面太美简直不敢想象。于是机智如Google又赋予MultiDex另外一项能力:在运行时动态装载别的非主Dex,于是乎一个看似完美的分Dex加载方案就诞生了。

具体的使用指南可以异步官方文档;

二、Multidex工作流程

在分析源码之前,我们先来看一下MultiDex的工作流程,对它有一个初步的认识;

%title插图%num
屏幕快照 2016-12-14 下午8.41.00.png

总结:

  • 运行时提取别的非主Dex出来,然后动态装载执行。
  • 需要在源码分析过程中重点关注提取Dex以及动态装载这两个过程。

三、源码分析

MultiDex入口:MultiDex.install();

<pre class=”hljs undefined” data-original-code=”” public=”” static=”” void=”” install(context=”” context)=”” {“=”” data-snippet-id=”ext.bb72b527428b0b3e3b0168e932d26575″ data-snippet-saved=”false” data-codota-status=”done”>

  1. public static void install(Context context) {
  2. Log.i(“MultiDex”, “install”);
  3. if(IS_VM_MULTIDEX_CAPABLE) {
  4. //判断VM是否支持Multidex,本身就支持的话MultiDex库则被禁用;
  5. Log.i(“MultiDex”, “VM has multidex support, MultiDex support library is disabled.”);
  6. } else if(VERSION.SDK_INT < 4) {
  7. //*低兼容SDK版本是4,不过现在4以下的机器已经是纪念品了吧;
  8. throw new RuntimeException(“Multi dex installation failed. SDK “ + VERSION.SDK_INT + ” is unsupported. Min SDK version is “ + 4 + “.”);
  9. } else {
  10. try {
  11. //获取Apk信息;
  12. ApplicationInfo e = getApplicationInfo(context);
  13. if(e == null) {
  14. return;
  15. }
  16. Set var2 = installedApk;
  17. //加锁保证只执行一次;
  18. synchronized(installedApk) {
  19. String apkPath = e.sourceDir;
  20. if(installedApk.contains(apkPath)) {
  21. return;
  22. }
  23. installedApk.add(apkPath);
  24. if(VERSION.SDK_INT > 20) {
  25. Log.w(“MultiDex”, “MultiDex is not guaranteed to work in SDK version “ + VERSION.SDK_INT + “: SDK version higher than “ + 20 + ” should be backed by “ + “runtime with built-in multidex capabilty but it\’s not the “ + “case here: java.vm.version=\”” + System.getProperty(“java.vm.version”) + “\””);
  26. }
  27. ClassLoader loader;
  28. try {
  29. //获取当前ClassLoader实例,提取出来的Dex需要通过ClassLoader真正的被加载执行;
  30. loader = context.getClassLoader();
  31. } catch (RuntimeException var9) {
  32. Log.w(“MultiDex”, “Failure while trying to obtain Context class loader. Must be running in test mode. Skip patching.”, var9);
  33. return;
  34. }
  35. if(loader == null) {
  36. Log.e(“MultiDex”, “Context class loader is null. Must be running in test mode. Skip patching.”);
  37. return;
  38. }
  39. try {
  40. //清除OldDexDir的目录;此处有歧义,下面讲。
  41. clearOldDexDir(context);
  42. } catch (Throwable var8) {
  43. Log.w(“MultiDex”, “Something went wrong when trying to clear old MultiDex extraction, continuing without cleaning.”, var8);
  44. }
  45. //创建提取Dex缓存的路径。
  46. File dexDir = new File(e.dataDir, SECONDARY_FOLDER_NAME);
  47. //重要方法!!!提取除主Dex之外别的Dex出来;
  48. List files = MultiDexExtractor.load(context, e, dexDir, false);
  49. //校验提取出来的Dex文件的合法性;
  50. if(checkValidZipFiles(files)) {
  51. //重要方法!!!合法的话则进入安装过程;
  52. installSecondaryDexes(loader, dexDir, files);
  53. } else {
  54. //校验不合法,强制重新执行一次Dex的提取,不抛弃、不放弃,哈哈。
  55. Log.w(“MultiDex”, “Files were not valid zip files. Forcing a reload.”);
  56. files = MultiDexExtractor.load(context, e, dexDir, true);
  57. if(!checkValidZipFiles(files)) {
  58. //提取出来再次校验,仍然不合法,不能忍,放弃!分分钟抛异常给你看!
  59. throw new RuntimeException(“Zip files were not valid.”);
  60. }
  61. //合法的话则进入安装过程;
  62. installSecondaryDexes(loader, dexDir, files);
  63. }
  64. }
  65. } catch (Exception var11) {
  66. Log.e(“MultiDex”, “Multidex installation failure”, var11);
  67. throw new RuntimeException(“Multi dex installation failed (“ + var11.getMessage() + “).”);
  68. }
  69. Log.i(“MultiDex”, “install done”);
  70. }
  71. }

总结:

  • 进行各种预校验以及获取需要的信息;
  • 重要方法:MultiDexExtractor.load(context, e, dexDir, false),将Dex文件提取出来;
  • 重要方法:installSecondaryDexes(loader, dexDir, files),安装提取出来的Dex文件。

提取器MultiDexExtractor.load

  1. //重要方法
  2. static List<File> load(Context context, ApplicationInfo applicationInfo, File dexDir, boolean forceReload) throws IOException {
  3. Log.i(“MultiDex”, “MultiDexExtractor.load(“ + applicationInfo.sourceDir + “, “ + forceReload + “)”);
  4. File sourceApk = new File(applicationInfo.sourceDir);
  5. //获取Crc校验码,做文件完整性校验;
  6. long currentCrc = getZipCrc(sourceApk);
  7. List files;
  8. //是否是强制性提取或者源文件发生了变化
  9. if(!forceReload && !isModified(context, sourceApk, currentCrc)) {
  10. try {
  11. //非强制性提取,且源文件未发生变化,直接使用缓存的dex文件。
  12. files = loadExistingExtractions(context, sourceApk, dexDir);
  13. } catch (IOException var9) {
  14. Log.w(“MultiDex”, “Failed to reload existing extracted secondary dex files, falling back to fresh extraction”, var9);
  15. //异常则重新执行强制性提取,并更新提取出来的Dex信息,存在SharedPreference中。
  16. files = performExtractions(sourceApk, dexDir);
  17. //缓存下来lastModified时间戳;Crc校验码,Dex的总数量等信息用于下次比对。
  18. putStoredApkInfo(context, getTimeStamp(sourceApk), currentCrc, files.size() + 1);
  19. }
  20. } else {
  21. //强制性提取,并更新提取出来的Dex信息,存在SharedPreference中。
  22. Log.i(“MultiDex”, “Detected that extraction must be performed.”);
  23. files = performExtractions(sourceApk, dexDir);
  24. //缓存下来lastModified时间戳;Crc校验码,Dex的总数量等信息用于下次比对。
  25. putStoredApkInfo(context, getTimeStamp(sourceApk), currentCrc, files.size() + 1);
  26. }
  27. Log.i(“MultiDex”, “load found “ + files.size() + ” secondary dex files”);
  28. return files;
  29. }

总结:

  • 制性提取或者源文件发生变化则重新提取,否则直接使用缓存dex文件;

performExtractions()

  1. //重要方法
  2. private static List<File> performExtractions(File sourceApk, File dexDir) throws IOException {
  3. //匹配的后缀;
  4. String extractedFilePrefix = sourceApk.getName() + “.classes”;
  5. //准备Dex缓存的路径;
  6. prepareDexDir(dexDir, extractedFilePrefix);
  7. ArrayList files = new ArrayList();
  8. ZipFile apk = new ZipFile(sourceApk);
  9. try {
  10. int e = 2;
  11. for(ZipEntry dexFile = apk.getEntry(“classes” + e + “.dex”); dexFile != null; dexFile = apk.getEntry(“classes” + e + “.dex”)) {
  12. String fileName = extractedFilePrefix + e + “.zip”;
  13. //提取出来的文件,zip格式。
  14. File extractedFile = new File(dexDir, fileName);
  15. files.add(extractedFile);
  16. Log.i(“MultiDex”, “Extraction is needed for file “ + extractedFile);
  17. int numAttempts = 0;
  18. boolean isExtractionSuccessful = false;
  19. //每个dex的提取都尝试三次;
  20. while(numAttempts < 3 && !isExtractionSuccessful) {
  21. ++numAttempts;
  22. //真正的提取。将源Apk解压,将非主Dex文件写为zip文件。
  23. extract(apk, dexFile, extractedFile, extractedFilePrefix);
  24. isExtractionSuccessful = verifyZipFile(extractedFile);
  25. Log.i(“MultiDex”, “Extraction “ + (isExtractionSuccessful?“success”:“failed”) + ” – length “ + extractedFile.getAbsolutePath() + “: “ + extractedFile.length());
  26. if(!isExtractionSuccessful) {
  27. //提取出来的文件未校验通过则删除。
  28. extractedFile.delete();
  29. if(extractedFile.exists()) {
  30. Log.w(“MultiDex”, “Failed to delete corrupted secondary dex \'” + extractedFile.getPath() + “\'”);
  31. }
  32. }
  33. }
  34. if(!isExtractionSuccessful) {
  35. throw new IOException(“Could not create zip file “ + extractedFile.getAbsolutePath() + ” for secondary dex (“ + e + “)”);
  36. }
  37. ++e;
  38. }
  39. } finally {
  40. try {
  41. apk.close();
  42. } catch (IOException var16) {
  43. Log.w(“MultiDex”, “Failed to close resource”, var16);
  44. }
  45. }
  46. return files;
  47. }

总结:

  • 准备Dex缓存的目录,并且删除其中不是以name.apk.classes开头的文件;
  • 每个Dex的提取*多尝试三次;

真实提取extract(apk, dexFile, extractedFile, extractedFilePrefix);

  1. /**
  2. * 重要方法
  3. * @param apk apk源文件:/data/app/apkName.apk;
  4. * @param dexFile apk源文件解压出来的Dex文件:classes2.dex等;
  5. * @param extractTo 提取出来的文件;
  6. * @param extractedFilePrefix 提取出来的文件前缀;
  7. * @throws IOException
  8. * @throws FileNotFoundException
  9. */
  10. private static void extract(ZipFile apk, ZipEntry dexFile, File extractTo, String extractedFilePrefix) throws IOException, FileNotFoundException {
  11. InputStream in = apk.getInputStream(dexFile);
  12. ZipOutputStream out = null;
  13. File tmp = File.createTempFile(extractedFilePrefix, “.zip”, extractTo.getParentFile());
  14. Log.i(“MultiDex”, “Extracting “ + tmp.getPath());
  15. try {
  16. out = new ZipOutputStream(new BufferedOutputStream(new FileOutputStream(tmp)));
  17. try {
  18. ZipEntry classesDex = new ZipEntry(“classes.dex”);
  19. classesDex.setTime(dexFile.getTime());
  20. out.putNextEntry(classesDex);
  21. byte[] buffer = new byte[16384];
  22. for(int length = in.read(buffer); length != -1; length = in.read(buffer)) {
  23. out.write(buffer, 0, length);
  24. }
  25. out.closeEntry();
  26. } finally {
  27. out.close();
  28. }
  29. Log.i(“MultiDex”, “Renaming to “ + extractTo.getPath());
  30. if(!tmp.renameTo(extractTo)) {
  31. throw new IOException(“Failed to rename \”” + tmp.getAbsolutePath() + “\” to \”” + extractTo.getAbsolutePath() + “\””);
  32. }
  33. } finally {
  34. closeQuietly(in);
  35. tmp.delete();
  36. }
  37. }

总结:

  • 将Apk源文件进行解压,将其中的非主Dex文件提取为zip文件。

终于将非主Dex文件提取出来了,接下来就是令人激动的安装过程了。
分析SDK19以上的为例:

  1. private static void installSecondaryDexes(ClassLoader loader, File dexDir, List<File> files) throws IllegalArgumentException, IllegalAccessException, NoSuchFieldException, InvocationTargetException, NoSuchMethodException, IOException {
  2. //根据不同版本做不同处理;
  3. if(!files.isEmpty()) {
  4. if(VERSION.SDK_INT >= 19) {
  5. MultiDex.V19.install(loader, files, dexDir);
  6. } else if(VERSION.SDK_INT >= 14) {
  7. MultiDex.V14.install(loader, files, dexDir);
  8. } else {
  9. MultiDex.V4.install(loader, files);
  10. }
  11. }
  12. }
  13. private static final class V19 {
  14. private V19() {
  15. }
  16. private static void install(ClassLoader loader, List<File> additionalClassPathEntries, File optimizedDirectory) throws IllegalArgumentException, IllegalAccessException, NoSuchFieldException, InvocationTargetException, NoSuchMethodException {
  17. //反射获取到应用ClassLoader的pathList字段;
  18. Field pathListField = MultiDex.findField(loader, “pathList”);
  19. Object dexPathList = pathListField.get(loader);
  20. ArrayList suppressedExceptions = new ArrayList();
  21. //将刚刚提取出来的zip文件包装成Element对象,并扩展DexPathList中的dexElements数组字段;
  22. MultiDex.expandFieldArray(dexPathList, “dexElements”, makeDexElements(dexPathList, new ArrayList(additionalClassPathEntries), optimizedDirectory, suppressedExceptions));
  23. if(suppressedExceptions.size() > 0) {
  24. Iterator suppressedExceptionsField = suppressedExceptions.iterator();
  25. while(suppressedExceptionsField.hasNext()) {
  26. IOException dexElementsSuppressedExceptions = (IOException)suppressedExceptionsField.next();
  27. Log.w(“MultiDex”, “Exception in makeDexElement”, dexElementsSuppressedExceptions);
  28. }
  29. Field suppressedExceptionsField1 = MultiDex.findField(loader, “dexElementsSuppressedExceptions”);
  30. IOException[] dexElementsSuppressedExceptions1 = (IOException[])((IOException[])suppressedExceptionsField1.get(loader));
  31. if(dexElementsSuppressedExceptions1 == null) {
  32. dexElementsSuppressedExceptions1 = (IOException[])suppressedExceptions.toArray(new IOException[suppressedExceptions.size()]);
  33. } else {
  34. IOException[] combined = new IOException[suppressedExceptions.size() + dexElementsSuppressedExceptions1.length];
  35. suppressedExceptions.toArray(combined);
  36. System.arraycopy(dexElementsSuppressedExceptions1, 0, combined, suppressedExceptions.size(), dexElementsSuppressedExceptions1.length);
  37. dexElementsSuppressedExceptions1 = combined;
  38. }
  39. suppressedExceptionsField1.set(loader, dexElementsSuppressedExceptions1);
  40. }
  41. }
  42. private static Object[] makeDexElements(Object dexPathList, ArrayList<File> files, File optimizedDirectory, ArrayList<IOException> suppressedExceptions) throws IllegalAccessException, InvocationTargetException, NoSuchMethodException {
  43. //反射调用DexPathList对象中的makeDexElements方法,将刚刚提取出来的zip文件包装成Element对象;
  44. Method makeDexElements = MultiDex.findMethod(dexPathList, “makeDexElements”, new Class[]{ArrayList.class, File.class, ArrayList.class});
  45. return (Object[])((Object[])makeDexElements.invoke(dexPathList, new Object[]{files, optimizedDirectory, suppressedExceptions}));
  46. }
  47. }
  48. /**
  49. * makeDexElements方法*终会调用到这个方法;
  50. * 其中会在Native执行dexopt的优化操作,生成odex文件,此是一个耗时的操作。
  51. *
  52. * @param file dex文件
  53. * @param optimizedDirectory 优化后文件的保存路径
  54. * @return
  55. * @throws IOException
  56. */
  57. private static DexFile loadDexFile(File file, File optimizedDirectory)
  58. throws IOException {
  59. if (optimizedDirectory == null) {
  60. return new DexFile(file);
  61. } else {
  62. String optimizedPath = optimizedPathFor(file, optimizedDirectory);
  63. return DexFile.loadDex(file.getPath(), optimizedPath, 0);
  64. }
  65. }

总结:

  • 反射获取ClassLoader中的pathList字段;
  • 反射调用DexPathList对象中的makeDexElements方法,将刚刚提取出来的zip文件包装成Element对象;
  • 将包装成的Element对象扩展到DexPathList中的dexElements数组字段里;
  • makeDexElements中有dexopt的操作,是一个耗时的过程,产物是一个优化过的odex文件。

至此:提取出来的dex文件也被加到了ClassLoader里,而那些Class也就可以被ClassLoader所找到并使用。

跟随源码一步步揭开了Multidex的神秘面纱,再回头看Multidex的工作流程图,就更加清晰明了。

四、问题

1、clearOldDexDir(context)是干嘛的?每一次都清除上一次提取并缓存的Dex?

<br />No,如果只看multidex-1.0.1的代码,clearOldDexDir其实什么事情都没干,因为清除的是data/data/packageName/files/secondary-dexes文件夹下的文件,但是这个文件夹从始至终都没有被使用过。看*新MultiDex库文件Master分支的代码:
获取缓存Dex目录的时候出现过,如果正常缓存目录创建失败,则data/data/packageName/files/secondary-dexes作为临时缓存目录。

  1. /**
  2. * 获取缓存Dex文件的目录
  3. *
  4. * @param context
  5. * @param applicationInfo
  6. * @return
  7. * @throws IOException
  8. */
  9. private static File getDexDir(Context context, ApplicationInfo applicationInfo)
  10. throws IOException {
  11. File cache = new File(applicationInfo.dataDir, CODE_CACHE_NAME);
  12. try {
  13. // 优先在data/data/pgn/code_cache/secondary-dexes目录创建;
  14. mkdirChecked(cache);
  15. } catch (IOException e) {
  16. //创建失败则在data/data/pgn/files/secondary-dexes目录下创建,作为临时存储目录。
  17. /* If we can’t emulate code_cache, then store to filesDir. This means abandoning useless
  18. * files on disk if the device ever updates to android 5+. But since this seems to
  19. * happen only on some devices running android 2, this should cause no pollution.
  20. */
  21. cache = new File(context.getFilesDir(), CODE_CACHE_NAME);
  22. mkdirChecked(cache);
  23. }
  24. File dexDir = new File(cache, CODE_CACHE_SECONDARY_FOLDER_NAME);
  25. mkdirChecked(dexDir);
  26. return dexDir;
  27. }

发布的multidex-1.0.1其实不会出现这个目录,而且这段的逻辑也不严谨,如果临时目录也创建失败了呢?

2、动态装载Dex的过程为什么反射那些字段、方法就可以了?

<br />这就涉及到Android中的Class加载机制了,ClassLoader加载Class调用的是BaseDexClassLoader中findClass方法,会调用到DexPathList的findClass方法,其中会对dexElements数组进行遍历,数组每一个元素对应了一个DexFile,真正的加载是在DexFile实现。而正是因为这个数组,使我们有机会将Dex包装成的Element对象扩展到其中。这样ClassLoader加载Class的时候就也会遍历调用到加进来的Dex,从而找到需要的Class。

3、为什么上面写这是一个看似完美的分Dex加载方案?

<br />①INSTALL_FAILED_DEXOPT;在部分机型会出现无法安装的问题没有解决。

这是由于dexopt的LinearAlloc限制引起的,在Android版本不同分别经历了4M/5M/8M/16M限制,4.2.x系统上可能都已到16M, 在Gingerbread或者以下系统LinearAllocHdr分配空间只有5M大小的, 高于Gingerbread的系统提升到了8M。Dalvik linearAlloc是一个固定大小的缓冲区。在应用的安装过程中,系统会运行一个名为dexopt的程序为该应用在当前机型中运行做准备。dexopt使用LinearAlloc来存储应用的方法信息。Android 2.2和2.3的缓冲区只有5MB,Android 4.x提高到了8MB或16MB。当方法数量过多导致超出缓冲区大小时,会造成dexopt崩溃。

也就是说,即便是方法数不超标,也不能保证一定能安装成功,因为DexOpt过程可能因为LinearAlloc的限制而失败。但是这个问题为什么之前没有提出呢?因为这个问题对目前的Android市场机型基本不存在,现在一般Android应用的*低兼容版本都是4.0,*可能出现这个问题的2.3之前的版本都不在考虑之列,而且目前5.0以上的机型占有率已经接近70%,低版4.0本机型已经越来越少,而且基本是4.0机型,也只是有可能触发这个限制,因此对目前来讲是个不是问题的问题。
<br />②ANR的问题:从以上MultiDex的工作流程可以看到:MultiDex工作在主线程,而Dex的提取与DexOpt的过程都是耗时的操作,所以ANR的问题是必然存在;而且业务量越大,拆分出来的Dex越多,对应ANR的几率也就越高。