可解释人工智能（XAI）和地理学｜周六直播·复杂系统视角的城市科学读书会

分享简介

• 第一部分介绍可解释人工智能（XAI）。人工智能（AI）已经为众多领域带来了巨大的变革，但是AI的决策过程往往难以理解，这使得AI的推广以及在重要领域的应用成为一个严峻的问题，可解释人工智能（Explainable AI, XAI）就是解决这个问题的关键。首先介绍可解释人工智能的概念，并追溯其历史，然后介绍可解释人工智能的重要性及社会意义。
  
  
• 第二部分介绍可解释人工智能的方法。第一种常见的分类方法是模型相关/模型无关，即是否依赖并剖析模型内部机制。第二种常见的分类方法是全局/局部方法，即针对模型整体或局部个体的预测进行解释。并将结合实际应用对以上方法进行讲解。
  
  
• 第三部分介绍可解释人工智能与地理学。首先介绍地理学对空间和地理位置的关注；之后介绍AI与传统地理模型的统一；最后通过对可解释人工智能在地理学中的应用案例的介绍，说明可解释人工智能可以提高地理学模型的准确性，从而提高预测的准确度。
  
  
• 第四部分阐述可解释人工智能带来的机遇与挑战。可解释人工智能可以帮助人们更好地理解和评估GeoAI的性能，提高GeoAI的可信赖度，从而降低人们对GeoAI的担忧，也有助于解决一些应用领域中的偏见问题，从而促进公平性。然而，可解释人工智能也面临着一些挑战，例如，XAI所带来的模型解释的复杂性，对模型描述的准确度，以及可视化等问题。

分享大纲

• 什么是Explainable AI（XAI）
• 历史
• 重要性及社会意义

• 模型相关/无关
• 全局/局部方法

• 地理学的关注点
• AI与传统地理模型的统一
• XAI在地理学的应用

• XAI为GeoAI带来的机遇
• XAI的当前挑战与未来发展

核心概念

• 可解释人工智能 Explainable AI：简称XAI，又称可解释的机器学习（Interpretable Machine Learning），是一套流程和方法，让人类用户描述人工智能模型，了解其预期影响和潜在偏差。它有助于理解并敦促人工智能决策模型的准确性、公平性以及透明度。XAI及其应用在科学和实际社会中中有很大的重要意义。

主讲人介绍

直播信息

参考文献

• Molnar (2020). Interpretable machine learning: a guide for making black box models explainable. https://christophm.github.io/interpretable-ml-book/

• Royal Society. (2019).  “Explainable AI: the basics‐Policy briefing.” https://royalsociety.org/-/media/policy/projects/explainable-ai/AI-and-interpretability-policy-briefing.pdf

• Gunning, D., & Aha, D. (2019). DARPA’s explainable artificial intelligence (XAI) program. AI magazine, 40(2), 44-58. https://doi.org/10.1609/aimag.v40i2.2850

• Goodman, B., & Flaxman, S. (2017). European Union regulations on algorithmic decision-making and a “right to explanation”. AI magazine, 38(3), 50-57. https://doi.org/10.1609/aimag.v38i3.2741

• Murdoch, W. J., Singh, C., Kumbier, K., Abbasi-Asl, R., & Yu, B. (2019). Definitions, methods, and applications in interpretable machine learning. Proceedings of the National Academy of Sciences, 116(44), 22071-22080. https://doi.org/10.1073/pnas.1900654116

• Das, A., & Rad, P. (2020). Opportunities and challenges in explainable artificial intelligence (xai): A survey. arXiv preprint arXiv:2006.11371. https://doi.org/10.48550/arXiv.2006.11371

• Arrieta, A. B., Díaz-Rodríguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., … & Herrera, F. (2020). Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information fusion, 58, 82-115. https://doi.org/10.1016/j.inffus.2019.12.012

• Lundberg, S. M., & Lee, S. I. (2017). A unified approach to interpreting model predictions. Advances in neural information processing systems, 30. https://doi.org/10.5555/3295222.3295230

• Lundberg, S. M., Erion, G., Chen, H., DeGrave, A., Prutkin, J. M., Nair, B., … & Lee, S. I. (2020). From local explanations to global understanding with explainable AI for trees. Nature machine intelligence, 2(1), 56-67. https://doi.org/10.1038/s42256-019-0138-9

• Ribeiro, M. T., Singh, S., & Guestrin, C. (2016, August). ” Why should i trust you?” Explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining (pp. 1135-1144). https://doi.org/10.1145/2939672.2939778

• Sundararajan, M., Taly, A., & Yan, Q. (2017, July). Axiomatic attribution for deep networks. In International conference on machine learning (pp. 3319-3328). PMLR. https://doi.org/10.5555/3305890.3306024

• Selvaraju, R. R., Cogswell, M., Das, A., Vedantam, R., Parikh, D., & Batra, D. (2017). Grad-cam: Visual explanations from deep networks via gradient-based localization. In Proceedings of the IEEE international conference on computer vision (pp. 618-626). https://doi.org/10.1109/ICCV.2017.74

• Covert, I., Lundberg, S. M., & Lee, S. I. (2020). Understanding global feature contributions with additive importance measures. Advances in Neural Information Processing Systems, 33, 17212-17223. https://doi.org/10.5555/3495724.3497168

• Fotheringham, A. S. (1997). Trends in quantitative methods I: stressing the local. Progress in human geography, 21(1), 88-96. https://doi.org/10.1191/030913297676693207

• Fotheringham, A. S., Brunsdon, C., & Charlton, M. (2003). Geographically weighted regression: the analysis of spatially varying relationships. John Wiley & Sons.

• Fotheringham, A.S., Oshan, T.M., & Li, Z. (2023). Multiscale Geographically Weighted Regression: Theory and Practice (1st ed.). CRC Press.

• Li, Z. (2022). Extracting spatial effects from machine learning model using local interpretation method: An example of SHAP and XGBoost. Computers, Environment and Urban Systems, 96, 101845. https://doi.org/10.1016/j.compenvurbsys.2022.101845

• Parsa, A. B., Movahedi, A., Taghipour, H., Derrible, S., & Mohammadian, A. K. (2020). Toward safer highways, application of XGBoost and SHAP for real-time accident detection and feature analysis. Accident Analysis & Prevention, 136, 105405. https://doi.org/10.1016/j.aap.2019.105405

• Hsu, C. Y., & Li, W. (2023). Explainable GeoAI: can saliency maps help interpret artificial intelligence’s learning process? An empirical study on natural feature detection. International Journal of Geographical Information Science, 37(5), 963-987. https://doi.org/10.1080/13658816.2023.2191256

• Xing, J., & Sieber, R. (2023). The challenges of integrating explainable artificial intelligence into GeoAI. Transactions in GIS. https://doi.org/10.1111/tgis.13045

由集智俱乐部社区成员龚鹤扬、高亦斌和郭瑞东等人共同发起，从2020年8月26日到2021年1月2日，共有崔鹏、周晓华等老师同学在内的32位讲者，分享了32个不同的主题，B站人气累积10万+，来自海内外不同高校或者企业的一线科研工作者273名，因果读书会借助集体智慧，在100多天的时间里，撬动了数十万人次的共同参与，形成了一场因果科学风暴！

详情请见：

因果科学与 Causal AI 系列读书会 | 众包出书