理解人工智能的内心世界

可解释性正在从“完整解释模型”转向更实际的审计、监控与调试。可见的推理过程是有用证据，但不是模型诚实或安全的充分证明。