面向气候适应性住房的城市时空基础模型:基于扩散变换器的灾害风险预测 Urban Spatio-Temporal Foundation Models for Climate-Resilient Housing: Scaling Diffusion Transformers for Disaster Risk Prediction
提出扩散变换器框架Skjold-DiT,整合多模态城市数据预测建筑级气候风险并支持交通可达性分析
前置知识
扩散变换器(Diffusion Transformer, DiT)
扩散变换器是将去噪扩散概率模型(DDPM)与Transformer架构结合的生成模型。传统扩散模型使用U-Net作为去噪网络,而DiT用Transformer替代,通过自注意力机制处理序列化的空间-时间patch。在前向过程中逐步向数据添加高斯噪声,模型学习反向去噪过程来生成目标分布的样本。本文使用的DiT有24层、16个注意力头、隐藏维度1024,扩散步数T=1000,推理时使用50步DDIM采样器。
Skjold-DiT的核心是扩散变换器架构,理解DiT的工作原理是理解整个框架的基础,包括其如何进行条件生成和不确定性量化。
跨模态注意力融合(Cross-Modal Attention Fusion)
跨模态注意力是一种让不同数据模态(如图像、表格、图结构)之间进行信息交互的机制。在本文中,图像编码器、表格编码器、图编码器和时间序列编码器分别处理各自模态的输入,然后通过交叉注意力机制对齐不同模态的表示,最终拼接成统一的1280维表示。训练时还使用10-30%的随机模态dropout来提高对不完整数据的鲁棒性。
城市数据天然具有多模态特性(卫星图像、建筑属性、交通网络、气候数据),跨模态注意力是统一这些异构数据的关键技术。
零样本迁移(Zero-Shot Transfer)
零样本迁移指模型在没有见过目标城市数据的情况下,仅通过元数据提示(如气候区域、经济指标、建筑存量)就能对该城市进行预测。本文通过Fjell-Prompt机制将通用的脆弱性模式与城市特定属性解耦,使用分层提示模板(灾害原语→社会经济上下文→时间动态)来实现在未见城市(如巴库)的推理。
零样本能力决定了模型能否快速部署到数据稀缺的新城市,这在实际城市规划中至关重要,因为不可能为每个城市都收集大量训练数据。
反事实模拟(Counterfactual Simulation)
反事实模拟是在给定干预策略下生成假设性未来的技术。本文通过Valkyrie-Forecast机制实现:给定政策干预提示P(如部署生物滞留池、建筑改造、交通升级),通过特征编辑规则将原始特征X转换为X',然后条件扩散采样生成干预后的风险分布。例如,绿色基础设施干预会降低不透水面积并增加排水能力,洪水风险通过乘数进行重条件化。
反事实模拟让决策者能够评估不同政策方案的潜在影响,是连接模型预测与实际政策制定的关键桥梁。
交通可达性信号(Transportation Accessibility Signals)
本文定义了三个建筑级交通可达性指标:(1) 应急可达性——在时间预算内能否从建筑到达至少一个应急设施;(2) 灾害条件化出行时间——考虑道路淹没等灾害影响后的最短路径出行时间;(3) 疏散路线冗余度——到最近避难所的边不相交可行路线数量。这些指标通过交通图的物理网络层、服务层和暴露层计算得出。
交通可达性是本文区别于传统气候风险预测的核心特色,将建筑脆弱性与智能交通系统实际需求(应急路由、疏散规划)直接关联。
研究动机
现有城市气候风险预测方法存在多个关键局限。首先,物理模型(如基于浅水方程的洪水模拟)需要超过10,000个CPU小时才能完成单个城市规模的场景模拟,计算成本极高且难以进行不确定性量化。其次,机器学习方法虽然计算高效,但牺牲了不确定性量化能力,且缺乏跨城市泛化能力——每个城市都需要专门训练。第三,现有方法将住房脆弱性和交通可达性作为独立问题处理,忽略了两者之间的双向依赖关系:气候灾害破坏房屋会阻断应急车辆路由,而交通网络退化又会加剧居民的暴露风险。以哥本哈根2011年暴雨事件为例,两小时内造成19亿美元损失,导致交通网络瘫痪,应急车辆无法进入受灾社区;巴库每年面临1800-2500万美元的洪水损失,预警系统不足严重限制了智能车辆在洪水期间的导航能力。这些危机暴露了一个根本性缺口:现有城市规划缺乏整合气候科学、住房脆弱性、交通基础设施和政策干预场景的预测工具。
本文的目标是本文的具体目标是开发一个能够预测建筑级别气候风险指标(洪水深度、热应力、结构脆弱性)的生成模型,其中预测时间跨度为1-10年,P代表政策干预提示。该模型需要实现三个核心任务:(1) 预测任务——根据当前观测预测未来住房脆弱性并附带交通可达性指标;(2) 反事实任务——在绿色基础设施、建筑改造、交通网络升级等干预下生成替代性未来;(3) 零样本任务——无需微调即可泛化到未见城市。从智能交通系统角度,模型需要输出校准的、不确定性感知的可达性层(可达性、出行时间膨胀、路线冗余),供智能车辆路由和应急调度系统使用。
与已有工作不同的是,本文的独特切入角度在于将气候风险预测与交通可达性信号进行深度耦合,这在现有文献中是被忽视的关键维度。现有研究分为三个独立领域:(1) 城市时空学习关注流量预测但不涉及多灾害气候风险;(2) 气候风险评估关注单灾害预测但不整合基础设施网络和反事实政策评估;(3) 扩散模型应用在科学领域取得进展但未被用于气候适应性住房。此外,现有方法普遍需要城市特定训练数据,无法快速部署到数据稀缺地区。本文通过Fjell-Prompt的组合式提示机制将通用脆弱性模式与城市特定属性解耦,首次实现了跨波罗的海-里海区域(包括全球南方代表巴库)的零样本迁移。最后,本文引入了明确的社会经济公平分析——最低收入五分位数面临2.8倍于最高收入群体的洪水暴露风险,这一维度在现有智能交通系统研究中几乎完全缺失。
核心方法
Skjold-DiT的整体思路可以用多模态城市数据的统一风险翻译器来类比:就像翻译器将不同语言转换为统一语义空间,Skjold-DiT将卫星图像、建筑属性、交通网络、气候历史等异构数据转换为统一的建筑级风险表示,然后通过扩散过程生成未来的风险分布。技术路线分为三个核心模块:Norrland-Fusion负责将异构数据编码并融合为统一表示(类似编码器),Fjell-Prompt提供跨城市的条件化接口(类似语言包),Valkyrie-Forecast执行条件扩散采样生成预测和反事实场景(类似生成器)。整个系统采用端云分离的部署模式:云端执行重计算的多模态编码和扩散采样,边缘设备消费轻量级、定期更新的风险/可达性层,支持亚秒级查询延迟。
本文最核心的创新是将气候风险预测重新定义为交通感知的条件生成问题,而非传统的回归或分类任务。这体现在三个层面:首先,输出不仅是风险分数,而是校准的概率分布——通过100次扩散采样计算均值和90%可信区间,支持风险敏感的决策;其次,目标函数包含交通可达性指标(应急可达性、出行时间、路线冗余),直接服务于智能车辆路由和应急调度;第三,通过Valkyrie-Forecast的特征编辑规则将政策干预(如部署生物滞留池降低不透水面积、建筑改造提高结构分数)转化为扩散条件,实现了真正的如果...会怎样分析。与UrbanDiT相比,本文的本质区别在于:UrbanDiT专注于交通流量预测,而Skjold-DiT整合了多灾害气候风险、建筑级脆弱性、交通可达性信号和反事实干预模拟,首次将扩散变换器应用于气候适应性住房领域。
方法步骤详情
Skjold-DiT的方法步骤如下:第一步,构建BCUR数据集——收集6个城市(哥本哈根、斯德哥尔摩、奥斯陆、里加、塔林、巴库)的847,392个建筑级观测,包括多模态特征(地理坐标、结构属性、人口统计、基础设施连通性、气候暴露、交通指标)和风险标签(洪水深度、热应力、结构脆弱性概率、交通可达性分数)。第二步,Norrland-Fusion多模态编码——使用Vision Transformer处理RGB卫星/热红外/LiDAR图像得到图像表示,FT-Transformer嵌入结构/人口/基础设施特征得到表格表示,GraphSAINT学习空间和交通网络关系得到图表示,Temporal Fusion Transformer编码气候和灾害历史得到时间序列表示,然后通过跨注意力机制融合为统一的1280维表示。第三步,DiT骨干网络——将建筑通过k-means聚类为K个空间簇,每个簇作为token嵌入,24层Transformer处理序列,学习反向扩散过程。第四步,Fjell-Prompt条件化——构建分层提示模板(Level 1: 灾害原语如洪水强度/持续时间;Level 2: 社会经济和交通上下文如收入水平/应急服务;Level 3: 时间动态如预测跨度/气候情景),通过RoBERTa-Large编码为提示嵌入。第五步,Valkyrie-Forecast反事实采样——给定政策干预P,应用特征编辑规则转换特征,条件扩散采样生成干预后的风险分布,每个建筑生成100个样本计算不确定性。
技术新颖性
Skjold-DiT的技术新颖性体现在五个方面:第一,首次将扩散变换器应用于气候适应性住房风险预测,此前该领域主要使用物理模型(计算昂贵)或传统机器学习(缺乏不确定性量化);第二,引入Norrland-Fusion跨模态注意力机制,将图像、表格、图结构、时间序列四类异构数据融合为统一表示,并通过模态dropout实现对不完整数据的鲁棒性;第三,设计Fjell-Prompt组合式提示系统,将灾害场景和交通约束分解为可组合的提示模板,支持零样本跨城市迁移——巴库的洪水预测准确率达到87.2%,仅比哥本哈根低7.5%;第四,开发Valkyrie-Forecast反事实引擎,通过确定性特征编辑规则将政策干预转化为扩散条件,这是现有文献中首个支持交通可达性约束的反事实模拟框架;第五,构建BCUR数据集(847,392个建筑),这是首个包含多灾害标注和交通网络数据的城市韧性数据集。
实验结果
实验结果表明Skjold-DiT在多个维度上取得了显著提升。在10年洪水风险分类任务中,Skjold-DiT达到94.7%准确率和0.93 F1分数,比物理启发的HAND-DEM基线(76.3%准确率)提升18.4个百分点,比UrbanDiT(91.8%)提升2.9个百分点。更关键的是假阴性率从HAND-DEM的31.2%降至6.7%,降低67%——这对应急响应至关重要,因为低估脆弱性会导致危险的资源分配不足。在跨城市零样本迁移实验中,Skjold-DiT在里加达到91.3%洪水准确率、塔林89.8%、巴库87.2%,均显著优于所有基线;热应力预测的MAE分别为1.6°C、1.8°C、2.1°C,表明模型能够迁移通用脆弱性模式。长期预测性能显示,Skjold-DiT在10年预测跨度仍保持86%准确率,而其他方法在3年后因不确定性累积而严重退化。不确定性量化表现出色:90%可信区间覆盖91.2%的测试实例,ECE仅0.037,说明预测概率与实际频率高度一致。反事实模拟显示,哥本哈根的综合计划(投资24亿美元)可保护84,263栋建筑,风险降低52%,避免损失127亿美元。公平性分析揭示最低收入五分位数面临2.8倍于最高收入群体的洪水暴露风险,定向绿色基础设施干预可将差距缩小至1.4倍。消融研究证实各组件贡献:跨模态注意力提升3.5%,图编码器提升4.9%,提示工程对零样本迁移至关重要(提升13.4%),交通集成提升2.1%。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 10年洪水风险分类 | Accuracy (%) | 94.7 | UrbanDiT 91.8 | +2.9% |
| 10年洪水风险分类 | F1 Score | 0.93 | UrbanDiT 0.90 | +3.3% |
| 10年洪水风险分类 | False Negative Rate (%) | 6.7 | HAND-DEM 31.2 | -78.5% |
| 跨城市零样本迁移(巴库洪水) | Accuracy (%) | 87.2 | UrbanDiT 79.5 | +9.7% |
| 跨城市零样本迁移(巴库热应力) | MAE (°C) | 2.1 | UrbanDiT 3.2 | -34.4% |
| 不确定性校准 | ECE | 0.037 | N/A | 接近完美校准 |
局限与改进
论文承认了多个关键局限:第一,建筑异质性问题——模型将建筑聚合为空间簇(100米分辨率)以提高计算效率,可能错过街区内部的变异,未来需要建筑级图神经网络;第二,基础设施网络动态性——当前将基础设施建模为静态特征(到排水系统的距离、道路),未来需要整合动态网络模拟(雨水流建模、疏散期间的交通流);第三,人类行为响应——反事实模拟假设静态居住模式,未纳入疏散、迁移和适应性行为的agent-based模型;第四,级联失效建模——当前框架独立处理灾害(洪水或热应力),未建模级联效应(热浪期间的停电加剧死亡率、洪水期间的交通网络失效);第五,实时集成——当前系统基于历史数据,需要整合IoT传感器、智能车辆系统和天气监测实现实时预警。此外,实验中巴库的零样本验证主要依赖2010年库拉河洪水事件(14,287栋受损建筑),样本量有限;且BCUR数据集虽然规模庞大(847,392个建筑),但仅覆盖波罗的海-里海区域,对热带城市、沿海城市等其他气候区的泛化能力尚未验证。反事实模拟的特征编辑规则是手工设定的,缺乏物理依据,实际效果可能因城市而异。
独立分析的弱点
基于独立分析,我认为Skjold-DiT存在以下弱点:第一,数据泄露风险——虽然论文采用了空间块分割和时间分割,但BCUR数据集的时间跨度为2010-2025年,训练集2011-2021与测试集2024-2025存在时间重叠的风险(不同城市的起始年份不同),且去重规则(10米内、30天内合并)可能过于宽松;改进方向是引入更严格的时间窗口和空间距离阈值。第二,交通图构建的简化——当前交通图仅包含物理网络层、服务层和暴露层,未考虑实际的交通流量、信号灯、施工等动态因素,且疏散路线冗余度的计算假设边不相交,在复杂城市网络中可能过于乐观;改进方向是整合实时交通API和微观交通模拟。第三,提示工程的脆弱性——Fjell-Prompt依赖手工设计的分层模板,RoBERTa-Large编码可能无法捕捉复杂的政策约束语义;改进方向是使用更大的语言模型或学习提示嵌入。第四,计算成本未充分报告——虽然提到使用8×A100 GPU训练200个epoch,但未给出单次推理的时间和内存占用,对于需要实时更新的城市规模部署可能不可行;改进方向是探索模型蒸馏或量化技术。第五,公平性分析的局限——虽然揭示了收入五分位数的暴露差异,但未考虑种族、年龄、残疾等其他社会维度,且反事实干预的资金来源和实施可行性未讨论。
未来方向
作者提出了三个明确的未来研究方向:第一,实时事件监测和临近预报,支持灾害感知路由的运营级早期预警;第二,改进场景降尺度和不确定性传播,支持长期规划;第三,将交通网络动态(如动态容量和关闭模型)与反事实干预模拟在公平约束下更紧密集成。基于本文成果,我认为还可以延伸以下方向:第一,将Skjold-DiT扩展到其他灾害类型(地震、飓风、野火),利用Fjell-Prompt的组合性构建统一的多灾害基础模型;第二,与强化学习结合,将反事实模拟作为环境模拟器训练自适应应急响应策略;第三,开发面向公众的交互式决策支持工具,让城市规划者通过自然语言描述政策方案并实时可视化风险变化;第四,探索联邦学习范式,允许各城市在不共享原始数据的情况下协作训练基础模型,解决数据隐私和许可限制问题;第五,将模型输出与智能交通系统的实际部署集成,通过A/B测试验证风险感知路由对应急响应时间的实际改善效果。
复现评估
论文提供了较为完整的复现支持:数据方面,BCUR数据集包含847,392个建筑级观测,涵盖6个城市,数据来源包括EU Copernicus、OpenStreetMap、ERA5再分析、保险索赔和市政灾害日志,但部分组件受第三方限制,处理后的研究提取和元数据需通过通讯作者申请获取。模型方面,论文报告了详细的训练配置:24层Transformer、隐藏维度1024、16个注意力头、1000步扩散训练、50步DDIM采样、AdamW优化器、学习率2×10^{-4}、批量大小128、8×A100 GPU,预训练阶段在哥本哈根/斯德哥尔摩/奥斯陆数据上训练200个epoch,跨城市微调在里加和塔林各50个epoch。评估方面,论文提供了5个随机种子的均值±标准差报告,并承诺发布评估脚本和随机种子控制。然而,复现面临以下挑战:第一,计算资源需求高(8×A100),对独立研究者不友好;第二,数据访问需要申请,增加了复现周期;第三,部分模态(如LiDAR高程、保险评估)的城市依赖性可能导致在其他区域无法完全复现。总体而言,复现难度中等偏高,建议有充足GPU资源的研究团队尝试。
论文图表
展示了BCUR数据集的6个城市统计信息:哥本哈根187,429栋建筑、斯德哥尔摩164,582栋、奥斯陆142,817栋、里加121,473栋、塔林98,264栋、巴库132,827栋。总计847,392栋建筑,4,192条洪水标注,2,780条热应力标注。
这张表是理解实验规模和数据多样性的基础,展示了论文工作的数据支撑强度。
展示了10年洪水风险分类的详细对比结果。HAND-DEM基线准确率76.3%、F1 0.71、假阴性率31.2%;Random Forest 84.7%/0.82/18.9%;CNN-ResNet50 88.2%/0.86/14.3%;GraphSAGE 89.4%/0.87/12.8%;UrbanDiT 91.8%/0.90/10.4%;Skjold-DiT达到94.7%/0.93/6.7%。
这张表提供了论文核心实验结果的量化证据,是评估Skjold-DiT性能提升的关键参考。
展示了跨城市零样本迁移的详细结果。在里加:Skjold-DiT 91.3%/1.6°C。在塔林:Skjold-DiT 89.8%/1.8°C。在巴库(零样本验证城市):Skjold-DiT 87.2%/2.1°C,均显著优于所有基线。
这张表证明了Fjell-Prompt的跨城市迁移能力,特别是巴库的优秀表现。
展示了哥本哈根绿色基础设施投资的反事实模拟结果。综合计划投资24亿美元,保护84,263栋建筑,风险降低52%,避免损失127亿美元。
这张表展示了反事实模拟的实际应用价值,为城市规划者提供了政策投资的量化决策支持。
展示了消融研究结果。完整Skjold-DiT:94.7%准确率,巴库零样本87.2%。去掉跨模态注意力:91.2%/82.4%。去掉图编码器:89.8%/79.1%。去掉提示工程:92.1%/73.8%。去掉多任务学习:90.5%/81.6%。去掉交通集成:92.6%/85.1%。仅DiT骨干:87.4%/68.3%。
这张表定量分析了各组件的贡献,帮助读者理解哪些模块是性能提升的关键驱动力。