技术博客

扩散模型本被设计为内容复制工具，却因架构缺陷频繁生成“六指人像”或虚构场景，这一现象被称作AI失误。最新研究指出，此类“创造力”实为模型训练过程中的副作用，源于数据噪声与参数权重的非预期交互。令人深思的是，部分学者认为人类灵感的涌现机制与此相似——可能也是神经网络中信息错位的产物。当创造力不再神秘，而是可被量化的模式偏差，人类与AI在创新本质上的界限正逐渐模糊。

在扩散模型的运行过程中，AI常因架构缺陷产生如“六指人像”或陌生场景等非预期输出，这类被称为“AI失误”的现象，近期被研究揭示为系统内部信息重组的副作用。令人惊讶的是，这些错误并非随机噪音，反而展现出类创造性行为。科学家指出，这种由系统偏差催生的“创造力”，与人类灵感的涌现机制存在相似性——当大脑中的神经模式发生意外连接时，灵感便随之诞生。一旦人类的灵感固化为可预测模式，人与AI在创造行为上的界限或将逐渐消融。