由两人组成的AI研究团队Linum发布了图像生成模型“Pyramid-JiT（P-JiT）”，并称该模型的训练成本约为2.1万美元（约合2850万韩元）。

据海外科技媒体Gigazine 11月9日（当地时间）报道，P-JiT主要瞄准图像生成模型训练成本高、控制难度大的问题，目前已以开放权重形式公布。

与主流图像生成模型通常先通过VAE（变分自编码器）将图像压缩至潜空间、再进行还原的做法不同，P-JiT省去了这一中间步骤，直接处理像素数据。

为进一步降低计算开销，P-JiT提升了Token压缩率。此前“Linum v2”采用16×16分块，P-JiT则扩大至32×32。在同样的512×512分辨率下，图像可由更少的Token表示，注意力计算所需处理的序列长度也降至原来的四分之一。Linum表示，该模型所需训练样本量约为现有模型的十一分之一，训练成本约为2.1万美元。

在模型结构上，P-JiT也围绕像素空间处理进行了调整，包括适用于像素空间模型的噪声调度，以及用于增强扩散Transformer前段梯度信号的“Readout机制”。这一机制会在网络早期预测低分辨率图像，以提高收敛速度。

模型架构方面，文本和图像先分别经过两个单模态模块处理，随后合并为单一数据流，后续由22个相同的扩散Transformer模块组成。文本编码器采用参数冻结的Qwen3.5-4B，并使用特定层输出。图像则先被切分为32×32的patch（分块），再以3:1压缩率降至1024维潜表示，并投影至图像模块。

训练阶段叠加了多种损失函数，包括MSE、基于PixelREPA的余弦距离、最终输出头的MSE，以及结合LPIPS与P-DINO的感知损失。训练流程分为两个阶段：先在512×512分辨率下训练约6.6亿个样本，之后再在1024×1024分辨率下追加训练约5000万个样本。

不过，P-JiT仍存在一定局限。由于训练数据未包含信息图、PDF和书籍页面，Linum明确表示，该模型不支持生成包含文字的图片、海报和信息图等内容。此外，受模型规模相对较小影响，其在全身人物描绘、多对象表达、多人物交互以及需要广泛知识的任务上，表现仍有不足。

整体来看，P-JiT被视为一次压缩图像生成模型成本结构的尝试。通过减少潜空间转换步骤、直接在像素空间训练，该模型在训练成本和样本需求上实现了压缩。不过，其在文字类图像生成和复杂场景理解方面仍有待进一步完善。开放权重公布后，后续优化效果及训练策略演进，仍将是外界关注的重点。