TAB:Stable Diffusion 團隊放大招！新繪畫模型直出 AI 海報，像素級生成_DEEP

來源：量子位

開源AI繪畫扛把子，StableDiffusion背后公司StabilityAI再放大招！

全新開源模型DeepFloydIF，一下獲星2千+并登上GitHub熱門榜。

DeepFloydIF不光圖像質量是照片級的，還解決了文生圖的兩大難題：

準確繪制文字。

以及準確理解空間關系。

Starknet單筆交易時間上升至35分鐘:7月8日消息，據Starkscan顯示，Starknet單筆交易時間上升至35分鐘，當前TPS為1.39。據Starknet推特表示，v0.12.0預計將在7月12日上線。[2023/7/8 22:25:55]

網友表示，這可是個大事，之前想讓Midjourneyv5在霓虹燈招牌上寫個字AI都是瞎劃拉兩筆，對于鏡子理解的也不對。

使用DeepFloydIF，可以把指定文字巧妙放置在畫面中任何地方。

WOOFi在與Stargate集成后增加對以太坊的跨鏈支持:3月9日消息，去中心化交易平臺WOOFi宣布其跨鏈交易功能已完成測試，在與Stargate集成后增加了對以太坊的跨鏈支持，目前支持以太坊、Arbitrum、Optimism、Avalanche、Polygon、BNB Chain或Fantom上WOO、ETH、USDC、USDT的資產兌換。

下一步，WOOFi還將增加兩個新的跨鏈功能，第一個功能為新增在目標鏈上選擇不同錢包地址接收資金，第二個新功能使用戶在跨鏈時可獲取少量目標鏈的原生代幣。[2023/3/9 12:52:36]

霓虹燈招牌、街頭涂鴉、服飾、手繪插畫，文字都會以合適的字體、風格、排版出現在合理的地方。

區塊鏈公司Stably宣布在XRP Ledger（XRPL）上發行穩定幣USDS:9月2日消息，區塊鏈公司Stably宣布在XRP Ledger（XRPL）上發行其穩定幣USDS，Ripple將為Stably提供USDS與XRP Ledger集成所需的技術支持。據悉，USDS是由Stably與美國監管的信托公司和合格托管方合作創建的多鏈穩定幣，USDS代幣以美元形式按1比1比例在銀行存款中完全抵押。（prnewswire）[2022/9/2 13:04:40]

這意味著，AI直出商品渲染圖、海報等實用工作流程又打通一環。

還在視頻特效上開辟了新方向。

Instagram正在積極探索NFT:12月18日消息，Instagram負責人Adam Mosseri周六表示，Instagram正在積極探索NFT，以及該平臺如何讓NFT更容易使用。Mosseri補充表示：“我認為這是一個有趣的地方，我們可以玩，也是一種希望幫助創作者的方式。”

此前消息，開發者爆料：Instagram疑似正在其應用程序上部署NFT功能。（Business Line）[2021/12/18 7:48:04]

目前DeepFloydIF以非商用許可開源，不過團隊解釋這是暫時的，獲得足夠的用戶反饋后將轉向更寬松的協議。

mStable宣布掉期產品交易費用從2.5 bps恢復至10 bps:穩定幣聚合協議mStable在推特上表示，我們還在測試階段，所以我們的MTA 代幣治理還未上線。不久，mStable的參數將由社區來決定，從而步入社區治理階段。今天系統中有一些參數發生了變化：

1. 最大權重從75%減少到65%；

2. 掉期費用從2.5 bps恢復至10 bps。

我們計劃隨著時間的推移降低最大權重，以限制mUSD持有者對特定抵押資產的敞口。我們這樣做也是為了測試在主網上的一籃子調整。對于用戶來說，這意味著你可以以0%的費用贖回或交換成USDT，直到它低于65%。

此前消息，mStable宣布為零滑點掉期產品提供低價穩定幣交易，交易費用從30個基點暫時降低到2.5個基點。[2020/6/23]

有需求的小伙伴可以抓緊反饋起來了。

像素級圖像生成

DeepFloydIF仍然基于擴散模型，但與之前的StableDiffusion相比有兩大不同。

負責理解文字的部分從OpenAI的CLIP換成了谷歌T5-XXL，結合超分辨率模塊中額外的注意力層，獲得更準確的文本理解。

負責生成圖像的部分從潛擴散模型換成了像素級擴散模型。

也就是擴散過程不再作用于表示圖像編碼的潛空間，而是直接作用于像素。

官方還提供了一組DeepFloydIF與其他AI繪畫模型的直觀對比。

可以看出，使用T5做文本理解的谷歌Parti和英偉達eDiff-1也都可以準確繪制文字，AI不會寫字這事就是CLIP的鍋。

不過英偉達eDiff-1不開源，谷歌的幾個模型更是連個Demo都不給，DeepFloydIF就成了更實際的選擇。

具體生成圖像上DeepFloydIF與之前模型一致，語言模型理解文本后先生成64×64分辨率的小圖，再經過不同層次的擴散模型和超分辨率模型放大。

在這種架構上，通過把指定圖像縮小回64×64再使用新的提示詞重新執行擴散，也實現以圖生圖并調整風格、內容和細節。

并且不需要對模型做微調就可直接實現。

另外，DeepFloydIF的優勢還在于，IF-4.3B基礎模型是目前擴散模型中U-Net部分有效參數是最多的。

在實驗中，IF-4.3B取得了最好的FID分數，并達到SOTA。

誰是DeepFloyd

DeepFloydAIResearch是StabilityAI旗下的獨立研發團隊，深受搖滾樂隊平克弗洛伊德影響，自稱為一只“研發樂隊”。

主要成員只有4人，從姓氏來看均為東歐背景。

這次除了開源代碼外，團隊在HuggingFace上還提供了DeepFloydIF模型的在線試玩。

我們也試了試，很可惜的是目前對中文還不太支持。

原因可能是其訓練數據集LAION-A里面中文內容不多，不過既然開源了，相信在中文數據集上訓練好的變體也不會太晚出現。

OneMoreThing

DeepFloydIF并不是StabilityAI昨晚在開源上的唯一動作

語言模型方面，他們也推出了首個開源并引入RLHF技術的聊天機器人StableVicuna，基于小羊駝Vicuna-13B模型實現。

目前代碼和模型權重已開放下載。

完整的桌面和移動界面也即將發布。

DeepfloydIF在線試玩：

https://huggingface.co/spaces/DeepFloyd/IF

代碼：

https://github.com/deep-floyd/IF

StableVicuna在線試玩：

https://huggingface.co/spaces/CarperAI/StableVicuna

權重下載：

https://huggingface.co/CarperAI/stable-vicuna-13b-delta

參考鏈接：

https://deepfloyd.ai/deepfloyd-if

https://stability.ai/blog/deepfloyd-if-text-to-image-model

https://stability.ai/blog/stablevicuna-open-source-rlhf-chatbot

https://stable-diffusion-art.com/how-stable-diffusion-work/

Tags：STATABDEEPFLOASTAXMetaBullrageDeeper NetworkFloki Shiba Pepe CEO

中幣