AgedFX - 塵埃や傷、汚れ、蜘蛛の巣などの経年劣化表現をポチポチと簡単に追...

VICUBE Animationによる経年劣化表現追加Blenderアドオン『AgedFX』がリリースされました!

続きを読む

Gesture Helper v1.0 - 8方向のマウスジェスチャーに様々なコ...

AIGODLIKEによるマウスジェスチャーにコマンドを追加出来るBlenderアドオン『Gesture Helper v1.0』が無料公開!

続きを読む

Unreal Engine 5.4が4月下旬のリリースと同時にゲーム以外の分野で...

2024年3月12日、Epic GamesがUnreal Engine 5.4移行の料金形態について発表しました。映像分野などの完全無料は廃止されちゃいます。

続きを読む

Blob Fusion 1.5 - ZBrushのZSphereとメタボールを融...

数多くの高品質なBlenderアドオンを開発しているBartosz Styperek氏によるZBrushのZSphereライクなベースメッシュ構築アドオン『Blob Fusion』のv1.5がリリースされました!

続きを読む

OptimizerAI - AIの力でテキストプロンプトから効果音を生成出来るサ...

OptimizerAIによるテキストから効果音を生成出来るサービスが現在利用可能になりました!

続きを読む

Maya 2024 | 製品概要と購入 | Autodesk 公式

DreamFusion: Text-to-3D using 2D Diffusion - テキストプロンプトから3次元モデル(NeRF:Neural Radiance Field)を生成できる技術が登場!

この記事は約2分36秒で読めます

Google Researchチームらによる、テキストから画像への拡散モデルを使用し、NeRF(Neural Radiance Field)を構築する事で、3Dデータ無しで3D形状を生成できる技術「DreamFusion」が登場していました。

2022年10月7日 – 日本語の解説動画を追加


プロモーション

Blender Fes - Blenderの世界へ、一緒に飛び込もう!


DreamFusion

近年、テキストから画像への合成において、数十億の画像とテキストのペアで学習した拡散モデルによって飛躍的な進歩があった。このアプローチを3D合成に適用するには、ラベル付けされた3D資産の大規模データセットと3Dデータのノイズ除去のための効率的なアーキテクチャが必要であるが、どちらも現在存在しない。本研究では、これらの制約を回避するために、事前に学習した2次元のテキストから画像への拡散モデルを用いて、テキストから3次元への合成を実行する。本研究では、確率密度蒸留法に基づく損失を導入し、パラメトリック画像生成器の最適化のための事前学習として2次元拡散モデルを使用することを可能にする。この損失を用いて、ランダムに初期化された3次元モデル(Neural Radiance Field: NeRF)を勾配降下法により最適化し、ランダムな角度からの2次元レンダリングが低損失となるようにする。その結果、与えられたテキストの3Dモデルを任意の角度から見たり、任意の照明で照らしたり、任意の3D環境に合成したりすることができるようになる。本手法は、3次元学習データおよび画像拡散モデルの改変を必要とせず、事前学習された画像拡散モデルの有効性を示すものである。

キャプションが与えられると、DreamFusionはImagenというテキストから画像への生成モデルを用いて、3Dシーンを最適化する。我々は、損失関数を最適化することによって拡散モデルからサンプルを生成する方法であるScore Distillation Sampling (SDS)を提案する。SDSは、画像に微分的にマップバックできる限り、3次元空間のような任意のパラメータ空間においてサンプルを最適化することができる。この微分可能なマッピングを定義するために、Neural Radiance Fields(NeRF)に似た3Dシーンパラメタリゼーションを使用する。SDSは単独で合理的なシーンの外観を生成しますが、DreamFusionは正則化と最適化戦略を追加し、ジオメトリを改善します。その結果、学習されたNeRFは、高品質の法線、表面形状、深度を持ち、ランバートシェーディングモデルで再照明可能な、首尾一貫したものとなります。

  • テキストから3Dを生成
  • 生成サンプルギャラリー:DreamFusion: Text-to-3D using 2D Diffusion
  • 生成物はNeRFモデルなのでマーチングキューブアルゴリズムを使用して3Dメッシュ化可能

DreamFusion 日本語解説動画

凄い時代になっていきますね。もはや簡単なものはモデリングすら不要になるかぁ。
こういった素材をどう活用するかが今後重要になってきそうです。論文は公開されておりますが、プロジェクトはまだ未公開かな?楽しみですね。是非サイトをチェックしてみてください。

リンク

Screenshot of dreamfusion3d.github.io

プロモーション


関連記事

  1. Seeing the World through Your Eyes - 瞳に反射した画像を元に3Dシーンを復元する技術!

    2023-06-18

  2. RigNet - ディープラーニングを活用しモデルへのスキニングを自動で行う技術のソースコードが公開!

    2020-10-22

  3. Imagen Video - Google ResearchによるテキストからHD 1280x768 24fpsの動画を生成する技術!サンプル動画と論文が公開!

    2022-10-06

  4. OptimizerAI - AIの力でテキストプロンプトから効果音を生成出来るサービスが登場!現在Discord上で使用可能!

    2024-03-11

コメントをお待ちしています。

コメント

日本語が含まれない投稿は無視されます。-Posts that do not include the Japanese will be ignored-(スパム対策-anti Spam-)

3D人-3dnchu-

2023/4/3 新サーバーへ移行しました!
3D/2D/VR/GAME/AIなどのCGに関連する
気になる情報やツールをほぼ毎日紹介!
TwitterやYoutubeなども是非フォロー
よろしくお願いします!

アーカイブ

カテゴリ

おすすめ商品Pickup

注目の記事

PR


PR

株式会社クリーク・アンド・リバー社 大阪支社の採用・求人情報-engage

採用 | 3DCGアーティスト&テクニカルアーティスト大募集 | 株式会社Cygames

ネットで学べる3DCG講座 MAYA 3dsMax |デジハリ・オンラインスクール

GRASSHOPPER MANUFACTURE

   
USD
3D人のLINEアカウントを作りました!
友だち追加


follow us in feedly

RSSリーダーで購読する


ほしい物リスト公開中!
3D人運営に援助!
Amazonでリストを見る

Discordチャンネル公開

pixivFUNBOXページ公開!




おすすめ商品Pickup

おすすめ記事

ページ上部へ戻る