AnimationCafe

Mesh Heal - メッシュの欠けた部分を修復してくれる回復系Blender...

Sahin Ersoz氏による、メッシュの欠けた部分を修復してくれる回復系Blenderアドオン「Mesh Heal」がリリースされていました。

  • 0
  • 0
  • 0
続きを読む

ChatGPT - 人生の悩みからプログラムのコードやツールのスクリプトも教えて...

OpenAIが対話形式に最適化されたAI「ChatGPT」のテスト版を公開しました。無料でお試しが可能です。

  • 92
  • 0
  • 2
続きを読む

RealityScan - RealityCaptureとQuixelが共同で開...

RealityCaptureとQuixelが共同で開発したスマホ向けフォトグラメトリーアプリ「RealityScan」がベータ期間を終え正式に公開されました!

  • 77
  • 0
  • 1
続きを読む

Advent Calendar 2022 - 気になる技術系アドベントカレンダー...

毎年恒例お勉強イベント。2022年も気になるアドベントカレンダーのリンクを集めました。みなさんも是非参加しましょう!

  • 15
  • 0
  • 0
続きを読む

Blender 3.5 Alpha geometry-nodes-simulat...

Blenderの先のバージョンである3.5で実装される、Geometry Nodesのシミュレーションノードを追加したブランチビルドが公開され話題になっています!

  • 27
  • 0
  • 0
続きを読む

Maya、3ds Max のインディー版 | AREA JAPAN | Autodesk

DreamFusion: Text-to-3D using 2D Diffusion - テキストプロンプトから3次元モデル(NeRF:Neural Radiance Field)を生成できる技術が登場!

この記事は約2分36秒で読めます

Google Researchチームらによる、テキストから画像への拡散モデルを使用し、NeRF(Neural Radiance Field)を構築する事で、3Dデータ無しで3D形状を生成できる技術「DreamFusion」が登場していました。

2022年10月7日 – 日本語の解説動画を追加


プロモーション

『ファイナルファンタジーVII』リメイクプロジェクトの3D背景アーティストが語るリメイクのこだわりとは | スクウェア・エニックスで働くストーリー | 中途採用 SQUARE ENIX -RECRUITING-


DreamFusion

近年、テキストから画像への合成において、数十億の画像とテキストのペアで学習した拡散モデルによって飛躍的な進歩があった。このアプローチを3D合成に適用するには、ラベル付けされた3D資産の大規模データセットと3Dデータのノイズ除去のための効率的なアーキテクチャが必要であるが、どちらも現在存在しない。本研究では、これらの制約を回避するために、事前に学習した2次元のテキストから画像への拡散モデルを用いて、テキストから3次元への合成を実行する。本研究では、確率密度蒸留法に基づく損失を導入し、パラメトリック画像生成器の最適化のための事前学習として2次元拡散モデルを使用することを可能にする。この損失を用いて、ランダムに初期化された3次元モデル(Neural Radiance Field: NeRF)を勾配降下法により最適化し、ランダムな角度からの2次元レンダリングが低損失となるようにする。その結果、与えられたテキストの3Dモデルを任意の角度から見たり、任意の照明で照らしたり、任意の3D環境に合成したりすることができるようになる。本手法は、3次元学習データおよび画像拡散モデルの改変を必要とせず、事前学習された画像拡散モデルの有効性を示すものである。

キャプションが与えられると、DreamFusionはImagenというテキストから画像への生成モデルを用いて、3Dシーンを最適化する。我々は、損失関数を最適化することによって拡散モデルからサンプルを生成する方法であるScore Distillation Sampling (SDS)を提案する。SDSは、画像に微分的にマップバックできる限り、3次元空間のような任意のパラメータ空間においてサンプルを最適化することができる。この微分可能なマッピングを定義するために、Neural Radiance Fields(NeRF)に似た3Dシーンパラメタリゼーションを使用する。SDSは単独で合理的なシーンの外観を生成しますが、DreamFusionは正則化と最適化戦略を追加し、ジオメトリを改善します。その結果、学習されたNeRFは、高品質の法線、表面形状、深度を持ち、ランバートシェーディングモデルで再照明可能な、首尾一貫したものとなります。

  • テキストから3Dを生成
  • 生成サンプルギャラリー:DreamFusion: Text-to-3D using 2D Diffusion
  • 生成物はNeRFモデルなのでマーチングキューブアルゴリズムを使用して3Dメッシュ化可能

DreamFusion 日本語解説動画

凄い時代になっていきますね。もはや簡単なものはモデリングすら不要になるかぁ。
こういった素材をどう活用するかが今後重要になってきそうです。論文は公開されておりますが、プロジェクトはまだ未公開かな?楽しみですね。是非サイトをチェックしてみてください。

リンク

Screenshot of dreamfusion3d.github.io

プロモーション

C&R Creative Academy – 本気の未経験クリエイター育成プログラム



関連記事

  1. DeepAnime - 1枚のイラストから顔のアニメーションを生成できる深層学習エンジン!

    2019-08-07

  2. RigNet: Neural Rigging for Articulated Characters - ディープラーニングでモデルへのリギングを自動で行ってくれる技術!SIGGRAPH 2020 論文

    2020-05-11

  3. Ubisoft Toronto "IK Rig" Prototype - UBIソフト トロントスタジオによるIKを活用したリグモデルのプロトタイプ映像!

    2015-06-16

  4. DeepMotion Neuron - AIを使ったキャラクターモーション生成ツール!2018年第4四半期にリリース予定!

    2018-08-09

コメントをお待ちしています。

コメント

日本語が含まれない投稿は無視されます。-Posts that do not include the Japanese will be ignored-(スパム対策-anti Spam-)

3D人-3dnchu-

3D/2D/CG関連のネタ・ツール情報を
ほぼ毎日紹介します!

アーカイブ

カテゴリ

PR

育成講座

採用 | 3DCGアーティスト&テクニカルアーティスト大募集 | 株式会社Cygames


12月8日開催!映像匠塾2022 メタバース編 ~進化~その先の未来へ

Curo Inc.

GRASSHOPPER MANUFACTURE

3D人のLINEアカウントを作りました!
友だち追加


follow us in feedly

RSSリーダーで購読する


ほしい物リスト公開中!
3D人運営に援助!
Amazonでリストを見る

Discordチャンネル公開

pixivFUNBOXページ公開!




おすすめ商品Pickup

おすすめ記事

PR