学術的背景 人工知能の分野において、多モーダル表現学習（Multi-modal Representation Learning, MMRL）は、異なるモーダルからの入力を共有の表現空間にマッピングする強力なパラダイムです。例えば、ソーシャルネットワークでは、ユーザーは画像とテキスト情報を同時に共有することがよくあります。多モーダル表現学習を通じて、モデルはテキスト中の特定の単語や概念と画像中の視覚的パターンとの関係をよりよく理解することができます。このパラダイムは、医療、感情認識などさまざまな分野で広く応用されており、データが通常複数の形式で存在し、多モーダル情報の融合がシステム全体の理解と意思決定能力を向上させることができるためです。 しかし、既存の多モーダル表現学習手法は、高次情報の保持...

AutoAlign：大規模言語モデルによる全自動・効率的な知識グラフのアライメント方法 知識グラフ（Knowledge Graph、KG）は、質問応答システム、対話システム、推薦システムなど多くの分野で広く利用されています。しかし、異なる知識グラフには、同一の現実のエンティティが異なる形で保存される問題があるため、知識の共有と情報の補完が非常に困難です。特に実際のアプリケーションでは、これらの知識グラフの統合が中心的な課題となります。これにはエンティティアライメント（Entity Alignment）が関与しており、異なる知識グラフで同じエンティティを表すエンティティを識別することになります。しかし、既存の方法は通常手作業の種子アライメント（Seed Alignments）が必要で、その取得...

伝統的な表現学習手法は、通常、正規性、疎性などの望ましい性質を達成するために、固定の基底関数アーキテクチャを設計します。一方、深層強化学習の考え方は、設計者が表現の性質をコーディングするのではなく、データの流れが表現の性質を決定し、適切な訓練スキームの下で良い表現が自発的に現れるようにすることです。 この研究では、深層強化学習システムで学習された表現(representation)の性質を探求しています。この研究は、2つの観点を組み合わせ、実証分析を通じて、強化学習におけるスムーズな転移を促進する表現の性質を探索しています。著者らは6種類の表現特性を提案し、25,000以上のエージェント設定タスクで評価を行いました。彼らは、ピクセルベースのナビゲーション環境で、ソースタスクと転移タスクが異な...

グラフ構造データが様々な分野で広く応用されるにつれ、グラフデータを分析するための強力なツールであるグラフニューラルネットワーク(GNN)が注目されています。しかし、既存のGNNは、ノード表現を学習する際に、主に近傍ノードの類似性情報に依存しており、ノード間の差異性の潜在的可能性を無視しています。最近、新しい「極性メッセージ伝搬」(Polarized message-passing、PMP)パラダイムが登場し、GNNの設計に全く新しいアイデアを注入しました。 研究背景:従来のGNNは、ターゲットノードの表現を学習するために、近傍ノードの特徴を集約していますが、ノード間の類似性のみを考慮し、ノード差異に含まれる豊富な情報を十分に利用していませんでした。実際、現実世界のグラフデータには、「友人のパ...