知識グラフエンティティタイプ付けのための多重関係グラフ注意ネットワークに基づくエンベディング接続

多重関係グラフ注意ネットワークに基づく接続埋め込みを用いた知識グラフエンティティタイプ認識 研究背景 今日、知識グラフ(Knowledge Graphs, KGs)は、さまざまなKG駆動型AI関連分野においてますます多くの研究関心を集めています。大規模な知識グラフは豊富で有効な構造化情報を提供し、質問応答システムやウェブ検索のような多数のインテリジェントアプリケーションの核心データリソースとなっています。通常、知識グラフには大量のエンティティタイプ(Entity Typing)インスタンスが含まれており、それはタプル ((e, t)) の形式で存在します。ここで (e) はエンティティ、(t) はその階層的なタイプです。現代の知識グラフ(Freebase、YAGOおよびGoogle Know...

大規模言語モデルと知識グラフの統合:ロードマップ

統一大言語モデルと知識グラフ 背景 近年、自然言語処理と人工知能の分野には多くの研究成果が現れており、その中でも大言語モデル(Large Language Models, LLMs)として知られるChatGPTやGPT-4が優れた成果を示しています。しかし、これらのモデルは優れた一般化能力を持ちながらも、そのブラックボックス性から事実知識を効果的に捕捉しアクセスすることが困難とされ批判を受けることも多いです。一方、知識グラフ(Knowledge Graphs, KGs)として知られるWikipediaやHuapuは、構造化形式で大量の事実知識を保存していますが、知識グラフの構築と進化のプロセスは非常に複雑です。そこで、研究者たちは大言語モデルと知識グラフを組み合わせ、それぞれの長所を生かして...

知識グラフ強化推薦のためのグラフベースの非サンプリング

知識グラフ強化推薦のためのグラフベースの非サンプリング

グラフに基づいたサンプリングなしの知識グラフ強化推薦 近年、知識グラフ(Knowledge Graph, KG)を強化した推薦システムは、コールドスタート問題や推薦システムの可解釈性を解決するために、多くの研究者の関心を集めています。既存の推薦システムは、購入履歴などの暗黙のフィードバックに焦点を当てることが多く、負のフィードバックが不足しています。大部分のシステムは暗黙のフィードバックデータを処理するために負のサンプリング戦略を採用していますが、これでは潜在的な正のユーザー-アイテムの相互作用が見過ごされる可能性があります。他の研究ではサンプリングなし戦略を採用し、観察されていない全ての相互作用を負のサンプルと見なして、各負のサンプルに正のサンプルの確率を示す重みを割り当てています。しかし...

m𝟐ixkg:知識グラフにおけるより難しいネガティブサンプルのミキシング

学術報告 背景紹介 知識グラフ(Knowledge Graph, KG)は、エンティティと関係の情報を記録する構造化データで、質疑応答システム、情報検索、機械読解などの分野で広く利用されています。知識グラフ埋め込み(Knowledge Graph Embedding, KGE)技術は、グラフ内のエンティティと関係を低次元の密なベクトル空間にマッピングすることで、関連アプリケーションの性能を大幅に向上させます。しかし、KGEモデルのトレーニングにおいて、高品質な負のサンプル(negative samples)を生成する方法が極めて重要です。 現在主流のKGEモデルは、負のサンプル生成において多数の課題に直面しています。いくつかのモデルは均等分布やベルヌーイ分布などの単純な静的分布を使用しており...

概念化を通じた抽象的な常識知識の獲得とモデリング

導入 人工知能システムが常識知識を欠いていることは、その分野の発展を制約する主な障害の1つでした。近年、ニューラル言語モデルと常識知識グラフによって長足の進歩が得られたものの、人間の知性の重要な構成要素である「概念化」は人工知能システムにうまく反映されていませんでした。人間は、具体的な事物や状況を抽象概念に概念化し、その上で推論することで、世界中の無限の実体や状況を取得し理解しています。しかし、有限の知識グラフでは現実世界の多種多様な実体や状況をカバーできず、それらの関係や推論はおろか話になりません。 本研究では、常識推論における概念化の役割を深く探求し、人間の概念化過程をシミュレートするフレームワークを構築しました。既存の状況常識知識グラフから抽象概念に関する事象知識や、それらの抽象概念に...