新しい歴史

AIエージェントの背後にあるもの：自律性を支えるインフラストラクチャ

に DataStax11m2025/01/29

長すぎる; 読むには

多くの可動部分にわたるオーケストレーションをサポートするインフラストラクチャと、エージェントシステムの構築に必要なデータとコンテキストの長い履歴について学習します。

featured image - AIエージェントの背後にあるもの：自律性を支えるインフラストラクチャ

AI エージェントとエージェントシステムに関するほとんどの説明は、エージェントの想定される使用例のさまざまな状況において、ユーザーの介入なしにエージェントが自律的に行動する能力に焦点を当てています。一部のエージェントはヒューマンインザループモデルで動作し、ユーザーが不確実性に遭遇した場合にのみユーザーと関わりますが、一般的な特定の状況下では自律的に行動します。

AIエージェントの主な特徴は自律性であるため、エージェントがユーザーの入力から独立して行動するために必要なサポート機能があります。以前のブログ投稿、私たちはエージェント AI アーキテクチャに必要な 4 つの要件を特定しました。

能力とアクセス -権限や関連システムへの認証されたアクセスなど、ユーザーに代わって行動する能力。
推論と計画 -エージェントのアクションを導く構造化された思考プロセス (多くの場合、チェーン、ツリー、グラフ、またはアルゴリズムとして定義されます) 内で推論を使用して決定を下します。
コンポーネントオーケストレーション -プロンプト、LLM、使用可能なデータソース、コンテキスト、メモリ、履歴、潜在的なアクションの実行とステータスなど、複数の部分の調整。
ガードレール -エラーを回避したり、障害が発生した場合に役立つ診断情報を提供したりするための安全策を含む、エージェントの集中力と効率性を維持するためのメカニズム。

これら 4 つの要件にはそれぞれ異なるインフラストラクチャニーズがあります。能力とアクセスに関しては、主なニーズはソフトウェア統合と資格情報管理です。推論と計画は主に LLM やその他の AI モデルによってサポートされます。ガードレールのトピックは広範で、関連するユースケースに固有のものであることが多いため、今後の記事で取り上げます。ここでは、オーケストレーションと、意思決定時に必要になる可能性のある多数の可動部分と長いデータ履歴およびコンテキストにわたるインテリジェントなオーケストレーションをサポートするために必要なインフラストラクチャに焦点を当てたいと思います。

AIエージェントにおけるコンポーネントオーケストレーションとコンテキストの役割

上記の最初の 2 つの要件 (能力、アクセス、推論、計画など) が意図したとおりに機能していると仮定すると、コンポーネントオーケストレーションの主な課題は知識管理になります。エージェントシステムは、コアタスクと目標、さまざまな関連システムの状態、ユーザーや他の外部システムとのやり取りの履歴など、さまざまなレベルで認識を維持する必要があります。

LLM では、「コンテキストウィンドウ」という概念を使用して、通常はプロンプト時にモデルが利用できる情報セットを説明します。これは、プロンプト自体に含まれる情報とは異なり、モデルのトレーニングプロセス中に形成された LLM の内部知識セットとも異なります。

長いテキストでは、コンテキストウィンドウはプロンプト時に LLM が利用できる情報の「最近の履歴」と考えることができます。これは、LLM とプロンプトのアーキテクチャに暗黙的に含まれています。このように、ほとんどの LLM はコンテキストの 1 次元の概念を持ち、古いコンテキストは時間の経過とともにウィンドウから消えてしまいます。

エージェントが決定を下す必要があるときはいつでも、最も重要または緊急のコンテキストが優先されるように、エージェントにはコンテキストと知識を管理するためのより洗練されたシステムが必要です。単一のモノリシックなコンテキストではなく、AI エージェントはさまざまな重要度のレベルのさまざまな種類のコンテキストを追跡する必要があります。

これは、コンピュータシステムのメモリに例えることができます。コンピュータシステムでは、キャッシュ、RAM、ハードドライブなど、さまざまな種類のストレージが、アクセス可能性と使用頻度に基づいてさまざまな目的に使用されます。AI エージェントの場合、コンテキストを概念的に 3 つの主要なレベルに構造化できます。

主要なコンテキスト –エージェントの中心的なタスクリストまたは目標。これは常に最優先に考え、すべてのアクションの指針となる必要があります。
直接的なコンテキスト -メッセージングシステム、データフィード、重要な API、ユーザーの電子メールやカレンダーなどのリソースを含む、接続された関連システムと直接的な環境の状態。
外部コンテキスト –一般的な知識、または関連性があるかもしれないが、エージェントシステムのコア部分として明示的に設計されていない情報。外部コンテキストは、インターネットや Wikipedia の検索のような単純なものによって提供される場合があります。または、サードパーティのニュースや更新から生じる予期しない要因など、緊急かつ複雑なものになる可能性があり、エージェントが動的にアクションを適応させる必要があります。

これらのコンテキストレベルは決定的なものではなく、それらの間の境界は非常に曖昧になる可能性があり、コンテキストの種類を説明する他の便利な方法もありますが、この概念構造はここでの議論に役立ちます。

コンテキスト管理のためのストレージインフラストラクチャ

AI エージェントのストレージのニーズは、管理されるコンテキストの種類によって異なります。プライマリ、直接、外部の各コンテキストレベルには、異なるデータ構造、取得メカニズム、更新頻度が必要です。重要な課題は、エージェントの処理パイプラインに過負荷をかけずに、効率的なアクセス、長期的な永続性、動的な更新を確保することです。

AI エージェントは、コンテキストをモノリシックなエンティティとして扱うのではなく、構造化データモデルと非構造化データモデルを融合したハイブリッドストレージアーキテクチャのメリットを享受します。これにより、高速な検索、セマンティック検索、スケーラブルな永続性が可能になり、冗長なデータ処理を最小限に抑えながら、必要なときに関連コンテキストを利用できるようになります。

主なコンテキスト: タスクリストとエージェントの目標

プライマリコンテキストは、エージェントのコア目標とアクティブなタスクで構成され、意思決定の基盤となります。この情報は、すべてのエージェントのアクションをガイドするため、永続的で、高度に構造化され、簡単にクエリ可能である必要があります。

潜在的なストレージのニーズ:

構造化されたタスクリストと目標階層用のトランザクションデータベース (キー値またはドキュメントストア) 。
アクティブタスクの迅速な検索をサポートする低レイテンシのインデックス作成。
イベント駆動型の更新により、タスクがリアルタイムの進行状況を反映するようになります。

エージェントの実装例

タスクキューを管理するスケジュールアシスタントでは、次のものを保存する必要があります。

ステータス更新を含む永続的なタスク (例: 「Alex との会議をスケジュールする」)。
実行履歴 (例: 「最初のメールを送信し、応答を待っています」)。
優先順位と依存関係により、緊急のタスクが最初に表示されるようになります。

分散型の高可用性データストアにより、エージェントが新しいイベントやコンテキストの更新を処理している場合でも、タスクが確実に追跡されます。

直接的なコンテキスト: 接続されたシステムの状態

直接コンテキストには、カレンダー、メッセージングプラットフォーム、API、データベース、その他のリアルタイムデータソースなど、関連システムの現在の状態が含まれます。プライマリコンテキストとは異なり、直接コンテキストは動的であり、多くの場合、構造化ストレージソリューションとリアルタイムストレージソリューションの組み合わせが必要になります。

潜在的なストレージのニーズ:

イベントログとリアルタイムのステータス追跡のための時系列データベース。
頻繁にアクセスされるシステム状態のキャッシュレイヤー。
最近のやり取りに関するコンテキストクエリのベクトルベースの検索。

エージェントの実装例:

ライブユーザーインタラクションを追跡するカスタマーサポート AI エージェントは、以下を保存する必要があります。

メモリ内ストア内のリアルタイムの会話履歴。
時系列データベース内のセッション状態(進行中のサポートチケットの詳細など)。
外部システム検索用のAPI 応答キャッシュにより、冗長なクエリを回避します。

時間に敏感なデータストアと長期データストアを組み合わせて直接コンテキストストレージを構築することにより、AI エージェントは過度の遅延なしに環境を認識して動作できます。

外部コンテキスト: 知識の検索と適応

外部コンテキストには、エージェントの直接制御外のソースからの一般的な知識と予期しない更新が含まれます。これは、オンデマンドの検索クエリから動的に取り込まれる外部データまで多岐にわたる可能性があり、保存と取得には柔軟なアプローチが必要です。エージェントの進行中のタスクや接続されたシステムに密接に結びついているプライマリコンテキストや直接コンテキストとは異なり、外部コンテキストは構造化されておらず、広範で、関連性が非常に多様であることが多いです。

潜在的なストレージの考慮事項:

永続的で構造化された参照資料のためのドキュメントストアとナレッジベース。
内部または外部のドキュメントの大規模なデータセットをクエリするためのベクトル検索。
応答する前に関連する知識を取得するための検索拡張生成 (RAG ) 。
外部データソースからのリアルタイム更新のためのストリーミングとイベント駆動型の取り込み。

エージェントの実装例:

気候変動研究における最新の科学的発見に関するレポートをまとめるパーソナルアシスタントには、次のことが求められます。

外部ソースから科学論文を取得し、キーワードやベクトルの類似性に基づいて関連性をフィルタリングします。
ナレッジグラフを使用して傾向を特定し、論文間の関係を分析します。
LLM ベースの検索拡張生成を使用して重要な洞察を要約します。
リアルタイムの公開フィードとニュースソースを購読して、最新の更新を追跡します。

高速な検索とセマンティックな編成を中心に外部コンテキストストレージを構築することで、AI エージェントは、取得したデータの関連性、信頼性、および実行可能性を維持しながら、新しい情報に継続的に適応できます。

コンテキスト認識型 AI エージェント向けハイブリッドストレージ

コンテキスト認識型 AI エージェントを設計するには、重要な情報への効率的なアクセスとメモリや処理の過負荷の回避との間で慎重にバランスを取る必要があります。AI エージェントは、意思決定を最適化するために、コンテキストを動的に保存、取得、処理するタイミングを決定する必要があります。

トランザクション、ベクトル、時系列、イベント駆動型モデルを統合したハイブリッドストレージアーキテクチャにより、AI エージェントはコンテキストの永続性、検索効率、適応型インテリジェンスを維持できます。これらはすべて、大規模な自律性にとって重要です。このバランスを実現するには、次の 3 つの主要な側面にわたる構造化された戦略が必要です。

レイテンシと永続性 -頻繁にアクセスされるコンテキスト (アクティブなタスク状態など) は低レイテンシのストレージに保存する必要がありますが、頻繁には必要とされないが重要な知識 (履歴インタラクションなど) は長期ストレージからオンデマンドで取得する必要があります。
構造化データと非構造化データ -タスク、目標、システム状態は構造化ストレージ (キー値データベースやドキュメントデータベースなど) の恩恵を受けますが、より広範な知識検索には、コンテキストを効果的にキャプチャするための非構造化埋め込みとグラフ関係が必要です。
リアルタイム認識と履歴認識 -一部のコンテキストでは継続的な監視が必要ですが (例: ライブ API 応答)、その他のコンテキスト (例: 以前の決定やレポート) は、エージェントの現在のタスクに関連する場合にのみ取得する必要があります。

これらの異なるタイプのコンテキストを考慮すると、AI エージェントは情報を保存およびアクセスするための構造化されたアプローチを必要とします。LLM コンテキストウィンドウのみに依存するのは非効率的です。エージェントが長期的なインタラクションや変化する状況を追跡する能力が制限されるからです。代わりに、コンテキストは永続的に保存され、動的に取得され、関連性と緊急性に基づいて優先順位が付けられる必要があります。

主要なコンテキスト (タスクと目標) -構造化された追跡のためにトランザクションデータベースに保存され、すべての推論サイクルで参照されます。

直接コンテキスト (システム状態とアクティブデータ) -キャッシュ、時系列ストレージ、またはイベント駆動型更新を通じてリアルタイムで維持されます。

外部コンテキスト (知識と動的更新) -ベクトル検索、検索拡張生成 (RAG)、またはグラフベースの知識表現を介してオンデマンドでクエリされます。

実際には、スケーラブルな AI エージェントアーキテクチャには、短期キャッシュ、永続データベース、外部取得メカニズムを組み合わせた多層メモリモデルが必要です。ハイブリッドストレージアプローチを活用することで、AI エージェントは次のことが可能になります。

アクティブなシステムのリアルタイム認識を維持します。
関連する場合にのみ履歴知識を取得します。
変化するニーズに基づいて優先順位を動的に調整します。

これらのストレージ戦略を統合することで、AI エージェントは自律的に機能し、長期間にわたってコンテキスト認識を維持し、新しい情報に動的に応答できるようになり、真にインテリジェントでスケーラブルなエージェントシステムの基盤が築かれます。

ハイブリッドストレージソリューション

AI エージェント用のハイブリッドストレージアーキテクチャを実装するには、さまざまなタイプのコンテキストを効率的に処理するために適切なデータベースとストレージツールを選択する必要があります。最適な選択は、レイテンシ要件、スケーラビリティ、データ構造の互換性、取得メカニズムなどの要因によって異なります。

適切に設計された AI エージェントストレージシステムには通常、次のものが含まれます。

構造化された永続的なタスク追跡のためのトランザクションデータベース。
リアルタイムのシステム状態監視のための時系列およびイベント駆動型ストレージ。
柔軟な非構造化データアクセスのためのベクトル検索と知識取得。
短期メモリへの迅速なアクセスを実現するキャッシュとメモリ内データベース。

それぞれの要素を詳しく見てみましょう。

トランザクションおよび分散データベース

AI エージェントには、タスク、目標、構造化メタデータを確実に保存するための、スケーラブルで可用性の高いトランザクションデータベースが必要です。これらのデータベースにより、プライマリコンテキストが常に利用可能になり、効率的にクエリできるようになります。

Apache Cassandra® – 高可用性とフォールトトレランスを実現するように設計された分散型 NoSQL データベース。構造化されたタスクリストの管理やエージェントの目標追跡を大規模に行うのに最適です。

DataStax Astra DB – Cassandra 上に構築されたマネージドデータベースサービス (DBaaS) で、高い耐久性を必要とする AI アプリケーションに弾力的なスケーラビリティとマルチリージョンレプリケーションを提供します。

PostgreSQL –強力な一貫性保証を備えた人気のリレーショナルデータベース。構造化されたエージェントメタデータ、永続的なタスクログ、ポリシーの適用に適しています。

時系列およびイベント駆動型ストレージ

リアルタイムのシステム監視を行うには、AI エージェントに、ログ記録、イベント追跡、状態の永続性に最適化されたデータベースが必要です。

InfluxDB –高速な取り込みと効率的なクエリを実現するように設計された、最先端の時系列データベース。AI エージェントのアクティビティや外部システムの更新を記録するのに最適です。

TimescaleDB –時系列ワークロード向けに最適化された PostgreSQL 拡張機能。AI エージェントのワークフローやシステムイベントの変更を追跡するのに適しています。

Apache Kafka + kSQLDB – AI エージェントがリアルタイムイベントを効率的に消費、処理、反応できるようにするストリーミングデータプラットフォーム。

Redis Streams –リアルタイムのイベント処理とメッセージキューイングのための軽量ソリューション。新しい更新が発生したときに AI エージェントに通知するのに役立ちます。

知識検索のためのベクトル検索

非構造化知識を扱う AI エージェントには、セマンティック検索、類似性マッチング、検索拡張生成 (RAG) などのタスクの埋め込みを効率的に保存、検索、取得する方法が必要です。最適化されたベクトル検索システムにより、エージェントはメモリやコンテキストウィンドウに過負荷をかけることなく、関連する過去のやり取り、ドキュメント、または事実を思い出すことができます。

DataStax Astra DB – Cassandra 上に構築されたスケーラブルなマネージドベクトルデータベースで、高性能な類似性検索とマルチモーダル検索を提供します。Astra は分散レジリエンスとベクトル検索機能を組み合わせており、グローバルなスケーラビリティと高可用性を確保しながら埋め込みを効率的に処理する必要がある AI エージェントにとって最適な選択肢です。

Weaviate –セマンティック検索とマルチモーダルデータ取得用に設計されたクラウドネイティブベクトルデータベース。ハイブリッド検索方法をサポートし、ナレッジグラフと適切に統合されるため、コンテキスト推論に依存する AI エージェントに役立ちます。

FAISS (Facebook AI 類似検索) –高性能な最近傍検索用のオープンソースライブラリ。大規模なデータセットの高速ベクトル検索のために AI パイプラインに組み込まれることが多い。完全なデータベースではありませんが、FAISS はローカル類似検索用の軽量で高速なソリューションを提供します。

キャッシュとメモリ内ストレージ

AI エージェントは頻繁に参照されるコンテキストへの低遅延アクセスを必要とするため、キャッシュはハイブリッドストレージアーキテクチャの重要なコンポーネントになります。

Redis – AI エージェントの短期的なコンテキストキャッシュとセッション管理に広く使用されている、高性能なインメモリキー値ストア。

Memcached –頻繁に使用される AI エージェントデータへの迅速なアクセスを提供する、シンプルでありながら効果的な分散キャッシュシステム。

これらの多様なストレージソリューションを統合することで、AI エージェントは短期記憶、永続的な知識、リアルタイム更新を効率的に管理し、大規模でシームレスな意思決定を実現できます。トランザクションデータベース、時系列ストレージ、ベクトル検索、キャッシュを組み合わせることで、エージェントは速度、スケーラビリティ、コンテキスト認識のバランスを取り、新しい入力に動的に適応できます。

AI 駆動型アプリケーションが進化し続ける中、複雑で絶えず変化する環境で確実に動作できる自律的で応答性に優れたインテリジェントなエージェントシステムを実現するには、適切なハイブリッドストレージアーキテクチャを選択することが重要になります。

ハイブリッドデータベースを備えた AI エージェントの未来

AI システムが複雑化するにつれて、短期および長期のメモリ、構造化データと非構造化データ、リアルタイムおよび履歴の洞察を管理するためにハイブリッドデータベースが重要になります。検索拡張生成 (RAG)、セマンティックインデックス、分散推論の進歩により、AI エージェントはより効率的でインテリジェントになり、適応性も高まります。将来の AI エージェントは、継続性を維持し、長期にわたって情報に基づいた意思決定を行うために、高速でスケーラブルなコンテキスト認識型ストレージに依存するようになります。

ハイブリッドデータベースを使用する理由

AI エージェントには、速度、スケーラビリティ、回復力を確保しながら、さまざまな種類のコンテキストを効率的に管理するストレージソリューションが必要です。ハイブリッドデータベースは、高速な構造化データと詳細なコンテキスト検索という両方の長所を兼ね備えており、インテリジェント AI システムの基盤となります。ハイブリッドデータベースは、長期的な知識ストレージのためのベクトルベースの検索、低レイテンシのトランザクション検索、リアルタイムのイベント駆動型更新、フォールトトレランスのための分散スケーラビリティをサポートします。

スケーラブルなAIデータインフラストラクチャの構築

インテリジェントな AI エージェントをサポートするには、開発者はシームレスなコンテキスト管理のために複数のデータモデルを組み合わせたストレージアーキテクチャを設計する必要があります。

ベクトル検索と列データ –構造化されたメタデータとともに意味的コンテキストを保存し、高速検索を実現します。
イベント駆動型ワークフロー– リアルタイム更新をストリーミングして、AIエージェントが変化するデータを認識できるようにします。
グローバルな規模と回復力 -分散ネットワーク全体に展開して高可用性とフォールトトレランスを実現

トランザクション処理、ベクトル検索、リアルタイム更新を統合することで、 DataStax Astra DBのようなハイブリッドデータベースAI エージェントのメモリ、コンテキスト認識、意思決定に最適な基盤を提供します。AI 駆動型アプリケーションが進化するにつれて、動的でデータ集約的な環境で確実に動作する自律的でコンテキストが豊富な AI エージェントを実現するために、ハイブリッドストレージソリューションが不可欠になります。

著者：Brian Godsey、DataStax