生成 AI プロバイダーの構成
生成 AI プロバイダーが TotalAgility Advanced Studio でまだ設定されていない場合は、Tungsten Copilot を最初に開いたときに構成するように要求されます。
手順
-
TotalAgility Studio のホーム ページで、[Tungsten Copilot] カードを選択します。
生成 AI プロバイダーを構成するように求められます。
-
[構成] を選択します。
[新しい AI プロバイダー構成] ダイアログ ボックスが表示されます。
-
[タイプ] リストで AI プロバイダーの 1 つを選択し、標準モデルまたはビジョン モデルとして使用するように構成します。
項目の生成にイメージを使用しない場合は、標準モデルの設定を構成します。
イメージを使用して項目を生成する場合は、ビジョン モデルの設定を構成します。ビジョンの設定が構成されていない場合、または指定されたモデルがイメージの使用をサポートしていない場合は、エラーが発生します。
-
[OpenAI] (デフォルト)
構成設定
説明
[ID] AI プロバイダーに一意の ID を指定します。
[表示名] リスト内のサーバー名を識別しやすくするために、AI プロバイダー名を入力します。
[従来の関数構文の使用] TotalAgility が AI プロバイダーにリクエストを送信するために使用する「関数」構文。(デフォルト: 選択、読み取り専用)
[プロバイダーを次のように使用します] Copilot 機能 説明 [開発用の Copilot]
デフォルトで選択される読み取り専用フィールド (Copilot として使用される AI プロバイダーが 1 つ以上必要であるため)。
複数の AI プロバイダーを使用することができますが、開発用の Copilot として使用する AI プロバイダーは 1 つだけ (OpenAI または Azure OpenAI) です。[抽出用の Copilot]
選択すると、AI プロバイダーが抽出プロバイダーとして使用されます。(デフォルト: オフ)
複数の AI プロバイダーが構成されている場合、データ抽出用の Copilot として使用できる AI プロバイダーは 1 つだけ (OpenAI または Azure OpenAI) です。
[標準モデル] [API URL] 選択したプロバイダーの API URL を入力します。
認証 次の認証タイプを選択します。
-
API キー: API キーを入力します。このキーは認証と承認に使用されます。
-
OAuth: TotalAgility で構成された OAuth サーバーを選択します。『TotalAgility Advanced Studio ヘルプ』の「OAuth サーバーの構成」を参照してください。
実行時に、OAuth サーバーを使用して AI プロバイダーを呼び出すと、他の領域での OAuth サーバーの既存のサポートに従って、アクセス トークンが自動的に取得され、認証ヘッダーに含まれます。さらに、OAuth サーバーで設定された更新間隔に基づいてアクセス トークンが自動的に更新されます。
[モデル] 要件に合わせて、gpt-3.5-turbo などの AI プロバイダー モデルを入力します。
[温度] AI プロバイダーのプロセスの [温度] を設定します。(デフォルト: 0.5、最小値: 0、および最大値: 2)
温度は、AI が生成したテキストの創造性のレベルを制御するパラメータです。設定した温度に基づいて、より焦点を絞ったテキスト、または多様なテキストが表示されます。温度が高いほど、モデルにはより多くのリスクが発生し、さまざまな応答が得られることを意味します。
タイムアウト (秒) 各プロバイダーのタイムアウト期間を秒単位で設定します。(デフォルト: 300、最小: 120、最大: 3600)
テキスト生成やイメージ処理タスクなどのリクエストを AI モデルに送信した場合、タイムアウト期間を設定することで、リクエストが無期限に応答しなくなることを回避できます。一部のプロバイダーは他のプロバイダーよりも遅く、タイムアウト期間を適切に調整するとパフォーマンスを最適化することができるため、このような設定が役立ちます。
たとえば、テキスト生成リクエストのタイムアウト期間を 120 秒に設定した場合、システムは AI が応答を生成するまで最大 120 秒間待機します。120 秒以上経過した場合、リクエストは終了し、エラーが返されます。
再試行回数 各プロバイダーの再試行回数を設定します。(デフォルト: 5、最小: 0、最大: 100)
再試行回数とは、システムが失敗した操作を再試行し、その後試行を中止して失敗応答を返すまでの回数を示します。再試行回数を 3 に設定すると、システムは失敗したリクエストの再送信を最大 3 回実行し、リクエストが引き続き失敗する場合は最終的にエラーを返します。
AI モデルを使用している場合、タイムアウトと再試行回数の設定は、Copilot、抽出用 Copilot、ダッシュボード インサイト、Copilot インサイト、ビジョンの使用に適用されます。
[ビジョン モデル] [API URL] ビジョン モデルの API URL を入力します。
認証 次の認証タイプを選択します。
-
API キー: API キーを入力します。このキーは認証と承認に使用されます。
-
OAuth: TotalAgility で構成された OAuth サーバーを選択します。『TotalAgility Advanced Studio ヘルプ』の「OAuth サーバーの構成」を参照してください。
実行時に、OAuth サーバーを使用して AI プロバイダーを呼び出すと、他の領域での OAuth サーバーの既存のサポートに従って、アクセス トークンが自動的に取得され、認証ヘッダーに含まれます。さらに、OAuth サーバーで設定された更新間隔に基づいてアクセス トークンが自動的に更新されます。
[モデル] オプション。項目を生成するための AI プロバイダー モデル。例: gpt-4-vision-preview。このモデルはリクエストに応じて変更することができます。
[トークン制限] トークンとは、AI プロバイダーが入力を処理するときに生成される単語のフラグメントです。トークン制限により、リクエストごとにモデルに送信されるトークンの数が制限されます。(プロバイダーのデフォルトのトークン上限: 3000)
タイムアウト (秒) 各プロバイダーのタイムアウト期間を秒単位で設定します。(デフォルト: 300、最小: 120、最大: 3600)
再試行回数 各プロバイダーの再試行回数を設定します。(デフォルト: 5、最小: 0、最大: 100)
-
-
[Azure OpenAI]
Azure OpenAI プロバイダー タイプには、OpenAI と同じ構成オプションがあります。
Azure OpenAI プロバイダー タイプのモデルは Azure では使用されないため、設定する必要はありません。
-
[カスタム LLM]
構成設定
説明
[ID] AI プロバイダーの ID を入力します。
システムでは、この ID で AI プロバイダーが識別されます。
[表示名] リスト内のサーバー名を識別しやすくするために、AI プロバイダー名を入力します。
[プロセス] 次の変数を持つカスタム サービスまたは同期プロセスを選択します。
変数名
変数タイプ
初期化
入力: 入力プロンプト
文字列
はい
温度
Double
はい
出力: 出力
文字列
いいえ
必要なプロセスが使用できない場合は、[新しいプロセスの作成] リンクを選択すると、正しい入力変数と出力変数を使用して同期プロセスが自動的に作成されます。
プロセスがカスタム LLM AI プロバイダーとして構成されている場合、プロセスを削除することはできません。 -
AI エージェント
構成設定
説明
[ID] AI エージェントの ID を入力します。
AI エージェントはこの ID で識別されます。
[表示名] リスト内のサーバー名を識別しやすくするために、AI エージェント名を入力します。
[プロセス] 次の変数を持つカスタム サービスまたは同期プロセスを選択します。
変数名
変数タイプ
初期化
入力: 入力プロンプト
文字列
はい
シード
文字列
はい
温度
Double
はい
シードを使用
ブール
はい
出力: 出力
文字列
いいえ
エラーが発生しました
ブール
いいえ
ステータス コード
Short
いいえ
エラー メッセージ
文字列
いいえ
必要なプロセスが使用できない場合は、[新しいプロセスの作成] リンクを選択すると、正しい入力変数と出力変数を使用して同期プロセスが自動的に作成されます。このプロセスは [ビジネス プロセス] リスト ページに表示されます。
AI エージェント プロバイダーとして構成されているプロセスは削除できません。
-
-
[保存] を選択し、次に [OK] を選択します。
AI プロバイダーが構成され、Copilot にリダイレクトされます。
ここで構成された AI プロバイダーは、TotalAgility Advanced Studio の [統合] メニュー > [生成 AI プロバイダー] ページに表示されます。AI プロバイダー統合を開くと、標準モデルとビジョン モデルの API キーは暗号化され、キーの最後の 5 桁のみが表示されます。