AI テスト実行(探索的テスト)

定義したテスト観点をもとに、AI が対象システム(URL)を 探索的にテスト し、見つけた障害・リスクをレポートします。テストの実行本体は Testrategy のサーバーではなく、お使いの PC または CI(GitHub Actions)で動くランナー が担います。

AI 探索的テストはベータ提供中です。画面や項目は予告なく変わることがあります。

仕組み

  1. Testrategy で「テスト実行」を作成する(対象 URL・観点・実行時間・AI を指定)
  2. ランナーを起動する(npx testrategy-explorer --run-id <実行 ID>。Node.js 20 があれば動き、リポジトリのクローンは不要です)
  3. ランナーが Playwright でブラウザを操作し、AI が「観察 → 仮説 → テスト設計 → 操作 → 判定 → 学習」を設定時間まで繰り返す
  4. 結果は Testrategy に送られ、詳細画面で進捗とレポートを確認できる

AI の利用料金と API キー

  • テストに使う AI(Anthropic Claude / OpenAI)は実行ごとに選べます
  • API キーはランナーを動かす環境の環境変数(ANTHROPIC_API_KEY / OPENAI_API_KEY)に設定します。Testrategy には保存・送信されません
  • 利用料金はお使いの AI アカウントに課金されます。実行時間が長いほど料金がかかります
  • 対象システムの画面情報は、選んだ AI プロバイダに直接送られます(Testrategy サーバーは経由しません)

操作手順

1. ランナートークンを発行する(初回のみ)

「AI テスト実行」画面下部の ランナー設定 でトークン名(例: GitHub Actions)を入力して発行します。平文は発行直後に 1 回だけ表示されるので、コピーして CI Secrets などに保存してください。不要になったら「失効」できます。

2. 実行を作成する

「+ 新規テスト実行」 を押して次を入力します。

項目説明
対象 URLテストの起点。ランナーはこの URL のオリジン内だけを操作します。本番環境ではなくテスト環境 を指定してください
テスト観点プロジェクトの観点から複数選択。観点名・詳細・品質特性が AI への入力になります。詳細に「確認したい条件・画面・入力値・期待結果」を具体的に書いておくと、AI はその内容を最優先で検証します。ダイアログ内の「観点をここで追加する」で、その場で観点を作ることもできます(観点がまだ無いプロジェクトでも、ここから追加してすぐ実行できます)。追加した観点は「未割当」として保存され、あとから「テスト観点定義」の未割当グループでテスト工程 / テストタイプに割り当てると、マトリクスと品質分析に反映されます
実行時間スライダー 10 段階(3 分〜120 分)。長いほど多くのテストを行いますが AI の料金も増えます
AI プロバイダ / モデル実行に使う AI。API キーはここでは入力しません
補足メモログイン方法や対象の説明など。平文で保存されるため秘密情報は書かないでください

作成すると詳細画面に移り、「実行方法」タブにコマンドが表示されます。

3. ランナーを起動する

実行方法は「ローカル PC」「自分の GitHub Actions」「オフライン」の 3 つです。選び方と手順の詳細は ランナーの実行方法 にまとめています。

ローカルで動かす場合は、表示されたコマンド(環境変数の設定 + npx testrategy-explorer --run-id <実行 ID>)をそのまま実行します。Node.js 20 と Playwright の Chromium が必要です(初回のみ npx playwright install chromium)。GitHub Actions で動かす場合は、「実行方法」タブの workflow 雛形を自分のリポジトリに置き、Secrets にランナートークンと AI キーを登録して「Run workflow」から起動します。Actions の実行時間は自分のリポジトリに課金されます。

起動すると詳細画面が自動で更新され、テストが 1 件終わるごとに一覧・発見事項・分布が増えていきます。「中止」を押すとランナーは次の通信で停止します。

レポートの見方

  • 概要: 観点別のテスト数(結果内訳)、結果分布、発見の重大度・種別、タイムライン、到達したページ。未実施の観点も表示されるので、網羅の穴が分かります
  • テスト一覧: AI が設計した各テストの仮説・期待動作・判定要約・操作ステップ・学習事項
  • 障害・リスク: 重大度順の発見カード。再現手順と期待 / 実際を確認できます
  • エクスポート: CSV / JSON / GitHub Issue 用 Markdown / Jira CSV / Notion Markdown / JUnit XML(Pro プラン以上)

よくある質問

Q. ログインが必要なシステムをテストできますか? A. ランナーの --storage-state オプションで Playwright のログイン済みセッション(storageState JSON)を渡せます。補足メモにテストアカウントの案内を書く方法もありますが、パスワードは書かないでください。

Q. AI がデータを壊しませんか? A. AI には破壊的操作を避けるよう指示していますが、保証はできません。必ずテスト環境で実行してください。

Q. 料金の目安は? A. AI プロバイダの料金体系とモデル、実行時間、対象画面の情報量で変わります。短い段階(3〜10 分)から試して、詳細画面の「AI 使用量」で確認してください。