AI テスト実行(探索的テスト)
定義したテスト観点をもとに、AI が対象システム(URL)を 探索的にテスト し、見つけた障害・リスクをレポートします。テストの実行本体は Testrategy のサーバーではなく、お使いの PC または CI(GitHub Actions)で動くランナー が担います。
AI 探索的テストはベータ提供中です。画面や項目は予告なく変わることがあります。
仕組み
- Testrategy で「テスト実行」を作成する(対象 URL・観点・実行時間・AI を指定)
- ランナーを起動する(
npx testrategy-explorer --run-id <実行 ID>。Node.js 20 があれば動き、リポジトリのクローンは不要です) - ランナーが Playwright でブラウザを操作し、AI が「観察 → 仮説 → テスト設計 → 操作 → 判定 → 学習」を設定時間まで繰り返す
- 結果は Testrategy に送られ、詳細画面で進捗とレポートを確認できる
AI の利用料金と API キー
- テストに使う AI(Anthropic Claude / OpenAI)は実行ごとに選べます
- API キーはランナーを動かす環境の環境変数(
ANTHROPIC_API_KEY/OPENAI_API_KEY)に設定します。Testrategy には保存・送信されません - 利用料金はお使いの AI アカウントに課金されます。実行時間が長いほど料金がかかります
- 対象システムの画面情報は、選んだ AI プロバイダに直接送られます(Testrategy サーバーは経由しません)
操作手順
1. ランナートークンを発行する(初回のみ)
「AI テスト実行」画面下部の ランナー設定 でトークン名(例: GitHub Actions)を入力して発行します。平文は発行直後に 1 回だけ表示されるので、コピーして CI Secrets などに保存してください。不要になったら「失効」できます。
2. 実行を作成する
「+ 新規テスト実行」 を押して次を入力します。
| 項目 | 説明 |
|---|---|
| 対象 URL | テストの起点。ランナーはこの URL のオリジン内だけを操作します。本番環境ではなくテスト環境 を指定してください |
| テスト観点 | プロジェクトの観点から複数選択。観点名・詳細・品質特性が AI への入力になります。詳細に「確認したい条件・画面・入力値・期待結果」を具体的に書いておくと、AI はその内容を最優先で検証します。ダイアログ内の「観点をここで追加する」で、その場で観点を作ることもできます(観点がまだ無いプロジェクトでも、ここから追加してすぐ実行できます)。追加した観点は「未割当」として保存され、あとから「テスト観点定義」の未割当グループでテスト工程 / テストタイプに割り当てると、マトリクスと品質分析に反映されます |
| 実行時間 | スライダー 10 段階(3 分〜120 分)。長いほど多くのテストを行いますが AI の料金も増えます |
| AI プロバイダ / モデル | 実行に使う AI。API キーはここでは入力しません |
| 補足メモ | ログイン方法や対象の説明など。平文で保存されるため秘密情報は書かないでください |
作成すると詳細画面に移り、「実行方法」タブにコマンドが表示されます。
3. ランナーを起動する
実行方法は「ローカル PC」「自分の GitHub Actions」「オフライン」の 3 つです。選び方と手順の詳細は ランナーの実行方法 にまとめています。
ローカルで動かす場合は、表示されたコマンド(環境変数の設定 + npx testrategy-explorer --run-id <実行 ID>)をそのまま実行します。Node.js 20 と Playwright の Chromium が必要です(初回のみ npx playwright install chromium)。GitHub Actions で動かす場合は、「実行方法」タブの workflow 雛形を自分のリポジトリに置き、Secrets にランナートークンと AI キーを登録して「Run workflow」から起動します。Actions の実行時間は自分のリポジトリに課金されます。
起動すると詳細画面が自動で更新され、テストが 1 件終わるごとに一覧・発見事項・分布が増えていきます。「中止」を押すとランナーは次の通信で停止します。
レポートの見方
- 概要: 観点別のテスト数(結果内訳)、結果分布、発見の重大度・種別、タイムライン、到達したページ。未実施の観点も表示されるので、網羅の穴が分かります
- テスト一覧: AI が設計した各テストの仮説・期待動作・判定要約・操作ステップ・学習事項
- 障害・リスク: 重大度順の発見カード。再現手順と期待 / 実際を確認できます
- エクスポート: CSV / JSON / GitHub Issue 用 Markdown / Jira CSV / Notion Markdown / JUnit XML(Pro プラン以上)
よくある質問
Q. ログインが必要なシステムをテストできますか?
A. ランナーの --storage-state オプションで Playwright のログイン済みセッション(storageState JSON)を渡せます。補足メモにテストアカウントの案内を書く方法もありますが、パスワードは書かないでください。
Q. AI がデータを壊しませんか? A. AI には破壊的操作を避けるよう指示していますが、保証はできません。必ずテスト環境で実行してください。
Q. 料金の目安は? A. AI プロバイダの料金体系とモデル、実行時間、対象画面の情報量で変わります。短い段階(3〜10 分)から試して、詳細画面の「AI 使用量」で確認してください。