android screen resolve

UI 要素を視覚的にターゲットにします。アノテーション付きのスクリーンショットから境界ボックスの座標を文字列に代入し、#N のすべてのインスタンスを N というラベルの付いた境界ボックスの中心座標に置き換えます。

使用方法

android screen resolve [-h] [--screenshot=PARAM] [--string=PARAM]

オプション

  • -h,--help - 指定されたコマンドのヘルプ メッセージを表示します。
  • --screenshot=PARAM - android screen capture --annotate でキャプチャされたスクリーンショット。
  • --string=PARAM - 座標を代入する文字列。

android 個のオプション:

  • --sdk=PARAM - Android SDK へのパス。
  • -v,--verbose - トラブルシューティングの詳細出力を有効にします。
  • -V,--version - バージョン情報を出力して終了します。

説明

android screen resolve は、アノテーション付きのスクリーンショット(android screen capture --annotate でキャプチャ)から、視覚ラベルのプレースホルダ(#N)を対応する画面の中心座標(x y)に変換します。

これにより、AI エージェントと自動化スクリプトは、ピクセル座標を手動で計算するのではなく、アノテーション付き画像から番号付きラベルを参照して adb shell input コマンド(タップやスワイプなど)を生成できます。

例

ui.png のラベル 5 が座標 (500, 1000) に配置されている場合、次のコマンドを実行します。

android screen resolve --screenshot=ui.png --string="input tap #5"

input tap 500 1000 を出力します。