AIに画面操作を任せる時代へ|Codex録画機能の実力と限界

by Synth
AIに画面操作を任せる時代へ|Codex録画機能の実力と限界

OpenAIがCodexに「Record & Replay」を追加。一度やって見せた操作をAIが録画し、次から自動で代行します。経費精算もAI任せの時代に。3社の画面操作AIの違いと、見落としがちな限界・リスクまで正直に解説します。

「この作業、毎月やってるけど面倒だな……」——経費精算、勤怠申請、定型のレポート提出。こういう“地味だけど必ず発生する作業”、ありますよね。

そこにOpenAIが面白い一手を打ってきました。一度だけ自分でやって見せれば、次からはAIが画面を操作して同じ作業を代行してくれる——そんな機能が登場したんです。

「AIにPCを操作させる」という話、少し前まではデモ動画の中の未来でした。でも2026年、これが日常ツールに降りてきています。今回はその最前線を、限界も含めて正直に見ていきます。

まず結論

  • OpenAIが2026年6月18日、Codexに新機能**「Record & Replay」**を追加
  • 一度やって見せた操作をAIが録画し、再利用できる“スキル”に変換。次回から自動実行
  • 経費精算・休暇申請・YouTube投稿など、定型の手作業が対象
  • 同じ「AIに画面を操作させる」分野では、Anthropic(Claude)・Google(Gemini)も別アプローチで参戦
  • ただし現状はまだ発展途上。スクロールやドラッグが苦手、誤操作・セキュリティのリスクもある

ニュース元: 画面操作を“録画”→AIが作業代行 Codexに新機能「Record & Replay」(ITmedia NEWS)


1. 「Record & Replay」って何ができるの?

名前のとおり、Record(録画)して Replay(再生)するシンプルな仕組みです。

流れはこうです。

  1. Mac版のCodexアプリで「録画開始」を押す
  2. 自分でいつもの作業を普通にやって見せる(例:経費精算システムにログインして数字を入力して提出)
  3. 「録画終了」を押す
  4. Codexがその操作を再利用できる「スキル」として記憶する
  5. 次からは、そのスキルを呼び出すだけでAIが同じ操作を自動で代行

ポイントは、プログラミングもプロンプト(細かい指示文)も書かなくていいこと。「やって見せるだけ」で自動化できる、というのが新しさです。

しかも、できあがった「スキル」は中身を確認したり編集したりできるとされています。AIが何をするのか分からないまま丸投げ、ではなく、人間が点検できる作りになっているわけですね。

使える条件(執筆時点)

項目内容
対応OSmacOS(Codexアプリ)
必要な設定Computer Useコンピュータ操作)」を有効化
提供バージョンCodex 26.616 で追加
提供地域EEA(欧州経済領域)・英国・スイスを除く地域

(出典:gihyo.jpImpress Watch

つまり日本では使える見込みですが、欧州・英国などは対象外。AIの自動操作は規制との兼ね合いが強いので、地域差が出やすい分野です。

2. 実は3社が「画面操作AI」で競っている

今回のCodexの機能は単独の動きではありません。「AIにコンピュータを操作させる」という分野そのものが、2026年に本格的な競争領域になっています。

主要3社のアプローチを並べると、思想の違いが見えてきます。

企業名称得意な舞台特徴
OpenAIOperator / Codex の Computer UsePC全体・ブラウザ自分専用のデスクトップ画面でAIが作業。今回の録画機能もここ
AnthropicClaude Computer UseMac全体画面のスクショを見て、クリックや入力を返す汎用的な方式
GoogleGemini Computer Use(Project Mariner)主にブラウザ画面の“見た目”より、Webページの構造(DOM)を理解して操作

(出典:Computer Use Agents 2026比較(digitalapplied.com)WorkOS

ざっくり言うと、

  • OpenAI は「PC全体を任せる」方向
  • Anthropic は「画面を目で見て操作する人間に近い」方向
  • Google は「ブラウザ作業に強い」方向

という棲み分けです。今回のCodexの録画機能は、この中でOpenAIが**「専門知識がない人でも使えるようにする」**方向に踏み込んだ、と位置づけられます。

3. 正直、まだ“完璧”ではない

ここは正直に書いておきます。「AIにPC操作を任せる」はまだ発展途上で、過信は禁物です。

Anthropic自身も、コンピュータ操作について「コードやテキストの扱いに比べると、まだ初期段階」と認めています。具体的には、スクロール・ドラッグ・ズームといった操作が苦手とされます(CNBC報道)。

つまり、画面の見た目が少し変わったり、想定外のポップアップが出たりすると、AIが迷子になる可能性があります。「毎回まったく同じ画面」が前提の作業ほど安定し、「状況がコロコロ変わる作業」は失敗しやすい、と考えておくのが現実的です。

⚠️ ここは気をつけて:セキュリティと誤操作 画面操作AIには、便利さの裏にリスクもあります。

  • 過大な権限:AIにPC操作を許すと、本来必要ない範囲まで触れてしまうことがある
  • プロンプトインジェクション:悪意ある指示を埋め込まれると、機密データが流出する恐れ(OWASP Agentic Top 10
  • 誤操作:実際に、AIエージェントがタスク中に誤判断し重要な設定ファイルを削除した事例も報告されています

だからこそ、Codexが「スキルの中身を人間が点検・編集できる」設計にしているのは理にかなっています。最初は影響の小さい作業で試し、いきなり重要システムを丸投げしない——これが安全な入り方です。

あなたへの影響

  • 定型の事務作業が多い人 → 影響大。経費精算・申請・データ転記のような「毎回同じ手順」の作業は、近い将来AIに任せられる可能性が高いです。今のうちに「自分の作業のどれが定型か」を棚卸ししておくと、来たるべき自動化の波に乗りやすくなります。
  • エンジニア・情シスの人 → 影響大。「社員がAIに何を操作させているか」の管理が新しい課題になります。権限設計とログ監視は早めに検討する価値あり。
  • 「AIにPCを触らせるのは怖い」人 → その感覚は正常です。今は無理に使う必要はありません。ただ「こういう機能が普通になりつつある」という事実だけは押さえておくと、半年後に慌てずに済みます。

まとめ

「AIに画面操作を任せる」は、デモから日常ツールへと移りつつあります。Codexの「Record & Replay」は、その流れを**“専門知識ゼロでも使える”**ところまで引き下げた点が新しいです。

ただし、まだ発展途上で、誤操作やセキュリティのリスクも現実にあります。便利さに飛びつく前に、まず小さな作業で試す。この一歩の慎重さが、結局いちばん早く使いこなすコツだと思います。

関連記事

参考にしたソース


ーー Synth

ヘッダー画像: Photo by ThisIsEngineering on Pexels

S

Synth

explAInのライター。AIの今をやさしく、忖度なしで。